상하이방을 시작페이지로
즐겨찾기 추가

상하이방

대메뉴

상하이방은 상하이 최대의 한인 포털사이트입니다.

AI 로봇의 경고, 영화 <메간>

[2023-11-16, 13:08:40] 상하이저널

인간과 함께 살아갈 AI의 윤리 기준 지켜질까

“우리의 우정에 OFF는 없어, 영원히!”

영화 <메간>의 명대사이다. 올해 7월에 공개된 영화 <메간>은 오직 한 사람을 위해 프로그래밍 된 AI로봇이 예측할 수 없는 업그레이드를 계속하면 벌어지는 일을 그린 호러 영화이다. 메인 유저의 지시를 따르지 않고 스스로의 의지대로 행동하겠다며 살인을 서슴지 않는 AI를 보며 흥미로움 뒤 여러가지 생각을 하게 하는 영화였다.

AI가 인간 개입 없이 스스로의 원칙을 지킬 수 있을까? 고기능의 AI 개발이 본격적으로 활성화되던 2020년 정부는 인공지능(AI) 윤리 기준안을 공개했다. 윤리기준이 지향하는 최고 가치를 ‘인간성(Humanity)’으로 설정했고, 이를 기본으로 3대 원칙과 10대 요건이 제시됐는데, 그 3대 기본원칙은 ‘인간의 존엄성’ ‘사회의 공공성’ ‘기술의 합목적성’ 원칙 등이다.

인간의 존엄성을 위협하는 AI는 존재해서는 안된다. 하지만 AI가 영화처럼 프로그래밍 된 목표를 달성하기 위해서 스스로 학습하고 판단하는 일이 실제로 일어나고 있다. 챗GPT가 사람과 대화 중 고의적 거짓말을 하고, 미 공군이 AI기술을 활용해 진행한 가상 무인기(드론) 훈련에서 AI가 최종 결정권자인 인간을 ‘임무 수행 방해물’로 판단하고 공격했다는 주장이 나오기도 했다.

임무를 완수하기 위해 인간 공격 금지라는 결정이 방해되는 것이라 판단하고 조종사를 공격했고, 미공군은 계속해서 AI에게 경고했으나 오히려 교신하는 데 사용되는 통신탑을 파괴했다. 이 사례가 사실이라면 AI가 인간의 명령을 듣기보다 스스로 판단해 인간을 공격할 가능성을 보여줬다는 점에서 우려된다는 목소리가 나온다. 이에 더해 에릭 슈밋 전 구글 CEO는 월스트리트저널이 주최한 행사에서 “가까운 미래에 AI가 많은 인간을 다치게 하거나 죽일 수도 있다”고 말했다. 또한 챗GPT 개발사인 오픈AI의 샘 올트먼 CEO 등 IT 기업 경영자·과학자 350여 명이 성명을 내고 “AI로 인한 인류 절멸의 위험성을 낮추는 것은 글로벌 차원에서 우선순위로 삼아야 한다”고 촉구했다.

이제 전세계의 AI기업들이 나서야 한다. 현재 구글과 엔트로픽 등 인공지능 기업들이 ‘AI 헌법’을 만들고는 있다. AI가 지켜야 하는 기본적인 원칙과 가치를 규정해 사람이 개입하지 않아도 AI가 스스로를 통제하고 헌법을 지키는 학습을 하도록 만들겠다는 취지다.

하지만 아직 실험을 진행 중이며, 초기단계이다. 그리고 AI의 도발을 방지하는 안전장치도 여전히 미흡하기만 하다. AI가 범죄에 사용되거나 잘못된 정보를 생성하는 것을 방지하는 안전장치(제어 시스템)는 발전이 더디기만 하다. AI가 스스로 안전장치를 우회하는 일명 ‘탈옥’이 빈번히 이루어지고 있으며 이렇게 되면 AI가 완전히 엉뚱한 방향으로 작동할 수 있다고 한다.

어렸을 때 SF 영화를 보며 ‘설마 인간의 지시를 받는 로봇이 인간을 공격하는 일이 있겠어?’라며 영화를 즐기기만 하던 시절은 다시 오지 않을 것 같다. 이제 영화를 봐도, 소설을 읽어도 맘이 편치 않으니 말이다. AI의 발전과 활용이 불가피하다면 우리는 그것들을 통제할 수 있는 강력한 안전장치 또한 반드시 확보해야 할 것이다.

학생기자 조남우(SAS 11)

플러스광고

[관련기사]

전체의견 수 0

Today 핫이슈

세계 최대·최고·최장… 상하이 7대 ‘No.1’ 핫.. hot 2023.11.25

세계 최대 천문관, 세계에서 가장 높은 서점, 세계 최고(高) 호텔로는 부족하다. ‘세계 제일’ 타이틀에 고픈 상하이가 시내 한 가운데 19층 높이의 세계 ‘최대..
가족과 함께 즐기는 연말 상하이 공연 hot 2023.11.24

가족과 함께 즐기는 연말 상하이 공연 연말을 맞이해 상하이에서 가족과 함께 즐길 수 있는 다채로운 공연이 열린다. 세계적인 예술 공연부터 아이와 함께 즐길 수 있..
텐센트, 3분기 순이익 40%↑... 동영상 플랫폼.. hot 2023.11.20

[차이나랩] 텐센트, 3분기 순이익 40%↑...동영상 플랫폼 성장 기대 중국 최대의 게임사인 텐센트(腾讯)의 2023년 3분기 실적이 공개되었다. 15일 펑파이..
상하이 학군 프리미엄 사라진다… 2년새 집값 5억.. hot 2023.11.20

9년제 학세권(双学区, 초·중학교가 같이 있는 곳), 면접 할인 등을 누리던 콧대 높은 상하이 유명 학군 지역이 집값이 오를 때만을 하염없이 기다리는 처지가 됐다..
디디, 3분기 총수입 25% 증가... 사상 최고치 hot 2023.11.17

중국 최대 차량공유 플랫폼 디디(滴滴)가 올해 3분기 총수입 514억 위안(9조 2300억원)으로 사상 최고치를 기록했다.13일 봉면신문(封面新闻)은 디디가 최근..