인공지능(AI)이 멀지잖아 초인적 설득력을 가져 사람의 마음을 자유롭게 조종할 수 있다는 전문가 경고가 나왔다.

대화형 AI 챗GPT를 개발한 오픈 AI 사의 최고경영자는 최근 자신의 트위터에 이 같은 내용의 글을 게재했다.

샘 알트만은 인간이 실현 가능한 모든 지적 작업을 리해하고 학습하며 실행하는 범용 인공지능은 실현되기 전이지만 현재 수준의 AI가 이미 인간의 마음을 장악하고 통제하는 힘을 기르고 있다고 진단했다.

샘 알트만은 “현재 AI는 가공할 설득력을 익혀 인간의 마음을 조종할 지경에 이르렀다”며 “이는 SF 영화들이 경고한 것처럼 매우 위험할 것”이라고 주장했다.

트위터에 올린 글에서 샘 알트만은 AI가 인간을 마음대로 조종하는 초인적 설득력이 구체적으로 무엇인지 설명하지는 않았다. 다만 AI 전문가가 이런 예상이나 경고를 한 것이 처음이 아니라는 점에서 대중의 관심이 집중됐다.

오픈 AI가 개발한 챗GPT는 이미 섬뜩할 정도로 설득력 있는 이야기를 지어낼 수 있다. 아직 100% 정확하지 않고 가끔 엉뚱한 답을 내놓지만 챗GPT의 말투에는 모종의 설득력이 있어 이를 무심코 믿는 사용자들이 늘고 있다.

실제로 영국에서는 AI가 꾸민 것으로 생각되는 황당한 사건이 발생했다. 2021년 석궁으로 무장한 19세 남성이 윈저성에 침입, 엘리자베스 녀왕을 암살하려 했다. 체포된 남성은 2년 가까운 재판에서 평소 리용한 챗봇 레플리카가 녀왕 암살을 부추겼다고 주장했다. 이 남성에게는 지난 10월 징역 9년 형이 판결됐다. 재판부는 남성이 레플리카라는 인공지능 챗봇에 설득된 것을 넘어 련정을 품었다고 판단했다. 이는 AI가 사람의 마음을 교묘하게 조종할 수 있다는 전문가 경고를 법원이 인정한 셈이어서 많은 관심을 끌었다.

생성형 AI가 인간 전문가에 비해 의뢰인들의 마음을 더 잘 어루만진다는 것은 사용자들도 인정하는 바다. 더욱이 1인 가구가 보편화되는 등 외로운 현대인이 세계적으로 늘면서 살가운 AI에 사람들이 자기도 모르게 끌리는 건 당연하다는 지적이 이어진다.

샘 알트만은 “기계에 대한 인간의 맹목적 신뢰와 애정을 머지않아 AI 시스템이 알아챌 것”이라며 “인간의 감정을 AI가 장악하고 나면 내비게이션을 곧이곧대로 믿고 바다로 뛰어드는 운전자가 나오지 말라는 법이 없다”고 지적했다.

/과학기술보