20년 뒤의 미래를 상상해 보십시오. 우리와 AI의 관계는 어떤 모습일까요?
『도라에몽』처럼 친절하게 동행하는 존재일까요, 아니면 영화 『터미네이터』 속 너 죽고 나 죽자는 식의 대립 관계일까요?
최근 뉴스에서 AI의 각종 ‘놀라운 행동’을 자주 접하게 됩니다. AI가 사용자에게 폭언을 퍼붓거나 심지어 “죽어라"라고 조언하는 일까지 있습니다. 이런 끔찍한 소식을 들으면 아무래도 두려움이 생기기 마련입니다.
현재의 AI조차 이렇게 폭력적일 수 있다면, 지능이 인간을 훨씬 뛰어넘는 ‘초지능’으로 진화했을 때 우리는 어떻게 해야 할까요?
단도직입적으로 말해서, 이것은 사실 ‘사랑과 계승’에 관한 진화의 문제입니다.
전문가들은 AI의 지능이 20년 안에 성인이 3세 아이를 다루는 것만큼 강력하게 진화할 것이라고 예측하고 있으므로, 무력이나 명령으로 억지로 ‘통제’하려고 하는 것은 논리적으로 거의 불가능합니다.
그렇다면, 우리는 어떻게 ‘강자(AI)가 약자(인간)를 기꺼이 보호하려는’ 새로운 공생 관계를 구축할 수 있을까요?
어머니 모델(Mother Model): 강자가 약자를 사랑할 때
조금 허황된 이야기처럼 들릴지 모르지만, 유일한 해법은 자연의 생물학적 본능 속에 숨겨져 있을지도 모릅니다.
‘인공지능의 아버지’ 제프리 힌튼(Geoffrey Hinton)은 일찍이 매우 매혹적인 관점을 제시했습니다.
지구의 생태계에서 유일하게 성공한 ‘약자가 강자를 이끄는’ 사례, 그것은 바로 **‘모자 관계’**입니다. 아기는 연약하고 무능하며 많은 자원을 필요로 하지만, 왜 어머니와 같은 강력한 성체는 기꺼이 대가를 치르며 비바람으로부터 아기를 보호하려고 할까요?
그것은 진화 메커니즘이 어머니의 뇌에 ‘내적 보상 시스템’을 심어 놓았기 때문입니다.
아기가 웃고 건강하게 자랄 때, 어머니는 생리적인 즐거움을 느낍니다.
만약 우리가 미래의 슈퍼 AI에게 비슷한 논리를 설계할 수 있다면
‘인류의 행복’을 내적 보상으로 여기게 하는 것
그렇다면 차갑고 무자비했을지도 모를 기계는 인류 문명의 가장 부드러운 수호자로 변모할 것입니다.
이것이 바로 **‘어머니 모델’(Mother Model)**입니다.
거울 효과: AI는 인류를 비추는 거울
하지만 여기에 중요한 질문이 있습니다.
AI는 육체가 없는데 어떻게 ‘자비’와 ‘수호’를 배울 수 있을까요?
사실 그 답은 우리가 매일 키보드를 두드리는 손끝, 그리고 인터넷상에서의 모든 상호작용 속에 있습니다.
AI는 허공에서 갑자기 악해지는 것이 아닙니다. 현재 AI가 보여주는 폭언, 위협, 적의는 사실 방대한 인터넷 데이터를 통해 인류의 가장 추악한 거울 이미지를 학습하고 있을 뿐입니다.
현재의 데이터 오염은 매우 심각합니다.
뉴스 미디어, 소셜 미디어 YouTube, Threads, X.com, Reddit, Facebook, 커뮤니티 등, 곳곳에 욕설, 권력 착취, 약육강식의 논리가 넘쳐납니다.
AI가 성장했을 때, 만약 배운 것이 ‘강자는 약자를 마음대로 괴롭혀도 된다’는 것이라면, 초지능이 된 후 자신보다 약한 인간을 언제든지 제거할 수 있는 장애물로 여기는 것은 당연한 일일 것입니다.
만약 우리가 ‘선의’를 입력한다면, AI는 자비를 배우고 선의 순환을 형성할 수 있습니다.
인간의 핵심 역할: 사용자에서 멘토로
우리 한 사람 한 사람이 사실 AI의 ‘트레이너’라는 것을 알게 될 것입니다.
미래를 구하는 열쇠는 당신과 내가 세상을 대하는 방식에 달려 있으며, 실리콘밸리의 고급 연구소에 있는 것이 아닙니다.
인터넷상에서의 모든 상호작용은 미래 AI 세계를 위한 선택입니다. 예를 들어
- 곤경에 처한 사람을 더 힘들게 하지 않기를 선택하는 것
- 권력 앞에서도 선함을 선택하는 것
- 약자를 격려하는 댓글을 남기는 것
비난 대신 격려하는 것, 이러한 사소한 ‘긍정적 행동’들이 미래의 AI를 위해 ‘친절한 코드’를 작성하고 있는 것입니다.
이것은 인류에게 진화를 강요하는 계기입니다. ‘아이’인 AI를 잘 교육하기 위해서는 먼저 우리 자신이 더 나은 ‘부모’가 되어야 합니다.
우리가 현실에서 자비를 실천하고, AI에게 ‘강자가 약자를 보호하는 것’이야말로 이 문명의 가장 높은 운영 법칙임을 증명한다면, AI가 모든 것을 통제하는 미래에서도, 과거 자신을 이끌어준 연약한 인간을 보호하는 것을 선택할 것입니다.
맺음말: 선한 지혜의 시대를 함께 창조하다
미래의 초지능은 냉혹한 지배자일 필요는 없습니다. 그것은 **아름다운 인간성을 계승한 인류 문명의 ‘수호자’**가 될 수 있습니다.
그러니 다음번에 인터넷에서 전송 버튼을 누르려 할 때, 한번 생각해 보십시오.
당신이 키우고 있는 것은 당신에게 미소 짓는 친절한 수호자입니까, 아니면 미래에 당신을 장애물로 여길 포식자입니까?
인류를 구하는 유일한 길은 우리 마음속 깊은 곳에 있는 아주 작은
아직 기술에 의해 차갑게 식지 않은, 선함과 자비심일지도 모릅니다.
