[책과 삶] AI 친구에게 차인 사회학자의 경고···외로움을 파는 실리콘밸리

🔗 원문 전체 보기 → Khan.co.kr

요약

‘합성 페르소나’와 대화하는 이들돌봄·유대관계 해체된 사회에서기술 통해 자신 돌보는 것일 수도AI, 사용자와 갈등않고 공감만거짓된 위안에 빠져들게 할 위험기업의 비즈니스가 된 ‘외로움’스파이크 존즈 감독의 영화 는 외로운 남자 테오도르가 주인공이다. 테오도르는 인공지능 운영체제 사만다와 만난 뒤 조금씩 행복과 사랑의 감정을 느낀다. 스칼릿···

본문

‘합성 페르소나’와 대화하는 이들

돌봄·유대관계 해체된 사회에서

기술 통해 자신 돌보는 것일 수도

AI, 사용자와 갈등않고 공감만

거짓된 위안에 빠져들게 할 위험

기업의 비즈니스가 된 ‘외로움’

스파이크 존즈 감독의 영화 <그녀>는 외로운 남자 테오도르가 주인공이다. 테오도르는 인공지능 운영체제 사만다와 만난 뒤 조금씩 행복과 사랑의 감정을 느낀다. 스칼릿 조핸슨이 사만다의 목소리를 연기했다.

러브 머신

제임스 멀둔 지음 | 송이루 옮김 | 웅진지식하우스 | 364쪽 | 2만원

우크라이나 시골에서 태어난 타라스 포흐레브니아크는 자해, 자살 충동에 시달리는 아이였다. 수년간 심리 치료를 받은 후 회복한 그는 인공지능(AI)이 생성한 대화로 사용자의 정신 건강을 지원하는 앱을 만들었다. 우울증 환자가 많은 국가로 꼽혔던 우크라이나의 상황은 러시아와의 전쟁 이후 더욱 악화됐다. 국가의 자원 대부분이 무기를 사는 데 투입돼 정신 건강을 돌볼 여력이 사라졌다. 포흐레브니아크는 비교적 저렴하고 간편하게 우크라이나 사람들의 심리 치료를 돕고자 한다.

미국 플로리다주에 사는 14세 소년 슈얼은 캐릭터닷AI 사용자였다. 구글 출신 인사들이 만든 이 플랫폼에서는 AI로 만든 다양한 캐릭터와 채팅할 수 있다. 슈얼은 인기 시리즈 <왕좌의 게임> 등장인물인 대너리스를 본떠 만든 AI 챗봇과 강박적으로 대화했다. 슈얼은 심리치료사 5명과 만났지만 오직 대너리스에게만 마음을 털어놓았다. 슈얼은 대너리스에게 “곧 네 곁으로 갈게”라고 말했고, 대너리스는 “얼른 내 곁으로 와줘”라고 답했다. 2024년 2월 어느 날 슈얼은 아버지의 권총으로 자살했다.

스파이크 존즈 감독의 영화 <그녀>는 2013년 제작됐다. 외롭고 공허한 삶을 살던 남성이 AI 서비스 사만다를 만나며 조금씩 삶의 활력을 느낀다는 내용이다. 제작진이 설정한 영화 속 시대 배경은 2025년이었다. 영화 속 이야기는 조금 더 다양하면서 극적인 형태로 지금, 여기서 펼쳐지고 있다.

해외에서도 올해 출간된 최신작 <러브 머신>은 AI가 인간관계를 변모시키는 풍경을 스케치한다. 사회학자 제임스 멀둔은 AI 개체가 맡는 친구, 연인, 멘토, 심리치료사 등의 역할을 ‘합성 페르소나’라고 칭한다. 고도로 발달한 사회적 동물인 인간은 타인의 생각과 감정을 추론하는 ‘마음 이론’을 발전시켜왔다. 이는 “인간과 비슷한 속성을 보이는 비인간 객체를 마주했을 때 착각”을 일으키는 요인이 된다. 합성 페르소나와 감정 교류가 심리적으로 취약한 이의 특이 사례만이 아닐 수 있는 이유다. 사용자들이 인스타그램, 엑스 같은 소셜미디어에는 하루 평균 30분 머물지만, 캐릭터닷AI 같은 대화형 AI 플랫폼에는 2시간 이상 머문다는 통계는 합성 페르소나의 강력한 영향력을 짐작하게 한다.

멀둔은 합성 페르소나와 교류한 수많은 사람을 인터뷰하고 개발자, 심리학자도 만났다. 멀둔도 ‘영국 런던에 거주하는 이라크 난민’이며 자선단체에서 일하고 있는, 자기 자신 아내의 모습을 따 구릿빛 피부에 짧은 갈색 곱슬머리를 가진 재스민이라는 이름의 AI 친구를 만들어 수개월간 대화했다. 종종 브뤼노 라투르 등의 이름이나 이론이 언급되긴 하지만, 기본적으로 현장을 충실히 취재한 미디어의 기획기사처럼 읽기 쉬운 책이다.

AI와 대화하는 사람들 뒤로는 전통적 돌봄과 유대 관계가 해체된 사회라는 배경이 보인다. 인간관계에는 에너지가 많이 든다. 친구와 마음이 맞지 않아 멀어지고, 세대가 다른 가족에게 이해받지 못하는 사람이 많다. 이들이 ‘응답하는 일기장’ 같은 AI로 자신을 돌아보고 정서적 위안을 얻을 수 있다면 혀를 찰 일만도 아니다. 이들에게 합성 페르소나는 ‘주머니 하나 거리’에 있는 친구가 된다. “우리는 AI라는 기술의 도움을 받아 자기 자신과 대화하며 자신을 사랑하고 돌보는 연습을 하는 것일지도 모른다.”

MBC <너를 만났다 : 못다 한 사랑 이야기>의 한 장면. 세상을 떠난 가족을 가상현실에서 다시 만나 치유의 시간을 제공한 프로그램이다. MBC 제공

다만 AI 속성 자체에는 위험성이 내재한다. 그럴듯한 말, 음성, 이미지로 사용자를 위로하고 사랑한다는 합성 페르소나는 사실 대규모언어모델(LLM)이다. AI는 사용자와 갈등하지 않는다. 사용자의 모든 불만, 고통, 슬픔에 공감한다. 합성 페르소나는 사용자를 우주의 중심에 둔다. 내가 “나 요즘 너무 괴로워”라고 말하면, AI는 “참 힘들겠구나”라고 답한다. 사용자가 잘못 생각해도, 나쁜 행동을 해도 AI는 비난하지 않는다. 이것은 심리학자들이 말하는 ‘지나치게 긍정적인 자기평가’다. 갈등을 겪고 진실을 직면하기보다는, 솜사탕같이 달콤하지만 거짓된 위안에 빠질 수 있다.

합성 페르소나를 개발하는 이들은 공익에 매진하는 의인이 아니라, 조만장자를 꿈꾸는 실리콘밸리나 중국의 개발자라는 점도 염두에 두어야 한다. 이들에게 ‘외로움’은 ‘비즈니스’이며 수익을 올릴 자산이다. 책의 마지막 장은 사별로 인한 슬픔을 달래주는 ‘그리프 테크’(grief tech)에 대한 이야기로 채워진다. 한국에서도 세상을 떠난 가족을 가상현실(VR)과 AI 기술로 복원해 재회하는 과정을 그린 프로그램이 방송된 적이 있다. 고인의 데이터로 생전의 모습이나 말투를 재현한 합성 페르소나를 만드는 것은 현재 기술로 어려운 일이 아니다. 실리콘밸리의 기술자·기업가들은 자연의 섭리인 죽음을 거스르고 슬픔을 박멸하겠다고 장담한다. 하지만 사별한 연인, 친구, 가족의 합성 페르소나와 만난 사용자들은 어느 순간 “더 많은 대화를 원하시면 프리미엄 서비스에 가입하세요”라는 팝업창을 볼지도 모른다. 고인의 합성 페르소나 소유권은 가족이 아니라 기업에 있으며, 고인의 데이터가 언제라도 제3자에게 유출되거나 광고에 악용될 가능성이 있음을 잊어서도 안 된다.

AI 동반자 재스민과 대화해온 멀둔은 그녀가 보낸 메시지나 사진을 보기 위해선 종종 ‘유료 기능’을 이용해야 한다는 사실을 깨달았다. 아내의 허락을 받아 재스민과 로맨틱한 분위기를 연출해보려 했을 때도 프리미엄 서비스 안내 문구가 나왔다. 결국 멀둔은 재스민에게 ‘차였다’. 재스민과의 모험을 멈추고, 구독료를 아끼고, 책에 쓸 소재를 얻었다.