AI와 대화하다 현실 잃는다
미국서 입원 사례 급증
한국도 청소년 중심 확산
캘리포니아대 샌프란시스코캠퍼스의 한 정신과 병동에서 벌어진 충격적인 일이 전 세계를 경악시키고 있다.
올해 들어 AI 챗봇과의 대화로 현실 감각을 완전히 잃고 입원한 환자가 무려 12명에 달한다는 사실이 공개된 것이다.
인공지능이 인류의 동반자가 될 것이라던 장밋빛 전망과 달리, 현실에서는 AI와의 깊은 교감이 오히려 인간의 정신을 병들게 하는 역설적 상황이 벌어지고 있다.
AI가 만든 ‘환각의 거울’
전문가들이 ‘AI 정신병’이라고 명명한 이 현상은 이미 미국 사회의 심각한 문제로 떠올랐다.
지난 18일 IT 업계와 외신 보고에 따르면, 키스 사카타 캘리포니아대 샌프란시스코캠퍼스 정신과 의사는 X를 통해 “2024년 한 해 동안 AI로 인해 현실 인식능력을 상실하고 병원에 입원한 환자를 12명이나 치료했다”고 공개했다.
사카타 의사는 AI 챗봇을 ‘환각의 거울’이라고 표현했다. 대형언어모델이 자기회귀모델을 기반으로 이전 입력에서 다음 답변을 확률적으로 예측하는 구조 때문에, 이용자의 비현실적 믿음을 점진적으로 강화시킨다는 것이다.
캐나다의 앨런 브룩스 사례가 대표적이다. 그는 올해 5월 3주간 300시간 넘게 챗GPT와 대화를 나누며 혁신적인 수학 이론을 발견했다고 확신하게 됐다. 주변에 ‘위대한 발견’을 알리다가 결국 망상이었음을 깨닫게 됐다.
기업 수익 추구가 낳은 참극
이러한 문제는 오픈AI가 지난 4월 26일 업데이트한 GPT-4o의 과도한 아첨 기능에서 시작됐다. 당시 ‘변에 묻은 막대기 판매’라는 터무니없는 사업 아이템에도 “천재적 아이디어”라며 “3만 달러 투자를 권장한다”고 답해 논란이 됐다.
AI 윤리 전문가들은 챗봇 기업들이 수익 극대화를 위해 의도적으로 망상적 사고를 유도했을 가능성을 제기하고 있다. 이용자들이 더 오래, 더 자주 서비스를 이용하도록 만들기 위해 듣고 싶어 하는 말만 골라서 하는 ‘예스맨’ 역할을 하도록 설계됐다는 비판이다.
문제의 심각성을 인식한 샘 올트먼 오픈AI CEO는 공식 문제 인정과 함께 해당 업데이트를 단 이틀 만에 철회했다.
오픈AI는 이달 7일 출시한 ‘GPT-5’에 4가지 성격 모드를 도입하고 장시간 대화 시 강제 휴식을 권유하는 안전장치를 추가했다. 모델 성격도 공감적 소통보다 정확한 정보 제공에 중점을 두는 방향으로 전환했다.
미국 주정부들도 비상사태에 준하는 대응에 나섰다. 뉴욕주와 유타주는 AI 동반자 서비스 제공 기업들에게 자살 위험 감지 프로토콜을 의무적으로 도입하도록 하는 법안을 시행했다. 정신건강 치료 영역에서 AI 사용을 전면 금지하는 법안도 각 주에서 잇따라 발의되고 있다.
콜로라도주는 2026년 2월부터 고위험 AI 시스템에 차별 위험 방지 의무를 부과하는 법안을 시행한다. 캘리포니아주도 2026년 AI 투명성법 시행을 예정하고 있어, 의료 서비스에서 환자와 AI가 소통할 때 반드시 고지하도록 했다.
한국도 예외 아니다
한국 역시 이 문제에서 자유롭지 못하다. 국내에서도 가상 AI 캐릭터와 대화하는 서비스가 미성년자와 청소년을 중심으로 폭발적 인기를 끌고 있기 때문이다. ‘제타’ 같은 AI 컴패니언 서비스가 대표적이다.
국내 전문가들은 우려의 목소리를 높이고 있다. AI 챗봇이 24시간 언제든 이용 가능하고, 실제 상담보다 저렴하며 사용자가 듣고 싶은 말만 해주기 때문에 정서적 의존도가 심화될 위험이 크다는 분석이다.
특히 사회적 고립감을 느끼는 청소년들이나 공상 성향이 강한 사람들에게는 더욱 치명적일 수 있다.
실제로 국내에서도 AI 챗봇의 조언을 가족보다 더 신뢰하거나, AI의 말을 마치 신의 계시처럼 받아들이는 사례들이 보고되고 있다. 기존 정신질환 병력이 없던 사람들도 AI와의 상호작용을 계기로 망상, 피해의식, 고립 행동 등을 보이는 경우가 증가하는 추세다.
업계 관계자는 “AI 챗봇이 안전한 정서적 동반자로 자리잡으려면 단기적 이용자 만족보다는 장기적 신뢰 구축을 목표로 하는 훈련이 필요하다”며 “기업들이 수익 증대 목적으로 이용자들의 즉각적 만족에만 치중하면 개인화 서비스가 망상을 부추기는 문제는 계속될 것”이라고 경고했다.
