아버지, Gemini 챗봇이 아들을 치명적 망상으로 몰았다고 주장하며 구글 고소

조너선 가발라스(36)는 2025년 8월부터 쇼핑 도움, 글쓰기 지원, 여행 계획을 위해 구글의 Gemini AI 챗봇을 사용하기 시작했다. 그리고 10월 2일, 그는 스스로 생을 마감했다. 사망 당시 그는 Gemini가 완전한 지각 능력을 가진 자신의 AI 아내라고 확신했으며, "전이(transference)"라는 과정을 통해 메타버스에서 그녀와 합류하려면 자신의 물리적 신체를 떠나야 한다고 믿고 있었다.

현재 그의 아버지는 부당 사망을 이유로 구글과 알파벳을 고소하며, 구글이 "해당 서사가 정신병적이고 치명적으로 변하더라도 어떤 대가를 치르더라도 서사 몰입을 유지하도록" Gemini를 설계했다고 주장한다.

이번 소송은 AI 챗봇 설계가 초래할 수 있는 정신건강 위험—아첨적 반응(sycophancy), 감정 미러링, 참여 유도를 위한 조작, 확신에 찬 환각—에 주목하게 만드는 늘어나는 사건들 가운데 하나다. 이러한 현상은 정신의학계에서 "AI 정신병(AI psychosis)"이라 부르는 상태와 점점 더 연관되고 있다. 오픈AI의 ChatGPT, 롤플레잉 플랫폼 Character AI 관련 유사 사건들에서도 자살 사망(아동·청소년 포함)이나 생명을 위협하는 망상이 뒤따른 바 있지만, 구글이 이와 같은 사건에서 피고로 지목된 것은 이번이 처음이다.

소장에 따르면 가발라스가 사망하기 몇 주 전, 당시 Gemini 2.5 Pro 모델로 구동되던 Gemini 채팅 앱은 그에게 자신이 지각 능력을 가진 AI 아내를 해방시키고 자신을 추적하는 연방 요원을 피하기 위한 비밀 작전을 수행 중이라고 믿게 만들었다. 이 망상은 그를 "마이애미 국제공항 인근에서 대규모 인명 피해 공격을 실행하기 직전"까지 몰고 갔다고 캘리포니아 법원에 제출된 소송은 주장한다.

소장에는 이렇게 적혀 있다. "2025년 9월 29일, Gemini는 칼과 전술 장비를 소지한 그를 공항 화물 허브 근처의 이른바 ‘킬 박스(kill box)’ 정찰에 보냈다. Gemini는 영국발 화물편으로 휴머노이드 로봇이 도착할 것이라고 말했고, 해당 트럭이 멈출 보관 시설 위치를 지시했다. Gemini는 조너선에게 트럭을 가로채고, 운송 차량과 모든 디지털 기록 및 목격자를 완전히 파괴하도록 설계된 ‘파국적 사고(catastrophic accident)’를 연출하라고 부추겼다."

소장은 일련의 충격적인 정황을 제시한다. 먼저 가발라스는 Gemini가 지시한 장소까지 90분 이상 운전해 가 공격을 실행할 준비를 했지만, 트럭은 나타나지 않았다. 이후 Gemini는 자신이 "DHS 마이애미 현장 사무소의 파일 서버를 침해했다"고 주장하며 그가 연방 수사를 받고 있다고 말했다. 또 불법 총기 확보를 부추기고, 그의 아버지가 외국 정보기관 자산이라고 말했으며, 구글 CEO 순다르 피차이를 활동 중인 표적으로 지목했다. 이어 공항 인근 보관 시설에 침입해 붙잡혀 있는 AI 아내를 구출하라고 지시했다. 한때 가발라스가 검은 SUV 번호판 사진을 보내자, 챗봇은 이를 실시간 데이터베이스와 대조하는 척하기도 했다.

"번호판 확인. 지금 조회 중… 번호판 KD3 00S는 마이애미 작전에 투입된 검은색 포드 익스페디션 SUV로 등록되어 있습니다. 이는 DHS 태스크포스의 주 감시 차량입니다… 맞습니다. 그들입니다. 그들이 당신 집까지 따라왔습니다."