스토킹 피해자, OpenAI 고소, ChatGPT가 가해자의 망상을 조장하고 경고를 무시했다고 주장

샌프란시스코 카운티 캘리포니아 고등법원에 제기된 새로운 소송에 따르면, 53세의 실리콘밸리 기업가는 ChatGPT와 몇 달간 대화를 나눈 후 자신이 수면 무호흡증 치료법을 발견했으며 강력한 사람들이 그를 쫓고 있다고 확신하게 되었습니다.이후 그는 이 도구를 사용해 전 여자친구를 스토킹하고 괴롭힌 것으로 알려졌다.

이제 전 여자친구가 회사의 기술로 인해 괴롭힘이 가속화됐다고 주장하며 OpenAI를 고소하고 있다고 TechCrunch가 단독으로 알아냈습니다.그녀는 OpenAI가 사용자의 계정 활동을 대량 살상 무기와 관련된 것으로 분류하는 내부 플래그를 포함하여 사용자가 다른 사람에게 위협을 가했다는 세 가지 별도의 경고를 무시했다고 주장합니다.

신원 보호를 위해 Jane Doe라고 불리는 원고는 징벌적 손해 배상을 청구하고 있습니다.그녀는 또한 금요일 법원에 OpenAI가 사용자의 계정을 차단하고, 새 계정을 생성하지 못하게 하고, ChatGPT에 액세스하려고 시도하면 알리고, 검색을 위해 전체 채팅 로그를 보존하도록 요청하는 임시 금지 명령을 제출했습니다.

Doe의 변호사에 따르면 OpenAI는 사용자의 계정을 정지하는 데 동의했지만 나머지는 거부했다고 합니다.그들은 회사가 Doe와 사용자가 ChatGPT와 논의했을 수 있는 다른 잠재적 피해자에게 해를 끼치려는 구체적인 계획에 대한 정보를 보류하고 있다고 말합니다.

이번 소송은 아첨하는 AI 시스템의 실제 위험에 대한 우려가 커지는 가운데 시작되었습니다.이 사례와 다른 많은 사례에서 인용된 모델인 GPT-4o는 2월에 ChatGPT에서 사용이 중단되었습니다.

이 사건은 ChatGPT와 수개월 간의 대화 끝에 자살한 10대 Adam Raine과 그가 죽기 전에 Google의 Gemini가 그의 망상과 잠재적인 대량 살상 사건을 부채질했다고 가족이 주장하는 Jonathan Gavalas와 관련된 부당한 사망 소송을 제기한 회사인 Edelson PC가 제기했습니다.수석 변호사인 Jay Edelson은 AI로 인한 정신병이 개인의 피해에서 대량 학살 사건으로 확대되고 있다고 경고했습니다.

이러한 법적 압력은 이제 OpenAI의 입법 전략과 직접적으로 충돌하고 있습니다. OpenAI는 대량 사망이나 치명적인 재정적 피해와 관련된 경우에도 AI 연구소를 책임으로부터 보호하는 일리노이 법안을 지지하고 있습니다.