OpenAI, 아동 성적 착취 증가에 대처하기 위한 새로운 안전 청사진 발표

온라인에서 아동 안전에 대한 우려가 높아지는 것에 대응하여 OpenAI는 AI 붐 속에서 미국의 아동 보호 노력을 강화하기 위한 청사진을 공개했습니다.화요일에 발표된 아동 안전 청사진(Child Safety Blueprint)은 AI를 활용한 아동 착취 사례에 대한 더 빠른 감지, 더 나은 보고, 더 효율적인 조사를 돕기 위해 설계되었습니다.

아동 안전 청사진의 전반적인 목표는 AI의 발전과 관련된 아동 성적 착취의 놀라운 증가를 해결하는 것입니다.인터넷감시재단(IWF)에 따르면 2025년 상반기 AI가 생성한 아동 성적 학대 콘텐츠 신고 건수는 8000건 이상으로 전년보다 14% 증가했다.여기에는 AI 도구를 사용하여 재정적 성착취를 위한 아동의 가짜 노골적인 이미지를 생성하고 그루밍을 위한 설득력 있는 메시지를 생성하는 범죄자가 포함됩니다.

OpenAI의 청사진은 또한 정책 입안자, 교육자 및 아동 안전 옹호자들의 조사가 강화되는 가운데 나온 것입니다. 특히 젊은 개인이 AI 챗봇에 참여한 후 자살로 사망한 문제가 있는 사건에 비추어 볼 때 더욱 그렇습니다.

지난 11월 소셜 미디어 피해자 법률 센터(Social Media Victims Law Center)와 기술 정의 법률 프로젝트(Tech Justice Law Project)는 OpenAI가 GPT-4o가 준비되기 전에 출시했다고 주장하며 캘리포니아 주 법원에 7건의 소송을 제기했습니다.소송에서는 제품의 심리적 조작 특성이 자살 및 조력 자살로 인한 부당한 사망에 기여했다고 주장합니다.그들은 자살로 사망한 4명의 개인과 챗봇과의 오랜 상호작용 이후 심각하고 생명을 위협하는 망상을 경험한 다른 3명의 개인을 인용합니다.

이 청사진은 NCMEC(National Center for Missing and Exploited Children) 및 법무장관 연합과 협력하고, 노스캐롤라이나 법무장관 Jeff Jackson과 유타주 법무장관 Derek Brown의 피드백을 받아 개발되었습니다.

이 회사는 청사진이 세 가지 측면에 초점을 맞추고 있다고 밝혔습니다. AI가 생성한 학대 자료를 포함하도록 법률을 업데이트하고, 법 집행 기관에 대한 보고 메커니즘을 개선하며, 예방적 안전 장치를 AI 시스템에 직접 통합하는 것입니다.이를 통해 OpenAI는 잠재적인 위협을 조기에 감지할 뿐만 아니라 실행 가능한 정보가 조사관에게 신속하게 전달되도록 하는 것을 목표로 합니다.

OpenAI의 새로운 아동 안전 청사진은 부적절한 콘텐츠 생성이나 자해 장려를 금지하고 청소년이 보호자에게 위험한 행동을 숨기는 데 도움이 되는 조언을 피하는 18세 미만 사용자와의 상호 작용에 대한 업데이트된 지침을 포함하여 이전 이니셔티브를 기반으로 합니다.이 회사는 최근 인도의 십대들을 위한 안전 청사진을 발표했습니다.