Meta는 AI를 사용하여 키와 뼈 구조를 분석하여 사용자가 미성년자인지 확인합니다.

Meta는 사용자가 13세 미만이고 Facebook과 Instagram에서 삭제되어야 하는지 확인하기 위해 사진과 비디오를 스캔하여 시각적 단서를 찾기 위해 AI를 사용할 것이라고 회사가 화요일에 발표했습니다.이러한 시각적 단서는 사람의 키나 뼈 구조를 포함한다고 말했습니다.

Meta는 블로그 게시물에서 “우리는 이것을 분명히 하고 싶습니다. 이것은 얼굴 인식이 아닙니다.”라고 설명했습니다."저희 AI는 일반적인 주제와 시각적 단서(예: 키, 뼈 구조)를 보고 누군가의 일반적인 연령을 추정합니다. 이미지에서 특정 사람을 식별하지는 않습니다. 이러한 시각적 통찰력을 텍스트 및 상호 작용 분석과 결합함으로써 식별하고 제거하는 미성년자 계정의 수를 크게 늘릴 수 있습니다.

시각적 분석 시스템은 현재 일부 국가에서 운영되고 있지만 Meta는 더 광범위한 출시를 위해 노력하고 있다고 말합니다.

Meta는 이 시스템이 13세 미만의 어린이를 플랫폼에서 보호하려는 노력의 일환이라고 말합니다.이러한 노력에는 AI를 사용하여 생일 축하나 학교 성적 언급과 같은 상황별 단서를 찾기 위해 전체 프로필을 분석하는 것이 포함됩니다.회사는 게시물, 댓글, 약력, 캡션 등과 같은 다양한 형식에서 이러한 신호를 찾습니다.메타는 앞으로 이 기술을 인스타그램 라이브, 페이스북 그룹 등 자사 앱의 더 많은 부분으로 확대할 계획이다.

Meta가 미성년자일 가능성이 있다고 판단하는 경우 해당 계정을 비활성화하며, 사용자는 계정이 삭제되는 것을 방지하기 위해 회사의 연령 확인 절차를 통해 연령을 증명해야 합니다.

이번 발표는 뉴멕시코 주 배심원단이 Meta에게 플랫폼의 안전에 대해 소비자를 오도하고 어린이를 위험에 빠뜨린 것에 대해 민사 처벌로 3억 7,500만 달러를 지불하라고 명령한 지 몇 주 후에 나온 것입니다.회사는 또한 플랫폼에 근본적인 변화를 구현하라는 명령을 받았습니다.이후 Meta는 주 내 소셜 미디어 서비스를 폐쇄하겠다고 위협했습니다.

이번 사건은 메타를 비롯한 빅테크 기업들이 아동 안전과 관련해 직면하고 있는 많은 소송 중 하나라는 점은 주목할 만하다.