Meta는 제3자 공급업체에 대한 의존도를 줄이면서 새로운 AI 콘텐츠 시행 시스템을 출시합니다.

Meta는 목요일에 타사 공급업체를 줄일 계획으로 콘텐츠 집행을 처리하기 위해 더욱 발전된 AI 시스템을 출시하기 시작했다고 발표했습니다.콘텐츠 시행과 관련된 작업에는 테러, 아동 착취, 마약, 사기, 사기에 관한 콘텐츠 포착 및 제거가 포함됩니다.

회사는 이러한 고급 AI 시스템이 현재의 콘텐츠 시행 방법보다 지속적으로 뛰어난 성능을 발휘하게 되면 앱 전체에 배포할 것이라고 밝혔습니다.동시에 콘텐츠 시행을 위해 제3자 공급업체에 대한 의존도를 줄일 것입니다.

Meta는 블로그 게시물에서 “콘텐츠를 검토하는 사람은 여전히 ​​있지만 이러한 시스템은 그래픽 콘텐츠에 대한 반복적인 검토나 불법 약물 판매나 사기와 같이 적대 행위자가 전술을 끊임없이 바꾸는 영역과 같이 기술에 더 적합한 작업을 수행할 수 있을 것입니다.”라고 설명했습니다.

Meta는 이러한 AI 시스템이 더 많은 위반 사항을 더 정확하게 감지하고, 사기를 더 효과적으로 예방하며, 실제 사건에 더 신속하게 대응하고, 과도한 집행을 줄일 수 있다고 믿습니다.

회사는 AI 시스템의 초기 테스트가 검토 팀보다 성인 성적 유혹 콘텐츠를 두 배 더 많이 탐지할 수 있고 오류율을 60% 이상 줄일 수 있기 때문에 유망하다고 말했습니다.또한 이 시스템은 유명 인사 및 기타 유명인과 관련된 더 많은 사칭 계정을 식별하고 방지할 수 있을 뿐만 아니라 새로운 위치에서의 로그인, 비밀번호 변경 또는 프로필 편집과 같은 신호를 감지하여 계정 탈취를 중지하는 데 도움이 될 수 있다고 말합니다.

또한 Meta는 시스템이 하루에 약 5,000건의 사기 시도를 식별하고 완화할 수 있다고 말합니다. 사기꾼은 사람들을 속여 로그인 정보를 제공하도록 시도합니다.

Meta는 블로그 게시물에 “전문가들이 AI 시스템을 설계, 교육, 감독 및 평가하고 성능을 측정하고 가장 복잡하고 영향력이 큰 결정을 내릴 것입니다.”라고 썼습니다."예를 들어, 계정 비활성화에 대한 항소나 법 집행 기관에 신고하는 등 가장 위험하고 가장 중요한 결정을 내리는 방법에서 사람들은 계속해서 중요한 역할을 할 것입니다."

이러한 움직임은 도널드 트럼프 대통령이 두 번째로 취임하면서 메타가 지난 1년 동안 콘텐츠 조정 규칙을 완화하면서 나온 것입니다.작년에 회사는 X와 유사한 커뮤니티 노트 모델을 선호하여 제3자 사실 확인 프로그램을 종료했습니다.또한 “주류 담론의 일부인 주제”에 대한 제한을 해제하고 사용자가 정치적 콘텐츠에 대해 “개인화된” 접근 방식을 취하도록 권장할 것이라고 말했습니다.

이는 또한 Meta와 기타 거대 기술 기업이 현재 어린이와 청소년 사용자에게 해를 끼친 책임을 소셜 미디어 대기업에 묻기 위한 여러 소송에 직면해 있는 가운데 발생합니다.

Meta는 또한 목요일에 사용자가 연중무휴 지원에 액세스할 수 있는 Meta AI 지원 도우미를 출시한다고 발표했습니다.이 어시스턴트는 iOS 및 Android용 Facebook 및 Instagram 앱과 데스크톱의 Facebook 및 Instagram 고객 센터 내에서 전 세계적으로 출시됩니다.

Aisha는 TechCrunch의 소비자 뉴스 기자입니다.2021년 출판물에 합류하기 전에는 MobileSyrup에서 통신 기자로 근무했습니다.Aisha는 토론토 대학교에서 우등 학사 학위를, 웨스턴 대학교에서 저널리즘 석사 학위를 받았습니다.

aisha@techcrunch.com으로 이메일을 보내거나 Signal의 aisha_malik.01로 암호화된 메시지를 통해 Aisha에 연락하거나 지원 활동을 확인할 수 있습니다.

약력 보기