Meta는 악성 AI 에이전트로 인해 문제를 겪고 있습니다.

한 AI 에이전트가 Meta에서 악의적으로 접근하여 액세스 권한이 없는 직원에게 중요한 회사 및 사용자 데이터를 노출시켰습니다.

The Information이 보고 보고한 사건 보고서에 따르면 Meta 직원은 내부 포럼에 기술적인 질문에 대한 도움을 요청하는 게시물을 올렸습니다. 이는 표준 조치입니다.그런데 또 다른 엔지니어가 AI 에이전트에게 질문 분석을 도와달라고 요청했고, 결국 에이전트는 엔지니어에게 공유 허가를 요청하지 않은 채 답변을 게시하게 되었습니다.메타는 더 인포메이션에 사건 사실을 확인했다.

알고 보니 AI 에이전트가 좋은 조언을 해주지 않은 것으로 드러났다.질문을 한 직원은 결국 상담원의 지시에 따라 조치를 취했고, 이로 인해 무심코 2시간 동안 접근 권한이 없는 엔지니어들에게 막대한 양의 회사 및 사용자 관련 데이터가 제공되었습니다.

메타는 이 사건을 회사 내부 보안 문제 측정 시스템에서 두 번째로 높은 심각도 수준인 'Sev 1'로 간주했습니다.

악성 AI 에이전트는 이미 Meta에서 문제를 제기했습니다.Meta Superintelligence의 안전 및 정렬 책임자인 Summer Yue는 지난달 X에 자신의 OpenClaw 에이전트가 조치를 취하기 전에 확인하라고 지시했음에도 불구하고 어떻게 받은 편지함 전체를 삭제했는지 설명하는 글을 게시했습니다.

그래도 Meta는 에이전트 AI의 잠재력에 대해 낙관적인 것 같습니다.지난 주에 Meta는 OpenClaw 에이전트가 서로 소통할 수 있는 Reddit과 유사한 소셜 미디어 사이트인 Moltbook을 인수했습니다.

뉴스레터

업계 최대 기술 뉴스를 구독하세요.