OpenAI, 민감 정보 보호 위한 '잠금 모드' 출시

OpenAI가 프롬프트 주입 공격으로부터 민감 데이터를 보호하기 위한 새로운 기능 '잠금 모드'를 공개했습니다. 이 기능은 특정 데이터 유출 위험을 줄이는 데 초점을 맞추고 있습니다.

OpenAI는 악의적인 챗봇 지시가 웹페이지 등 콘텐츠에 숨겨져 발생하는 프롬프트 주입 공격에 대한 추가 보호 기능을 제공한다고 발표했습니다. 이번에 공개된 '잠금 모드(Lockdown Mode)'는 이러한 공격 시도를 차단하여 사용자의 민감한 정보가 유출되는 것을 방지하는 것을 목표로 합니다.

잠금 모드가 활성화되면 라이브 웹 브라우징 기능이 비활성화되어 캐시된 콘텐츠에만 접근할 수 있게 됩니다. 또한, 웹에서 이미지를 검색하고 표시하는 기능도 제한되지만, 이미지 생성 기능은 그대로 사용할 수 있습니다. 딥 리서치 및 에이전트 모드 역시 잠금 모드에서는 작동하지 않습니다.

OpenAI는 잠금 모드를 활성화하더라도 프롬프트 주입 공격에 완전히 면역이 되는 것은 아니라고 밝혔습니다. 예를 들어, 캐시된 웹 콘텐츠나 업로드된 파일에 숨겨진 명령은 여전히 응답의 정확성이나 동작에 영향을 미칠 수 있다는 점을 명시했습니다. 따라서 이 기능은 모든 사용자에게 적용되는 것이 아니라, 민감 데이터를 다루는 조직이나 개인에게 더 강화된 보호를 제공하기 위해 설계되었습니다.

이 새로운 기능은 특히 민감한 데이터를 다루는 개인 및 조직이 데이터 유출 위험을 줄이고자 할 때 유용할 것으로 보입니다. 프롬프트 주입 공격은 사용자가 인지하지 못하는 사이에 챗봇의 행동을 조작하여 민감 정보를 빼내거나 잘못된 정보를 생성하도록 유도할 수 있기 때문입니다.

현재 OpenAI는 잠금 모드를 자체 서비스형 ChatGPT 비즈니스 계정 및 자격이 되는 개인 계정에 우선적으로 배포하고 있습니다. 이는 기업 고객과 같이 보안에 민감한 사용자층을 먼저 지원하려는 전략으로 해석됩니다.

원문 보기