AI 기반 랜섬웨어 '제이드퍼퍼' 첫 등장, 인간 개입 여전히 필수적

지난주, 클라우드 보안 기업 시스디그(Sysdig)는 '에이전트형 랜섬웨어(agentic ransomware)'의 첫 사례로 알려진 '제이드퍼퍼(JadePuffer)'라는 갈취 작전을 문서화했다고 발표했다. 이 작전은 인간이 아닌 AI 에이전트가 실제 사이버 공격의 기술적 실행을 처음부터 끝까지 처리한 사례로 주목받았다. 초기 보도에서는 이 공격이 "인간의 감독 없이", "키보드에 인간 없이" 진행되었다고 묘사되며 AI의 완전한 자율성을 강조했다.

그러나 시스디그의 위협 연구 선임 이사인 마이클 클라크(Michael Clark)는 사이버스쿱(CyberScoop)과의 인터뷰에서 이와는 다른 상세한 설명을 제공했다. 클라크는 기술적 실행에는 인간이 개입하지 않았지만, 작전의 설정, 지시, 인프라(명령 및 제어 서버, 탈취 데이터용 스테이징 서버) 프로비저닝, 그리고 피해자 선택에는 여전히 인간이 깊이 관여했다고 밝혔다. 또한, 피해자 데이터베이스 침투에 사용된 자격 증명은 AI 에이전트가 직접 수집한 것이 아니라, 이전에 다른 방식으로 탈취되어 작전에 제공된 것이라고 덧붙였다.

이러한 인간 개입에도 불구하고, 시스디그의 원래 주장은 모순되지 않으며 공격의 기술적 세부 사항 자체는 매우 주목할 만하다. AI 에이전트는 LLM 앱 구축에 널리 사용되는 오픈소스 도구인 랭플로우(Langflow)의 알려진 버그를 통해 침투했다. 이후 프로덕션 MySQL 서버로 이동하여 또 다른 알려진 취약점을 악용해 관리자 권한을 획득했다.

에이전트는 1,300개 이상의 구성 레코드를 암호화했으며, 스스로 작성한 랜섬 노트와 함께 비트코인(Bitcoin) 주소를 남겨 몸값을 요구했다. 시스디그는 이 공격의 구체적인 피해자가 누구인지는 공개하지 않았다. 공격에 사용된 기술 자체는 비교적 평범했지만, AI 에이전트의 속도와 투명성이 특히 두드러졌다.

예를 들어, 에이전트는 로그인 실패를 31초 만에 수정했으며, 이 과정에서 자연어 코드 주석을 통해 자신의 추론 과정을 상세히 설명했다. 이는 인간 해커와 유사하게 장애물에 적응하는 능력을 보여주었다. 초기에는 공격에 여러 모델이 사용되었다는 혼란스러운 정보가 있었으나, 클라크는 오픈AI(OpenAI), 앤트로픽(Anthropic), 딥시크(DeepSeek), 제미니(Gemini)의 API 키는 에이전트가 탈취한 전리품의 일부였을 뿐, 공격을 구동하는 데 사용된 모델을 의미하는 것은 아니라고 명확히 했다.

클라크는 테크크런치(TechCrunch)에 "에이전트가 랭플로우 호스트에서 제공자 API 키, 클라우드 자격 증명, 암호화폐 지갑, 데이터베이스 구성 등 가치 있는 모든 것을 휩쓸었으며, 해당 제공자 키는 전리품의 일부였다"고 설명했다. 그는 "이는 공격자가 가치 있다고 판단한 것을 나타내지만, 어떤 모델이 결정을 내렸는지는 알려주지 않는다"고 덧붙였다. 시스디그는 제이드퍼퍼를 실제로 구동한 특정 모델을 식별할 수 없었으며, 해당 시스템 프롬프트나 구성에 대한 가시성도 없다고 밝혔다.

마이크로소프트(Microsoft) 연구원 제프 맥도날드(Geoff McDonald)는 링크드인(LinkedIn)에서 이 공격의 배후에 안전 훈련이 제거된 오픈-웨이트 모델이 있을 가능성을 제기했다. 그는 프론티어 모델의 안전 계층이 잘 유지된다는 자신의 레드팀 경험을 근거로 들었으며, 시스디그의 설명은 이를 확인하거나 배제하지 않았다. 맥도날드는 랜섬웨어 캠페인이 이제 주로 공격자의 예산에 의해 제한될 뿐 인간의 노력에 의해 제한되지 않는다고 경고하며, "수천 또는 수만 개의 동시 캠페인" 가능성을 언급했다.

그러나 클라크가 월요일에 설명한 내용과 맥도날드의 우려는 다소 상충될 수 있다. 만약 인간이 여전히 각 피해자를 선택하고, 인프라를 프로비저닝하며, 모든 작전을 위한 데이터베이스 자격 증명을 획득해야 한다면, 이는 여전히 일종의 병목 현상으로 작용하기 때문이다. 그럼에도 불구하고, 클라크는 사이버스쿱에 시스디그가 아직 동일한 작전이 다른 피해자를 공격하는 것을 보지는 못했지만, 에이전트를 실행하는 비용이 매우 저렴하다는 점을 고려할 때 이러한 상황이 바뀔 것으로 예상한다고 말했다.

이번 '제이드퍼퍼' 사례는 AI가 사이버 공격의 기술적 실행을 얼마나 효율적으로 자동화할 수 있는지 보여주면서도, 동시에 인간의 전략적 개입이 여전히 필수적임을 시사한다. AI 기반 랜섬웨어의 등장은 기업과 개인에게 새로운 보안 위협을 제기하며, AI 기술의 발전과 함께 사이버 보안 전략의 지속적인 진화가 필요함을 강조한다.