Anthropic은 인터넷을 보호하기 위해 Mythos의 출시를 제한합니까, 아니면 Anthropic입니까?

Anthropic은 이번 주에 Mythos라고 불리는 최신 모델의 출시를 제한했다고 밝혔습니다. 이는 전 세계 사용자가 의존하는 소프트웨어에서 보안 공격을 찾아내는 능력이 너무 뛰어나기 때문입니다.

프론티어 랩은 Mythos를 대중에게 공개하는 대신 Amazon Web Services에서 JPMorgan Chase에 이르기까지 중요한 온라인 인프라를 운영하는 대기업 및 조직 그룹과 이를 공유할 것입니다.OpenAI는 차기 사이버 보안 도구에 대해서도 유사한 계획을 고려하고 있는 것으로 알려졌습니다.표면적인 아이디어는 이러한 대기업이 고급 LLM을 활용하여 보안 소프트웨어에 침투할 수 있는 악의적인 행위자보다 앞서도록 하는 것입니다.

그러나 위 문장의 "e" 단어는 이번 출시 전략에 사이버 보안이나 모델 기능의 과대 광고보다 더 많은 것이 있을 수 있다는 힌트입니다.

AI 사이버 보안 연구소 Irregular의 CEO인 Dan Lahav는 Mythos가 출시되기 전인 3월 TechCrunch에 AI 도구를 통한 취약점 발견도 중요하지만 공격자에게 어떤 약점이 어떤 구체적인 가치를 갖는지는 이들 약점을 어떻게 조합하여 사용할 수 있는지를 포함한 여러 요인에 따라 달라진다고 말했습니다.

Lahav는 "제가 항상 마음속에 품고 있는 질문은 그들이 개별적으로든, 체인의 일부로든 매우 의미 있는 방식으로 악용할 수 있는 것을 찾았느냐는 것입니다"라고 말했습니다.

Anthropic은 Mythos가 이전 모델인 Opus보다 훨씬 더 많은 취약점을 악용할 수 있다고 말합니다.그러나 Mythos가 실제로 사이버 보안 모델의 전부인지는 확실하지 않습니다.AI 사이버 보안 스타트업인 Aisle은 Anthropic이 Mythos가 더 작고 개방적인 모델을 사용하여 달성했다고 말한 것의 대부분을 복제할 수 있었다고 말했습니다.Aisle 팀은 이러한 결과가 사이버 보안을 위한 단일 딥 러닝 모델이 없고 대신 당면한 작업에 따라 다르다는 것을 보여준다고 주장합니다.

Opus가 이미 사이버 보안의 판도를 바꿀 것으로 여겨졌다는 점을 고려하면, 프론티어 연구소가 대규모 조직에 대한 출시를 제한하려는 또 다른 이유가 있습니다. 즉, 대기업 계약을 위한 플라이휠을 생성하는 동시에 경쟁자가 프론티어 모델을 활용하여 저렴한 비용으로 새로운 LLM을 교육하는 기술인 증류를 사용하여 모델을 복사하기 어렵게 만듭니다.

소프트웨어 엔지니어이자 스타트업 exe.dev의 CEO인 David Crawshaw는 소셜 미디어 게시물에서 "이것은 최고급 모델이 이제 기업 계약에 의해 통제되며 더 이상 소규모 실험실에서 증류할 수 없다는 사실을 마케팅으로 은폐하는 것입니다."라고 제안했습니다."당신과 내가 Mythos를 사용할 수 있게 되면 기업 전용의 새로운 최고급 개정판이 나올 것입니다. 그 런닝머신은 증류 회사를 2위로 강등시켜 기업 자금 흐름(달러의 대부분)을 유지하는 데 도움이 됩니다."라고 Crawshaw는 말했습니다.

이러한 분석은 우리가 AI 생태계에서 보고 있는 것과 일치합니다. 가장 크고 가장 유능한 모델을 개발하는 개척 연구소와 여러 모델을 사용하고 오픈 소스 LLM(종종 중국에서 생산되고 종종 증류를 통해 개발되었다고 주장되는)을 경제적 이점을 얻는 경로로 보는 Aisle과 같은 회사 간의 경쟁입니다.

블룸버그 보고서에 따르면 Anthropic은 중국 기업이 자사의 모델을 복사하려는 시도를 공개적으로 밝혔으며 Anthropic, Google, OpenAI 등 3개 주요 연구소가 협력하여 증류기를 식별하고 차단하는 등 프론티어 연구소는 올해 증류에 대해 더 강경한 조치를 취하고 있습니다.증류는 막대한 양의 자본을 사용하여 확장함으로써 얻을 수 있는 이점을 제거하기 때문에 프론티어 연구소의 비즈니스 모델에 위협이 됩니다.따라서 증류를 차단하는 것은 이미 가치 있는 노력이지만, 이를 위한 선택적 방출 접근 방식은 범주가 수익성 있는 배포의 핵심이 되므로 실험실에서 엔터프라이즈 제품을 차별화할 수 있는 방법을 제공합니다.

Mythos나 새로운 모델이 실제로 인터넷 보안을 위협하는지 여부는 아직 알 수 없으며, 기술을 신중하게 출시하는 것이 책임감 있는 방법입니다.

Anthropic은 보도 당시 결정이 증류 문제와도 관련이 있는지에 대한 우리의 질문에 응답하지 않았지만 회사는 인터넷과 그 수익을 보호하기 위한 영리한 접근 방식을 찾았을 수 있습니다.

Tim Fernholz는 기술, 금융, 공공 정책에 관해 글을 쓰는 저널리스트입니다.그는 민간 우주 산업의 부상을 자세히 다루었으며 Rocket Billionaires: Elon Musk, Jeff Bezos and the New Space Race의 저자이기도 합니다.이전에는 글로벌 비즈니스 뉴스 사이트인 Quartz에서 10년 넘게 선임 기자로 활동했으며, 워싱턴 D.C.에서 정치 기자 생활을 시작했습니다.

tim.fernholz@techcrunch.com으로 이메일을 보내거나 Signal에서 tim_fernholz.21로 암호화된 메시지를 보내 Tim의 지원 활동을 확인하거나 연락할 수 있습니다.

약력 보기