Multiverse Computing은 압축된 AI 모델을 주류로 끌어올립니다.

민간 기업의 채무 불이행률이 수년 만에 가장 높은 9.2%에 달하는 상황에서 VC 회사인 Lux Capital은 최근 AI에 의존하는 기업에게 컴퓨팅 용량 약정을 서면으로 확인하도록 권고했습니다.AI 공급망에 금융 불안정이 파급되는 상황에서 Lux는 악수 계약만으로는 충분하지 않다고 경고했습니다.

그러나 완전히 외부 컴퓨팅 인프라에 대한 의존을 중단하는 또 다른 옵션이 있습니다.데이터 센터, 클라우드 공급자, 상대방 위험 없이 사용자의 장치에서 직접 실행되는 소규모 AI 모델은 고려할 가치가 있을 만큼 충분히 좋아지고 있습니다.그리고 멀티버스 컴퓨팅(Multiverse Computing)이 손을 들고 있습니다.

스페인 스타트업인 이 스타트업은 지금까지 일부 동종 기업보다 낮은 프로필을 유지해 왔지만 AI 효율성에 대한 수요가 증가함에 따라 상황이 바뀌고 있습니다.OpenAI, Meta, DeepSeek 및 Mistral AI를 포함한 주요 AI 연구소의 모델을 압축한 후 압축 모델의 기능을 보여주는 앱과 개발자가 해당 모델에 액세스하고 구축할 수 있는 게이트웨이인 API 포털을 모두 출시했습니다.

Multiverse의 양자 영감 압축 기술과 이름을 공유하는 CompactifAI 앱은 ChatGPT 또는 Mistral의 Le Chat과 유사한 AI 채팅 도구입니다.질문을 하면 모델이 대답합니다.차이점은 Multiverse에 Gilda가 내장되어 있다는 점입니다. Gilda는 너무 작아서 로컬 및 오프라인에서 실행할 수 있는 모델입니다.

최종 사용자에게 이것은 데이터가 장치 외부로 나가지 않고 연결이 필요하지 않은 엣지의 AI를 맛보는 것입니다.하지만 주의할 점이 있습니다. 모바일 장치에는 충분한 RAM과 저장 공간이 있어야 합니다.그렇지 않은 경우(많은 구형 iPhone은 그렇지 않습니다) 앱은 API를 통해 클라우드 기반 모델로 다시 전환됩니다.로컬 처리와 클라우드 처리 사이의 라우팅은 Multiverse의 Ash Nazg라는 시스템에 의해 자동으로 처리됩니다. 이 시스템의 이름은 "반지의 제왕"에 나오는 One Ring 비문을 참조하므로 Tolkien 팬들에게 종소리를 울릴 것입니다.그러나 앱이 클라우드로 라우팅되면 그 과정에서 주요 개인 정보 보호 이점이 상실됩니다.

이러한 제한은 CompactifAI가 아직 목표가 아니었을지라도 대량 고객 채택을 위한 준비가 되지 않았음을 의미합니다.센서타워의 데이터에 따르면 지난 달 앱 다운로드 수는 5,000회 미만이었습니다.

실제 목표는 기업입니다.오늘 Multiverse는 개발자와 기업이 AWS Marketplace 없이 압축된 모델에 직접 액세스할 수 있는 셀프 서비스 API 포털을 출시합니다.