프랑스 AI 스타트업 ZML, 다양한 AI 칩 추론 속도 높이는 무료 소프트웨어 출시

프랑스의 유망 AI 스타트업 ZML이 대규모 언어 모델(LLM) 추론 성능을 가속화하는 소프트웨어 'ZML/LLMD'를 공식 출시했다. 튜링상 수상자 얀 르쿤(Yann LeCun)의 지지를 받는 ZML은 이 새로운 LLM 추론 서버를 통해 다양한 AI 칩 환경에서 최적의 성능을 구현하는 것을 목표로 한다. 이 소프트웨어는 엔비디아(Nvidia), AMD, 구글(Google)의 TPU, 애플(Apple)의 Metal, 인텔(Intel)의 Arc 등 여러 제조사의 칩을 지원하며, AI 운영 비용 절감에 기여할 것으로 기대된다.

현재 AI 칩 시장에서 엔비디아의 독보적인 지배력은 여전하지만, 다양한 방향에서 새로운 경쟁자와 대안이 등장하고 있다. AI가 업무와 일상생활에 깊숙이 통합되면서, 프롬프트 처리 과정인 '추론(inference)'의 최적화는 모델 훈련만큼이나 중요성이 커지고 있다. 그러나 기존 소프트웨어 및 아키텍처 장벽으로 인해 특정 공급업체에 종속되는 '벤더 록인(vendor lock-in)' 현상이 빈번하게 발생하며 효율성 저하를 초래해왔다.

ZML의 창업자 스티브 모린(Steeve Morin)은 테크크런치(TechCrunch)와의 인터뷰에서 ZML/LLMD의 목표가 기존의 사일로(silos)를 허물고, 다양한 칩을 AI 활용 사례에 최대한의 속도로, 때로는 더 빠르게 사용할 수 있도록 하는 것이라고 밝혔다. 그는 "사람들에게 자신만의 시스템을 만들고 AI가 확산될 수 있는 진정한 효율성 이득을 되찾아주는 것이 목표"라고 강조했다. 이는 AI 관련 비용 증가에 대한 우려가 커지는 가운데, 시장에 큰 변화를 가져올 수 있는 기술적 성과로 평가된다.

ZML/LLMD는 엔비디아, AMD, 구글 TPU, 애플 Metal, 인텔 Arc 등 광범위한 AI 칩을 지원하며, 다양한 오픈소스 대규모 언어 모델을 구동할 수 있다. ZML은 2017년 스냅챗(Snapchat)에 9자리 금액으로 인수된 젠리(Zenly)의 엔지니어링 부사장 경력을 가진 모린의 리더십 아래, 20VC, >commit, AALVC, Drysdale Ventures, Xavier Niel의 Kima Ventures, Kindred Capital, LocalGlobe, Puzzle Ventures 등 벤처 캐피탈로부터 2천만 달러(약 270억 원)의 자금을 조달했다.

이러한 소프트웨어 지원은 특히 유럽에 기반을 둔 액셀레라(Axelera), 프랙타일(Fractile), 칼레이(Kalray), 올릭스(OLIX), Q.ANT, 시펄(SiPearl), 스핀클라우드(SpiNNcloud), 브이소라(VSORA)와 같은 신생 AI 칩 제조사들에게 큰 도움이 될 수 있다고 모린은 언급했다. 그는 ZML이 이들과 "전 세계 어디에서도 시도되지 않은 일"을 함께 할 수 있다는 점을 중요하게 생각한다. 동시에 모린은 엔비디아에 대해 비관적이지 않으며, ZML이 엔비디아와 좋은 관계를 유지하고 있다고 밝혔다. 엔비디아 역시 추론 시장의 성장에 대비하고 있는 상황이다.

추론 분야는 '추론 골드러시(inference gold rush)'라고 불릴 만큼 집중적인 투자가 이루어지는 영역으로, ZML은 치열한 경쟁에 직면해 있다. 최근 130억 달러(약 17조 7천억 원)의 가치를 인정받은 베이스텐(Baseten), 오픈소스 프로젝트 vLLM 개발자들이 설립한 인퍼랙트(Inferact), 그리고 SGLang의 상업 회사인 래딕스아크(RadixArk) 등이 주요 경쟁사다. vLLM과 SGLang은 LLMD와 부분적으로 경쟁하지만, 모린은 ZML의 목표가 "실리콘 공동 설계(co-designing silicon)"에 이를 정도로 더 광범위하다고 강조했다.

ZML은 기업과 클라우드 서비스 제공업체에게 더 저렴하거나 에너지 소비가 적은 다양한 칩을 혼합하여 사용할 수 있는 선택권을 제공하고자 한다. ZML/LLMD는 2024년에 출시되어 3월에 업데이트된 ZML의 첫 공개 프로젝트(추론 중심 ML 프레임워크)와 달리 오픈소스는 아니지만, 사용량 학습을 목표로 무료로 출시되었다. 모린은 "처음부터 너무 욕심을 부려 성장을 방해하기보다는, 가장 효과적인 지점에서 수익을 창출하고 싶다"고 설명하며, 향후 유료 전환 가능성을 시사했다.

ZML/LLMD가 언제 유료 제품으로 전환될지, 그리고 시장에서 어떤 채택률을 보일지는 아직 미지수다. 그러나 대거(Dagger) 및 도커(Docker) 창업자 솔로몬 하이크스(Solomon Hykes), 허깅 페이스(Hugging Face)의 클레망 들랑그(Clément Delangue)와 줄리앙 쇼몽(Julien Chaumond), 그리고 AMI 랩스(AMI Labs)의 얀 르쿤(Yann LeCun) 등 저명한 창업자들이 ZML에 주목하고 있다는 점은 긍정적인 신호다. 이는 유럽 AI 스타트업들이 자국 내에서 성공적인 사업을 구축할 수 있음을 보여주는 사례로, 모린은 "파리가 아니었다면 ZML을 만들 수 없었을 것"이라고 언급했다.

ZML의 이번 출시는 AI 추론 시장의 경쟁을 심화시키고, 엔비디아 중심의 하드웨어 생태계에 새로운 활력을 불어넣을 잠재력을 가지고 있다. 특히 유럽의 AI 칩 제조사들에게는 성장의 기회를 제공하며, 유럽이 AI 혁신의 중요한 거점으로 부상하고 있음을 다시 한번 확인시켜 준다. ZML의 유연한 비즈니스 모델과 기술적 야심은 AI 기술의 광범위한 확산과 비용 효율적인 운영을 위한 중요한 발걸음이 될 것으로 보인다.