ScaleOps는 AI 수요에 맞춰 컴퓨팅 효율성을 개선하기 위해 1억 3천만 달러를 모금했습니다.

AI가 호황을 누리고 있을지 모르지만, 그 이면에서 기업은 막대한 양의 값비싼 컴퓨팅을 낭비하고 있습니다.GPU는 유휴 상태이고 워크로드는 과도하게 프로비저닝되며 클라우드 비용은 계속해서 상승하고 있습니다.ScaleOps는 문제가 부족이 아니라 잘못된 관리라고 믿습니다.

실시간으로 컴퓨팅 리소스를 자동으로 관리하고 재할당하는 소프트웨어를 개발하는 이 스타트업은 평가액 8억 달러로 1억 3천만 달러를 모금했다고 ScaleOps가 월요일 밝혔습니다.시리즈 C 자금 조달 라운드는 Lightspeed Venture Partners, NFX, Glilot Capital Partners 및 Picture Capital을 포함한 기존 투자자의 참여로 Insight Partners가 주도했습니다.회사는 자사 소프트웨어가 클라우드 및 AI 인프라 비용을 최대 80%까지 절감한다고 밝혔습니다.

ScaleOps는 Nvidia가 인수한 GPU 오케스트레이션 스타트업인 Run:ai의 전 엔지니어였던 Yodar Shafrir가 기업이 점점 더 복잡해지는 AI 워크로드를 관리하는 것이 얼마나 어려운지 직접 확인한 후 2022년 공동 창립했습니다.Kubernetes와 같은 도구는 대규모 시스템 클러스터에서 애플리케이션을 실행하는 데 도움이 되지만 빠르게 변화하는 수요를 따라잡기 위해 고군분투하는 정적 구성에 의존하는 경우가 많아 GPU 사용률이 낮고 성능 문제가 발생하며 비용이 많이 드는 비효율성이 발생합니다.

회사의 CEO인 Shafrir는 TechCrunch에 "[Run:ai에서] 내 역할의 일환으로 많은 고객, 특히 DevOps 팀을 만났습니다."라고 말했습니다."그들은 Run:ai가 제공하는 기능을 정말 좋아했지만, 특히 AI 시대에 추론 작업 부하가 더욱 일반화됨에 따라 생산 작업 부하를 관리하는 데 여전히 어려움을 겪었습니다. 축소해 보니 문제가 GPU만이 아니라 컴퓨팅, 메모리, 스토리지, 네트워킹까지 확장되었습니다. 동일한 패턴이 계속 반복되어 팀은 리소스를 효율적으로 관리하지 못했습니다."

DevOps 팀은 문제를 해결하기 위해 여러 이해관계자를 추적하는 경우가 많았으며 이러한 노력이 부족한 경우가 너무 많았습니다.대부분의 기존 도구는 문제에 대한 가시성을 제공했지만 실제 솔루션을 제공하는 데에는 미치지 못했습니다.그 격차는 상당한 시장 기회를 드러냈습니다.

ScaleOps는 실시간으로 애플리케이션 요구 사항과 인프라 결정을 연결하고 인프라를 엔드 투 엔드로 관리하는 완전 자율 솔루션을 제공한다고 Shafrir는 말했습니다.

"Kubernetes는 훌륭한 시스템입니다. 유연하고 구성 가능성이 높습니다. 하지만 그게 문제이기도 합니다."라고 Shafrir는 말했습니다."Kubernetes는 정적 구성에 크게 의존합니다. 오늘날의 애플리케이션은 매우 동적이어서 팀 전체에 걸쳐 지속적인 수동 작업이 필요합니다. 각 애플리케이션의 컨텍스트(필요한 사항, 작동 방식, 환경이 어떻게 변화하는지)를 이해하는 것이 필요합니다."