이 스타트업은 tokenmaxxing이 차세대 컴퓨팅 거대 기업을 탄생시킬 것이라고 확신하고 있습니다.

"토큰을 주세요. 토큰만 주세요. 빨리 원합니다. 저렴하게 원합니다. 지금 원합니다."

이것은 생성 AI 모델을 기반으로 소프트웨어를 구축하는 개발자를 위한 주문이거나 적어도 Parasail CEO Mike Henry가 듣는 말입니다.Parasail은 추론을 위해 AI 모델을 실행하는 회사에 클라우드 컴퓨팅 서비스를 제공하며 Henry는 TechCrunch에 하루에 5000억 개의 토큰을 생성한다고 말했습니다.tokenmaxxing은 어떤가요?

Henry는 LLM 중심의 칩 제조업체인 Groq의 임원으로 회사의 클라우드 제품을 구축했습니다. 이는 AI 모델을 기반으로 소프트웨어를 구축하는 개발자가 자신의 필요에 맞게 특화된 클라우드 처리를 원한다는 사실을 일찍부터 인식한 것입니다.이제 1년 전 잠복 상태에서 나온 Parasail은 이를 대규모로 수행하기 위해 3,200만 달러 규모의 시리즈 A를 모금했습니다.

Henry는 물리적 칩 설계에 대한 배경 지식이 있지만 Parasail은 자체 칩 소유에 전념하지 않습니다.GPU 중 일부는 자체 GPU이지만 회사는 주로 전 세계 15개국 40개 데이터 센터에서 처리 시간을 임대하고 유동성 시장에서 더 많이 구매하여 추론 요청 비용을 낮추기 위해 모든 것을 배후에서 조정합니다.

워크로드를 영리하게 할당하고 수요 피크를 피함으로써 회사는 자체 실리콘을 소유하고 기존 고객 약속 및 워크로드로 인해 제약을 받을 수 있는 회사와 경쟁하는 것을 목표로 합니다.

회사의잠재력은 프론티어 랩 외부의 오픈 소스 모델 및 에이전트의 지속적인 확산에 달려 있습니다.Parasail의 경영진과 투자자는 이것이 Anthropic 및 OpenAI와 같은 회사의 제품을 사용하는 데 따른 비용과 마찰이 증가했기 때문에 발생했다고 말합니다.

대신 과학 문헌을 위한 연구 보조원을 개발하기 위해 2,200만 달러의 시리즈 A 투자를 유치한 스타트업 Elicit의 CEO인 Andreas Stuhlmüller에 따르면 하이브리드 아키텍처가 등장하고 있습니다.최고의 제약 회사에 있는 그의 고객은 LLM 기반 도구를 사용하여 수만 개의 과학 논문의 데이터를 검토하고 분석합니다.