OpenAI CEO 샘 알트먼, AI 토큰 비용 급증 문제 인정

AI 도입으로 인한 막대한 토큰 비용이 기업들의 주요 고민거리로 떠오르고 있습니다. OpenAI는 효율성 개선을 통해 비용 절감 방안을 모색 중입니다.

OpenAI의 CEO 샘 알트먼이 최근 인터뷰에서 기업들이 AI 사용에 따른 비용 증가 문제에 대해 우려하고 있다고 밝혔습니다. 그는 OpenAI의 고객들이 이 문제를 제기하기 시작했으며, 이에 따라 스타트업은 모델의 효율성을 높일 방법을 찾고 있다고 언급했습니다.

알트먼은 현재 많은 기업들이 '올해 예산을 1분기에 모두 소진했다'며 AI 비용 효율화에 대한 요구가 커지고 있다고 설명했습니다. 그는 연초까지만 해도 거의 제기되지 않던 이 문제가 이제는 매우 중요한 이슈로 부상했다고 덧붙였습니다. OpenAI는 고객들이 더 적은 비용으로 더 많은 가치를 얻을 수 있도록 모델 개선에 집중할 계획입니다.

최근 '토큰맥싱(tokenmaxxing)'이라는 용어가 등장할 정도로 많은 기업들이 AI 실험 과정에서 막대한 비용을 지출하고 있다는 보도가 이어지고 있습니다. 일부 기업 리더들은 AI가 직원 생산성을 높여 결국 매출 증대로 이어질 것이라 믿었지만, 현실은 다른 양상을 보이고 있습니다. 예를 들어, 엔비디아 CEO 젠슨 황은 직원들에게 연봉의 절반 이상에 해당하는 AI 토큰을 사용하라고 권장하기도 했습니다.

하지만 이러한 움직임이 일부 기업에는 역효과를 낳고 있는 것으로 보입니다. 아마존 직원들은 내부 AI 리더보드 상위권을 유지하기 위해 불필요한 작업에도 AI를 사용했다고 인정했으며, 마이크로소프트는 비용 증가로 인해 클로드 코드 라이선스 사용을 줄였다는 보고도 있습니다. 우버 CEO 역시 현재 AI 전면 도입과 성공적인 제품 출시 사이에 직접적인 연관성은 없다고 인정했습니다.

이러한 상황에도 불구하고 알트먼은 AI 토큰 사용량이 계속 증가할 것으로 전망했습니다. 그는 6년 반 전 월 10만 토큰을 사용하던 최대 고객이 현재는 전 세계 평균 사용량과 같아졌으며, OpenAI의 최대 토큰 사용자는 월 1000억 개에 달한다고 밝혔습니다. 또한, 더 많은 사용자가 존재한다고 언급하며, 선형적인 증가를 가정할 경우 월 1000억 개까지 도달할 수 있다고 예상했습니다.

원문 보기