더 신뢰할 수 있는 AI 답변을 위한 한 스타트업의 제안: 챗봇 집단지성

호텔·외식 조달 기업 Buyers Edge Platform의 창업자이자 현재도 회사를 이끄는 존 데이비는, 자사도 AI 물결의 수혜를 누리길 바랐다. 하지만 여러 선택지를 살펴본 그는 만족하지 못했다.

그 해답이 바로 CollectivIQ였다. Buyers Edge Platform 내부 인큐베이팅을 거쳐 보스턴에서 출범한 이 회사는 ChatGPT, Gemini, Claude, Grok, 그리고 최대 10여 개 모델의 정보를 동시에 끌어온 응답을 사용자에게 보여줌으로써 AI 질의에 더 정확한 답을 제공하겠다고 한다.

데이비는 수년 전 새로운 AI 도구들이 시장에 쏟아지기 시작했을 때 그 잠재력에 기대를 걸고 직원들에게 적극적으로 써보라고 권했다. 그러나 그의 낙관은 오래가지 않았다.

데이비는 테크크런치에 이렇게 말했다. "약 1년 전, 직원들이 이런저런 AI 도구나 개인 라이선스를 마구 쓰면 우리 회사 정보가 학습에 사용될 수 있다는 걸 알게 되면서 크게 경각심을 느꼈습니다. 결국 우리가 경쟁사를 도와주는 꼴이 될 수도 있었죠."

그는 더 안전한 엔터프라이즈 AI 계약을 알아봤지만, 대규모 언어모델 장기 계약은 비용이 비쌌고 부정확한 정보와 환각도 적지 않다는 점을 확인했다.

"누가 AI를 쓸 자격이 있는지 직원을 가려야 한다는 상황 자체가 싫었습니다. 더 안 좋았던 건 직원들이 환각이나 편향된 답변에 대해 불만을 쏟아냈다는 점이죠. 때로는 명백히 틀린 답이 파워포인트나 발표 자료에 그대로 들어가기도 했습니다."

그는 최고기술책임자(CTO)에게 더 나은 대안을 직접 만들라고 주문했다.