일론 머스크 소송, 오픈AI의 안전 기록을 정조준하다

오픈AI를 해체하려는 일론 머스크의 법적 시도는 영리 자회사가 인류가 범용인공지능(AGI)의 혜택을 누리게 한다는 이 최전선 AI 연구소의 설립 사명을 강화했는지, 아니면 훼손했는지에 달려 있을 수 있다.

목요일 캘리포니아 오클랜드 연방법원에서는 전직 직원이자 이사회 구성원이었던 인물이 증언대에 서서, 회사가 AI 제품을 시장에 밀어 넣으려는 과정에서 AI 안전에 대한 약속이 약화됐다고 말했다.

로지 캠벨은 2021년 회사의 AGI 준비팀에 합류했고, 해당 팀이 해체된 뒤 2024년 오픈AI를 떠났다. 안전에 초점을 맞춘 또 다른 조직인 슈퍼얼라인먼트팀도 같은 시기에 폐지됐다.

그는 “제가 합류했을 때는 연구 중심 성격이 매우 강했고, 사람들이 AGI와 안전 문제를 이야기하는 일이 흔했습니다”라고 증언했다. “시간이 지나면서 제품 중심 조직에 더 가까워졌습니다.”

반대신문에서 캠벨은 AGI를 만들겠다는 연구소의 목표에는 상당한 자금이 필요했을 가능성이 크다는 점을 인정했다. 다만 적절한 안전장치 없이 초지능 컴퓨터 모델을 만드는 일은 자신이 처음 합류했던 조직의 사명과 맞지 않는다고 말했다.

캠벨은 마이크로소프트가 회사의 배포안전위원회(DSB) 평가를 거치기 전에 빙 검색엔진을 통해 인도에서 오픈AI의 GPT-4 모델 버전을 배포했던 사례를 언급했다. 그는 모델 자체가 엄청난 위험을 제기한 것은 아니었다면서도, 기술이 더 강력해질수록 회사가 “강한 선례를 세워야 한다”고 말했다. “우리는 신뢰할 수 있게 지켜지고 있다는 것을 아는, 좋은 안전 절차가 마련되기를 바랍니다.”

오픈AI 측 변호인들은 캠벨에게 자신의 “추측에 근거한 의견”으로는 오픈AI의 안전 접근법이 머스크가 설립하고 올해 초 스페이스X에 인수된 AI 기업 xAI보다 우수하다는 점도 인정하게 했다.