오픈AI 재판서 머스크 측 유일한 전문가 증인, AGI 군비 경쟁 우려

AI 파멸론을 언제부터 진지하게 받아들여야 할까. 이 질문은 오픈AI의 영리 AI 사업을 중단시키려는 일론 머스크의 시도에 깔린 핵심 맥락이다.

머스크 측 변호인단은 오픈AI가 원래 AI 안전에 초점을 둔 자선 조직으로 출발했지만, 이윤 추구 과정에서 본래 목적을 잃었다고 주장했다. 이를 뒷받침하기 위해 창립자들이 과거에 구글 딥마인드에 맞설 공익적 균형추의 필요성을 언급한 이메일과 발언을 제시했다.

이날 머스크 측이 법정에 세운 유일한 전문가 증인은 캘리포니아대 버클리 캠퍼스의 컴퓨터과학 교수 스튜어트 러셀이었다. 그는 수십 년 동안 AI를 연구해 온 학자로, AI의 위험성을 설명하는 역할을 맡았다. 러셀은 2023년 3월 AI 연구를 6개월 동안 멈추자고 촉구한 공개서한에도 공동 서명했다. 머스크 역시 자신이 영리 AI 연구소 xAI를 출범시키는 와중에 같은 서한에 이름을 올린 바 있다.

러셀은 배심원단과 이본 곤잘레스 로저스 판사에게 AI 개발에는 사이버보안 위협, 정렬 문제, 그리고 인공일반지능(AGI) 개발 경쟁의 승자독식 구조 등 다양한 위험이 따른다고 말했다. 그의 요지는 AGI를 향한 경쟁과 안전 사이에는 본질적인 긴장이 있다는 것이다.

다만 통제되지 않은 AI가 초래할 실존적 위협에 대한 러셀의 더 큰 우려는 오픈AI 측 이의 제기로 인해 공개 법정에서 충분히 다뤄지지 못했다. 그럼에도 러셀은 오랫동안 전 세계 최전선 연구소들이 AGI 선점을 위해 벌이는 군비 경쟁식 역학을 비판해 왔으며, 정부가 이 분야를 더 강하게 규제해야 한다고 주장해 왔다. 반대신문에서 오픈AI 측은 러셀이 회사의 지배구조나 구체적인 안전정책을 직접 평가하는 전문가는 아니라는 점을 부각했다.