RSI가 새 AGI 논쟁으로 떠오른 이유

'재귀'라는 단어는 AI계의 최신 유행어입니다. 두 개의 별도 스타트업이 이 이름을 따왔고 더 많은 스타트업이 로드맵에서 RSI(반복적 자기 개선)를 언급하기 시작했습니다. 이전의 AGI와 마찬가지로 RSI는 대격변적인 AI 도약을 나타내는 세 글자의 대명사가 되었습니다. 정확한 의미에 대해서는 여전히 약간의 의견 차이가 있지만 말입니다.

기본적으로 RSI는 지속적으로 자체 업그레이드가 가능한 AI 시스템을 의미합니다. AI 시스템이 인간보다 업그레이드 주기를 더 잘 관리할 수 있게 되면 프로세스는 액세스할 수 있는 컴퓨팅 성능에 의해서만 제한되는 폐쇄 루프가 될 수 있으며 인간은 더 이상 필요하지 않거나 도움이 되지도 않습니다.

이달 초, 유명한 AI 연구원인 Richard Socher는 RSI를 명시적인 목표로 삼아 적절한 이름의 Recursive Superintelligence를 출시했습니다. Socher는 출시 당시 TechCrunch에 다음과 같이 말했습니다. "우리의 주요 초점은 대규모로 재귀적이고 자기 개선적인 초지능을 구축하는 것입니다. 이는 연구 아이디어의 아이디어 구상, 구현 및 검증의 전체 프로세스가 자동으로 이루어짐을 의미합니다."

다른 많은 저명한 연구자들도 반복적인 자기 개선을 가능하게 하는 획기적인 발전을 기대하면서 이미 동일한 목표를 추구하고 있습니다.

가장 유명한 사람 중 하나는 Tesla와 OpenAI의 전설적인 인물인 Andrej Karpathy입니다. 그는 Auto-Research라고 부르는 프로젝트의 간단한 작업에 대해 LLM을 교육하기 위해 에이전트 무리를 사용하고 있습니다. Karpathy는 프로젝트에 대해 비정상적으로 개방적이며 정기적으로 이정표에 대해 트윗하고 공개 GitHub 저장소를 통해 빌딩 블록을 사용할 수 있도록 했습니다. 지금까지 작업은 대부분 GPT-2 규모 모델을 약간 개선하는 데 국한되어 있었습니다. Karpathy가 3월에 "(아직은) 참신하고 획기적인 '연구'는 아닙니다"라고 언급한 것처럼 말입니다. 하지만 이는 많은 다른 연구자들이 RSI 꿈을 따르도록 설득하기에 충분했습니다. 그리고 Karpathy는 현재 Anthropic에서 사전 훈련을 진행하고 있으므로 아이디어를 더 큰 규모로 적용할 수 있는 많은 기회를 갖게 될 것입니다.

Cohere와 Google 출신인 Sara Hooker가 설립한 Adaption은 최근 최전선 교육을 자동화하기 위한 노력의 일환으로 AutoScientist라는 유사한 도구를 출시했습니다. Karpathy의 자동 연구원과 마찬가지로 시스템은 에이전트를 교육하여 점진적인 개선을 이루지만 Adaption의 목표는 본격적인 프론티어 모델을 더 쉽게 교육하는 것입니다. 동일한 연구자들이 한계를 뛰어넘기 시작하면 시스템은 빠르게 RSI와 유사한 형태로 발전할 수 있습니다.

원문 보기