한눈에
a16z 파트너 Sarah Wang이 새 팟캐스트 Working Theory를 시작했다. 첫 손님은 OpenAI 연구 책임자 Mark Chen과 Thinking Machines Lab 공동창업자 John Schulman이다. 두 사람은 따로 인터뷰했다.
주제는 AI가 AI 연구를 스스로 하게 되는 재귀적 자기개선(RSI)이다. 약 18분짜리다.
AI 연구 인턴
Chen은 “오늘날 AI 연구 인턴은 이미 만들었다”고 말했다.
다만 조건이 있다. 모델에게 알아서 아이디어를 내라고 하진 않는다. 특정 실험을 특정 방식으로 돌리라고 하면, 모델이 구현하고 실행해 결과를 가져온다.
Chen은 AGI가 어느 한 순간이 아니라 스펙트럼이라고 봤다. 산업혁명이 하루에 일어나지 않은 것과 같다는 비유다. 그리고 AGI 쪽이 RSI보다 더 많이 와 있다고 했다.
연구 감각은 아직
Schulman은 연구 감각을 이렇게 정의했다. 어떤 아이디어가 처음 나온 논문을 넘어 오래 살아남을지 아는 능력이다.
모델은 실행은 잘하지만 이 감각은 아직 약하다는 게 두 사람의 공통된 진단이다.
에피소드는 AI가 정렬 문제를 푸는 가장 좋은 도구일 수 있다는 이야기로 이어진다.
왜 중요한가
이번 주 OpenAI는 GPT-6.2 Astra가 연구자마다 유능한 엔지니어 조수 한 명 효과를 낸다고 공식 평가했다. Chen의 ‘연구 인턴’ 발언과 같은 그림이다.
에피소드 자료에는 METR의 Anthropic 연구 가속 평가도 들어 있다. 랩 안의 자동화 속도가 이제 공개 토론 주제가 됐다.
어떻게 바뀌나
다음 고비는 ‘감각’이다. 모델이 무엇을 실험할지까지 고르기 시작하면 RSI 논쟁은 한 단계 올라간다.