한눈에

Dwarkesh Patel이 11월 13일(미국 시간) 「The avalanche that hit math is coming for AI development」를 냈다. 부제는 “나는 왜 이제 2030년 전 초지능을 예상하나”다.

그는 올해 초엔 초지능까지 10년 가까이 걸린다고 봤다. 최근 석 달 동안 생각을 크게 바꿨다고 썼다.

무슨 근거인가

첫째, AI가 이미 AI 연구를 빠르게 하고 있다. METR은 Anthropic 내부에서 석 달을 지낸 뒤, 잘 정의된 과제의 진척 속도가 1년 전의 2배라고 결론 냈다.

둘째, OpenAI 연구자 중 가장 많이 쓰는 상위 10%는 사내 코딩 에이전트 비용이 하루 약 1,000달러에서 7,000달러 이상으로 늘었다. Anthropic은 8월 기준 AI 연구의 26% 이상을 Claude가 이끈다고 밝혔다.

셋째, 수학이 미리보기다. 답을 검증할 수 있는 수학에서 AI가 수십 년 묵은 문제를 쏟아내고 있다. AI 연구도 검증할 수 있는 지표가 많아서 같은 일이 벌어질 거라는 주장이다.

어떻게 바뀌나

그는 최고 수준 AI 연구자를 자동화하는 시점의 중앙값을 2028년으로 봤다. 2027년일 수도 있고, 2032년 이후로 밀릴 확률은 25%라고 적었다.

실험용 컴퓨트가 병목이라 끝없는 폭주보다는 “불꽃”에 가까울 수 있다고도 했다. 한 해에 3~6년 치 진전이 몰리고, 그다음엔 컴퓨트를 더 지어야 한다는 시나리오다.