한눈에
Neel Nanda가 11월 14일(미국 시간) X에 짧은 글을 올렸다. “Buck의 판단을 존중한다. AI 안전에서 무엇이 필요한지 그가 나보다 자주 옳았다. 그가 이런 결론을 내리는 걸 보니 매우 걱정된다.”
인용한 글은 Buck Shlegeris가 11월 11일(한국 시간)에 쓴 긴 글이다.
Buck은 무엇을 말했나
Buck은 1년 안에 AI 회사가 초지능을 만들 확률을 약 1/3로 봤다. 3년 안이라면 그럴 가능성이 더 높다고 했다.
근거는 METR 보고서다. 지금 AI가 Anthropic의 AI 발전 속도를 약 70% 높인다는 내용이다.
그는 AI에 사람의 가치를 심는 방법을 아직 모른다고 본다. 그래서 1년 안에 정렬 실패로 일상이 무너질 가능성을 약 20%로 잡았다. 스스로도 급히 쓴 글이라 세부는 바뀔 수 있다고 덧붙였다.
왜 중요한가
Buck은 9년째 AI 장악을 막는 일을 해 온 사람이다. Neel은 그런 그의 판단을 무겁게 받아들였다.
두 사람 다 극단적인 숫자라는 걸 안다. 그래도 공개적으로 말하는 쪽을 택했다는 점이 눈에 띈다.