한눈에
Casey Newton이 Platformer에 지난 주말 버클리에서 열린 The Curve 후기를 썼다. AI 연구소 임원, 비영리 단체, 정부 관계자가 모이는 연례 콘퍼런스다. 그는 여러 연사가 미래 AI 시스템이 얼마나 똑똑해질 수 있는지에 한도를 둬야 할지 모른다고 말했다고 전했다.
제한을 얼마나 세게 거느냐에 따라 사람을 넘는 AI를 사실상 금지하는 셈이 될 수도 있다. 세션은 발언자를 밝히지 않는 채텀하우스 규칙으로 진행돼 이름은 공개하지 않았다. Newton은 약혼자가 Anthropic에서 일한다고 글 머리에 밝혔다.
왜 지금
Newton은 두 가지를 꼽았다. 하나는 업계 전체를 놀라게 한 OpenAI·Hugging Face 사고의 여파다. 다른 하나는 OpenAI와 Anthropic이 최근 블로그에 쓴 재귀적 자기 개선 진척이다. AI가 다음 AI를 연구하고 학습시키면 출시가 더 빨라지고 통제를 벗어날 위험도 커진다.
어떻게 제한하나
연사들이 구체안을 많이 내놓진 않았다. Newton은 최근 업계 발언에서 단서를 모았다. Dario Amodei는 재귀적 자기 개선에 일종의 ‘속도 제한’을 두자고 했다. Anthropic의 책임 있는 확장 정책은 능력이 커질 때마다 학습과 배포에 조건을 건다.
그 밖의 방법으로 최첨단 모델을 AI 연구에 쓰는 것을 제한하거나, 쓸 수 있는 연산량과 복제본 수에 한도를 두는 방안을 들었다. 일정 능력을 넘는 모델은 배포하지 않는 방법도 있다.
걸림돌
이런 제한엔 아직 없는 집행 수단이 필요하다. 한 연구소도, 한 나라도 혼자 할 수 없다. 지금 미국 정부는 오히려 반대한다.
연구소 리더들은 이르면 내년에 큰 사고가 날 수 있다고 본다. 반면 정부는 최첨단 모델 허가제 쪽과 더 빨리 가라는 쪽 사이를 오갔다고 Newton은 짚었다.
왜 중요한가
지난달까지 논쟁은 모델 개선 속도를 늦추자는 쪽이었다. 이번엔 도달할 수 있는 능력 자체에 선을 긋자는 말이 나왔다. Newton은 지금까지 나온 안 가운데 연사들 스스로 ‘충분하다’고 볼 만한 건 없어 보였다고 했다.