한눈에

Anthropic CEO Dario Amodei가 회사의 안전 기록을 두고 장문의 반박 글을 X에 올렸다. 한국 시간 10월 21일 오전이다.

발단은 AI 안전 활동가 Nathan Calvin의 글이다. Calvin은 지난 1년 Anthropic의 행동을 보면, 안전은 뒤로 밀리고 초지능 경쟁이 앞선 회사로 보인다고 했다. 5,000억 달러 넘는 컴퓨트 계약, 책임 있는 확장 정책(RSP) 변경 등 9가지를 들었다.

Amodei가 꼽은 9가지

왜 중요한가

Amodei는 비판 자체는 반겼다. Anthropic 같은 규모의 회사는 매일 거세게 비판받아야 정상이라고 했다. 일부 사례는 회사의 실수였다고 인정했다.

다만 핵심 주장에는 동의하지 않았다. 앞선 자리에서 책임 있게 만드는 모습을 보여 업계 기준을 끌어올린다는 “위로의 경쟁” 전략은 예전부터 같았다고 했다. Calvin이 든 7~9번은 더 잘 다룰 수 있었다고 인정했다.

AI가 너무 빨라져 안전이 따라가기 힘든 지점이 가까워지고 있다고도 썼다. 그래서 속도 조절을 고민하고 있다고 했다.

어떻게 바뀌나

RSP 변경은 옛 규칙이 안전에 별 의미 없는 일을 강제하기도 했다며 변호했다. 법적 의무용 프레임워크(FCF)를 따로 둔 문제는 더 살펴보겠다고 약속했다. 급변하는 지금 회사 가치를 어떻게 지킬지 곧 더 말하겠다고 했다.