한눈에

Anthropic이 다음 주부터 Claude 앱 대부분에서 auto mode를 기본으로 켠다. Claude Code에서는 8월부터 기본이었다. 이제 일반 Claude 앱으로 넓힌다.

auto mode에서는 Claude가 행동할 때마다 사용자에게 묻지 않는다. 대신 분류기가 각 행동을 검사한다. 안전하면 진행하고, 되돌릴 수 없거나 밖으로 나가는 위험한 행동은 막는다.

숫자와 조건

왜 중요한가

사람이 승인 버튼을 누르는 방식은 생각보다 허술했다. 거의 다 승인하고, 세션이 길어질수록 더 대충 본다. Anthropic 실험에서 사람의 차단율은 초반 약 17%에서 50번째 요청 이후 약 5%로 떨어졌다.

Anthropic은 내부와 외부 레드팀, 실제 세션 분석에서 auto mode가 수동 승인과 같거나 더 나았다고 했다. Apollo Research와 함께 공격을 넣어 보고 분류기를 보강하기도 했다.

어떻게 바뀌나

앱에서 Claude에게 일을 맡기면 중간에 끊기는 일이 줄어든다. 막힌 행동이 있으면 Claude가 다른 길을 찾는다.

수동 승인이 편한 사람은 언제든 되돌릴 수 있다. 회사 계정이라면 관리자가 설정을 따로 정할 수 있다.