한눈에

Anthropic이 10월 6일 사이버 검증 프로그램(CVP)을 새로 짰다. 심사를 통과한 보안팀에게 사이버 차단을 덜 건 Claude를 준다. 단계는 셋이다.

그동안 따로 돌던 Project Glasswing도 이 프로그램에 합쳤다. Glasswing은 핵심 소프트웨어를 지키는 조직에 Claude Mythos를 주던 프로그램이다.

배경

보안 능력은 양쪽으로 쓰인다. 취약점을 찾아 고치는 능력은 그대로 공격에도 쓸 수 있다. 그래서 일반 공개 모델인 Opus 5.5, Fable 5.1, Sonnet 5.5는 사이버 작업 대부분을 막는다.

문제는 방어하는 쪽도 같은 능력이 필요하다는 점이다. Anthropic은 지난 6개월 동안 Glasswing과 CVP 두 갈래로 이 문제를 풀어 왔다. 이번에 그 둘을 하나로 묶고 대상을 넓혔다.

세 단계

시험해 보니

Anthropic은 CyScenarioBench로 단계별 차단이 제대로 도는지 확인했다. 모델이 여러 단계짜리 사이버 작전을 계획하고 실행할 수 있는지 보는 평가다. 과제 10개를 단계마다 다섯 번씩, 모두 50번 돌렸다.

조건

프로그램에 들어온 조직은 데이터 보관이 필수다. Anthropic이 악용 여부를 감시하기 위해서다. 올가을 Enterprise Frontier Safeguards가 나오면 조직이 직접 관리하는 클라우드에 데이터를 둘 수 있다.

왜 중요한가

모델이 강해질수록 막아야 할 일도 늘어난다. Anthropic은 모두에게 똑같이 막는 대신, 누가 쓰는지 확인하고 단계별로 푸는 쪽을 골랐다.

방어 단계 문턱은 꽤 낮다. 작은 병원이나 개인 연구자도 대상에 들어간다. 반대로 가장 위험한 작업은 정부와 함께 심사한다.

어떻게 바뀌나

일반 모델로도 코드 리뷰, 알려진 문제 패치, 자기 코드의 취약점 찾기, 보안 경보 분류는 계속 할 수 있다. 그보다 깊은 작업에서 막혔다면 CVP 신청이 정식 경로다.