한눈에
Frontier Model Forum(FMF)이 프론티어 모델의 사이버 위협용 Jailbreak 등급 프레임워크 Version 1.0을 공개했다.
성공한 우회라도 쓸모가 거의 없는 것부터, 공격자가 바로 쓸 수 있는 위험한 능력까지 스펙트럼이 넓다.
어떻게 매기나
네 범주를 합친다. 새로 열린 능력의 크기, 능력의 범위, 실제 쓰기의 쉬움, 우회법을 찾기 쉬운지다.
목표는 조직마다 제각각이던 평가를 맞춰, 낮은 위험부터 고치는 낭비를 줄이는 것이다.
왜 중요한가
GPT-6 Cyber처럼 사이버 능력이 커질수록, ‘우회됐다’는 뉴스만으로는 우선순위가 안 선다.
OpenAI 국가안보정책 책임자 Sasha Baker는 심각도와 사용 용이성을 같이 보는 공통 방법론이라고 평가했다.