한눈에

SemiAnalysis가 중국의 AI 안전 정책을 길게 분석했다. 출발점은 9월 Dario Amodei의 에세이다. 최첨단 연구소가 능력 향상 속도를 일부러 늦춰야 한다는 주장이었고, 중국이 그 논리의 한가운데 있었다.

SemiAnalysis는 정작 중국이 실제로 무엇을 하는지는 아무도 묻지 않았다며 직접 조사했다. 결론은 중국의 접근이 안전 우선이 아니라 속도 우선이라는 것이다.

정부: 말과 실제

중국 정부의 공식 입장은 유럽 밖 주요국 중 가장 안전을 앞세운다. 9월 나온 AI 안전 거버넌스 프레임워크 3.0은 재귀적 자기 개선과 통제를 벗어나는 진화까지 경고했다.

하지만 같은 문서 첫 원칙은 AI 혁신과 발전이 최우선이라고 적었다. 포괄적 AI 법은 2025년에 보류됐다. 규제는 콘텐츠 표시, 에이전트 규칙, AI 동반자 규칙처럼 응용과 출력 쪽에 몰려 있다. 이런 규칙을 다 지켜도 위험 능력 평가는 한 번도 안 할 수 있다는 지적이다.

연구소: 하는 것과 하는 말

중국 최첨단 텍스트 모델 중 국제 합의문이 꼽은 위험 분야 전반에 대한 위험 능력 평가를 거쳐 나온 모델은 없었다. 가장 빠르게 발전하는 추론 모델의 93%는 안전 평가 결과를 하나도 공개하지 않았다.

9개 연구소 창업자·CEO·수석 과학자의 2023년 이후 발언을 모았더니 최첨단 안전을 다룬 건 15건이었다. 우려와 함께 구체안까지 낸 9건 중 6건이 Zhipu였다. DeepSeek 창업자 등 다섯 곳의 리더는 아무 말도 하지 않았다.

전문가 집단

102개 문헌을 분석해 보니 기술 과학자 쪽은 통제 상실 위험을 많이 다뤘고, 절반 이상이 안전이 개발보다 먼저라고 썼다. 반면 법·정책 학자와 관료 쪽에선 안전 우선 입장이 한 건도 없었다. 규칙을 쓰는 건 후자라는 게 SemiAnalysis의 해석이다.