무슨 일
OpenAI가 샘 알트먼의 유엔 안전보장이사회 AI 발언 전문을 게시했습니다. AI를 인간 역량을 키우는 르네상스형 가능성과, 산업혁명형 격변·혼란의 두 갈래로 대비합니다.
두 가지 실패 경로
알트먼은 (1) 인간 통제 상실—재귀적 자기개선(RSI) 가속을 포함—과 (2) 소수로의 권력 집중을 실패 모드로 들었습니다. 인간 통제를 강하게 입증할 수 없는 모델은 학습하지 말아야 한다고 말했습니다.
국제 표준과 민주적 과정
측정, 위험 평가, 가드레일, 인간 감독, 사고 보고, 취약점의 안전한 공유를 위한 국가·국제 프론티어 표준을 요청했고, 사람과 민주적 의사결정을 중심에 둬야 한다고 강조했습니다.
왜 지금
프론티어 랩 CEO가 RSI·통제·권력집중·국제 표준을 UN 안보리 공식 기록에 올린 1차 발언입니다. 제품 발표와 별도로, 거버넌스 논의의 레퍼런스 텍스트가 됩니다.