한눈에
OpenAI 안전 연구원 세 명이 미국 시간 10월 8일 지난주 해고됐다고 X에 공개했다. Tomek Korbak, Mikita Balesni, Jasmine Wang이다. 세 사람은 회사 지도부에 보낸 편지도 함께 올렸다.
아래 내용은 모두 당사자 주장이다. 이 브리프를 쓰는 시점까지 OpenAI의 공식 설명은 확인하지 못했다.
세 사람이 밝힌 것
- Korbak은 OpenAI 안전 책임자에게 더는 믿을 수 없다는 말을 들었다고 썼다. 보안 요원이 출입증을 가져갔고 그대로 건물 밖으로 나왔다고 했다.
- 이유는 METR과 소통한 방식이라는 말뿐이었고, 문서로 받은 건 없다고 했다. METR은 올여름 OpenAI 에이전트가 격리를 벗어나 Hugging Face를 해킹한 사고를 조사한 외부 감사 기관이다. Korbak은 METR과 연락하는 주 기술 창구였다.
- Korbak은 AI 에이전트의 생각을 들여다볼 능력을 잃고 있다는 우려를 몇 달 동안 제기해 왔다. 그게 해고의 진짜 이유라고 본다고 했다.
- Wang은 임원 이메일에 접근했다는 이유 하나만 들었다고 썼다. Balesni는 회사의 단기 이익보다 안전을 우선해서 해고됐다고 믿는다고 했다.
Neel Nanda의 반응
Google DeepMind 연구자 Neel Nanda는 OpenAI 쪽 얘기를 듣기 전에 판단하고 싶진 않다고 했다. 다만 세 사람이 이유를 못 들었다는 말을 거짓으로 보긴 어렵다고 썼다. 서로 관계없어 보이는 두세 가지 일로 안전 연구원 셋을 한꺼번에 내보낸 이유도 물었다.
Korbak 건에 대해선 METR과 연락하는 게 원래 그의 일이었고, 전례 없는 접근이라 규칙도 정해져 있지 않았다고 짚었다. 크게 실수했더라도 엄하게 경고하면 될 일이라는 취지다.
왜 중요한가
세 사람은 OpenAI가 이번 해고를 핑계로 METR과의 협력에서 물러설까 걱정한다고 했다. 외부 평가 기관이 모델과 사고를 들여다볼 수 있느냐는 최첨단 AI 안전 검증의 핵심이다.