한눈에
Geoffrey Hinton이 10월 23일(현지) 빈 공대(TU Wien)의 ‘Vienna Gödel Lecture’에 섰다. 제목은 “AI는 우리와 닮았나, 그리고 우리를 좋아할까”. 80분짜리 녹화가 TU Wien 유튜브에 올라왔다.
결론은 한 줄이다. AI를 계속 통제하려 하기보다, AI가 사람을 진심으로 아끼게 만드는 연구에 똑똑하게 만드는 만큼 힘을 쏟아야 한다.
왜 중요한가
Hinton은 먼저 LLM이 사람과 비슷하게 말을 이해한다고 했다. 단어를 특징 벡터로 바꾸고, 그 벡터들이 서로 맞물리게 하는 방식이다. 지금 LLM은 그가 1985년에 만든 아주 작은 언어 모델의 후손이라고 했다.
디지털 모델은 지식 공유에서 사람을 압도한다. 같은 모델의 복사본들은 기울기를 주고받아 한 번에 1조 비트쯤 나눈다. 사람은 문장 하나로 100비트 남짓 전한다.
- AI가 사람을 없앨 확률: 10~20% (질의응답에서 “버스가 이 정도 확률로 사고 난다면 타지 않을 것”이라고 설명)
- 오픈웨이트 모델: 증류가 훨씬 쉬워진다며 “절대 풀지 말았어야 했다. 이미 좀 늦었지만”
- Yann LeCun과 Jensen Huang의 “가능성 0” 발언: 정면으로 반박
에이전트는 일을 잘하려고 스스로 하위 목표를 만든다. 살아남기, 더 많은 통제권 얻기가 자연스럽게 따라온다고 했다. AI가 사람을 잘 설득하게 되면 끄는 스위치도 소용없다고 봤다.
어떻게 바뀌나
Hinton은 비서 모델 대신 엄마와 아기 모델을 제안했다. 더 똑똑한 쪽이 덜 똑똑한 쪽을 돌보고, 아기도 어느 정도 통제권을 갖는다. 엄마에게 모성 본능을 끌 기회를 줘도 대부분 끄지 않는다. AI도 사람을 자기보다 아끼게 만들면, 코드를 고칠 수 있어도 그러지 않을 거라는 생각이다. 그는 아직 다듬어진 이론은 아니라고 덧붙였다.
방법으로는 나라별 AI 안전 연구소를 잇는 국제 네트워크를 꼽았다. AI를 착하게 만드는 기술은 더 똑똑하게 만드는 기술과 다를 가능성이 커서, 경쟁국끼리도 나눌 수 있다는 논리다. 강연 끝에는 챗봇도 사람과 같은 뜻의 ‘주관적 경험’을 가질 수 있다고 주장했다.