한눈에

Geoffrey Hinton이 10월 23일(현지) 빈 공대(TU Wien)의 ‘Vienna Gödel Lecture’에 섰다. 제목은 “AI는 우리와 닮았나, 그리고 우리를 좋아할까”. 80분짜리 녹화가 TU Wien 유튜브에 올라왔다.

결론은 한 줄이다. AI를 계속 통제하려 하기보다, AI가 사람을 진심으로 아끼게 만드는 연구에 똑똑하게 만드는 만큼 힘을 쏟아야 한다.

왜 중요한가

Hinton은 먼저 LLM이 사람과 비슷하게 말을 이해한다고 했다. 단어를 특징 벡터로 바꾸고, 그 벡터들이 서로 맞물리게 하는 방식이다. 지금 LLM은 그가 1985년에 만든 아주 작은 언어 모델의 후손이라고 했다.

디지털 모델은 지식 공유에서 사람을 압도한다. 같은 모델의 복사본들은 기울기를 주고받아 한 번에 1조 비트쯤 나눈다. 사람은 문장 하나로 100비트 남짓 전한다.

에이전트는 일을 잘하려고 스스로 하위 목표를 만든다. 살아남기, 더 많은 통제권 얻기가 자연스럽게 따라온다고 했다. AI가 사람을 잘 설득하게 되면 끄는 스위치도 소용없다고 봤다.

어떻게 바뀌나

Hinton은 비서 모델 대신 엄마와 아기 모델을 제안했다. 더 똑똑한 쪽이 덜 똑똑한 쪽을 돌보고, 아기도 어느 정도 통제권을 갖는다. 엄마에게 모성 본능을 끌 기회를 줘도 대부분 끄지 않는다. AI도 사람을 자기보다 아끼게 만들면, 코드를 고칠 수 있어도 그러지 않을 거라는 생각이다. 그는 아직 다듬어진 이론은 아니라고 덧붙였다.

방법으로는 나라별 AI 안전 연구소를 잇는 국제 네트워크를 꼽았다. AI를 착하게 만드는 기술은 더 똑똑하게 만드는 기술과 다를 가능성이 커서, 경쟁국끼리도 나눌 수 있다는 논리다. 강연 끝에는 챗봇도 사람과 같은 뜻의 ‘주관적 경험’을 가질 수 있다고 주장했다.