한눈에
강화학습 연구자 리처드 서튼이 기술적 특이점을 담담하게 보는 이유를 밝혔다. 50년 넘게 그것이 오는 것을 봐 왔기 때문이라고 했다.
근거로 1975년, 17살 때 쓴 글을 올렸다.
17살의 서튼이 쓴 것
인간이 문제를 푸는 기계를 도우려면 먼저 그것을 이해해야 한다. 지금은 이해가 아주 부족하다.
뇌를 이해하는 돌파구가 오면 발전은 기하급수로 빨라진다.
인간보다 똑똑한 지능이 생기면 그 지능은 자기보다 더 똑똑한 지능을 만든다. 지능 수준은 몇 년 안에 치솟는다.
그러면 인간은 이해할 수 없는 지능에 뒤처지거나, 스스로 그 지능이 된다.
왜 중요한가
서튼은 튜링상을 받은 강화학습의 대표 연구자다. 그는 AI가 인간을 넘는 일을 피할 수 없고 크게 두려워할 일도 아니라는 입장을 이어 왔다.
이번 글은 그 입장이 최근의 AI 붐에서 나온 것이 아니라는 점을 보여 준다.