한눈에
샘 올트먼이 짧은 글을 올렸다. 첫 줄은 “사람은 언제나 미래를 통제해야 한다”다.
초지능에 미래의 통제권을 넘기면 안 되고, 이 조건이 AI 발전을 제약해야 한다고 했다.
왜 중요한가
올트먼은 “AI가 보상할 만하다고 여기는 일을 사람이 하는” 역할로 밀려나는 걸 받아들일 수 없다고 했다. 인용 부호를 단 걸 보면 누군가의 주장을 겨냥한 글로 보인다.
가장 빨리 달리는 회사의 대표가 속도에 조건을 걸었다는 점이 크다.
프랑수아 숄레도 곧바로 동의했다. 그는 “AI가 사람 손의 도구로 남는 미래만 만들 가치가 있다”고 썼다.
어떻게 바뀌나
아직은 선언이다. 구체적인 정책이나 제품 변화는 함께 나오지 않았다.
대신 기준이 하나 생겼다. 앞으로 OpenAI의 출시와 안전 결정을 이 말과 맞춰 볼 수 있다.