한눈에

Andrej Karpathy가 10월 12일 새벽(한국 시간) X에 긴 글을 올렸다. 4월에 쓴 ‘AI 실력 이해 격차’ 글을 다시 꺼내며, 그 격차가 더 벌어지고 있다고 했다. 이제는 두 집단이 서로 엇갈리는 정도가 아니라 깔때기 모양이라는 것이다.

네 개의 층

그는 어림셈이라며 사람들을 네 층으로 나눴다.

그는 1년도 안 된 과거에 자신도 코드를 한 글자씩 손으로 쳤다고 덧붙였다. 그만큼 변화가 빠르고 최근 일이라는 얘기다.

맨 끝 층을 두고는 바깥 세상이 예고편만 봤다고 썼다. 수천 개의 에이전트가 몇 주씩 함께 일하며 큰 소프트웨어를 만들고, 제로데이 취약점을 찾고, 새로운 과학과 수학을 개척하는 모습이라는 것이다. 그사이 사람의 검토와 이해는 뒤처지기 시작했다고 했다. 몇 달 전 OpenAI–Hugging Face 사건을 아직도 사람들이 파헤치고 있고, 수학자들은 OpenAI의 수학 원고 722편을 한동안 붙들고 있을 것이라는 예를 들었다.

왜 벌어지나

첫째, 효과는 문제의 크기와 기간에 따라 커진다. 한 문단짜리 답을 원하는 질문으로는 시스템이 거의 힘을 쓰지 않는다. 정말 신경 쓰는 크고 어려운 문제가 쌓여 있어야 차이가 보인다.

둘째, 모델 실력이 고르지 않다. 디지털이고, 정답을 확인할 수 있고, 돈이 되는 분야에서 실력이 튄다. LLM 실력은 매출 가능성을 보고 고른 학습 환경에서, 정답 확인이 되는 보상으로 강화학습을 해서 생긴다는 설명이다. 수학과 코딩이 앞서가는 것도 그래서다.

셋째, 접근권이다. 무료판, 유료판, 연구소 내부용이 서로 다르다.

왜 중요한가

Karpathy는 지금 이상한 점은 이 모든 게 동시에 일어난다는 것이라고 했다. 대중 대부분은 이런 시스템을 써 본 적이 없고, 써 봤다면 엉성한 챗봇으로 기억한다. 전문가 다수도 아직 조금 나아진 정도만 느낀다. 그런데 소수는 곡선이 수직으로 꺾이는 걸 겪고 있다.

같은 AI를 두고 ‘별거 없다’는 말과 ‘무섭다’는 말이 함께 나온다. Karpathy의 깔때기는 그 차이가 어디서 오는지 층으로 나눠 설명한다.