한눈에
어제 브리프에 실린 카탑 팀의 ‘가중치 공간 프로그래밍’ 글을 사이먼 윌리슨이 따라 해 봤다.
원래 실험에서 GPT-6 Astra는 작은 신경망의 가중치 숫자만 보고 어떤 게임을 배웠는지 맞혔다. 브레이크아웃, 퐁, 팩맨, 프리웨이 중 하나다.
왜 중요한가
윌리슨의 노트북에서 돌린 Qwen 3.8 27B도 같은 문제를 풀었다. 오픈 웨이트 중형 모델도 이 정도는 한다는 얘기다.
논문에는 반론도 붙었다. spaCy 개발자 매슈 호니벌은 두 주제를 섞어 오해를 부른다고 했다. 션 고데키는 Qwen 수학 성능을 고친 사례가 사람 ML 연구자가 밟는 단계와 같다고 분석했다.
어떻게 바뀌나
윌리슨은 질문을 둘로 나눈다. 도구 없이 가중치를 이해하는 능력, 그리고 코드를 써서 다른 모델을 고치는 능력이다.
그는 앞쪽이 더 흥미롭다고 봤다. 실험 프롬프트는 저자들의 GitHub 저장소에 공개돼 있어 누구나 재현해 볼 수 있다.