한눈에
테렌스 타오 블로그에 또 손님 글이 실렸다. 이번엔 수학·AI 자문단(AGMAI)이 썼다. 주제는 AI 회사가 수학 결과를 공개하는 방식이다.
지금까지 몇몇 AI 회사는 결과를 특정 수학자에게 먼저 넘겼다. 그 수학자가 내용을 확인하고 정리해서 세상에 소개했다. AGMAI는 이 방식을 그만두라고 권했다.
왜 중요한가
AGMAI는 먼저 이 점을 분명히 했다. 그 역할을 맡은 수학자들을 비판하려는 게 아니다. 그들은 선의로 좋은 일을 했다. 문제는 방식이다.
- 먼저 본 사람만 앞서간다. 몇 년씩 그 문제를 판 다른 수학자는 뒤처진다
- 누가 결과를 정리할지를 회사가 정한다. 수학계가 스스로 정할 권리를 잃는다
- 선정 기준이 회사 인맥과 이해관계를 따른다. 밖에서 확인할 길도 없다
- 수학자의 이름이 회사를 비판에서 막아 주는 방패가 된다
- 애초에 필요 없다. 공개만 하면 수학자들이 알아서 읽고 논문을 쓰고 있다
어떻게 바뀌나
AGMAI가 제안한 대안은 이렇다. 결과는 회사가 통제하지 않는 공개 저장소에 올린다. 모델 이름, 프롬프트, 사고 과정, 시도 횟수, 쓴 컴퓨트와 비용을 같이 밝힌다. 가능하면 증명 검증 도구 Lean으로 확인한다.
어떤 문제를 골랐고 몇 개를 시도했는지도 밝혀야 한다. 결과를 이해하는 연구는 회사가 돈을 대되, 어디에 줄지는 독립 비영리 기관이 정하라고 했다.
OpenAI의 수학 원고 722편 공개 이후, 수학계가 규칙을 직접 세우는 흐름이 이어지고 있다.