한눈에

테렌스 타오 블로그에 또 손님 글이 실렸다. 이번엔 수학·AI 자문단(AGMAI)이 썼다. 주제는 AI 회사가 수학 결과를 공개하는 방식이다.

지금까지 몇몇 AI 회사는 결과를 특정 수학자에게 먼저 넘겼다. 그 수학자가 내용을 확인하고 정리해서 세상에 소개했다. AGMAI는 이 방식을 그만두라고 권했다.

왜 중요한가

AGMAI는 먼저 이 점을 분명히 했다. 그 역할을 맡은 수학자들을 비판하려는 게 아니다. 그들은 선의로 좋은 일을 했다. 문제는 방식이다.

어떻게 바뀌나

AGMAI가 제안한 대안은 이렇다. 결과는 회사가 통제하지 않는 공개 저장소에 올린다. 모델 이름, 프롬프트, 사고 과정, 시도 횟수, 쓴 컴퓨트와 비용을 같이 밝힌다. 가능하면 증명 검증 도구 Lean으로 확인한다.

어떤 문제를 골랐고 몇 개를 시도했는지도 밝혀야 한다. 결과를 이해하는 연구는 회사가 돈을 대되, 어디에 줄지는 독립 비영리 기관이 정하라고 했다.

OpenAI의 수학 원고 722편 공개 이후, 수학계가 규칙을 직접 세우는 흐름이 이어지고 있다.