한눈에

Terence Tao 블로그에 Thomas Hales의 게스트 글이 올라왔다. Hales는 케플러 추측을 증명하고, 그 형식 증명 작업까지 이끈 수학자다. 이번 글은 수학자들이 쓰는 증명 검증기 Lean을 얼마나 믿어도 되는지를 다룬다.

그는 AI가 논문을 읽고 Lean 증명을 써내는 자동 형식화가 2026년에 현실이 됐다고 썼다. 예로 9월 4일 Anthropic이 발표한 페르마의 마지막 정리 형식화를 들었다. 11일 동안 Lean 코드 1,300만 줄이 나왔다.

‘건전성 버그의 여름’

Lean은 마지막에 작은 핵심부(커널)가 증명을 검사한다. 커널에 버그가 있으면 틀린 증명도 통과한다. 이런 버그를 건전성 버그라고 부른다.

올해 7~8월 Lean 커널에서 이런 버그가 여럿 나왔다. 하나는 콜라츠 추측을 엉터리로 반증하게 만들었다. 버그를 찾은 건 보안 연구자들이 쓴 최첨단 AI였다. OpenAI의 Dan Selsam도 사이버 보안용 AI로 Lean 팀을 도왔다. 버그는 모두 고쳐졌고, Hales는 이걸 오히려 좋은 신호로 봤다.

그는 Joachim Breitner가 만든 검증된 검사기 Con-Leche를 Lean 역사의 가장 중요한 이정표 중 하나로 꼽았다. 코드와 증명은 Claude가 썼다.

왜 중요한가

Hales는 Lean의 이론적 토대가 아직 기대에 못 미친다고 봤다. 그가 아는 한 2026년 10월 현재, Lean 타입 이론 전체가 집합론에 비해 모순이 없다는 완전한 공개 증명은 없다.

그는 Ken Thompson의 “신뢰에 대한 신뢰” 문제도 꺼냈다. 올여름 AI가 버그를 쓸어 담을 때, 사람이 찾기 힘든 뒷문을 남겼는지 어떻게 확인하느냐는 질문이다.

어떻게 바뀌나

Hales의 결론은 사람의 감사다. 지난 1년간 수학 기초에 관한 작업이 AI에 많이 넘어갔는데, 사람이 꼼꼼히 확인하지 않으면 위험하다고 썼다. 그는 타입 이론 연구자들이 Lean 기초 연구에 더 참여해야 한다고 요청했다.