오픈AI(OpenAI) 수학 논문 722편: 리만 가설(Riemann Hypothesis)과 밀레니엄 문제 진척 범위

오픈AI(OpenAI)는 2026년 10월 6일 미국 동부 시간 오후 6시에 openai/math라는 GitHub 저장소에 수학 원고 722편을 올렸습니다. 회사가 공개하지 않은 내부 모델이 만든 결과이고, 관련된 원고끼리 묶으면 372개 결과가 됩니다. 한 달 전 나비에 스토크스 문제 해법을 발표한 뒤 나온 두 번째 대규모 공개이며, 회사는 같은 날 발표문도 올렸습니다.

국내 기사에는 "리만 가설까지"라는 제목이 붙었습니다. 결론부터 적으면 리만 가설은 증명되지 않았습니다. 이번 저장소에는 리만 가설, 호지 추측, BSD 추측이라는 세 밀레니엄 문제와 관련된 결과가 들어 있지만, 셋 모두 원래 문제보다 좁은 범위의 주장입니다. 이 글은 저장소 원문을 기준으로 무엇을 주장했는지, 어디까지 검증됐는지, 수학계가 무엇을 문제 삼는지 나눠 정리합니다. 수치는 2026년 10월 7일 확인한 저장소 기준입니다.

공개된 자료의 규모

밀레니엄 문제(Millennium Prize Problems)는 미국 클레이 수학연구소가 2000년에 선정한 일곱 개의 수학 난제입니다. 문제마다 100만 달러의 상금이 걸려 있고, 지금까지 사람이 해결해 인정받은 문제는 푸앵카레 추측 하나입니다. 오픈AI는 9월 8일 나비에 스토크스 문제를 해결했다고 발표했으므로, 남은 다섯 문제 가운데 무엇이 다음 대상인지 관심이 쏠려 있었습니다.

이번 공개는 한 문제에 계산을 집중한 지난달과 달리 수백 개 문제를 한꺼번에 다룹니다. 저장소의 README와 발표문에 적힌 숫자는 다음과 같습니다.

4,000개 문제에서 372개 묶음이 나왔다고 해서 성공률이 9%라는 뜻은 아닙니다. 오픈AI는 결과를 묶고 일정 수준의 중요도를 넘는 것만 남겼다고 설명했을 뿐, 시도별 성공률은 공개하지 않았습니다. "논문 722편"을 "난제 722개 해결"로 읽어서도 안 됩니다. 722는 원고 수이고, 같은 결과를 다룬 보조 논문과 다른 증명이 함께 세어진 숫자입니다.

저장소의 README는 대부분의 결과를 같은 절차로 얻었다고 적으면서 두 가지 예외를 밝힙니다. 리만 제타 함수의 영점 없는 영역에 관한 작업과 CM 아벨 다양체의 호지 추측 증명은 정해진 절차 밖에서 나왔고, 제타 함수 관련 원고 가운데 하나는 사람이 읽기 쉽게 문장을 다듬었습니다. 이번 공개에서 가장 주목받는 두 결과가 바로 예외에 해당합니다.

리만 가설: 7/8 선까지 밀어낸 준 리만 가설

리만 가설은 1859년 베른하르트 리만이 제기한 문제로, 소수가 어떻게 분포하는지와 깊이 연결돼 있습니다. 리만 제타 함수라는 함수의 값이 0이 되는 지점을 영점이라고 하는데, 리만 가설은 이 가운데 자명하지 않은 영점, 즉 음의 짝수에서 생기는 뻔한 영점을 뺀 나머지가 모두 복소평면에서 실수부가 1/2인 한 직선 위에 있다는 주장입니다. 자명하지 않은 영점이 실수부 0과 1 사이의 띠 안에 있다는 사실은 오래전에 증명됐지만, 띠를 1/2 한 줄로 좁히는 일은 지금까지 아무도 하지 못했습니다.

저장소 003번 결과의 제목은 The quasi-Riemann hypothesis, 즉 준 리만 가설입니다. 카탈로그는 제타 함수를 포함한 모든 디리클레 L 함수가 실수부 7/8보다 큰 영역에서 0이 되지 않는다고 적습니다. 디리클레 L 함수는 제타 함수와 같은 종류의 함수를 일정한 규칙으로 변형한 것입니다. 이런 함수의 영점은 1/2 선을 기준으로 좌우 대칭으로 나타나므로, 이 주장이 맞으면 영점은 실수부 1/8과 7/8 사이의 띠 안에 갇힙니다.

1보다 작은 고정된 값 오른쪽에 영점이 없다는 준 리만 가설은 그 자체로 오래 풀리지 않은 문제였습니다. 그래서 수학자들이 이 결과에 주목합니다. 그렇다고 리만 가설이 해결된 것은 아닙니다. 7/8과 1/2 사이에는 여전히 넓은 간격이 있고, 클레이 연구소의 상금 대상은 1/2 직선에 관한 원래 명제입니다.

003번은 Lean 문서가 연결된 결과입니다. Lean은 수학 증명을 컴퓨터가 한 단계씩 검사할 수 있는 형식으로 적는 프로그래밍 언어입니다. 저장소의 Lean 설명에 따르면 형식화된 범위는 7/8 영역에 관한 주요 정리이며 논문 뒤쪽의 응용은 포함하지 않습니다. 별도로 실린 11/12 영역의 다른 증명은 사람이 문장을 다듬은 원고이고 형식화 목록에는 없습니다.

호지 추측과 BSD 추측: 조건이 붙은 결과

나머지 두 밀레니엄 문제에 관한 결과도 범위가 정해져 있습니다.

호지 추측은 방정식으로 정의한 기하학적 도형의 모양 정보가 다시 방정식으로 만든 부분 도형에서 나오는지 묻는 문제입니다. 032번은 그 가운데 CM 아벨 다양체라는 대칭성이 풍부한 특별한 종류에서 증명했다고 적습니다. 일반적인 모든 다양체로 넓힌 주장은 아닙니다.

BSD 추측은 타원곡선이라는 3차 방정식의 유리수 해가 몇 차원으로 퍼져 있는지를 L 함수로 계산할 수 있다는 주장입니다. 002번은 셀머 군이라는 보조 대상의 크기가 작은 경우, 대략 해의 차원이 0이나 1인 경우에 공식 전체를 증명했다고 적습니다. 해의 차원이 큰 타원곡선까지 포함한 일반적인 경우는 여전히 열려 있습니다.

두 결과 모두 10월 7일 기준으로 Lean 문서가 연결돼 있지 않습니다. 사람 전문가가 원고를 읽고 검토하기 전까지는 오픈AI의 주장으로 읽어야 합니다.

밀레니엄 문제 밖에서 주목받는 결과

수학자들 사이에서는 밀레니엄 문제가 아닌 결과도 화제입니다. 아래는 카탈로그에 적힌 주장이며 독립적인 검토를 거친 결론이 아닙니다.

표의 Lean 연결은 결과 묶음에 Lean 설명 문서가 붙어 있는지를 뜻합니다. 묶음에 문서가 있어도 그 묶음의 모든 원고가 형식화됐다는 뜻은 아니므로, 결과마다 형식화된 정리가 무엇인지 따로 읽어야 합니다.

321번 D(2) 문제는 위상수학의 오래된 문제로, 영국 UCL(유니버시티 칼리지 런던)의 프랜시스 존슨 교수가 오래 연구했습니다. 존슨 교수는 뉴사이언티스트에 "이 문제를 25년 동안 연구했고 책을 두 권 썼으며 결국 포기했다"고 말했습니다. AI가 이 정도로 빨리 풀 줄은 몰랐지만 결국 풀 것이라고는 예상했다고도 덧붙였습니다.

검증은 어디까지 됐나요?

이번 공개의 결과는 검증 단계가 서로 다릅니다. README도 "형식화되지 않은 일부 결과에는 문제가 있을 수 있다"고 직접 적었습니다.

Lean 검증을 통과해도 형식화한 명제가 논문의 주장, 나아가 원래 문제와 정확히 같은지는 사람이 따로 대조해야 합니다. 이 차이는 나비에 스토크스 발표 읽기에서 예시와 함께 설명했습니다.

영국 임페리얼 칼리지의 정수론 학자 케빈 버저드는 자신의 분야와 관련된 원고 30편을 살펴봤습니다. 그 가운데 인상적인 결과는 7편이었고, Lean으로 형식화된 것은 1편이었다고 뉴사이언티스트에 밝혔습니다. 나머지 6편은 전문가가 직접 읽어 확인하거나 Lean 형식화가 나올 때까지 기다려야 한다는 설명입니다.

나비에 스토크스 발표와 무엇이 다른가요?

지난달 나비에 스토크스 결과는 약 1만 개의 에이전트가 88시간 동안 동시에 작업해 얻었다고 오픈AI가 발표했습니다. 에이전트는 AI가 도구를 쓰며 맡은 작업을 진행하는 실행 단위입니다. 사이언티픽 아메리칸은 이 작업에 수백만 달러 규모의 계산이 들었다고 전했습니다.

이번에는 결과당 평균 ChatGPT Pro 사고 시간 3시간 분량이라는 숫자가 나왔습니다. 오픈AI 대변인은 사이언티픽 아메리칸에 거의 모든 결과를 에이전트 하나에 프롬프트 하나를 주어 얻었다고 말했고, 일부는 여러 번 시도했을 수 있다고 덧붙였습니다. 이 설명이 사실이고 모델이 공개된다면, 큰 계산 자원이 없는 연구자도 비슷한 수준의 결과를 시도할 수 있다는 뜻이 됩니다.

MIT의 앤드루 서덜랜드는 같은 기사에서 이 설명을 두고 "모델을 공개하고 사람들이 결과를 재현하기 전까지는 미검증 주장으로 다뤄야 한다"며 "영수증을 요구해야 한다"고 말했습니다. 모델이 내부에만 있으므로 외부 연구자는 같은 조건으로 실험을 반복할 수 없습니다.

필즈상 수상자들과 수학 자문단이 문제 삼은 것

국내 보도는 이번 공개에 필즈상 수상자들이 반발했다고 전했습니다. 다만 반발이 나온 시점은 이번 공개보다 앞섭니다. 필즈상 수상자 25명이 처음 서명한 선언문 A Severe Misalignment of AI in Mathematics는 나비에 스토크스 발표 직후인 9월 11일에 나왔습니다. AI 기업이 문제 풀이를 모델 성능 시험으로 쓰는 방식이 수학의 목적과 어긋난다는 내용이며, AI 사용 자체를 금지하자는 요구는 아닙니다. 선언문 원문은 서명자인 테렌스 타오의 블로그에서 읽을 수 있습니다.

이후 오픈AI는 9월 21일 프린스턴 고등연구소(IAS)에 기반을 둔 독립 자문단 AGMAI와 협력한다고 밝혔습니다. AGMAI는 9월 29일 AI가 만든 수학 결과를 공개할 때의 권고안을 냈습니다. 자문단의 성격과 권한은 AGMAI 이해하기에서 따로 정리했습니다. 이번 공개를 권고안과 대조하면 다음과 같습니다.

오픈AI 대변인은 같은 인터뷰에서 권고를 진지하게 받아들이고 최대한 따르려 하지만 회사가 권고에 구속되지는 않는다고 말했습니다. 오픈AI는 발표문에서 AI가 만든 주요 결과를 이해하기 위한 워크숍과 학회, 특별 프로그램에 자금을 대겠다고 밝혔습니다.

수학계의 반응도 한쪽으로 모이지 않습니다. 토론토대의 대니얼 리트는 수학 문제의 답을 알고 싶다면 회사에 그 답을 숨기라고 요구할 이유가 없다며 수학에 좋은 일이 될 것이라고 봤습니다. 반면 케임브리지대의 벤 앨러낙은 결과를 설명하려는 노력 없이 대량으로 쏟아낸 방식을 비판하며, 기계의 풀이를 확인하는 작업은 수학자에게 그다지 매력적이지 않다고 말했습니다.

이 소식을 다시 확인할 때 볼 것

앞으로 몇 주 동안 이 소식은 계속 바뀔 것으로 보입니다. 특정 결과가 "증명됐다"는 기사를 보면 다음 네 가지를 차례로 확인하는 편이 좋습니다.

1. 저장소 번호와 원래 문제의 차이: 카탈로그에서 결과 번호를 찾아, 주장한 범위가 원래 난제와 같은지 봅니다. 003번처럼 이름이 비슷해도 더 약한 명제일 수 있습니다.
2. Lean 형식화 여부: 결과 설명 끝에 Lean 링크가 있는지, 형식화된 정리가 주요 결과인지 확인합니다. 오픈AI는 형식화를 계속 추가하겠다고 했으므로 162라는 숫자는 바뀔 수 있습니다.
3. 독립 검토: 오픈AI 밖의 수학자가 특정 원고를 읽고 공개적으로 평가했는지 봅니다. 회사 발표와 해외 보도의 요약은 독립 검토가 아닙니다.
4. 모델 공개 일정: 결과를 만든 모델이 공개돼야 외부에서 재현할 수 있습니다. 현재는 공개하겠다는 의사만 있고 날짜는 없습니다.

리만 가설에 관해 지금 말할 수 있는 것은 "오픈AI가 7/8 선의 준 리만 가설을 증명했다고 주장했고 그 주요 정리는 Lean으로 형식화됐다"까지입니다. 리만 가설 자체와 호지 추측, BSD 추측은 원래 형태로는 아직 풀리지 않은 문제입니다.