OpenAI 나비에 스토크스 증명 정리: 밀레니엄 문제와 공적 논란

OpenAI 나비에 스토크스 증명은 3차원 유체 방정식이 유한 시간 안에 특이점을 만들 수 있음을 보인 결과입니다. 2026년 9월 8일 OpenAI가 공개했고, 밖에 내놓지 않은 내부 모델을 쓴 에이전트 약 1만 개가 약 88시간 만에 도달했습니다.

AI가 어려운 수학 문제를 푼다는 소식은 이제 새롭지 않습니다. 올림피아드 수준의 문제를 맞혔다거나 증명의 일부를 거들었다는 이야기는 몇 해째 나오고 있습니다.

덜 알려진 쪽은 이번 결과가 나온 경위입니다. 같은 문제를 1년 가까이 붙잡고 있던 수학자 두 사람이 있었고, 그중 한 사람은 연구 과정을 주로 OpenAI의 Codex로 진행했습니다. 같은 방향을 먼저 걷던 쪽과 뒤늦게 대규모 자원을 몰고 들어간 쪽이 12시간 사이로 각자 발표하면서 논란이 시작됐습니다. OpenAI 공식 발표문과 관련 보도를 근거로 2026년 9월 10일 기준으로 정리하겠습니다.

OpenAI가 공개한 증명의 내용

발표된 내용은 다음과 같습니다.

특이점(singularity)이라는 말부터 풀고 가겠습니다. 쉽게 말하면 유체의 속도가 유한한 시간 안에 끝없이 커지는 상태입니다. 실제 물은 그렇게 움직이지 않으므로, 이런 상태가 나타난다는 것은 방정식이 유체를 설명하는 방식이 그 지점에서 무너진다는 뜻입니다.

밀레니엄 문제의 공식 문안은 네 가지로 나뉩니다. A와 B는 해가 언제나 매끄럽다는 증명을, C와 D는 그렇지 않다는 반증을 가리킵니다. OpenAI가 세운 것은 뒤쪽인 반증입니다. 위 이미지의 소용돌이가 그 해입니다. 안쪽으로 말려 들어가면서 국수 가락처럼 길게 늘어나고, 가운데가 좁아지는 만큼 빨라지지만 에너지 총량은 유한하게 유지됩니다.

기술적으로 까다로운 대목은 이 무너짐이 유체 자신의 움직임에서 나와야 한다는 조건입니다. 바깥에서 무한한 힘을 밀어 넣으면 답이 되지 않습니다. 가속도와 압력 기울기, 운동량 전달, 점성이 모두 커지면서 정확하게 상쇄돼야 하고, 그러는 동안 바깥 힘은 매끄럽게 남아 있어야 합니다.

88시간을 만든 조건

88시간이라는 숫자만 보면 모델 하나가 문제를 받아 곧장 답을 낸 것처럼 보입니다. 공개된 과정은 그렇지 않습니다.

OpenAI는 9월 1일에 밀레니엄 문제 두 개가 풀렸다는 소문을 듣고, 남은 밀레니엄 문제 전부와 영향이 큰 몇 가지에 내부 모델을 붙였습니다. 에이전트들은 저장해 둔 인터넷 사본을 읽고 코드를 실행할 수 있었고, 여러 묶음으로 나뉘어 각자 다른 문제 서술을 받았습니다.

먼저 풀린 것은 나비에 스토크스가 아니라 오일러 방정식이었습니다. 점성 항을 없앤 방정식인데, 에이전트 약 100개가 50시간쯤 협업해 바깥 힘이 없는 경우를 해결했습니다. 이 결과를 본 뒤 다른 문제에 붙어 있던 자원을 나비에 스토크스로 돌렸고, 새로 합류한 에이전트들에게 오일러 해법을 함께 넣어 줬습니다.

묶음마다 다른 접근을 시도하게 두다가 Codex로 각 묶음의 쓸 만한 중간 결과를 모아 다시 나눠 주는 과정도 있었습니다. 해를 찾은 묶음도 그렇게 방향을 받았습니다. 문제를 던져 놓고 기다린 것이 아니라, 자원 배분과 힌트 전달을 사람이 계속 조정한 결과에 가깝습니다.

비용 역시 이 결과를 만든 조건입니다. OpenAI 임원진은 기자 설명에서 이번 작업에 든 계산 비용을 수백만 달러 규모라고 밝혔습니다. 한 기술 매체는 일주일간 쓴 출력 토큰 3,000억 개를 현재 아스트라 요금으로 환산해 2,250만 달러어치로 추산했는데, 이쪽은 공개 단가를 적용한 계산이라 실제 원가와는 다를 수 있습니다.

같은 길을 걷던 두 사람

OpenAI 발표 약 12시간 전에 다른 발표가 있었습니다. NYU 수학과 교수 Tristan Buckmaster와 Levent Alpöge가 관련 문제 세 가지에서 유한한 시간 안에 무너짐이 생긴다는 것을 증명했다고 공개한 것입니다. 비압축 다공성 매질, 부시네스크, 그리고 3차원 비압축 오일러 방정식이었습니다.

두 사람은 이 문제를 1년 가까이 붙잡고 있었고, OpenAI와 앤트로픽의 공개 모델을 섞어 썼습니다. 주로 쓴 것은 OpenAI의 Codex였습니다. Alpöge는 앤트로픽 소속이지만 회사 업무로 이 연구를 한 것은 아니었습니다.

어느 길로 갔는지가 논란의 핵심입니다. 매끄러운 힘을 써서 클레이 문제의 C와 D로 가는 경로는 마드리드의 Diego Córdoba와 Luis Martínez-Zoroa가 처음 낸 길입니다. Martínez-Zoroa가 2021년 박사 논문에서 컴퓨터 계산에 기대지 않는 해석적 기법을 세웠고, 두 사람은 2023년에 이 방식으로 성과를 냈습니다. 이 분야에서는 컴퓨터로 시뮬레이션한 뒤 오차를 따져 증명하는 쪽이 주류였으니 흔치 않은 선택이었습니다.

Buckmaster는 성명에서 그 길을 두고 이렇게 적었습니다.

“

내가 아는 한 다른 누구도 그쪽으로 가고 있지 않았습니다. 모델에 문제 서술만 주고 며칠 만에 도달하는 방향이 아닙니다.

클레이 문제 서술을 쓴 프린스턴의 Charles Fefferman은 이번 일의 주인공으로 Córdoba와 Martínez-Zoroa를 꼽았습니다. Buckmaster도 성명에서 Martínez-Zoroa가 필즈상을 받을 만하다고 적었습니다. 두 발표 모두 같은 사람들이 낸 길 위에 있었습니다.

공적 논란의 쟁점

논란은 세 가지로 나뉩니다. 양쪽 주장을 나란히 놓으면 이렇습니다.

착수 시점은 양쪽 설명이 거의 겹칩니다. OpenAI 발표문도 소문을 듣고 9월 1일에 시작했다고 적었고, 그 소문이 두 사람과 관련된 것임을 나중에 알았다고 밝혔습니다.

설명이 달라지는 곳은 두 번째 쟁점입니다. OpenAI는 문제를 풀기 위해 어떤 사용자 데이터도 뒤지지 않았다고 밝혔습니다. 다만 같은 발표문에서 두 사람의 제품 사용에서 나온 비식별 데이터가 모델 개선에 도움이 됐을 가능성은 배제할 수 없다고 적었습니다. OpenAI는 가능성이 낮다는 단서를 달았고, 오일러 쪽은 바깥 힘이 있는 경우와 없는 경우로 결과 자체가 다르다는 점도 함께 들었습니다.

세 번째 쟁점에서 대화 내용이 공개됐습니다. Buckmaster는 9월 7일에 4쪽짜리 성명을 내면서 OpenAI 측과 주고받은 내용을 함께 적었습니다. 공동 논문을 쓰되 앤트로픽 소속인 Alpöge를 저자에서 빼자는 제안을 받았고, 이 문제를 공개하겠다고 하자 상대가 왜 경력을 망치려 하느냐고 되물었다는 내용입니다. OpenAI 최고연구책임자는 기자 설명에서 이런 의혹 제기가 실망스럽다고 답했습니다. 어느 쪽 서술이 맞는지는 현재 공개된 자료만으로 가리기 어렵습니다.

AI 도구에 넣은 미공개 작업은 어디까지 남을까요?

이 논란에서 실무와 바로 닿는 대목은 두 번째 쟁점입니다. Buckmaster가 문제 삼은 것은 자신들이 Codex에 남긴 기록이 학습에 쓰였을 가능성이었습니다.

OpenAI는 Codex 상호작용을 모델 학습에 쓸 권리를 약관에 두면서, 사용자가 이 설정을 끌 수 있게 해 두었습니다. 끄지 않으면 기본값이 그대로 적용됩니다. 이번 일에서 그 데이터가 실제로 쓰였는지는 확인되지 않았지만, 설정을 확인하지 않은 채 미공개 작업을 넣으면 어떤 질문이 남는지는 분명해졌습니다.

미공개 연구나 계약 전 제안서, 아직 내지 않은 사업 계획을 AI 도구로 다루는 경우라면 순서는 이렇습니다.

• 학습 이용 설정을 먼저 확인합니다. 도구마다 위치가 다르고, 개인 요금제와 업무용 요금제의 기본값도 다른 경우가 많습니다.
• 업무용 계정과 개인 계정을 나눕니다. 기업용 요금제는 대체로 학습 이용을 기본으로 하지 않지만, 조건은 요금제마다 확인해야 합니다.
• 무엇을 넣었는지 기록해 둡니다. 나중에 문제를 제기할 때 근거가 되는 것은 결국 언제 무엇을 어느 도구에 넣었는지입니다.

이번 일이 눈에 띄는 이유는 먼저 발표한 쪽이 공적을 가져가는 종류의 작업이었기 때문입니다. 취약점 제보나 특허 출원 준비도 성격이 같아서, 어디에 무엇을 넣어 두었는지가 뒤늦게 문제가 될 수 있습니다.

클레이 연구소 표시는 아직 미해결

Lean 형식화 검증을 통과했다는 말이 최종 확정을 뜻하지는 않습니다.

클레이 수학연구소의 공식 문제 페이지는 2026년 9월 10일 기준으로 이 문제를 여전히 미해결로 표시하고 있습니다. 연구소 규정상 상금은 증명이 동료 검토를 거치는 학술지에 실린 뒤 2년이 지나고, 그동안 수학계가 결과를 받아들였을 때에야 대상이 됩니다. 발표 이틀 만에 표시가 바뀌지 않는 것은 정해진 절차대로입니다. OpenAI도 상금을 청구할 뜻이 없다고 밝혔습니다.

Lean 검증이 확인해 주는 범위도 정확히 알아 둘 필요가 있습니다. Lean은 증명의 논리 전개에 빈틈이 없는지를 기계가 확인하는 도구입니다. 전개가 맞다는 것과 원래 질문을 제대로 옮겨 적었는지는 서로 다른 이야기이고, 뒤쪽은 사람이 봐야 합니다. 발표 직후 나온 수학자들의 평가도 앞으로 검토를 통과하는 경우를 전제로 삼고 있었습니다.

수학계에서는 다른 걱정도 함께 나왔습니다. 이런 규모의 계산 자원을 쓸 수 있는 곳이 몇 되지 않는다는 점, 그리고 어려운 문제를 푸는 과정에서 나오던 실패와 우회가 수학을 밀고 가는 동력이었다는 점입니다. 브라운대의 한 연구자도 그런 자원을 가진 수학자는 극히 드물다고 말했습니다.

이 증명이 실제 유체 계산을 바꾸나요?

바로 바뀌는 것은 없습니다. 나비에 스토크스 방정식은 유체를 분자가 아니라 연속된 물질로 놓고 다루는데, 실제 물과 공기는 분자로 되어 있어 무한히 잘게 나눌 수 있는 대상이 아닙니다. 특이점은 그 이상적인 가정 안에서만 나타나는 현상이라 항공기 설계나 일기 예보의 계산 방식이 달라지지는 않습니다. 의미는 다른 곳에 있습니다. 뉴턴의 운동 제2법칙처럼 단순해 보이는 출발점에서도 유체를 다루면 예상 밖의 결과가 나온다는 점을 보여 준 것이고, 난류를 이해하는 이론 쪽에 영향을 줍니다.

AI가 냈다는 증명은 어떻게 확인하면 되나요?

두 가지를 나눠서 봅니다. 하나는 형식 검증 통과 여부입니다. Lean 같은 도구로 확인했다면 논리 전개에 빈틈이 없다는 뜻이고, 이 부분은 기계가 판정하므로 비교적 확실합니다. 다른 하나는 학계 검토입니다. 문제를 제대로 옮겼는지, 증명이 주장하는 범위가 원래 문제의 범위와 같은지는 사람이 봐야 하고 시간이 걸립니다. 공개 직후에 나오는 소식은 대체로 앞쪽만 통과한 상태입니다. 상금이 걸린 문제라면 해당 기관의 공식 페이지에서 표시가 바뀌었는지 확인하는 것이 가장 간단한 방법입니다.

3줄 요약:

• OpenAI 나비에 스토크스 증명은 3차원 유체 방정식이 유한 시간 안에 특이점을 만들 수 있음을 보인 결과이고, 공개되지 않은 내부 모델을 쓴 에이전트 약 1만 개가 2026년 9월 5일에 도달했습니다.
• 나비에 스토크스 한 문제에만 메시지 270만 통과 출력 토큰 약 1,300억 개가 들었고, Lean 형식화 검증에 GPT-6 아스트라로 17시간이 더 걸렸습니다.
• 같은 경로를 1년 가까이 연구하던 NYU의 Tristan Buckmaster와 Levent Alpöge가 공적 문제를 제기했고, 클레이 수학연구소 공식 페이지는 2026년 9월 10일 기준으로 이 문제를 여전히 미해결로 표시하고 있습니다.

Sources:

• On the Navier-Stokes Millennium Prize Problem (OpenAI)
• Navier-Stokes Equation 공식 문제 페이지 (Clay Mathematics Institute)
• Rules for the Millennium Prize Problems (Clay Mathematics Institute)