OpenAI 수학 자문단 AGMAI 이해하기: 조언과 결정 권한의 차이

AGMAI(Advisory Group on Mathematics and Artificial Intelligence)는 AI 기업에 수학 연구와 결과 공개 방식을 조언하는 독립 기구입니다. 미국 프린스턴의 고등연구소(IAS)에 기반을 두며, OpenAI는 2026년 9월 21일 이 기구와 협력한다고 발표했습니다.

여기서 자문은 전문 지식을 바탕으로 의견을 주는 일입니다. AGMAI가 의견을 냈다는 사실과 OpenAI가 그 의견을 따르도록 강제할 수 있다는 주장은 다릅니다. 이 글은 그 차이를 먼저 연습하고 10월 4일 기준의 후속 변화를 살펴봅니다. AGMAI 소개, OpenAI 발표

첫 연습: 자문과 결정 구분하기

다음은 역할을 이해하기 위한 가상 문장입니다. 현재 공개된 권한 설명에 맞는 것을 고릅니다.

조언하는 사람과 최종 결정하는 사람을 나눠 적으면 됩니다. 예를 들어 보고서 검토자가 보완을 권고해도, 실제 수정과 발송은 담당자와 승인자의 행동으로 확인해야 합니다. 자문단 구성 소식도 같은 방식으로 읽을 수 있습니다.

왜 이런 자문단이 나왔나요?

나비에 스토크스는 물이나 공기의 흐름을 다루는 방정식이며, 그 해의 성질에 관한 문제가 수학 난제로 연구돼 왔습니다. 9월 8일 발표의 조건과 검증 단계는 나비에 스토크스 발표 읽기에서 따로 설명합니다.

OpenAI는 9월 21일 발표에서 같은 내부 모델이 오래된 미해결 문제 100건 이상을 해결했다고 주장했습니다. 이 숫자는 회사 발표이며, 학계가 100건 모두를 독립적으로 검토했다는 뜻은 아닙니다. 회사는 성과를 어떻게 평가하고 알릴지 수학계의 조언을 받겠다고 설명했습니다. 발표 원문

수학자 선언은 AI 자체에 반대한 것인가요?

9월 11일 선언의 제목은 A Severe Misalignment of AI in Mathematics입니다. 여기서 misalignment는 AI 기업이 추구하는 성과와 수학 연구의 목적이 서로 어긋난다는 뜻입니다. 필즈메달은 수학 연구 성과를 기리는 상이며, 선언 페이지에는 그 수상자들의 이름이 표시돼 있습니다.

사진의 명단은 27명입니다. 10월 4일 현재 선언문에는 필즈메달 수상자 28명이 표시됩니다. 이 명단과 별도로 받는 일반 지지 서명 수를 더하거나 같은 숫자로 설명하면 안 됩니다.

선언은 AI를 전혀 쓰지 말자는 요구가 아닙니다. 정답을 얻는 데서 끝내지 않고, 사람이 새로운 방법을 이해하고 다른 연구에 활용할 수 있어야 한다는 주장입니다. 핵심 우려는 다음과 같습니다.

• 해결한 문제 수만 늘면 새로운 개념과 방법을 이해하는 과정이 부족해질 수 있습니다.
• 빠른 발표 때문에 선행 연구를 인용하고 기여를 구분하는 일이 생략될 수 있습니다.
• 다른 수학자가 설명을 검토하고 가르칠 수 있도록 정리하는 과정이 필요합니다.

예를 들어 AI가 어떤 공식의 답을 출력해도, 사람이 조건과 이유를 설명하지 못하면 조건이 바뀐 새 문제에 활용하기 어렵습니다. 이 예시는 선언의 취지를 학습 상황에 적용한 것이며, AI가 만든 모든 결과가 틀렸다는 뜻은 아닙니다.

자문단의 권한은 어디까지인가요?

OpenAI 발표는 내부 수학 연구의 진행 속도에 관해 자문단이 조언할 책임을 맡지 않는다고 설명합니다. 이는 그 주제에 관한 공개 의견까지 금지한다는 뜻은 아닙니다. 발표문에는 요청받지 않은 의견과 공개 논평의 자유도 적혀 있습니다. 권한 설명

자문단은 AI 기업으로부터 이 업무의 보수를 받지 않으며, 권고를 공개하고 다른 AI 기업에도 조언할 수 있다고 밝힙니다. 다만 독립적으로 의견을 낼 수 있다는 조건이 곧 강제 집행 권한은 아닙니다. 회사의 결정과 책임은 회사에 남습니다. 독립성과 책임에 관한 설명

아홉 명의 구성과 설립 경위

아래는 10월 4일 공식 페이지의 명단입니다. 사람 이름을 외우는 것보다 구성과 권한을 구별해 읽는 것이 먼저입니다.

OpenAI가 일부 구성원에게 외부 자문 기구를 제안했고, 이들이 회사와 합의해 독립 기구를 만들고 다른 구성원을 초대했다고 설명합니다. 위 사진에는 당시 없던 9월 29일 권고안 절이 보이지 않습니다. 현재 문서는 AGMAI 홈페이지에서 확인할 수 있습니다. 설립 당시 설명은 Terence Tao 블로그에 실린 자문단의 기고에도 남아 있습니다.

9월 29일 권고안은 무엇을 요구하나요?

AGMAI는 9월 29일, 600건이 넘는 응답을 참고해 AI가 생성한 수학 결과의 책임 있는 공개 지침을 냈습니다. 응답자가 수학계 전체를 대표하거나 모두 같은 의견이었다고 해석하지 않습니다.

문서는 사람이 내용을 이해하고 책임질 수 있는 논문과, 아직 그런 이해가 없는 AI 결과를 구분합니다. 앞쪽은 기존의 논문 발표와 심사 및 설명 관행을 따르고, 뒤쪽은 사람이 이해할 수 있도록 추가 지원이 필요하다는 취지입니다.

권고에는 선행 연구 인용, 읽을 수 있는 설명, 변경 기록을 남기는 학술 저장소, 사용 모델과 시간 및 계산 비용 공개, 형식화 상태 표시가 포함됩니다. 형식화는 수학적 내용을 기계가 검사할 수 있는 형식으로 옮기는 작업입니다. 많은 결과를 한꺼번에 내면 실패한 시도와 문제 선택 방법도 설명하도록 요구합니다. 기업이 후속 이해를 위한 자금을 지원하되 연구 공동체가 방향을 정해야 한다고 봅니다.

또한 일반 연구자가 접근할 수 없는 독점 모델로 고급 수학 문제를 시험하는 관행에 반대하고 중단을 요청합니다. 이 요구가 문서에 있다는 사실과 기업이 실제로 중단했다는 사실은 구분해야 합니다. 권고는 이행 여부를 확인할 기준이며, 이행 완료 증명서가 아닙니다.

관련 경연 행사도 바뀌었습니다

별개의 Mathathon 행사 역시 논쟁 후 운영 방식을 바꿨습니다. 9월 28일 주최 측과 공개서한 참여자들의 공동 성명은 일정을 11월 13일부터 15일로 안내합니다. 기존의 10월 30일 안내와 다릅니다.

새 주제는 Old Problems, New Proofs, 즉 기존 문제의 새로운 증명과 설명입니다. 어려운 해법을 이해한 뒤 다른 사람들이 이해할 설명을 만드는 데 초점을 두고, 독점 AI 모델 개발사의 후원은 받지 않되 참가자가 그 모델을 쓰는 것은 허용한다고 밝혔습니다. 후원을 받지 않는다는 조건과 도구 사용 금지는 다른 조건입니다.

기계 검증과 사람의 이해를 나눠 봅니다

Lean은 수학적 문장과 증명을 형식에 맞춰 작성하고 검사하는 도구입니다. 사람이 작성하거나 AI가 도운 형식화 모두 어떤 전제와 명제, 즉 참과 거짓을 판단할 문장을 입력했는지 확인해야 합니다. 형식 검증에 통과해도 연구의 중요도, 선행 연구 인용과 사람이 설명할 수 있는지까지 자동 판정되지는 않습니다.

학습에 적용해 봅시다. AI가 매출 20만원 ÷ 광고비 5만원 × 100 = 400%라는 광고비 대비 매출 비율을 계산했다고 가정합니다. 이 값은 이익률이 아닙니다. 계산이 맞는 것과 그 캠페인을 확대해도 된다는 판단은 다릅니다. 반품, 비용과 측정 범위 같은 조건을 더 알아야 하기 때문입니다. 이것은 수학 증명과 광고 분석이 같은 작업이라는 뜻이 아니라, 계산 확인과 후속 판단의 역할이 다르다는 연습입니다.

혼자 다시 읽는 연습

가상 회사가 “독립 자문단의 권고를 받아 AI 보고서 100개를 공개했다”고 발표했다고 가정합니다. 다음 세 가지를 메모합니다.

1. 권고 원문에서 자문단의 결정 권한과 책임 범위를 찾습니다.
2. 보고서별 검증 자료와 설명을 확인합니다.
3. 회사가 어떤 권고를 실제로 이행했는지 대조합니다.

기사에 ‘독립 자문단’이라는 이름만 있으면 2번과 3번은 아직 확인하지 못한 상태입니다. 보고서 100개 중 5개의 검증 자료만 찾았다면 “5개 자료를 확인했으며 나머지 95개는 확인하지 못했다”고 적습니다. 100개 전체가 검증됐다고 바꾸지 않습니다. 반대로 회사의 이행 자료를 찾았다면 그 자료의 날짜와 적용 범위까지 적습니다. 권고, 검증과 실행을 각각 다른 근거로 설명할 수 있으면 이 글의 구분을 다른 AI 발표에도 적용할 수 있습니다.

3줄 요약

1. AGMAI는 AI 기업에 수학 연구와 결과 공개를 조언하는 아홉 명의 독립 기구로, 기업의 결정 권한을 갖지는 않습니다.

2. 9월 11일 수학자 선언은 문제 해결 건수보다 이해와 선행 연구의 기여를 중시하며, 10월 4일 페이지에는 필즈메달 수상자 28명이 표시됩니다.

3. 9월 29일 AGMAI 권고안은 연구 결과의 책임 있는 공개와 사람의 이해를 위한 지원을 요구했으며, 권고의 발표와 기업의 이행은 별도로 확인해야 합니다.