OpenAI의 수학 AI 돌파구: 최신 결과의 의미

2026년 10월 6일, OpenAI가 수학 원고 722편을 GitHub에 공개했습니다. 아직 비공개인 내부 프런티어 모델의 산출물로, 대수학, 정수론, 위상수학, 이론 컴퓨터 과학, 수리논리 등 분야를 가로지르며 불과 몇 주 만에 생산되었습니다. 연구 커뮤니티가 AI 시스템에서 본 적 없는 규모입니다.

이것이 단순한 벤치마크 점수와 왜 결이 다른지 이해하려면, 한 걸음 물러나 볼 필요가 있습니다. 불과 몇 주 전 같은 모델이 나비에–스토크스 밀레니엄 문제를 해결했다고 주장했고, 이에 앞서 8월에는 Astra가 수십 년 묵은 미해결 문제 10개를 하루 만에 휩쓸었습니다. 각 순간마다 고유한 질문들이 제기됐습니다. 하지만 10월 6일 공개는 단지 규모가 아니라 성격 자체가 다릅니다. OpenAI는 722편의 원고를 수학 연구 문헌에 대한 실제 기여로 제시하고 있습니다. 벤치마크 응답도, 대회 해법도 아닙니다.

저는 8월 Astra 공개 이후 OpenAI의 수학 행보를 계속 취재해 왔고, 이번 건은 이전 결과들보다 훨씬 신중한 해설이 필요합니다. 아래에서 AI가 실제로 무엇을 만들어냈는지, 두드러진 결과는 무엇인지, 검증은 실제로 어떻게 진행되는지, 그리고 수학자들이 우려하는 점은 무엇인지 살펴보겠습니다.

OpenAI의 AI는 실제로 무엇을 성취했나?

OpenAI는 비공개 내부 프런티어 모델을 미해결 수학 연구 문제로 향하게 했습니다. 모델은 대회 시험에서 높은 점수를 받은 것이 아니라, 원고 형식의 수학적 논증을 만들어 Lean 증명 형식화와 모델 추론 요약과 함께 GitHub에 제출했습니다.

AMC나 IMO 벤치마크에서 높은 점수를 받는 것은 AI가 기발하게 설계된 대회 문제를 처리할 수 있음을 보여줍니다. 반면, 활발한 연구 영역에서 오랜 미해결 질문을 풀이했다고 주장하는 원고를 생산하는 것은 전혀 다른 차원의 일입니다. 이번 산출물은 수학적 지식에 대한 후보 기여로 제시되고 있습니다. 엄밀한 검증을 견디는지는 별개의 문제이며, 답을 얻는 데는 시간이 걸릴 것입니다.

OpenAI는 몇 개의 수학적 결과를 공개했나?

보도에서 여러 숫자가 보일 텐데, 서로 모순되지 않습니다. 셈하는 대상이 다릅니다.

저장소에는 372개의 결과 계열로 조직된 722편의 원고가 있습니다. 하나의 계열은 관련 논문들을 묶습니다. 주된 결과 옆에 보조 논증, 대안 증명, 이후의 귀결 등을 포함합니다. 그래서 많은 결과가 지원 자료를 동반하기 때문에 372개 계열이 722편의 원고를 낳습니다. “수백 개의 결과”라는 표현은 대략 맞지만, 서로 구별되는 수학적 발견의 보다 정확한 개수는 372입니다.

README는 일부 결과에 문제가 있을 수 있다고 경고하며, OpenAI는 그런 문제가 발견되면 수정하고 Lean 형식화를 계속 추가하겠다고 밝혔습니다. 숫자가 실제 상황보다 더 확정적으로 들릴 수 있으니 이 점을 염두에 두세요.

OpenAI의 AI는 어떤 수학 분야를 다뤘나?

이번 공개는 약 20개 수학 하위 분야를 아우릅니다. 기술 배경은 있지만 수학은 전공이 아닌 독자를 위해 대략적인 지도를 제시합니다.

• 대수학 및 군론은 연산과 그 대칭성으로 이루어진 수학적 구조를 연구합니다. 가장 많이 논의된 결과 일부가 여기에 포함됩니다.
• 정수론은 정수와 소수의 성질을 다룹니다. 소수의 분포를 부호화하는 리만 제타 함수가 여러 결과에서 등장합니다.
• 위상수학은 연속적인 변형에도 보존되는 성질을 연구합니다. 호지 추측(아래에서 더 다룹니다)은 위상수학과 대수기하학의 경계에 놓여 있습니다.
• 이론 컴퓨터 과학은 계산에 관한 근본적인 질문을 던집니다. 무엇을 계산할 수 있는가, 얼마나 효율적으로 가능한가, 어떤 문제는 효율적 알고리즘을 거부하는가. OpenAI의 모델은 이 분야에서만 80편이 넘는 논문을 냈습니다.
• 수리논리는 수학적 추론의 형식적 기초 자체를 다룹니다.

가장 큰 성과는 무엇인가?

여기서는 신중함이 필요합니다. AI가 생성한 결과, Lean으로 점검된 증명, 인간 수학자가 검증한 증명, 그리고 수학 커뮤니티가 독립적으로 주요한 진전으로 인정하는 결과 사이에는 분명한 차이가 있습니다. 이번 공개에는 이 네 범주가 모두 섞여 있습니다.

그렇더라도 몇몇 결과는 독립적인 수학자들에게 진지한 관심을 끌었습니다.

리만 제타 함수: 새로운 영점 부재 영역

리만 가설은 여전히 미해결입니다. OpenAI의 모델은 이를 해결하지 않았습니다. 보도에 따르면 새 영점 부재 영역, 즉 Re(s) > 11/12 범위에 영점이 없음을 보였다고 합니다. 이런 부분적 결과는 해석적 정수론에서 의미가 큽니다. 영점 부재 영역은 소수의 분포를 제약하기 때문입니다. 관련 원고는 가독성을 위해 사람이 편집했으며, 이는 나머지 원고 제작 절차와 달리 주목할 예외입니다. 관련된 준-리만 결과에 대한 독립 재검토는 초기 점검을 통과했습니다.

특성 2에서의 카플란스키 직접 유한성 추측

Irving Kaplansky는 수십 년 전 군환이 직접 유한성이라는 특정 대수적 성질을 갖는다고 추측했습니다. 특성 2의 경우는 특히 난공불락이었습니다. 모델이 이를 해결했다고 보고되었습니다. Lean 형식화는 이용 가능하다고 표기되어 있습니다.

자유군 팩터의 동형성

이는 양자계의 특정 대칭을 부호화하는 함수해석학의 구조인 폰 노이만 대수를 다룹니다. 자유군 팩터가 모두 동형인지에 대한 질문은 수십 년간 열려 있었습니다. 모델은 de la Harpe와 Voiculescu의 추측을 해결했다고 주장하며, genus ≥ 2인 폐곡면의 기본군에 대한 폰 노이만 대수가 자유군 팩터임을 보입니다. 독립 재검토를 통과했습니다.

행렬 곱셈 지수

실용적 의미가 큰 결과 중 하나입니다. 모델은 복소수체에서 행렬 곱셈 지수 ω에 대해 ω ≤ 2.25를 확립했다고 보고됩니다. 이는 컴퓨터가 행렬을 얼마나 효율적으로 곱할 수 있는지를 좌우하는 수학적 대상이며, 컴퓨터 과학 전반의 알고리즘에 실질적 함의를 갖습니다. 금융이나 공학 배경의 독자를 위해 덧붙이면, 행렬 곱셈 효율성은 거의 모든 대규모 수치 계산의 기반입니다.

희석 스핀 글래스에 대한 Mézard–Parisi 공식

통계물리와 확률론의 만남입니다. 무질서한 자기계의 자유에너지를 다룹니다. Mézard–Parisi 공식은 추정되어 왔으나, 희석 경우에는 완전한 증명이 없었습니다.

CM 아벨 다양체에 대한 호지 추측

7대 밀레니엄 문제 중 하나의 제한된 경우입니다. 호지 추측은 대수다양체의 특정 위상적 성질이 항상 대수적으로 표현될 수 있는지를 묻습니다. 모델은 구조화된 특정 부류인 CM 아벨 다양체에 대해 이를 확립했다고 보고합니다. 전체 호지 추측은 여전히 미해결이지만, 수학자들이 목표로 해온 특별한 경우입니다. 이 결과 역시 표준 제작 절차의 예외로 표시되었습니다.

양자 하이젠베르크 강자성체의 자발자화 결과와 산술 진행에 대한 준다항식 경계 또한 이번 공개를 평가하는 연구자들의 관심을 끌었으나, 포괄적인 독립 검증에는 상당한 시간이 걸릴 것입니다.

OpenAI의 AI는 어떻게 이런 결과를 냈나?

이번에는 이전 공개보다 방법론적 세부 정보가 더 나왔지만, 여전히 전체 그림은 완전하지 않습니다.

평가 과정에서 모델에는 대략 4,000개의 문제가 제시되었습니다. 대부분의 결과는 동일한 내부 모델을 사용하는 고정 절차에서 나왔습니다. 표준 절차에서 벗어난 결과는 두 가지였습니다. 리만 제타의 영점 부재 영역 작업과 CM 아벨 다양체의 호지 추측입니다. 평균적으로 하나의 결과에 사용된 연산량은 ChatGPT Pro의 사고 3시간과 대략 비슷했습니다. 이는 참고 지점일 뿐 모든 문제가 3시간 걸렸다는 뜻은 아닙니다. 이 수치는 결과당 평균 연산량을 말하며, 총 경과 시간이나 실패 시도의 비용은 포함하지 않습니다.

맥락을 더하면, 이번 방법론은 이전보다 훨씬 체계적입니다. Astra가 8월에 10개의 미해결 문제를 풀었을 때, 각 해법에는 추론 비용이 약 2,000달러가 들었다고 합니다. 그 전의 나비에–스토크스 스프린트는 10,000개의 병렬 에이전트를 88시간 구동해 총 연산비용이 약 2,250만 달러로 추정되는 일종의 무차별 대입 접근이었고, 결과와 함께 큰 공로 논쟁도 낳았습니다. 10월 6일 공개는 단거리 스프린트보다 지속적인 연구 프로그램에 가깝습니다. 결과당 연산량은 낮고, 범위는 넓으며, 관련 결과들의 계열에 의도적 구조를 두었습니다.

OpenAI는 10개 결과에 대한 추론 요약과 함께 연산 추정치, 시도된 문제에 대한 통계도 공개했습니다. 수학과 인공지능 자문 그룹은 더 나아가 모든 프롬프트와 전체 사고 과정을 공개하라고 요구했습니다. OpenAI가 제공한 것과 수학 커뮤니티가 보고 싶어 하는 것 사이에는 간극이 있습니다.

OpenAI의 수학적 증명은 어떻게 검증되었나?

검증은 아마 이번 이야기에서 가장 중대한 부분일 것입니다. 관여하는 서로 다른 층위를 정확히 구분할 가치가 있습니다.

Lean 형식화

Lean은 수학적 증명을 컴퓨터가 기계적으로 점검할 수 있는 형태로 표현하게 해주는 프로그래밍 언어이자 증명 보조기입니다. Lean에서 증명이 통과하면, 명시된 가정 하에서 논리적 단계는 형식적으로 올바릅니다. 722편 중 상당수 원고에는 Lean 형식화가 동반되지만, 모두 그런 것은 아닙니다.

Lean 검증이 확립하는 것은 형식적 정합성입니다. 확립하지 않는 것은 그 형식적 진술이 의도한 수학적 질문을 정확히 표현하는지, 결과가 진정으로 새롭고 독창적인지, 그리고 연구자들이 그 위에 쌓아갈 수 있을 만큼 의미 있는지입니다.

인간에 의한 수학적 검증

이 지점에서 속도가 느려집니다. 수학자들은 형식적 진술이 실제로 주장하는 미해결 문제를 포착하는지, 증명 기법이 새로운지, 기존 문헌 대비 결과가 참신한지 판단해야 합니다. 복잡도 이론가 Dana Moshkovitz는 원고들이 “마치 환각제 복용자가 쓴 것 같은” 느낌이라 AI 도움 없이 읽기 어렵다고 평하면서도, 그 결과들로부터 배울 점이 많다고 인정했습니다. 기술적 정확성과 난해한 서술이 결합되어 인간 검증자들에게 실질적 작업을 만들어냅니다.

동료평가와 독립 검증

GitHub에 게시하는 것은 동료평가가 아닙니다. 자문위원회는 이번 공개가 “인간의 이해와 수학 지식으로의 편입 과정의 시작일 뿐, 완료가 아니다”라고 명확히 밝혔습니다. 20개 하위 분야에 걸친 722편의 원고는, 포괄적 독립 평가에만도 수년이 걸릴 프로젝트입니다.

형식적 정합성, 수학적 이해, 독창성, 과학적 중요성은 모두 별개의 질문입니다. Lean 검증 증명은 첫 번째를 충족할 수 있지만, 나머지를 해소하지 못할 수 있습니다.

수학은 실제로 어느 정도까지 AI가 했나?

명확한 답은 없습니다.

사람이 모델에 제시할 많은 문제를 선택하거나 정식화했습니다. 기존 수학 문헌은 AI가 작동한 지적 맥락을 제공했습니다. 모델이 수학적 논증을 생성했습니다. 연구자들이 원고 준비를 도왔고, Lean이 증명을 형식화했습니다. 따라서 “누가 수학을 했는가?”라는 질문은 단일 주체가 아니라 기여의 연쇄에 걸쳐 있습니다.

일부 수학자들은 더 날카로운 우려를 제기합니다. 모델이 때때로 독창적 접근을 독립적으로 발견하기보다는 기존 인간 연구의 연장선을 완성하고 있을 수 있다는 것입니다. 이는 나비에–스토크스 주장 이후 특히 불거졌습니다. 관련 방정식에 대한 자신의 AI 보조 연구가 OpenAI 발표 몇 시간 전에 공개된 Tristan Buckmaster는 공로에 심각한 의문을 제기했습니다. 1년간의 미공개 작업이 의도하든 아니든 OpenAI의 스프린트 방향에 영향을 주었을 수 있다고 주장했고, OpenAI는 비공개 프롬프트나 미공개 연구에 접근하지 않았다고 부인했습니다. 이 분쟁은 여전히 미해결입니다. 특정 개인이 지목되지 않은 경우에도, AI 결과가 실제로 누구의 지적 토대 위에 서 있는지에 대한 같은 우려가 10월 공개에도 적용됩니다.

경제학자 Joshua Gans는 유용한 틀을 제안했습니다. 수학적 발견에는 세 단계가 있습니다. 문제를 선택하고, 문제를 풀고, 결과를 이해하고 적용하는 것. AI는 점점 중간 단계를 자동화할 수 있습니다. 이는 인간과 기계의 기여 구분을 없애지는 않지만, 노력의 배분을 바꿉니다.

수학자들은 왜 우려하나?

우려는 획일적이지 않습니다. 수학 커뮤니티가 AI에 단순히 저항한다고 묘사하는 것은 부정확합니다. 가장 심각한 비판자들이 실제로 걱정하는 바는 다음과 같습니다.

이해가 발견을 따라가지 못할 수 있음

인간 수학자가 증명을 만들어낼 때, 그 과정은 보통 수학 문화의 일부가 되는 도구, 직관, 통찰을 낳습니다. 모델이 맞지만 불투명한 증명을 산출할 때는, 그러한 주변적 이해 없이 결과만 존재합니다. Terence Tao는 나비에–스토크스 발표 이전에 역사적으로 생산적이었던 미해결 문제들을 바이럴 벤치마크 순간으로 전환하는 기회비용을 명시적으로 경고했으며, 왜 또는 어떻게 참인지에 대한 이해 없이 정답만 축적되는 것이 장기적으로 수학 실천에 해롭다는 우려를 제기했습니다. 이는 단지 미적 문제에 그치지 않습니다.

수백 개 결과의 검토 난이도

수학 커뮤니티의 동료평가 역량은 유한합니다. AI가 커뮤니티의 평가 속도보다 빠르게 연구를 생성하면, 오류가 수년 동안 도전받지 않은 채 남을 수 있는 적체가 생깁니다. 한 비평가는 이번 공개를 “수상쩍게 ‘기시 갤럽’ 같다”고 표현했습니다. 너무 많은 원고로 장을 잠식해 버그가 오랫동안 드러나지 않을 수 있다는 뜻입니다. 최근의 전례도 있습니다. Astra의 8월 열 문제 공개는 몇 달이 지난 지금도 완전한 동료평가가 이뤄지지 않았습니다. 그 72배 분량은 차원이 다른 과제입니다.

기존 인간 연구와 공로

여러 결과는 명시적으로 특정 연구자들의 선행 작업 위에 구축됩니다. 그 지적 부채를 어떻게 표현할지가 진정한 쟁점입니다. 나비에–스토크스 사건은 이를 구체화했습니다. 한 연구자가 1년간의 미공개 작업을 했고, 그것이 수백만 달러 규모의 AI 스프린트에 영향을 주었을 수 있으며, 결국 그의 경력에 대한 질문을 받게 되었습니다. 자문 그룹의 권고가 인용 절차를 구체적으로 다룬 이유가 여기에 있습니다.

독점 모델이 만드는 접근 격차

이 결과를 낳은 모델은 공개되어 있지 않습니다. 이 수준의 역량으로 작업하려는 학계 수학자들은 OpenAI 내부 팀과 같은 도구를 갖고 있지 않습니다. 9월 29일 자문 그룹 권고는 고급 수학 문제를 더 넓은 연구 커뮤니티가 접근할 수 없는 독점 모델에서 테스트하는 것을 중단하라고 명시적으로 요청했습니다. OpenAI는 권고를 인정했지만 전면 수용하지는 않았습니다.

수학 연구가 AI 연구소 안으로 집중될 위험

최전선의 수학적 발견이 최전선의 연산력과 독점 모델 접근을 요구한다면, 어떤 문제가 중요한지와 어떤 결과가 홍보되는지에 대한 결정이 소수의 민간 조직 내부에서 점점 더 이루어질 수 있습니다. 이는 역사적으로 수학이 가져온 구조와 매우 다릅니다.

이는 수학 커뮤니티 구성원들이 제기한 우려이지, 확정적 결론이 아니며, 모든 수학자가 동일하게 공유하는 것은 아닙니다.

AI 수학 출판에 대한 OpenAI의 새로운 접근

OpenAI는 커뮤니티의 우려를 다소 해소하기 위한 조치를 취했지만, 자문 그룹은 더 많은 조치를 요구하고 있습니다.

이번 공개는 수정 프로토콜을 갖춘 Apache-2.0 라이선스로 GitHub에 게시되었습니다. 정정이 있을 때도 이전 버전이 접근 가능합니다. 각 원고에는 인용을 위한 BibTeX 블록이 포함됩니다. 많은 결과에 Lean 형식화가 동반됩니다. OpenAI는 10개 결과에 대한 추론 요약과 ChatGPT Pro 시간으로 표현한 연산 추정치를 공개했습니다.

OpenAI는 이번 공개 전반에 걸쳐 고등연구원(Institute for Advanced Study)의 수학과 인공지능 자문 그룹과 협의했습니다. 이 그룹에는 Melanie Matchett Wood(하버드), Edward Witten(IAS), Ravi Vakil(스탠퍼드), Ulrike Tillmann(옥스퍼드) 등 9명의 저명한 수학자가 포함되며, OpenAI로부터 보수를 받지 않고 독립적으로 활동합니다.

그들의 입장은 이번 공개가 출발점이라는 것입니다. Melanie Wood는 이를 “인간의 이해 과정의 시작이지, 완성이 아니다”라고 표현했습니다. 이 그룹은 OpenAI가 모든 프롬프트와 전체 사고 과정을 공개하고, GitHub가 아닌 영속적 인용 식별자를 가진 학술 저장소를 사용하며, AI 연구소가 통제하지 않는 기관을 통해 인간의 이해 발전을 지원할 것을 요구했습니다. OpenAI는 이러한 기준을 향해 노력하겠다고 약속했지만, 아직 모두 충족하지는 못했습니다.

AI는 수학자의 역할에 무엇을 의미하나?

더 흥미로운 질문은 AI가 수학자를 대체하는가가 아닙니다. 적어도 아직은 아니며, 아마 가장 중요한 방식으로도 아닙니다. 더 흥미로운 질문은 증명 생성이 극적으로 저렴해질 때 수학적 작업이 어떻게 변하는가입니다.

선택 → 해결 → 이해라는 틀로 돌아가면, AI가 점점 해결 단계를 맡게 될수록 인간 전문성은 양끝에서 더 가치 있어집니다. 어떤 문제가 추구할 가치가 있는지 결정하고, 좋은 추측을 정식화하고, 결과의 의미를 해석하며, 새로운 발견을 기존 수학과 연결하고, 다른 맥락에 적용하는 일. 이러한 단계에서 인간의 판단은 대체 불가합니다. 제가 8월 Astra 결과를 다루며 썼듯, 좋은 문제를 제기하고 어떤 문제를 공략할지 아는 능력은 AI가 아직 흉내 내지 못하는 바로 그 영역입니다. 그 관찰은 지금 더 중요해졌습니다.

컬럼비아에서 일하다 2026년 OpenAI에 합류한 수학자 Mehtaab Sawhney는, AI가 발견을 가속함에 따라 인간 수학자들의 주된 병목은 증명 생성에서 AI 생성 수학의 흡수와 맥락화로 이동하고 있다고 관찰했습니다.

증명 생성이 저렴해질 때 달라지는 것은 희소성의 위치입니다. 점점 희소해지는 자원은 무언가를 증명하는 능력이 아니라, 무엇을 증명할지 선택하고 그 해의가 왜 중요한지 이해하는 능력일 수 있습니다.

결론

10월 6일 공개는 올해 내내 가속해온 궤적의 최신 단계로 이해하는 것이 가장 좋습니다. 8월에는 Astra가 수십 년 묵은 문제 10개를 하루 만에 해결했습니다. 9월에는 88시간 동안 10,000개 에이전트를 돌린 스프린트가 나비에–스토크스 밀레니엄 문제의 변형에 대한 주장(Lean 검증은 통과했으나 공로 논쟁은 미해결)을 내놓으며, AI와 독립 연구의 긴장을 드러냈습니다. 이제 10월에는 같은 프런티어 모델이 몇 주 만에 20개 하위 분야에서 722편의 원고를 생산했습니다.

그중 일부, 리만 제타의 영점 부재 영역, 행렬 곱셈 상한, 자유군 팩터의 동형성은 해당 분야를 잘 아는 수학자들의 진지한 관심을 이미 끌었습니다. 그러나 원고 수가 곧 이야기의 전부는 아닙니다. 중요한 것은 개별 결과가 검증을 견디는지, 진정으로 새롭고 독창적인지, 그리고 수학 커뮤니티가 이를 흡수할 수 있는지입니다. Lean 검증이 확립하는 것은 형식적 정합성이지, 수학적 이해가 아닙니다. GitHub 공개는 동료평가가 아닙니다. 722편에 대한 포괄적 독립 평가는 수년이 걸릴 것입니다.

이 분야는 이제 전례 없는 질문과 마주하고 있습니다. AI가 어려운 수학 문제를 풀 수 있는가가 아니라, 인간이 평가할 수 있는 속도보다 더 빨리 수학 연구를 생산할 수 있게 되면 무엇이 벌어지는가입니다. 증명 생성이 충분히 저렴해져 연구 문헌을 범람시키면, 희소 자원은 답을 생성하는 능력에서 옳은 질문을 고르고 그 답이 왜 중요한지 이해하는 능력으로 이동합니다. 그것은 수학이 수학자에게 요구하는 바의 변화이지, 일의 끝이 아닙니다.