Claude Fable 5와 야코비안 추측: 무엇이 증명되었고 무엇이 아닌가

월드컵 결승전 밤, 대부분은 축구를 보고 있었습니다. 인터넷의 작은 구석에서는 수학사의 한 장면이 움직이고 있었죠.

Anthropic 연구원 Levent Alpöge가 X에 짤막한 글을 올렸습니다. 야코비안 추측이 거짓이라고요. 1939년부터 풀리지 않았던 문제입니다. 그는 문제를 제안해 준 동료를, 그리고 경기 중에 계산을 수행한 Claude Fable 5를 함께 언급했습니다.

다음 날이 되자 수학자들은 직접 손으로 검토했습니다. 검증을 통과했습니다.

하지만 "AI가 87년 된 수학 문제를 깼다"는 헤드라인은 그 이면의 세부 사항보다 훨씬 빨리 퍼집니다. 잠시 속도를 늦춰 보죠. 실제로 새로 나온 것은 무엇이고, 아닌 것은 무엇일까요? 그리고 스스로 확인할 수 있을까요?

가능합니다. 파이썬 15줄 남짓이면 됩니다. 곧 살펴보겠습니다.

요약

Claude Fable 5는 3차원 복소 공간에서 자기 자신으로 가는 다항식 사상, 즉 ℂ³ → ℂ³을 구성하는 데 기여했습니다. 그 야코비안 행렬식은 모든 곳에서 상수 -2이며, 이는 정확히 Keller가 1939년에 제기한 조건입니다. 그런데 그 사상은 서로 다른 세 입력점을 같은 출력으로 보냅니다. 이 한 가지 예로 3차원 이상에서의 추측은 반박됩니다. 원래의 두 변수 버전은 아직 미해결이며, 동료 심사를 거친 논문은 아직 없고 검증된 계산과 프리프린트만 있습니다.

한 문단으로 요약하면 이렇습니다. 아래에서는 왜 각 문장이 중요한지 풀어 설명합니다.

야코비안 추측이란?

숫자 목록을 입력으로 받아 새 숫자 목록을 내는 함수를 떠올려 보세요. 한 공간에서 다른 공간으로 가는 "사상(map)"입니다. 수학자들은 이런 사상에 대해 간단한 질문을 합니다. 항상 거꾸로 갈 수 있을까요? 출력값을 알면, 그것을 만든 정확한 입력을 복원할 수 있을까요?

머신러닝을 해 보셨다면, 아마도 이 질문의 중심에 있는 대상을 이미 만났을 겁니다. 아마도 별 감흥 없이요. 야코비안은 사상의 편도함수들로 이뤄진 행렬입니다. 역전파가 층마다 곱해 가는 그 행렬이죠. 정규화 흐름(normalizing flow)도 확률 질량이 네트워크를 통과하며 어떻게 늘어나는지 추적하려면 그 행렬식이 필요합니다. 같은 행렬, 다른 동네 이야기일 뿐입니다.

해석학은 바로 이 행렬을 바탕으로 한 지역적 가역성 테스트를 제공합니다. 야코비안 행렬식이 어떤 점에서 0이 아니면, 그 점 주변에서는 가역적입니다.

하지만 어떤 점 주변과, 전역은 다릅니다. 제가 아는 가장 깔끔한 예는 다음 두 줄이면 충분합니다.

import numpy as np

f = lambda x, y: (np.exp(x) * np.cos(y), np.exp(x) * np.sin(y))

print(f(0, 0))              # (1.0, 0.0)
print(f(0, 2 * np.pi))      # (1.0, ~0.0) — same output, different input

이 사상의 야코비안 행렬식은 e^²ˣ로, 결코 0이 되지 않습니다. 평면의 모든 점에서 지역 테스트를 통과합니다. 그래도 역함수가 존재하지 않습니다. 사상이 빙 돌아가며 서로 다른 경로가 같은 집으로 이어지기 때문입니다.

다만, 이 예시는 지수함수를 사용합니다. 1939년 독일 수학자 Ott-Heinrich Keller는 다항식이 더 잘 behaved 한지 물었습니다. 그의 질문은 이렇습니다. 다항식 사상의 야코비안 행렬식이 모든 곳에서 0이 아니기만 한 것이 아니라, 모든 곳에서 하나의 고정된 상수라면, 그때는 비로소 완전한 전역 가역성이 보장될까요?

87년 동안 아무도 답하지 못했습니다. 증명도, 반례도 없었습니다. Claude Fable 5가 방금 그 추측에 흠집을 냈습니다.

Claude Fable 5가 실제로 찾아낸 것

Alpöge의 게시물에는 ℂ³에서 자기 자신으로 가는 구체적인 다항식 사상이 포함되어 있었습니다. 그 야코비안 행렬식은 모든 점에서 상수 -2로 계산됩니다. Keller의 정확한 조건이죠. 그런데도 서로 다른 세 점을 넣으면 모두 같은 값이 나옵니다.

컴퓨터 대수 도구가 있으면 누구든 대입해서 확인할 수 있습니다. 실제로 그렇게 되었습니다. 수학자들이 몇 시간 안에 수치를 돌렸고, 산술이 맞아떨어졌습니다.

이 반례가 3차원에 존재하기 때문에, 더 높은 모든 차원에서도 추측을 무너뜨립니다. 3차원 사상에 건드리지 않는 변수를 덧붙이기만 하면 4차원, 5차원, 100차원에서도 작동하는 반례가 됩니다. 다만 덧붙이기는 위로만 갈 뿐입니다. 3차원 반례를 두 변수로 압축할 수는 없습니다. 그래서 이 글의 마지막 절이 존재합니다.

파이썬으로 직접 확인해 보세요

최전선 AI 이야기가 노트북에서 실행할 수 있는 연습 문제로 바뀌는 지점입니다. 실행해 볼 가치가 있습니다. 반례가 내 컴퓨터에서 정확한 산술로 성립하는 걸 직접 보면 더 분명해집니다. 필요한 것은 sympy 하나뿐입니다.

먼저 사상을 정의하고 행렬식을 확인합니다.

import sympy as sp

x, y, z = sp.symbols("x y z")

# The map Claude Fable 5 helped construct, from C^3 to C^3
f1 = (1 + x * y) ** 3 * z + y**2 * (1 + x * y) * (4 + 3 * x * y)
f2 = y + 3 * x * (1 + x * y) ** 2 * z + 3 * x * y**2 * (4 + 3 * x * y)
f3 = 2 * x - 3 * x**2 * y - x**3 * z

# Keller's condition: the Jacobian determinant must be a nonzero constant
jacobian = sp.Matrix([f1, f2, f3]).jacobian([x, y, z])
print(sp.simplify(jacobian.det()))

-2

"대략 -2"가 아닙니다. ℂ³의 모든 점에서 기호적으로 정확히 -2입니다. 한 조건 통과.

이제 충돌입니다. 저는 SymPy에 F(v) = F(1, 1, 1)을 푸는 식으로 이 세 점을 찾았습니다. Alpöge의 원문에는 다른 점 집합이 나와 있고, 어느 쪽이든 작동합니다.

s = sp.sqrt(53)

points = [
    (1, 1, 1),
    (sp.Rational(-1, 2) - 7 * s / 106, 25 - 3 * s, -134090 + 18420 * s),
    (sp.Rational(-1, 2) + 7 * s / 106, 25 + 3 * s, -134090 - 18420 * s),
]

for p in points:
    image = [sp.simplify(f.subs({x: p[0], y: p[1], z: p[2]}))
             for f in (f1, f2, f3)]
    print(image)

[22, 34, -2]
[22, 34, -2]
[22, 34, -2]

서로 다른 입력 세 개. 출력 하나. 세 입력이 하나의 답을 준다면 역함수는 존재할 수 없고, Keller의 추측은 무너집니다. 방금 정확한 산술로 87년 된 문제를 매듭지은 계산을 직접 검증했습니다.

코드를 건너뛰셨다면 요약은 이렇습니다. 상수 행렬식과 충돌하는 점들, 두 주장 모두가 기호적 검증을 통과합니다. 부동소수점에 기대지 않습니다.

이미 누군가 반박하지 않았나요?

더 나아가기 전에, Alpöge의 글에 달린 댓글에서 보셨을 법한 내용을 짚고 가는 게 좋겠습니다. 이 분야에는 오래전 결과가 하나 있는데 자주 언급되고, 구분이 중요합니다.

1994년 Sergey Pinchuk은 두 변수의 실수값 다항식 사상을 찾았습니다. 어디서나 지역적으로는 가역적이지만 전역적으로는 가역적이지 않은 예지요. 널리 알려진 구성이라, Fable 5의 결과가 그 아이디어를 3차원으로 늘린 것이라 짐작하기 쉽습니다.

그렇지 않습니다. Pinchuk의 사상은 야코비안 행렬식이 0이 아니기만 하면 됩니다. 값이 점마다 달라져도 괜찮고, 전체가 실수에서만 작동합니다. 이는 더 약한 질문, 이른바 "강한 실수 야코비안 추측"에 대한 답입니다. Keller의 원래 질문은 복소수와 고정 상수를 요구하며, Pinchuk의 구성은 애초에 그 기준을 넘도록 만들어지지 않았습니다. 이 간극은 30년째 알려져 있습니다.

왜 복소수가 기준을 높일까요? 대략 이렇습니다. 실수에서는 다항식이 문제 지점에서 아예 실수 해가 없도록 피해 갈 수 있습니다. x² + 1은 실수축에서 0이 되지 않지만, ℂ에서는 반드시 0이 됩니다. 복소 공간은 사상이 숨을 곳을 남겨두지 않기에, 거기서 Keller의 조건을 버티는 건 훨씬 강한 요구입니다. 앞서 본 지수 사상도 이를 암시했습니다. 그 사상을 망가뜨린 "빙 돌아감"은 철저히 복소수적 현상이니까요.

두 결과는 가족 유사성을 공유합니다. 둘 다 모든 근방에서의 가역성과 전체 공간에서의 가역성 사이의 틈을 이용하니까요. 이는 수학이 스스로를 토대로 쌓여 간다는 신호이지, 여기서 새로운 것이 없었다는 증거는 아닙니다.

아직 남은 것들

두 변수 경우는 여전히 미해결입니다. 평면에서 평면으로 가는 사상에 대한, 추측의 원형이자 가장 많이 연구된 버전이며, 앞서 말했듯 어떤 덧붙이기도 3차원 반례를 이 경우로 내려오게 만들 수 없습니다. 여러 수학자는 평면 경우가 더 어렵고 더 핵심적인 문제라고 봅니다. 이제 이 경우가 방금 정리된 버전의 축소판이 아니라, 추측의 살아남은 핵심입니다.

아직 동료 심사를 거치지도 않았습니다. 지금으로선 검증된 계산과 프리프린트가 있을 뿐, 심사된 논문은 아닙니다. 전부가 방금 돌린 두 계산으로 환원되기 때문에, 검증 자체가 걸림돌일 가능성은 낮지만, 기록은 사실 그대로여야 합니다.

더 깊은 간극도 있습니다. 왜 이 반례가 작동하는지 완전히 설명할 수 있는 사람이 없습니다. 기호적 검사는 충돌이 실제임을 확인하지만, 수학자가 처음부터 다시 구축할 수 있을 법한, 그 이면의 이야기를 건네주지는 않습니다. 이 문제를 제안한 시카고 대학의 수학자 Akhil Mathew의 말처럼, 답을 검증할 수는 있지만, 이야기가 있으면 더 좋겠습니다.

발견 과정 자체도 다소 흐릿합니다. 사람이 질문을 던졌고, AI가 작업을 했으며, 사람이 결과를 발표했습니다. 그 크레딧 라인만으로는 프롬프트, 시행착오, 어느 정도의 조정이 있었는지 드러나지 않습니다. 이는 AI 보조 증명에서 공로를 어떻게 나눌지에 관한 실제 질문이며, 수학이 성립하는지와는 별개입니다. 성립은 합니다.

마무리 생각

수학적 사실입니다. 수십 년간 열린 채로 있던 추측은 3차원 이상에서 진짜 구멍이 생겼습니다. 표준 도구로 독립 확인되었고, Pinchuk의 1994년 결과의 재탕도 아닙니다. 다만 이것이 "야코비안 추측" 전체의 완전한 해결은 아닙니다. 평면 경우는 여전히 버티고 있으며, 결과는 수학이 답만큼이나 중시하는 그 특유의 설명을 동반하지 않은 채 도착했습니다.

이것은 또한 하나의 패턴의 일부입니다. 2026년 내내, 최전선 모델들은 조합론과 정수론을 막론하고 오래된 난제들을 조금씩 깎아냈습니다. 이를 일회성 사례가 아니라 그 흐름 속 하나의 데이터 포인트로 읽으시기 바랍니다.

기술 문제에서 AI와 함께 일하는 법을 배우는 분들께, 교훈은 "AI가 지금 연구 수학을 할 수 있다"가 아닙니다. 더 좁습니다. 이 모델들은 성공을 정확히 검증할 수 있는 분야에서 구체적 대상을 만들어 내는 데 점점 능숙해지고 있으며, 위에서 보셨듯 pip install sympy 한 번이면 여러분이 그 검증자가 될 수 있습니다. 생성은 빠르게 앞서 가고, 검증은 그 속도를 따라잡고 있습니다. 이해는 아직 약간의 격차를 좁여야 합니다.

여기서 키우면 좋은 역량은 선형대수와 기호적 파이썬입니다. 행렬식, 가역성, 그리고 주장을 믿기보다는 정확한 산술로 직접 확인하는 습관 말이죠. 다음에 이런 결과가 나오면, 그날 안에 직접 검증을 돌릴 준비가 되어 있을 것입니다.