테렌스 타오가 풀어쓴 야코비안 추측 반례, AI가 찾은 3차원 반례의 구조

• 테렌스 타오가 야코비안 추측(Jacobian conjecture)의 3차원 반례를 “소화해서” 설명한 글임

  • 이 반례는 Fable AI를 사용해 최근 발견됐다고 소개됨
  • 결론은 강력함. 3차원에서는 야코비안 추측이 거짓이고, 따라서 더 높은 차원에서도 거짓임
  • 다만 2차원 문제는 아직 열려 있고, 1차원은 쉽게 성립함

• 야코비안 추측을 아주 거칠게 말하면 “국소적으로 뒤집을 수 있으면 전체에서도 뒤집을 수 있냐”는 질문임

  • 복소수 위의 여러 변수 다항식 사상에서 야코비안이 0이 아닌 상수면 국소적으로는 가역처럼 동작함
  • 추측은 그런 사상이 항상 다항식 역함수를 가져야 한다고 주장해 왔음
  • 이번 반례는 상수 야코비안을 가지지만 전역적으로는 가역이 아닌 다항식 사상이 존재한다는 걸 보임

• 타오가 흥미롭게 보는 지점은 명시적 반례가 너무 기적처럼 보인다는 것임

  • 예제 다항식의 차수는 7임
  • 보통이면 야코비안이 세 변수의 높은 차수 다항식으로 튀어나와야 하는데, 비상수항들이 전부 사라져 상수가 됨
  • 이건 수많은 계수가 동시에 상쇄되는 모양이라, 그냥 brute force로 찾기엔 말도 안 되게 운 좋아 보인다는 설명임

• 그래서 글은 반례를 바로 계산식으로 밀어붙이지 않고, 구조를 세 조각으로 나눔

  • 국소적으로는 단사여야 함
  • 전역적으로는 단사가 아니어야 함
  • 정의역은 다항식 변수변환으로 3차원 affine space와 같아야 함

• 출발점은 저차 다항식의 곱셈임

  • 두 변수의 선형 동차다항식 공간, 이차 동차다항식 공간, 삼차 동차다항식 공간을 둠
  • 선형 다항식과 이차 다항식을 곱하면 삼차 다항식이 되는 자연스러운 곱셈 사상이 생김
  • 이 사상은 스케일링과 선형 변수변환에 대해 큰 대칭성을 가짐

• 이 곱셈 사상은 애초에 전역 단사가 아님

  • 일반적인 삼차 다항식은 세 개의 선형 인자로 쪼개질 수 있음
  • 그중 어느 하나를 선형 부분으로 보고 나머지 둘을 이차 부분으로 볼지에 따라 세 가지 다른 원상이 생김
  • 즉 같은 결과물을 만드는 서로 다른 입력이 자연스럽게 존재함

• 하지만 국소 단사성을 얻기 위해 resultant를 써서 스케일링 자유도를 정규화함

  • resultant는 선형 다항식과 이차 다항식이 공통근을 갖는지 측정하는 값임
  • 이 값을 1로 맞추는 조건을 걸어 스케일링 대칭을 제거함
  • 그러고도 일반적인 경우에는 여전히 세 개의 원상이 남아 전역 비단사성은 유지됨

• 다음 난점은 공간의 차원을 3으로 낮추면서도 구조를 살리는 것임

  • 4차원 공간에서 3차원 affine plane을 하나 골라 제한함
  • 제한 후에도 국소 가역성과 전역 비단사성은 유지됨
  • 진짜 “기적”은 특정 plane을 잘 고르면 그 정의역이 affine 3-space와 다항식 변수변환으로 같아진다는 점임

• 타오는 이 기적이 세 근 중 두 근이 겹치는 경우에 정확히 일어난다고 설명함

  • 미분연산자의 근 구조를 기준으로 세 경우를 나눔. 세 근이 모두 다름, 두 근이 같음, 세 근이 모두 같음
  • affine space로 풀리는 경우는 두 근이 같고 하나가 다른 두 번째 경우임
  • 타오도 이 부분에 대해 완전히 만족스러운 기하적 설명은 없고, 좌표 계산으로 검증한다고 솔직히 씀

• 마지막에는 big-O 표기와 좌표 변환으로 특이점 없이 전역 좌표계를 붙임

  • 보통 대수기하와 가환대수 machinery로 처리할 수 있는 부분을, 타오는 해석학식 점근 표기로 손으로 추적함
  • 특정 섬유에서 Bezout 정리상 여러 해가 나올 듯하지만 실제 affine 해는 하나만 남는 “기적”도 등장함
  • 결국 세 좌표로 전체 variety를 다항식으로 매개화하고, 원래의 반례 다항식으로 돌아감

sequenceDiagram
    participant 추측 as 야코비안 추측
    participant AI as Fable AI
    participant 반례 as 3차원 다항식 반례
    participant 타오 as 테렌스 타오
    participant 기하 as 기하적 재해석
    추측->>AI: 상수 야코비안이지만 가역이 아닌 예제 탐색
    AI->>반례: 3차원 반례 제시
    반례->>타오: 기적처럼 보이는 좌표 계산 제공
    타오->>기하: 곱셈 사상과 대칭성으로 구조 분해
    기하->>반례: affine 3-space 좌표로 원래 예제 복원

기술 맥락

• 여기서 중요한 선택은 반례 다항식을 곧장 계산하지 않고, 문제를 affine variety 위의 사상으로 바꾼 거예요. 왜냐하면 명시적 다항식만 보면 수많은 항이 우연히 사라진 것처럼 보여서, 반례가 왜 가능한지 감이 안 오거든요.

• 타오는 선형 다항식과 이차 다항식의 곱셈을 출발점으로 잡아요. 이 선택이 좋은 이유는 같은 삼차 다항식을 만드는 서로 다른 분해가 자연스럽게 생기기 때문이에요. 즉 전역 단사가 깨지는 구조가 억지로 만든 게 아니라 곱셈 자체에서 나와요.

• resultant를 쓰는 이유는 스케일링 대칭을 정리하기 위해서예요. 선형 부분과 이차 부분을 서로 반대로 스케일해도 곱은 그대로라서, 이 자유도를 그냥 두면 차원과 좌표가 지저분해져요. resultant를 1로 맞추면 그 자유도를 한 번에 고정할 수 있어요.

• 마지막 affine space 동형 부분이 제일 까다로운데, 이게 없으면 야코비안 추측의 표준 형태로 돌아갈 수 없어요. 그래서 특정 3차원 slice를 고르고, 그 slice에서 정의된 variety가 실제로 3차원 affine space와 같다는 걸 좌표 계산으로 보여주는 과정이 핵심이에요.

• AI가 찾은 반례의 의미도 여기서 나와요. 기계가 이상한 예제를 찾아냈다고 끝나는 게 아니라, 인간 수학자가 그 예제를 대칭성, 정규화, 좌표계 관점으로 해석해야 지식으로 편입돼요.