“수학자 지정해 검증 맡기지 마라” 수학계, AI 기업에 강력 경고

AI 개발사가 수학 난제를 해결했다며 특정 수학자를 지목해 검증을 의뢰하는 관행에 대해 미국 수학계가 공식적인 제동을 걸었다. 수학적 성과를 둘러싼 학계와 산업계 사이의 긴장감이 최고조에 달하는 모습이다.

기업의 검증 권한에 대한 수학계의 반발

테런스 타오 교수는 자신의 블로그를 통해 기업이 결과를 검토하고 해설할 수학자를 직접 선정하는 방식의 위험성을 경고했다. 타오 교수는 개발사가 고른 수학자가 검증의 주체가 아닌, 기업의 주장을 뒷받침하는 '방패'로 전락할 수 있다고 우려했다. 기업이 검증 인력을 직접 지정하면 학계의 자율적인 결정 권한이 침해되고, 다른 수학자들의 참여 기회 또한 위축될 수 있다는 지적이다. 또한, 선정 과정의 불투명성과 인맥 중심의 지명 방식은 책임 소재를 불분명하게 만들며, 지정된 수학자가 기업의 입맛에 맞는 해석을 내놓도록 유도할 가능성이 크다고 짚었다.

이에 따라 수학계는 기업이 통제하는 방식 대신, 결과물을 독립적인 학술 저장소에 업로드하여 학술 공동체가 자율적으로 해석하고 검토할 수 있는 환경을 조성하라고 권고했다. 타오 교수는 "결과를 이해하는 과정은 반드시 학계가 주도해야 한다"는 원칙을 강조하며, AI가 생성한 수학적 내용에 대해 출처와 검증 가능성, 그리고 이해를 돕기 위한 자원을 책임 있게 공개할 것을 촉구했다. 단순히 답을 맞히는 데 급급해 그 과정을 설명하지 못한 채 성능을 홍보하는 행위는 수학계의 본질적 가치와 어긋난다는 비판이다.

오픈AI와 앤트로픽을 둘러싼 갈등의 서막

수학계가 한 달이라는 짧은 기간에 성명과 추가 문서를 연달아 발표한 것은 매우 이례적이다. 이러한 움직임은 올여름부터 시작된 AI 개발사들과의 갈등에서 비롯되었다. 갈등의 발단은 AI 모델의 수학적 성과가 학계의 수용 범위를 벗어난 방식으로 공개되면서 촉발되었다. 지난 7월 앤트로픽의 모델이 야코비안 추측과 관련해 진전을 보였다고 발표하며 학계를 놀라게 했고, 이어 9월 8일에는 오픈AI가 7대 난제 중 하나인 나비에-스토크스 방정식의 해법을 찾았다고 주장하며 긴장이 격화되었다.

이 과정에서 연구 공로를 둘러싼 논란도 불거졌다. 뉴욕대학교의 버크마스터 교수는 발표 직전인 9월 7일 밤, 자신과 동료의 연구 정보가 오픈AI로 유출되었을 가능성을 제기했다. 그는 연구진이 모델을 사용하는 과정에서 아이디어를 제공했음에도 불구하고, 공동연구자인 레벤트 알푀게가 앤트로픽 소속이라는 이유로 저자 목록에서 제외되도록 압박받았다고 주장했다. 버크마스터 교수가 이 사실을 폭로하려 하자 오픈AI 측에서 그의 경력을 망치려 하느냐며 응수한 사실도 알려졌다. 반면 오픈AI의 세바스티앙 뷔벡은 프롬프트나 증명을 모델에 입력한 적이 없으며, 저자 제외를 요구한 사실도 없다고 반박하며 의혹을 부인했다.

학문적 가치와 기술적 성취 사이의 충돌

상황이 악화되자 허준이 교수 등 필즈상 수상자들은 9월 11일 긴급 성명을 통해 AI 업계의 경쟁이 수학 공동체의 목표와 어긋나며 인간의 지적 활동을 위협할 수 있다고 경고했다. 오픈AI는 갈등 해결을 위해 외부 자문위 구성을 검토하기도 했으나, 수학계는 자문에는 동의하면서도 '이해의 주도권은 학계에 있다'는 원칙을 고수했다. 그러나 오픈AI가 10월 6일, 내부 모델이 작성한 수학 논문 722편을 깃허브에 일시에 공개하자 갈등은 다시 폭발했다. 학계는 이를 학문적 성취가 아닌 힘의 과시로 규정하며 협력 중단을 촉구했고, 공개된 논문 중 일부가 철회되거나 수정되는 등 완성도 문제도 제기되었다.

물론 모든 수학자가 회의적인 것은 아니다. 토론토대의 대니얼 리트는 AI가 제시한 새로운 해법이 수학 발전에 기여할 수 있다는 실용주의적 기대감을 나타냈다. 하지만 타오 교수는 단순한 답의 도출보다 '개념의 본질적 이해'를 중시하는 '수학 2.0'의 필요성을 역설했다. 그는 수학의 미해결 문제를 길을 안내하는 등대에 비유하며, 결과물인 답보다 그 답에 도달하기 위해 탐구하는 과정에서 얻는 이론과 방법론이 훨씬 값진 가치를 지닌다고 강조했다.