검증 체계 부재한 AI 수학 논문 대량 공개
오픈AI가 지난 6일(현지 시각) 내부에서 개발한 미공개 인공지능(AI) 모델이 작성한 수학 난제 해결 연구 원고 722편을 전격 공개하면서 학계에 새로운 논란이 일고 있다. 통상적인 수학 논문은 학술지 게재를 위해 동료 수학자들이 오류를 검증하는 '동료 검토(peer review)' 과정을 반드시 거쳐야 하며, 발표 이후에도 저자가 직접 질문에 답변하며 내용을 보완하는 것이 관례다. 그러나 이번에 공개된 오픈AI의 원고들은 이러한 검토 절차를 거치지 않은 채 일시에 배포되었으며, 오픈AI 측에서도 AI가 도출한 증명 내용을 충분히 설명하지 못하고 있다. 이에 따라 수백 건에 달하는 AI의 증명 결과물을 과연 누가 검증하고 그 책임은 누가 질 것인지에 대한 의문이 제기되는 상황이다.
컴퓨터 검증과 인간 검토 사이의 간극
오픈AI는 이번 연구 과정에서 일부 증명에 대해 컴퓨터 검증 도구인 '린(Lean)'을 활용했다고 밝혔다. 린은 수학적 풀이를 코드로 변환하여 논리적 결함 여부를 확인해 주는 도구다. 하지만 코드로 구현된 주장이 실제 논문의 내용과 부합하는지 확인하는 작업은 결국 사람이 직접 대조해야 하는 영역이다. 즉, 컴퓨터의 논리 검사를 통과했다고 해서 해당 증명에 대한 모든 검토가 완료되었다고 볼 수는 없다. 오픈AI는 이러한 검증 논란을 의식하여 지난달 21일, 수학 전문가 9명으로 이루어진 '수학 및 인공지능 자문 그룹(AGMAI)'과 협력하겠다는 방침을 발표하기도 했다.
학계의 비판과 학문적 단절 우려
그럼에도 불구하고 수백 편의 원고를 일일이 읽으며 오류를 잡아내고 설명을 보완하는 막대한 작업은 여전히 숙제로 남아 있다. 옥스퍼드대학교의 어슐러 마틴 교수는 네이처를 통해 오픈AI가 미흡한 수준의 초안을 공개한 뒤 학계가 이를 정리해주길 바라고 있다고 비판했다. 또한 AI가 수학적 난제를 해결하더라도 이를 학문의 영역으로 온전히 흡수하기 어렵다는 우려도 깊다. UCLA의 테런스 타오 교수는 증명 과정에 참여한 인물 중 누구도 질문에 답하거나 강연을 할 수 없다는 사실에 깊은 좌절감을 느낀다고 언급했다. 일반적으로 증명자가 해법을 설명하고 후학을 양성하며 후속 연구로 이어지는 학문의 선순환 구조가 AI의 등장으로 끊어질 수 있다는 지적이다.