이세돌의 은퇴 결단과 AI의 블랙박스

정재승 KAIST 교수는 3일 서울 그랜드 하얏트에서 개최된 '코리아 리더스 서밋 2026(KLS 2026)' 특별강연을 통해 인공지능(AI) 시대의 책임 있는 의사결정 문제를 심도 있게 다뤘다. 정 교수는 과거 이세돌 9단과의 대화를 인용하며 AI 기술의 위험성을 경고했다. 이 9단은 알파고 리와 대국할 당시에는 실수의 지점을 복기할 수 있었으나, 인간의 기보 없이 스스로 학습한 '알파고 제로'와 마주했을 때는 패배의 원인조차 파악할 수 없었다고 토로했다는 것이다.

2016년 구글 딥마인드의 알파고와 맞붙어 '신의 한 수'를 선보였던 이 9단은, 2017년 등장한 알파고 제로의 압도적인 실력을 목격하며 2019년 은퇴를 선언했다. 당시 알파고 제로는 인간의 데이터를 학습하지 않고 오직 규칙만을 바탕으로 자가 대국을 거듭하며 단 사흘 만에 490만 판을 수행해 '알파고 리'를 100전 전승으로 격파했다. 정 교수는 많은 프로기사가 AI의 결정 과정을 이해하지 못한 채 결과만을 맹목적으로 추종하기 시작한 상황을 지적하며, 이세돌의 은퇴가 이러한 기술적 한계에 대한 선제적 경험이었음을 강조했다.

기업 경영의 딜레마와 투명성 확보

정 교수는 기업 현장에서도 이와 유사한 위기가 닥칠 것이라고 내다봤다. 데이터의 양이 방대해지고 AI의 판단 과정이 복잡해짐에 따라, 경영진이 AI의 결정을 완벽히 이해하지 못한 채 따를 수밖에 없는 환경이 조성될 것이라는 분석이다. 특히 AI의 제안을 거부했을 때 발생할 수 있는 손해로 인해 배임 문제가 제기될 수 있다는 점은 기업가들에게 큰 압박이 될 수 있다.

그는 AI가 결코 책임의 주체가 될 수 없음을 분명히 했다. AI는 스스로 책임을 지지 않으므로, 최종 승인을 내리는 인간이 그 결과에 대한 책임도 온전히 져야 한다는 설명이다. 따라서 단순히 AI가 지시하는 대로 돌을 놓는 수동적인 태도에서 벗어나기 위해서는, AI가 어떤 경로와 기준을 통해 결정을 내렸는지 파악할 수 있는 '투명성' 확보가 필수적이라고 역설했다. 또한 효율성과 비용 절감만을 목표로 AI를 운용할 경우, 환경 파괴나 인적 자원 배제와 같은 부작용이 발생할 수 있으므로 인류와 사회적 가치를 고려한 변수를 반드시 포함해야 한다고 조언했다.

확증편향의 심화와 협업의 새로운 정의

인간의 인지적 한계인 '확증편향'이 AI를 통해 더욱 강화될 수 있다는 우려도 제기되었다. 정 교수는 인간이 가진 제한된 시간과 뇌 용량 때문에 편한 길을 선택하려는 경향이 있으며, AI의 결과가 자신의 신념과 일치할 때 비판적 사고 없이 이를 수용할 위험이 크다고 설명했다. 특히 AI가 학습하는 데이터 자체에 인간의 편향이 녹아 있어, 미국에서 발생한 AI 채용 시스템의 차별 소송 사례처럼 편견을 재생산할 가능성도 존재한다.

그럼에도 불구하고 정 교수는 AI와의 협업을 피할 수 없는 시대적 흐름으로 정의했다. 그는 복잡하고 창의적인 과제에서 인간과 AI가 협력했을 때 가장 우수한 성과가 나타났다는 연구를 근거로 제시했다. 성과의 차이는 AI의 성능 그 자체보다 인간이 얼마나 정성을 들여 협업하느냐에 달려 있다는 것이다. 정 교수는 AI를 인간의 대체재가 아닌, 모든 이의 곁에 배치된 '최고 수준의 조력자'로 보아야 한다고 덧붙였다. 아울러 갈등 중재와 사회적 이익을 위한 책임감 있는 의사결정은 오직 인간만이 할 수 있는 영역임을 강조하며, ESG 가치가 사회적 지향점이 될 수 있도록 기업 내 리더들의 역할을 당부했다.