AI의 판단을 맹신하는 시대, 책임질 주체는 누구인가

인간을 대체하는 AI의 선별 능력

인공지능(AI)이 인간을 평가하는 새로운 시대가 도래했다. 과거에는 기업의 인사 담당자가 지원자의 자기소개서를 직접 검토한 뒤 면접 대상자를 선정했으나, 이제는 AI가 이력서를 분석해 후보자를 가려내고 면접을 통해 직무 적합성까지 판별한다. 기업들이 채용 과정에 AI를 도입하는 이유는 명확하다. 수많은 지원자를 일일이 확인하는 인력보다 훨씬 신속하고 효율적이기 때문이다. 또한 평가의 일관성을 확보하고 인사 담당자가 가질 수 있는 편견을 배제할 수 있다는 기대감도 작용한다. 하지만 단순히 효율성 때문인지, 아니면 우리가 AI의 판단을 인간보다 더 객관적인 것으로 받아들이기 시작한 것인지는 고민해 볼 문제다.

위험은 인류가 AI의 판단을 의심 없이 신뢰하기 시작할 때 발생한다. AI의 결정을 불신하지 않게 되는 순간, 그 결과에 책임을 질 주체마저 사라지기 때문이다. 오늘날 AI는 수천 장의 이력서 중 면접자를 선별하는 데 쓰이지만, 내일은 성과 평가를 통해 승진자를 추천할 수도 있다. 금융, 보험, 교육 등 다양한 분야로 AI의 판단 영역은 끊임없이 확장될 전망이다.

데이터에 숨은 편향성과 제도적 방어선

AI의 판단 역시 인간의 편견에서 완전히 자유롭지는 못하다. AI가 내리는 결정의 토대는 결국 인간이 구축한 데이터와 기준이기 때문이다. 데이터에 포함된 불균형이나 편향성은 AI의 판단 과정에 그대로 투영된다. 실제로 아마존이 개발했던 채용 AI는 과거 데이터를 학습하는 과정에서 여성 지원자에게 불리한 평가를 내렸다는 사실이 드러나 결국 폐기된 사례가 있다. 더 큰 문제는 그 영향력의 규모다. 잘못된 판단 기준이 적용될 경우 수천 명에서 수만 명의 인원에게 동일한 오류가 반복될 수 있다.

이러한 이유로 유럽연합(EU)은 채용 분야의 AI를 고위험군으로 분류했다. EU의 AI법은 인간의 감독을 의무화하며, AI의 결과물을 무비판적으로 수용하는 '자동화 편향(automation bias)'을 경계하고 있다. 한국의 인공지능기본법 또한 올해 1월부터 채용 관련 AI를 '고영향 인공지능'으로 규정했으며, 사업자에게 사람에 의한 관리와 감독 책무를 부여하고 있다.

전문가의 가치와 최종 책임의 원칙

이제는 단순히