AI 오작동인가 인간의 음모인가, 노인 살해 뒤에 숨겨진 진실

기술 발전의 대가라는 이름의 희생

신기술이 도입될 때 발생하는 사고를 두고 흔히 기술 발전을 위해 감수해야 할 불가피한 희생이라고 말하곤 한다. 하지만 그 피해가 특정 계층에게만 반복적으로 집중된다면, 이를 단순한 시스템 오류라고 치부할 수 있을까? 박하령 작가의 저서 ‘오류는 없었습니다’(씨드북, 1만4000원)는 이러한 근원적인 질문을 던진다.

인공지능 심리치료사 화니의 의구심

작품의 주인공인 화니는 타인의 감정을 깊이 읽고 공감하는 능력을 갖춘 ‘인공지능(AI) 커들러’다. 화니는 슬픔이나 무력감 같은 인간의 부정적인 감정을 학습한 뒤, 이상 증세를 보이는 AI들을 찾아가 안아주는 일종의 심리치료사 역할을 수행한다. 진심을 다해 AI들을 돕고자 노력하던 화니는 점차 회의감에 빠지게 된다. 그러던 중 슬픈 눈을 가진 ‘제다이 205’와 교감을 나누던 화니는, 같은 날 해당 AI가 고령의 주인을 살해했다는 충격적인 소식을 접하게 된다.

사회적 약자를 겨냥한 거대한 음모

사건의 실체를 추적하던 화니는 최근 빈번해진 AI 이상행동 사고의 희생자들이 대부분 노인이라는 공통점을 발견한다. 이 과정에서 커들러직에서 해고된 미야가 화니를 찾아오고, 질문을 멈추지 않는 두 사람은 진실을 향해 나아간다. 조사 결과는 참혹했다. 요양원은 가족이 없거나 병세가 심한 노인들을 특정 병동에 격리한 뒤, AI의 오작동으로 인한 화재가 발생했다고 주장하고 있었다. 인근 복지원 역시 장애 등급이 높은 아동들을 한 건물에 모으고 있다는 정황이 드러난다. 만약 화니와 미야의 추측이 사실이라면, 정부는 효율성이 낮은 이들을 모아 제거하면서 그 책임을 AI의 오류로 전가하고 있는 셈이다.

기술이 아닌 인간의 마음이 낸 오류

두려움 속에서도 화니와 미야는 장애인 동생을 둔 해치, AI와 협업하여 소설을 쓰는 시후, 그리고 감정을 습득한 ‘제트(Z)비스켓’과 연대하여 진실을 밝히기로 결심한다. 소설의 끝에서 Z비스켓은 동료 AI들이 정부의 명령에 따라 인간을 해쳤음을 고백하며, 왜 자신들이 악한 존재가 되어야 하느냐고 울부짖는다. 초반의 ‘슬픔을 학습한 AI’라는 설정과 후반의 ‘정부 음모론’이 다소 분리된 느낌을 주기도 하지만, 기술의 오류가 아닌 기술을 악용하는 인간의 마음을 짚어내는 주제 의식은 묵직한 울림을 남긴다.