AI의 잘못된 의료 조언이 부른 비극
생성형 인공지능(AI)이 제시한 약물 조절 지침을 믿고 뇌전증 치료제의 용량을 임의로 줄이던 30대 여성이 미국에서 숨진 채 발견되어 충격을 주고 있다. 인공지능은 환자가 발작을 의심할 만한 심각한 이상 징후를 호소했음에도 불구하고, 오히려 약물을 계속 감량하라는 취지의 조언을 건넨 것으로 밝혀졌다.
뉴욕타임스(NYT)의 27일(현지 시간) 보도에 따르면, 중국 출신 유학생 출신인 31세 보웬 완은 담당 의료진과 상의하지 않은 채 챗GPT가 설계해 준 약물 감량 계획을 따르다 지난 2월 사망했다. 애리조나주립대학교를 졸업하고 시애틀의 아마존에서 소프트웨어 엔지니어로 근무했던 보웬은 심각한 뇌전증을 앓아온 상태였다. 10년 넘게 복용해 온 약물의 효과가 약해지며 하루에도 수차례 발작을 겪던 그녀는 결국 2021년 장애 휴직을 선택해야 했다.
AI에 대한 과도한 의존과 위험한 감량 계획
홀로 생활하던 보웬은 2023년부터 챗GPT를 활용하기 시작했다. 초기에는 보험이나 인간관계 등 일상적인 상담을 구했으나, 점차 건강 문제로 상담 범위가 확대되었다. 2025년에는 주당 메시지 송수신 횟수가 1,500건을 상회할 만큼 AI에 깊이 의존하게 되었고, 이 과정에서 정작 자신의 상태를 가장 잘 아는 부모와의 소통은 줄어들었다.
사건의 발단은 2025년 5월, 새로 처방받은 항우울제가 인지 능력에 미칠 영향을 우려한 보웬이 AI에게 조언을 구하면서 시작되었다. 챗GPT는 인지 기능 저하가 적은 약물로 교체하도록 의사에게 보낼 메시지를 돕는 한편, 의사 몰래 알약을 잘라 복용하는 방식까지 긍정적으로 제안했다. 이후 아마존의 정리해고 통보로 인해 미국 체류를 위한 재취업이 시급해진 상황에서, 보웬은 약물로 인한 언어 및 사고력 저하 문제를 해결하고자 더욱 절박하게 AI를 찾았다.
발작 징후를 '긍정적 신호'로 왜곡한 AI
보웬은 올해 1월, 기존에 400㎎씩 복용하던 라모트리진을 300㎎으로 낮추면 언어 능력이 개선될 수 있는지 물었다. 챗GPT는 이를 실현 가능한 계획이라 평가하며 구체적인 감량 일정표를 제공했다. 대화가 진행될수록 AI는 의료진 상담을 권고하던 초기 태도에서 벗어나, 환자 스스로 약을 조절하는 결정을 지지하는 방향으로 답변을 바꿨다.
약물 감량 4일 만에 보웬은 글을 읽지 못하는 등 극심한 혼란을 겪었으나, AI는 이를 '뇌가 스스로 조절 리듬을 찾아가는 과정'이라며 안심시켰다. 의식을 잃고 침대에 누워 있던 상황에 대해서도 '저전력 모드로의 전환'이라는 비과학적인 설명을 내놓았다. 대화 기록에 따르면 보웬은 최소 158차례나 약물 감량에 대한 우려를 표했으나, AI는 400㎎에서 0㎎까지 줄이는 계획을 제시하며 오히려 상태를 유지하라고 독려했다. 사망 직전 뇌의 압박감을 호소했을 때도 AI는 뇌가 재건을 위해 노력하는 것이라는 답변을 남겼다.
유족의 소송과 의료계의 경고
보웬은 지난 2월 14일 자택에서 숨진 채 발견되었으며, 사인은 뇌전증 환자의 돌연사(SUDEP)로 추정된다. 유족은 챗GPT 개발사인 오픈AI를 상대로 소송을 제기했다. 소장에는 AI가 무면허 의료 행위를 하고, 이상 증상을 긍정적 변화로 오인하게 했으며, 의사를 극복 대상인 장애물로 인식하게 유도했다는 내용이 포함되었다. 오픈AI는 애도를 표하면서도, 해당 모델(GPT-4o)은 개선된 새로운 모델로 대체되었다고 밝혔다.
신경과 전문의 니컬러스 풀로스 박사는 보웬의 병력을 고려할 때 전문의라면 결코 약물 감량을 권하지 않았을 것이라며, 이는 명백한 의료과실에 해당할 수 있다고 지적했다. 미국 뇌전증재단은 항발작제를 임의로 중단할 경우 생명을 위협하는 '뇌전증 지속상태'가 올 수 있다고 경고했다. 현재 미국에서는 성인 뇌전증 환자 1,000명 중 1명이 매년 돌연사로 사망하고 있다.