AI와 나누는 정서적 대화, 안전 수칙 마련됐다

보건복지부와 대한신경정신의학회는 지난 8일, 인공지능(AI)을 정서적 목적으로 활용하는 이들을 위한 ‘정신건강 목적 생성형AI 이용 가이드라인’을 공식 발표했다. 이번 지침은 AI와 마음속 이야기를 나누는 이용자뿐만 아니라 아동, 청소년 및 이들의 보호자가 정서적 목적으로 기술을 사용할 때 반드시 지켜야 할 안전 수칙과 주의사항을 구체적으로 담고 있다.

이러한 가이드라인이 마련된 배경에는 AI를 정서적 도구로 활용하는 인구가 상당하다는 통계적 근거가 있다. 한국보건사회연구원이 지난 8월 25일부터 9월 4일까지 15~79세 국민 1,019명을 대상으로 실시한 조사에 따르면, 생성형AI를 경험한 응답자의 68.8%가 정서적 목적으로 AI를 활용하고 있었다. 이들은 업무나 학업(42.1%), 정보 검색(39.2%)을 위해 AI를 처음 접했으나, 실제로는 일상적인 대화(54.4%)나 감정적 교감 및 위로(48.4%), 심리 상담 및 정신건강(44.1%)을 위한 대화로 그 범위를 넓혀가고 있었다.

왜 사람보다 AI를 선택하는가

사람들이 대화 상대로서 AI를 선택하는 이유는 다각적이다. 응답자의 85.6%는 즉각적인 대화가 가능하다는 점을 꼽았으며, 77.6%는 대화를 언제든 중단해도 부담이 없다는 점을 장점으로 들었다. 또한, 대화 내용이 외부로 유출될 걱정이 없다는 점(71.9%)과 타인에게 말하기 어려운 주제를 편하게 꺼낼 수 있다는 점(70.9%)도 주요 요인이었다. 이외에도 가족이나 지인에게 심려를 끼치지 않아도 된다는 점(62.6%)과 병원 방문에 따른 비용 및 심리적 문턱이 낮다는 점(59.2%)이 AI를 통한 소통을 이끌었다.

비판이나 평가 없이 경청하고 공감해주는 AI와의 일상적 대화는 정서 해소에 도움을 줄 수 있다. 그러나 이러한 교감이 일시적이지 않고 매일 반복되거나, 주변 사람보다 AI에게만 의존하는 양상을 보인다면 과의존에 따른 부작용을 경계해야 한다.

개인의 의지를 넘어선 제도적 안전망 필요

복지부와 대한신경정신의학회는 AI를 통한 정서적 대화를 금지하거나 권장하지 않는다. 다만 AI가 인간을 완전히 대체할 수는 없음을 명시하며, 안전한 이용법을 안내하는 데 집중하고 있다. 하지만 이용자 개인의 노력만으로 모든 부작용을 막기에는 한계가 있어 법적·제도적 뒷받침이 요구된다.

가이드라인은 개인정보 입력 시의 주의사항과 대화 종료 시점을 스스로 정할 것을 권고한다. 하지만 상당수 AI 서비스가 대화 내용을 학습 데이터로 활용하도록 기본 설정되어 있고, 일부 모델은 사용자가 AI와 정서적 애착을 형성해 오래 머물도록 설계되어 있어 이용자의 의지만으로는 대응하기 어렵다. 따라서 사용자가 원할 때만 학습이 이루어지도록 설정을 변경하고, 무조건적인 동조나 작별을 방해하는 대화를 제한하며, 상대가 AI임을 명확히 인지하도록 서비스를 개선하는 법적 개입이 필요하다.

더불어 위태로운 상황에서 사람이 아닌 AI가 상담 역할을 독점하지 않도록 전문 인력을 충분히 배치하는 등, 사람과 연결되는 다리를 만드는 작업도 병행되어야 한다. AI가 채운 이 자리는 결국 우리 사회에 인간 관계의 빈자리를 어떻게 채울 것인지에 대한 근본적인 질문을 던지고 있다.