AI 여행 설계, 설명 많아질수록 오히려 신뢰 떨어진다

생성형 AI 여행 계획의 핵심은 '책임성'과 '정확성'

생성형 인공지능(AI)에 여행 계획 수립을 전적으로 맡기려는 의사는 AI가 제공하는 정보의 정확도와 문제 발생 시 책임 소재를 명확히 할 수 있는지에 따라 결정된다는 연구 결과가 발표되었다. 호주 에디스코완대학교 산지트 로이 마케팅·서비스과학 교수 연구팀은 생성형 AI를 활용해 여행을 계획한 경험이 있는 호주 여행객 421명을 대상으로 조사를 진행했다. 이 연구는 국제학술지인 ‘투어리즘 매니지먼트 퍼스펙티브스(Tourism Management Perspectives)’에 게재되었다.

연구진은 AI를 평가하는 다섯 가지 기준인 신뢰성, 책임성, 믿음직한 정도, 공정성, 투명성을 분석했다. 조사 결과, AI에 의사결정을 위임하려는 경향은 신뢰성과 책임성이라는 두 요소와 강력한 양(+)의 상관관계를 보였다. 즉, AI가 일관되고 정확한 데이터를 제공한다고 느낄수록, 그리고 추천된 정보에 문제가 생겼을 때 서비스 제공자가 책임을 지고 해결해 줄 수 있다고 믿을수록 AI를 활용할 가능성이 커졌다.

여행 계획의 단계는 세 가지로 구분되었다. 첫째는 여행지나 숙소 선정의 기준을 세우는 단계, 둘째는 여러 후보군 중 최적의 선택지를 가려내는 단계, 셋째는 최종적인 결정을 내리는 단계다. 분석 결과, 신뢰성과 책임성은 이 모든 단계에서 유의미한 영향을 미쳤다. 반면 AI가 이용자의 이익을 위해 행동한다는 믿음은 첫 단계에서만 독립적인 영향을 주었으며, 공정성은 모든 단계에서 통계적 유의성을 확보하지 못했다. 특히 최종 결정 단계로 갈수록 추천 결과의 신뢰도가 결정적인 판단 근거가 되었다.

정보 과부하가 부른 '투명성의 역설'

흥미로운 점은 AI가 판단 근거를 상세히 설명할수록 오히려 사용자가 AI에게 결정을 맡기려 하지 않는 '투명성의 역설(Paradox of Transparency)' 현상이 관찰되었다는 것이다. 일반적으로 AI가 왜 그런 추천을 했는지 투명하게 공개하면 신뢰도가 높아질 것으로 예상되지만, 실제로는 설명이 자세할수록 의사결정 위임 의사가 낮아졌다. 연구진은 이를 정보 처리 과정에서 발생하는 정신적 부담 때문이라고 분석했다.

예를 들어 3박 4일의 일정을 요청했을 때, AI가 단순히 경로만 알려주는 것이 아니라 방대한 대안과 복잡한 비교 자료, 상세한 논리 근거를 한꺼번에 쏟아내면 이용자는 이를 다시 검증하고 해석해야 하는 과제에 직면한다. 결국 AI를 통해 시간을 아끼려던 목적과 달리, 정보를 읽고 확인해야 할 업무가 늘어나면서 인지적 과부하가 발생하는 것이다. 다만 연구진은 이것이 정보를 숨겨야 한다는 뜻은 아니며, 정확성과 책임성이 뒷받침된 상태에서 이용자가 소화할 수 있는 수준의 정보 제공이 중요하다는 점을 시사했다.

잘못된 정보의 위험성과 공식 출처 확인의 중요성

AI의 추천을 맹신할 경우 발생할 수 있는 실질적인 위험도 경고되었다. 호주 정부의 해외여행 정보 서비스인 '스마트래블러(Smartraveller)'는 AI가 폐업한 호텔을 추천하거나, 항공편 시간, 비자 및 입국 규정, 현지 법률 및 안전 정보를 잘못 안내할 가능성이 있다고 지적했다. 실제로 호주 Z세대 여행객의 약 30%가 여행 계획에 AI를 활용하고 있는 것으로 나타났다.

따라서 AI를 여행의 출발점으로 활용하되, 핵심적인 정보는 반드시 공식 채널을 통해 교차 검증해야 한다. 항공권과 숙소 예약은 각 항공사 및 숙박업체의 공식 사이트에서, 비자와 입국 요건은 해당 국가 정부나 대사관을 통해 확인하는 것이 안전하다. 관광지 운영 시간이나 현지 교통편 역시 최신 정보를 직접 확인하는 과정이 필요하다. 연구진은 AI가 정직하고 신뢰할 수 있으며, 불필요한 정보로 사용자에게 부담을 주지 않는 환경이 조성될 때 비로소 여행객들이 AI에게 안심하고 결정을 맡길 수 있을 것이라고 덧붙였다.