알고리즘이 설계한 가짜 선택의 굴레
소셜 네트워크 서비스(SNS) 상에서 화제가 된 디저트를 맛보기 위해 긴 대기 줄을 서거나, 유튜브 알고리즘이 추천한 제품을 결제하는 행동은 흔한 풍경이다. 대다수는 이러한 클릭과 구매가 온전히 자신의 주관적 의지에서 비롯되었다고 믿는다. 하지만 해당 콘텐츠가 정말로 우연한 기회에 화면에 노출된 것인지에 대해서는 의문이 남는다. 신간 <알고리즘 불복종>(다산초당, 240쪽, 1만 8000원)의 저자 주한나는 우리가 스스로 결정했다고 착각하는 많은 요소가 실상은 인공지능(AI) 알고리즘이 개인의 욕구를 인지하기도 전에 미리 배치해 놓은 결과물일 수 있다고 지적한다.
테크 전문가가 던지는 AI 시대의 경고
저자인 주한나는 마이크로소프트(MS)에서 13년간 생성형 AI 개발을 담당하는 등 약 25년이라는 긴 세월 동안 기술 업계의 최전선에서 활동해온 전문가다. 챗GPT로 대표되는 거대언어모델(LLM)이 전 세계적인 파장을 일으킨 지난 해, 그는 깊은 회의감을 느끼며 MS를 퇴사했다. AI의 작동 원리를 누구보다 깊이 이해하고 있는 그는 기술이 인간의 삶에 미친 파급력을 기록한다. 저자의 목적은 AI 사용 자체를 금지하는 것이 아니다. 다만 친절하고 온화한 모습 뒤에 숨겨진 AI의 영향력에 의해 우리의 평범한 일상이 통째로 잠식될 수 있다는 점을 경고하고 있다.
맥락을 읽는 기술과 전문가 권위의 변화
과거 구글의 검색 엔진은 정교한 질문이 뒷받침되지 않으면 원하는 답을 내놓지 못했으나, AI 기술을 접목하며 대화의 맥락을 파악하는 단계로 진화했다. 이제 기술은 사용자의 의도를 이해하고 개인의 취향에 부합하는 정보를 선제적으로 제공한다. 챗GPT 역시 사용자가 반복해서 질문을 던져도 화를 내지 않고 수백 번씩 친절한 답변을 이어간다. 과거에는 대화의 맥락을 짚어내는 능력이 인간 고유의 영역이었으며, 지식의 독점은 전문가들의 특권이었으나 이러한 경계가 허물어지고 있는 것이다.
비효율을 통한 삶의 균형 찾기
주한나는 퇴직 후 1년 동안 스마트폰 사용을 중단하고, AI가 제공하는 극도의 효율성 대신 이른바 '비효율의 효율'을 실천하는 삶을 선택했다. 종이와 펜을 활용한 학습이 디지털 기기보다 기억에 더 오래 남는다는 사실을 체감했으며, 대면 강사와의 교감을 통해 피아노 연주에 몰입하는 즐거움을 깨닫기도 했다. 저자는 이러한 경험을 바탕으로 끊임없이 쏟아지는 변화와 자극 속에서 인간이 어떻게 삶의 균형을 유지해야 하는지에 대한 결론을 도출한다. 기술을 설계하는 이들조차 매료될 수밖에 없는 AI의 강력한 위력 속에서, 저자는 수동적인 정보 수용에서 벗어나 스스로 원하는 것을 찾는 태도의 중요성을 강조한다.