사회보장 시스템에 침투한 AI의 양면성
인공지능과 사회보장의 결합은 더 이상 먼 미래의 이야기가 아니다. 공공 영역에서 AI는 이미 급여의 자격 심사부터 액수 산정, 지급 과정에 이르기까지 핵심적인 역할을 수행하고 있다. 브라질 국립사회보장원의 챗봇 '엘로(Helo)'는 연간 2,000만 건이 넘는 상담을 처리하며, 핀란드 사회보험청은 급여 판정 과정을 자동화하는 단계에 이르렀다. 싱가포르에서는 노인층을 위한 AIoT 기술이 도입되었고, 한국 역시 독거노인 건강관리나 복지 사각지대 발굴 사업에 인공지능을 적극 활용 중이다.
하지만 기술 적용에 따른 논쟁도 뜨겁다. 우선 2026년 기준 한국의 사회복지 예산은 248조 7,000억 원으로 전체 세출의 34.2%에 달해, 기술 오류 시 파급력이 막대하다. 또한 국민의 생애 이력과 건강보험 등 민감한 개인정보를 다루기에 사고 발생 시 전 국민적 피해로 이어진다. 무엇보다 복지 수급자는 노인이나 장애인 등 사회적 약자가 많아 알고리즘 오류에 대응할 힘이 부족하며, 소득과 질병 등 극도로 사적인 데이터가 '사회적 평점' 시스템처럼 활용될 위험성도 존재한다.
기술의 효율성과 알고리즘의 치명적 오류
AI 도입은 분명한 이점을 제공한다. 영국의 사례처럼 실시간 소득 파악을 통해 급여 지급 속도를 높이고, 인간의 실수를 줄여 부정수급 오류를 개선할 수 있다. 한국의 위기 가구 발굴 시스템이나 브라질의 상담 챗봇처럼 정보 접근성을 높이는 기능도 탁월하다. 그러나 기술의 그림자는 깊다. 네덜란드의 '시리(SyRI)' 시스템은 특정 지역에 편향된 조사를 수행해 인권 침해 판결을 받고 폐쇄되었으며, 교육행정청의 자동 선별 기술은 이주민 학생들에게 구조적 차별을 일으켜 1,000억 원 규모의 배상 책임을 낳았다.
호주의 '로보데트(Robodebt)' 사례는 더욱 참혹하다. 자동화된 환수 시스템의 오류로 47만 건의 잘못된 통보가 발생했고, 이는 수급자들의 자살로 이어지는 비극을 초래했다. 미국의 데이터 과학자 캐시 오닐이 이를 '대량살상수학무기'라고 명명했듯, 불투명하고 편향된 알고리즘은 복지 행정의 신뢰를 한순간에 무너뜨릴 수 있다.
노동의 종말과 인간적 관계의 상실
AI는 노동 시장의 구조도 뒤흔들고 있다. 미국 브리뇰프슨 연구팀에 따르면 AI 노출도가 높은 직무에서 초기 경력자들의 고용이 감소하는 신호가 포착되었다. 이는 인간의 존엄성과 직결된다. 노동이 사라진 자리에서 생계를 어떻게 보장할 것인지, 임금 기반의 사회보험 재정은 어떻게 유지할 것인지에 대한 근본적인 숙제가 남는다. 기술 발전이 사회계약의 밑동을 흔들 수 있다는 경고다.
또한 AI가 인간의 정서적 관계를 대체하는 현상도 나타나고 있다. 영국 사회학자 제임스 멀둔은 인공지능을 '합성 페르소나'라 정의하며, 챗봇에 의존하다 비극적 선택을 한 소년의 사례를 통해 관계의 왜곡을 경고한다. 돌봄 로봇 시장의 급성장 역시 인간이 '고립의 섬'에 갇히는 미래를 예고한다. 마지막으로 뇌-컴퓨터 인터페이스를 통한 인간의 확장이나, 인공지능의 도덕적 지위를 논하는 '인공지능 복지' 담론은 '인간'이라는 범주 자체를 재정의할 것을 요구하고 있다.
선제적 대응을 위한 국가적 과제
사회보장 영역의 AI 도입은 단순한 기술 도입을 넘어 사람이 다치고 죽을 수 있는 영역임을 명심해야 한다. 한국의 경우 2024년 인공지능 기본법이 통과되었으나 사회보장 관련 내용은 미비한 실정이다. 국가인공지능전략위원회의 구성원 중 사회보장 및 노동 전문가 비중이 낮고, 국가 행동계획 내 복지 관련 비중도 극히 적다. 산업 발전에만 치중된 현재의 기술 지향점 속에서 인권과 복지라는 가치가 매몰되지 않도록, 기술의 파장에 대한 신중하고 선제적인 사회적 논의가 시급하다.