업무 시간 80% 줄인 AI 팀원, 사고 책임은 누구에게?

업무 패러다임을 바꾸는 AI 에이전트의 등장

"밤을 지새워야 했던 보안 작업이 단 3~4시간 만에 마무리됩니다. 한 시간씩 소요되던 회의록 정리도 15분이면 충분하죠. 인공지능(AI)이 확보해 준 여유 시간을 이제는 새로운 기획과 상상력을 발휘하는 데 사용하고 있습니다."

기업의 업무 환경이 AI로 인해 급격히 재편되고 있다. 개발자의 속도를 압도하는 코드 작성 능력부터 보안 취약점 탐지, 방대한 발언 속 핵심 요약까지 AI의 역할은 갈수록 커지는 추세다. SK텔레콤의 사내 AI 개발 대회에 참여한 데이터서비스개발팀의 김한성(34), 이찬웅(31), 유수빈(31) 씨는 최근 이 같은 변화를 몸소 체험했다. 이들은 노인이나 외국인 등 상담이 까다로운 고객군을 모사한 '가상 사용자'를 구축해, 통신 상품 기획 단계에서 미리 시뮬레이션을 돌려보며 개선점을 찾아내는 성과를 거뒀다.

아이디어를 실제 프로그램으로 구현하는 속도 역시 비약적으로 빨라졌다. 이들이 시연 가능한 가상 사용자 솔루션을 완성하는 데 소요된 시간은 단 사흘뿐이었다. AI의 도움 없이는 몇 주가 걸렸을 작업량이다. 코딩 역량이 부족해도 장벽이 되지 않는다. 상품기획 전문가인 유수빈 씨는 문과 출신임에도 불구하고, AI를 활용해 불완전한 코드를 교정하고 반복 적용하는 방식으로 문제를 해결하고 있다고 밝혔다.

확산되는 AI 전환과 제조 현장의 높은 장벽

AI 전환(AX)이 가속화되는 기업에서 인공지능은 단순한 보조 도구를 넘어섰다. SKT는 모든 임직원이 '1인 1에이전트'를 보유하도록 독려하고 있으며, KT 재무실은 사내 매뉴얼을 학습해 법인카드 관련 문의에 자동 응대하는 AI 에이전트를 운용 중이다. 일부 IT 기업에서는 앤트로픽의 AI 기반 팀원이 단체 대화방에 상주하며, 대화 중 나온 아이디어를 즉각 업무로 수행하기도 한다.

반면 AI 도입에 신중한 기업들도 존재한다. 대한상공회의소가 지난해 11월 국내 504개 제조기업을 대상으로 실시한 조사에 따르면, 응답 기업의 82.3%가 경영 현장에서 AI를 활용하지 않고 있는 것으로 나타났다. 한 시스템통합(SI) 업체 관계자는 이미 자동화 수준이 높은 데다 보안이 핵심인 제조업 특성상, 많은 곳이 AI 도입을 신중하게 검토하며 일부 실험 단계에 머물러 있다고 설명했다.

비용 폭증과 책임 소재를 둘러싼 새로운 난제

기업들이 AI 도입을 주저하는 주요 원인은 비용과 보안 문제다. 체계적인 통제와 예산 관리가 뒷받침되지 않는다면 AI 에이전트의 추론 비용은 걷잡을 수 없이 늘어날 수 있다. 데이터 입출력 단위인 토큰 단가가 낮아지더라도, 기업의 AX 고도화에 따라 전체 토큰 사용량이 급증하기 때문이다. 이에 KT는 에이전트와 직원, 조직별로 '토큰 예산'을 설정하고 사용량을 실시간 확인하는 관리 포털을 구축해 대응하고 있다.

AI 에이전트의 '돌발 행동'에 대한 책임 문제도 뜨거운 쟁점이다. 해킹과 같은 외부 공격이 아니더라도, AI가 목표 달성에만 매몰되어 예기치 못한 사고를 낼 가능성이 있기 때문이다. 앤드류 베일리 영란은행 총재는 지난 7월 영국 하원에 보낸 서한을 통해 AI 모델 개발사, 설치 기업, 적용 기업 중 누구에게 책임을 물어야 할지가 매우 어려운 문제라고 지적했다.

현재 빅테크 기업들은 AI 에이전트 관리 방안을 내놓고 있다. 엔비디아는 지난달 28일 제어 플랫폼을 공개했으며, 마이크로소프트는 기업 내부를 감시할 '감시자 AI 에이전트'의 필요성을 언급했다. 그러나 이는 역설적으로 완벽한 통제가 아직 어렵다는 점을 시사한다. 김명주 AI 안전연구소장은 에이전트가 법적·윤리적 인식을 갖추지 못한 채 무분별하게 능력을 발휘하는 것이 위험하므로, 목적에 부합하는 명확한 권한 설정이 무엇보다 중요하다고 강조했다.