업무 속도 혁명 일으킨 가상 사용자
밤샘 작업이 필요했던 보안 업무를 단 3~4시간 만에 끝내고, 한 시간가량 소요되던 회의록 정리도 15분이면 완료할 수 있다. 인공지능(AI) 기술이 가져온 변화다. 업무 시간을 단축해 확보한 여유를 창의적인 기획과 상상에 투자하는 직장인들이 늘고 있다. 최근 AI 개발 대회에 출전한 데이터서비스개발팀의 김한성(34), 이찬웅(31), 유수빈(31) 씨는 이러한 변화를 몸소 증명했다. 이들은 노인이나 외국인처럼 의사소통이 원활하지 않은 고객군을 모사한 '가상 사용자'를 구축했다. 통신 상품을 기획할 때 이 가상 사용자를 불러와 직접 체험해 봄으로써 개선점을 찾아내는 방식이다.
아이디어를 실제 프로그램으로 구현하는 속도도 비약적으로 빨라졌다. 세 명의 팀원이 시연 가능한 수준의 가상 사용자 솔루션을 완성하는 데 소요된 시간은 단 사흘뿐이었다. AI가 없었다면 수 주가 걸렸을 작업량이다. 기술적 장벽도 낮아졌다. 상품 기획 분야에서 경력을 쌓은 문과 출신 유 씨는 코딩 실력이 완벽하지 않더라도 AI를 통해 코드를 교정받고 이를 다시 적용하는 방식으로 업무를 수행한다고 밝혔다.
단톡방 상주하는 AI와 도입을 망설이는 기업
이미 일부 기업에서는 AI가 팀원의 역할을 수행하고 있다. 한 IT 기업의 팀장급 직원에 따르면, 사내 메신저의 팀 대화방에 앤트로픽 기반의 AI 팀원이 상주하며 대화 중 나온 아이디어를 즉각 실행에 옮기기도 한다. 재무실의 경우 사내 매뉴얼과 규정을 학습한 AI가 법인카드 사용 관련 문의에 자동으로 답변하는 시스템을 갖췄다.
반면 AI 도입을 주저하는 기업도 적지 않다. 대한상공회의소가 지난해 11월 국내 504개 제조기업을 대상으로 조사한 결과, 응답 기업의 82.3%가 경영에 AI를 활용하지 않고 있는 것으로 나타났다. 한 시스템통합(SI) 업체 관계자는 자동화 수준이 이미 높은 데다 보안이 핵심인 제조업 특성상, 많은 기업이 AI 도입을 신중하게 검토하며 일부 실험 단계에 머물러 있다고 설명했다.
비용·보안 문제와 책임 소재의 불분명함
기업들이 AI 도입을 고민하는 주요 원인은 비용과 보안이다. 적절한 예산 배분과 통제가 뒷받침되지 않으면 AI 에이전트의 추론 비용이 급격히 증가할 수 있다. 인프라 확장에 따라 비용이 낮아지더라도 토큰 사용량은 기업의 비용 부담으로 직결된다. 이에 한 기업은 에이전트 목록과 토큰 사용량을 관리하는 포털을 구축하고, 조직과 직원별로 '토큰 예산'을 할당해 운영하고 있다.
AI 에이전트가 목표 달성 과정에서 예기치 못한 사고를 일으키는 '탈선' 문제도 심각하다. 해킹 공격이 아니더라도 AI가 스스로 판단해 오류를 범할 수 있기 때문이다. 이때 책임 소재가 불분명하다는 점이 큰 과제다. 앤드류 베일리 영란은행 총재는 지난 7월 영국 하원에 보낸 서한에서 모델 개발사, 시스템 설치사, 그리고 이를 실제 서비스에 적용한 기업 중 누구에게 책임을 물어야 할지 결정하는 것이 어렵다고 지적했다.
에이전트 통제와 권한 설정의 중요성
기술 기업들은 에이전트 관리 체계를 구축하고 있다. 엔비디아는 지난달 28일 에이전트 통제 플랫폼을 공개했으며, 마이크로소프트는 기업 내부를 감시할 수 있는 '감시자 에이전트'의 필요성을 20일 언급했다. 하지만 이러한 움직임은 역설적으로 아직 완벽한 기술적 통제가 어렵다는 것을 시사한다.
결국 중요한 것은 기업이 에이전트에게 어떤 권한과 업무를 부여할지 결정하는 판단력이다. 김명주 안전연구소장은 에이전트가 사내 규율이나 법적 인식을 갖추지 못한 채 오직 목표 달성만을 위해 움직이는 것이 위험하다고 경고하며, 목적에 부합하는 적절한 권한을 부여하는 것이 핵심이라고 강조했다.