AI를 업무 주체로 격상시킨 SKT의 조직 재설계
인공지능(AI) 기술이 기업의 전반적인 업무 영역으로 빠르게 침투함에 따라, 투입 비용 대비 산출물을 극대화하는 '토큰 효율성'이 AI 전환(AX) 시장의 핵심 경쟁력으로 부상하고 있다. AI 전환 사업을 확장하며 내부 적용에도 박차를 가하고 있는 SK텔레콤은 AI 에이전트에게 사번과 구체적인 직무를 부여하는 등 조직 운영 체계를 전면 재설계하고 있다. 이는 AI를 단순한 보조 도구로 보는 시각에서 벗어나, 구성원과 실질적으로 협업하는 업무 주체로 활용하여 생산성을 끌어올리려는 전략적 조치다.
IT 업계의 분석에 따르면, SK텔레콤은 지난 3월 전 직원이 직접 AI 에이전트를 만드는 '1인 1 AI 에이전트' 프로젝트를 시작한 데 이어, 최근에는 AI 에이전트에게 소속과 직무, 권한을 명확히 부여했다. 이러한 행보는 AI 도입 자체에 몰두하기보다 비용 대비 성과를 중시하는 글로벌 'AX 시프트' 추세와 궤를 같이한다. AI가 수행하는 업무의 난도가 높아지면서 연산량과 토큰 사용량이 급증하자, 기업들이 비용 관리의 효율성을 높이는 데 집중하고 있기 때문이다. 여기서 토큰은 AI가 텍스트 등을 처리할 때 쓰이는 기본 단위로, 사용량에 비례해 비용이 발생한다.
급증하는 토큰 사용량과 글로벌 모델 라우팅 전략
글로벌 AI 모델 마켓플레이스인 오픈라우터의 자료를 살펴보면, 주간 토큰 처리량은 지난해 1월 약 5,000억 개 수준에서 올해 9월 128조 4,000억 개로 약 257배가량 폭증했다. 또한 AI 요청 1회당 들어가는 평균 입력 토큰 수도 2024년 초 약 1,500개에서 지난해 말 약 6,000개로 4배 늘어났다. 이처럼 AI가 다루는 업무가 복잡해지고 활용 범위가 넓어지면서 비용 최적화가 기업의 생존 과제가 되었다.
이에 따라 기업들은 업무의 난이도에 맞춰 적절한 AI 모델을 선택하는 '모델 라우팅' 기술을 도입하고 있다. 단순 업무에는 저비용 경량 모델을, 고도의 추론이 필요한 작업에는 고성능 모델을 배치해 불필요한 지출을 막는 방식이다. 대표적으로 앤스로픽은 클로드를 하이쿠(경량), 소넷(중간), 오퍼스(고성능), 페이블(초고성능) 등 단계별로 구축해 기업의 선택권을 넓혔다. 오픈AI 역시 최상위 모델인 'GPT-6 아스트라'와 유사한 성능을 내면서 비용은 5분의 1 수준인 'GPT-6.1 솔'을 출시했다. 아마존웹서비스(AWS)도 베드록 서비스를 통해 100개 이상의 모델 중 최적의 모델을 고를 수 있도록 지원 중이다.
'AX J커브'를 통한 비즈니스 모델 혁신
SK텔레콤 역시 이러한 흐름에 맞춰 토큰 효율이 높은 AI 에이전트를 전사적으로 확산시키며, 비용 대비 생산성을 극대화하는 방향으로 AX 전략을 구체화할 전망이다. 정재헌 SK텔레콤 대표는 AI 도입 초기에는 생산성이 일시적으로 낮아지다가, 조직과 업무 방식의 재설계를 거치며 다시 급상승하는 'AX의 J커브' 현상을 강조해 왔다. 이는 기술 도입만으로 성과가 나는 것이 아니라, 업무 방식과 조직 구조의 근본적인 변화가 수반되어야 한다는 의미를 담고 있다.
SK텔레콤 관계자는 AI 에이전트가 사번과 직무, 권한을 부여받은 상태에서 구성원들이 기획, 개발, 디자인 등 다양한 역할을 넘나드는 멀티 롤 방식으로 협업하고 있다고 밝혔다. 회사는 사내 AI 개발 플랫폼을 통합하고 보안 체계를 고도화하여 AX 확산의 토대를 다지는 한편, 이를 조직의 생산성 향상과 새로운 비즈니스 모델(BM) 혁신으로 연결할 계획이다.