데이터 의미 부여로 AI 에이전트 성능 혁신
SK텔레콤이 사내 인공지능(AI) 에이전트의 업무 수행 정확도를 끌어올리기 위해 기업 데이터의 근본적인 체질 개선에 나섰다. 기존 데이터 항목들에 업무적 맥락과 구체적인 설명을 덧붙이는 정비 과정을 거친 결과, AI 에이전트의 질문에 대한 정답률이 기존 약 40% 수준에서 80% 이상으로 두 배가량 급등했다.
SK텔레콤 인재개발원에서 개최된 인공지능 전환(AX) 전략 발표회에서 이러한 성과가 공개되었다. 그동안 기업이 보유한 데이터는 주로 개발자나 기존 업무 시스템을 기준으로 관리되어 왔다. 이로 인해 데이터의 이름이나 형식만으로는 실제 현업에서 해당 정보가 어떤 의미를 갖는지 파악하기 어려운 한계가 있었다. 사람은 경험을 통해 데이터의 맥락을 이해할 수 있지만, AI 에이전트는 필요한 정보를 찾아내더라도 그 속에 담긴 업무적 의미를 정확히 해석하지 못할 위험이 크다. 따라서 AI를 실무에 투입하기 위해서는 모델 자체의 성능 향상뿐 아니라, AI가 이해할 수 있는 형태로 데이터를 재정비하는 과정이 필수적이다.
방대한 데이터 관리와 비용 효율화 전략
이번 정비 작업의 핵심은 사내 데이터 항목에 업무상 의미와 설명을 부여하는 기술이다. 김 팀장은 데이터 정비 전에는 AI 에이전트의 정답률이 40%대에 머물렀으나, 정비 이후 80%를 상회하는 수준으로 개선되었다고 밝혔다. 이는 단순히 AI 모델을 교체하거나 에이전트의 수를 늘리는 방식이 아니라, 기존 데이터의 의미를 체계적으로 정리하는 것만으로도 업무 정확도를 획기적으로 높일 수 있음을 시사한다.
SK텔레콤이 실험을 진행한 네트워크 관련 데이터베이스(DB)는 9,000개 이상이며, 관리해야 할 데이터 항목은 약 30만 개에 달한다. 에이전트가 원활히 작동하려면 정보를 정확히 식별하고 해석하는 능력 외에도 처리 비용을 관리하는 역량이 중요하다. 이에 따라 SK텔레콤은 자체 모델을 적절히 활용해 데이터 처리 비용을 절감하고 운영 효율을 극대화한다는 구상이다. 현재 정기적으로 운영 중인 에이전트는 약 1,500개 규모이며, 한때 7,000개 수준까지 확장된 바 있다. 김 팀장은 각 에이전트의 실질적인 효과와 토큰 비용 지불의 타당성을 면밀히 평가 중이라고 설명하며, 단순한 압축이 아닌 성과 창출을 목적으로 에이전트의 증감 여부를 결정할 것이라고 덧붙였다.
보안 체계 강화 및 조직 차원의 성과 창출
AI 에이전트가 사내 데이터를 폭넓게 활용함에 따라 개인정보 및 민감정보를 보호하기 위한 기술적 장치도 마련되었다. '데이터 마스킹' 기술을 통해 AI가 원본 데이터에 직접 접근하지 않고도 필요한 처리 결과만을 전달받도록 설계하여 보안성을 높였다. 또한, '워크맵(Work-Map)' 기술을 활용해 기존 업무 자료를 기반으로 업무 절차를 파악하고, AI 에이전트가 수행 가능한 업무 영역을 발굴하고 있다.
SK텔레콤은 데이터 접근 권한, 시스템 연계, 보안 문제 등 개별 직원이 해결하기 어려운 과제들에 대응하기 위해 전사적 차원의 지원 체계를 구축하고 있다. 김 팀장은 개인 차원에서 해결 가능한 문제들은 상당 부분 해소되었으나, 이제는 회사 차원의 지원이 필요한 과제들이 부각되고 있다고 진단했다. 그는 AI 활용의 방향성이 개인에서 조직으로, 단순 활용에서 실질적인 성과 창출로 진화하고 있으며, 이제는 조직 차원에서 구체적인 성과를 만들어내는 데 집중할 것이라고 강조했다.