기술 탈취의 표적이 된 오픈AI의 최신 모델
지난 9월 공개된 오픈AI의 차세대 인공지능인 'GPT-6 아스트라'가 중국의 주요 AI 기업들로부터 기술 탈취를 위한 '증류(Distillation)' 공격의 타깃이 되고 있다. 디인포메이션이 전한 소식통들의 정보에 따르면, 문샷AI는 지난주 선보인 '키미 K3.1 프로'를 구축하는 과정에서 아스트라 모델을 활용해 증류를 진행한 것으로 알려졌다. 또한 딥시크 역시 지난 17일 출시한 'V4.1-Flash 1017' 버전의 개발 단계에서 아스트라로부터 증류 기술의 이점을 얻었다고 보도되었다.
이러한 '증류 공격'은 경쟁사가 막대한 자본과 시간이 투입되는 자체 모델 개발 과정을 생략하기 위해 사용하는 수법이다. 공격자들은 수만 개의 가짜 계정과 프록시 서비스를 동원해 특정 AI 모델에 조직적으로 반복 질문을 던진다. 이를 통해 대상 모델이 가진 추론 능력과 고유한 패턴을 역설계하여 기술을 그대로 복제해 가는 방식이다. 비록 앤트로픽과 오픈AI가 효율적인 모델 제작을 위해 자체적인 증류 기술을 사용해 왔으나, 외부 기업이 타사의 모델을 무단으로 증류하는 행위는 엄격히 금지되어 있으며 중국 기업들은 자사 모델조차 공개하지 않는 상황이다.
앤트로픽의 방어 성공과 공격 대상의 이동
그동안 중국의 AI 기업들은 주로 앤트로픽의 클로드 모델을 모방해 왔으나, 앤트로픽이 강력한 보안 조치를 도입하며 공격 대상이 오픈AI로 옮겨갔다. 앤트로픽은 이달 초 클로드의 추론 과정에 대한 접근 권한을 제한하는 보안책을 시행했으며, 그 결과 정보 추출 시도가 눈에 띄게 줄었다고 밝혔다. 앤트로픽 측은 증류 시도자들에 의해 유출되던 추론 토큰의 양이 이전보다 10분의 1에서 100분의 1 수준으로 급감했다고 발표했다. 또한 공격자들이 클로드의 추론 메커니즘을 반복 탐색하지 못하도록 차단하고, 이와 관련된 수만 개의 악성 계정을 찾아내 영구적으로 폐쇄했다.
증류를 둘러싼 엇갈린 시각과 미 정부의 규제
기술 증류를 바라보는 시각은 극명하게 갈린다. 젠슨 황 엔비디아 최고경영자(CEO)는 최근 CNBC와의 인터뷰에서 증류가 '강도질'이 아니냐는 질문에 대해 이를 '경쟁'이라고 규정했다. 그는 타사의 제품을 철저히 분석하는 것은 당연한 권리이며, 엔비디아 제품의 작동 방식을 파악하기 위해 뼈대까지 분석하는 과정 또한 경쟁의 일부라고 주장했다. 황 CEO는 경쟁이 모든 것을 발전시킨다고 강조하며, 이러한 방식이 싫다면 서비스를 중단해야 한다고 덧붙였다.
반면 미국 정부는 이를 엄중한 범죄로 보고 있다. 미 국토안보부 산하 사이버·인프라 보안국(CISA)은 중국 기업들이 이용 약관을 위반하며 산업적 규모의 증류 캠페인을 벌이고 있다고 비난했다. 스콧 베선트 미 재무장관 역시 지난 7월 이를 '절도'라고 지칭하며 해외 기업의 기술 탈취 시도에 대한 제재를 경고했다. 실제로 트럼프 행정부는 지난 19일, 연방정부 시스템 내에서 중국 AI 스타트업인 딥시크의 제품을 사용하는 것을 금지한다고 공표했다. 현재 오픈AI 등 미국 기업들은 저렴한 비용을 무기로 삼는 중국 기업들과 치열한 경쟁 중이다. 딥시크의 초기 모델 훈련 비용은 약 600만 달러(약 80억 원) 수준이었으나, 오픈AI의 GPT-4 개발에는 약 1억 달러가 투입된 것으로 추산된다.