중국 AI 기업들의 타겟 변경, 오픈AI로 향한 '증류' 공격
중국 인공지능(AI) 업계를 선도하는 딥시크와 문샷AI가 오픈AI의 최신 기술인 ‘GPT-6 아스트라’를 무단으로 활용하여 자사 모델을 구축했다는 의혹이 불거졌다. 그동안 앤트로픽의 ‘클로드’ 모델을 주된 공략 대상으로 삼았던 중국 기업들이 앤트로픽의 보안 체계가 강화되자, 상대적으로 공략하기 용이한 오픈AI의 모델로 공격 방향을 선회했다는 분석이 나오고 있다.
현지시간 28일, 미국의 IT 전문 매체 디인포메이션은 여러 소식통을 근거로 지난 9월 선보인 GPT-6 아스트라가 최근 중국 AI 기업들의 주요한 ‘증류(Distillation)’ 공격 대상이 되었다고 전했다. 증류 기술은 고성능 AI 모델이 내놓는 답변을 학습 데이터로 삼아, 보다 효율적이고 작은 규모의 모델을 만들어내는 방식이다. 이는 AI 개발에 투입되는 막대한 비용과 시간을 절감할 수 있어 업계에서 널리 쓰이지만, 경쟁사의 허락 없이 모델의 성능과 추론 방식을 무단 추출하는 행위는 심각한 윤리적·기술적 논란을 야기한다.
정교해지는 증류 공격 수법과 중국 기업의 연루 정황
소위 ‘증류 공격’은 수만 개의 가짜 계정과 프록시 서비스를 동원해 특정 AI 모델에 조직적이고 반복적인 질문을 던지는 방식으로 진행된다. 이를 통해 대상 모델의 추론 패턴을 역설계하여 자체적인 AI 개발에 활용하는 것이다. 디인포메이션의 보도에 따르면, 문샷AI는 지난주에 출시한 ‘키미 K3.1 프로’를 개발하는 과정에서 오픈AI의 아스트라 모델을 증류한 것으로 알려졌다. 딥시크 또한 지난 17일 공개한 ‘V4.1-Flash 1017’ 모델의 성능을 개선하기 위해 아스트라 모델을 증류 기술로 활용했다는 정황이 포착되었다.
앤트로픽의 강력한 보안 대응이 불러온 타겟 이동
중국 AI 기업들이 오픈AI로 눈을 돌린 결정적인 배경에는 앤트로픽의 강력한 보안 조치가 자리 잡고 있다. 정보원들에 따르면 중국 기업들은 최근까지 주로 앤트로픽의 클로드 모델을 증류 대상으로 삼아왔으나, 앤트로픽이 정보 추출 시도에 대해 강력한 방어 기제를 구축하면서 접근이 쉬운 오픈AI 모델로 표적을 바꾼 것으로 보인다.
실제로 앤트로픽은 이달 초 클로드의 추론 과정에 대한 접근을 엄격히 제한하는 새로운 보안 시스템을 도입했다. 앤트로픽의 발표에 따르면, 이러한 보안 강화 조치 이후 외부에서 추출되는 추론 토큰의 양은 기존의 10분의 1에서 100분의 1 수준까지 급감했다. 이는 정보 추출량이 최대 99%까지 차단되었음을 의미한다. 앤트로픽은 공격자들이 클로드의 추론 과정을 반복적으로 탐색하는 것을 막기 위해 시스템을 개선했으며, 증류 공격에 가담한 수만 개의 악성 계정을 적발해 영구적으로 차단했다고 설명했다.
오픈AI와 앤트로픽의 입장 및 대응 상황
오픈AI와 앤트로픽은 딥시크와 문샷AI를 포함한 중국 개발사들이 자사 모델을 무단으로 증류해 온 행위를 지속적으로 비판해 왔다. 두 기업 모두 효율적이고 저렴한 소형 모델을 개발하기 위해 자체적으로 증류 기술을 사용하고는 있으나, 외부 기업이 허가 없이 자사 모델을 도용하는 것은 엄격히 금지하고 있다. 이에 따라 두 기업은 중국 시장에 자사 AI 모델을 공개하지 않고 있는 상태다. 이번 사태와 관련해 오픈AI 대변인은 회사가 해당 문제를 매우 심각하게 인식하고 있으며, 이를 해결하기 위해 지속적인 대응 노력을 기울이고 있다고 밝혔다.