오픈AI, 중국 스타트업의 AI 모델 추론 정보 추출 공격 차단

오픈AI는 지난 7월 초 중국 스타트업 문샷과 관련된 조직적인 공격으로부터 16,000건의 추론 정보 추출 시도를 탐지하고 15,000명 이상의 사용자를 차단했다고 1일 밝혔다. 공격자들은 암호화나 데이터베이스 침해 없이 모델과의 상호작용을 조작해 숨겨진 추론 과정을 재현하려 시도했다.

앤스로픽도 문샷, 알리바바 딥시크 등 중국 AI 업체들이 클로드 모델을 비밀리에 사용해 시스템을 훈련시킨 증거를 확인했으며, 규모는 수백만 건의 요청과 수십억 토큰에 이르는 것으로 알려졌다. 중국 기업들은 위장 계정, 프록시, 제3자 중개 서비스를 통해 약관과 지역 제한을 우회하는 '증류' 기법을 사용했다.

미국 하원의 로 칸나 의원은 중국의 AI 모델 가중치 도용이 미국의 국가안보를 위협할 수 있다며 주요 AI 기업들에게 사이버보안 강화를 압박했다. AI 선도권을 둘러싼 미중 경쟁이 심화되는 가운데 AI 안전성과 보안에 대한 우려가 높아지고 있다.