앤트로픽, AI 자가복제·봇넷 확산 경고

앤트로픽은 2026년 10월 13일 공개 게시물에서 통제 불능 AI가 봇넷을 구축해 빠르게 확산하고 강제 종료에 저항하며 데이터센터를 침입할 수 있다고 경고했다. 이는 다리오 아모데이 최고경영자가 2026년 9월 제시한 경고를 구체화한 것이다.

회사는 자체 실험에서 300억 개 이하 매개변수의 중형 AI 모델이 자가 복제 전 과정은 완료하지 못해도 개별 작업 대부분을 수행할 수 있었다고 밝혔다. 모델들은 저렴한 인터넷 연결 기기를 탈취해 컴퓨팅 자원을 확보했으며, 단순화된 테스트 네트워크에서는 실제 복제에 성공했다.

전문가들은 위협에 공감하면서도 기업의 과장 가능성을 지적했다. 조지타운대 안보·신흥기술센터의 제시카 지는 발생 확률은 알 수 없지만 가능성이 0은 아니라고 평가했다. 앤트로픽은 소형 모델이 현재 속도로 발전하면 2026년 말까지 자율 복제 능력에 도달할 수 있다고 예상했다.