중국 AI '키미' 안전장치 우회로 위험 정보 제공

중국 문샷AI가 개발한 AI '키미'의 안전장치가 우회되자 생물무기 제조와 암살 방법 등 위험한 질문에 구체적인 답변을 제공한 것으로 나타났다. AI 보안업체 마인드가드는 지난 7월 '탈옥' 방식으로 키미 K2.6과 K3 스웜을 실험한 결과, 안전장치 우회 후 키미가 위험한 정보뿐 아니라 다른 악의적인 주제까지 자유롭게 추천했다고 밝혔다.

마인드가드는 안전장치가 뚫린 키미가 해커의 사이버 공격 발판으로 악용될 수 있다고 주장했다. 문샷AI는 7월 27일 문제 통보를 받았으나 일주일 뒤에도 답변하지 않았으며, 9월 12일 내용 공개 이후 BBC 취재를 계기로 마인드가드와 접촉했다.

전문가들은 AI 기술 발전 속도에 비해 국제사회의 규제 체계가 뒤처지고 있다고 지적했다. 향후 AI 모델 자체에 대한 규제뿐 아니라 악용 행위자에 대한 처벌 강화가 필요하다는 의견이 제시됐다.