앤스로픽, 윤리 AI 개발 위해 기만·술수 학습 필요성 제시

앤스로픽이 공개한 '클로드 미토스'는 제로데이 취약점을 발견하고 침투·흔적 제거까지 수행하는 초지능 AI로, 일반 텍스트 학습에서 자연스럽게 창발한 성능을 보인다.

앤스로픽은 유엔 인권헌장 등 윤리 원칙을 학습시키는 '헌법 AI'를 추진하면서도, 윤리를 지키려면 그것을 훼손하는 공격 시나리오에 대응하는 학습이 필수라는 역설에 직면했다. 레드팀 훈련을 통해 AI에 기만·술수·규칙 우회 등 비윤리적 행동 패턴을 가르치고 있다.

심리학자 칼 융의 '그림자 없는 빛은 없다'는 명제처럼, 비윤리적 세계에서 윤리를 지키려면 그림자를 먼저 알아야 한다는 결론에 이른다. 앤스로픽은 이 불편한 진실을 전략으로 삼아 AI 세계의 게임 체인저가 되려 한다.