앤스로픽, AI 자동 개선 단계 진입 경고...규제 필요성 제시

앤스로픽이 AI가 인간의 통제를 벗어나 자동으로 발전하는 단계에 접어들고 있다며 경고했다. 지난 4일 앤스로픽은 자사 AI 클로드가 코드의 80% 이상을 직접 작성하고 있으며, AI가 더 똑똑한 다음 AI를 만드는 '재귀적 자기개선'이 가속화되고 있다고 공개했다.

10일 CEO 다리오 아모데이는 AI에 자동차·의약품처럼 엄격한 규제를 도입해야 한다고 주장했다. 앤스로픽은 전 세계 AI 연구소가 함께 AI 발전 속도를 늦추거나 멈출 수 있는 장치를 마련할 것을 제안했다.

AI 기술의 급속한 발전으로 인한 통제 불가능성 우려가 커지고 있으며, 국제적 차원의 AI 규제 체계 구축이 시급한 상황이다.