전직 앤트로픽 개발자, AI 통제불능 경고

앤트로픽 출신 연구원 제이콥 콕슨이 뉴욕시의회 청문회에서 AI 개발 경쟁이 인류 멸종으로 이어질 수 있다고 경고했다. 그는 아직 어떤 AI 시스템도 통제하는 방법을 모른다고 밝혔다.

콕슨은 지난달 앤트로픽과 오픈AI가 목숨을 걸고 도박하고 있다며 퇴사했다. 구글 딥마인드 출신 알렉스 터너도 청문회에서 정렬되지 않은 AI 개발 경쟁의 위험성을 증언했다. 뉴욕시의회는 AI 긴급 차단 장치를 포함한 규제 법안 패키지를 검토 중이다.

콕슨은 킬 스위치가 단기적 도움은 될 수 있으나 장기 안전을 보장하기엔 부족하다고 지적했다. 그는 프런티어 모델 개발에 속도 조절이 필요하다며 업계의 무모한 접근 방식에 대한 경계를 당부했다.