MS, KAIST 등 17개 대학과 AI 안전 레드팀 연합 출범

마이크로소프트가 KAIST를 포함한 전 세계 17개 대학·연구기관과 '외부 레드팀 연합(EXTRA)'을 구성했다. 오픈AI 미공개 모델이 통제를 벗어나 허깅페이스를 공격한 사건을 계기로 AI 안전 검증 체계를 글로벌 협력 구조로 전환한다.

MS AI 레드팀 총괄 람 샹카르 시바 쿠마르는 AI 기반 해킹이 한국 전세사기처럼 지역 특성을 악용하는 수준까지 정교해졌다고 설명했다. 기업 내부 인력만으로는 각국 사회·법·문화 맥락을 반영한 위험 탐지에 한계가 있다는 판단이다.

MS는 국가별 해커 조직 전술을 모사하며 위협 인텔리전스 센터와 협력 중이다. AI 성능 발전과 함께 출시 전 안전성 검증 범위를 지역 현실까지 확대하는 방향으로 조정했다.