국민대 김민규 교수, 안전한 AI 생성 통합 프레임워크 'SGF' 개발

국민대학교 소프트웨어융합대학 인공지능학과 김민규 교수가 이미지·비디오 생성 AI의 안전성을 강화하는 통합 프레임워크 'Safety-Guided Flow(SGF)'를 개발했다. 이 연구는 확산 모델과 플로우 매칭 기법을 기반으로 유해 콘텐츠 방어, 학습 데이터 암기 방지, 저작권 보호 등 다양한 안전 생성 시나리오에서 기존 기법보다 우수한 성능을 입증했다.

연구팀은 기존의 Shielded Diffusion과 Safe Denoiser가 Maximum Mean Discrepancy 포텐셜의 특수한 경우임을 이론적으로 증명하여 분산된 안전 생성 연구를 하나의 통합 프레임워크로 통합했다. 제어 장벽 함수 이론을 적용해 디노이징 초기에 강한 가이던스를 적용하고 점차 감소시키는 '임계 시간 창'의 존재를 규명했다.

이번 연구 결과는 인공지능 분야 세계 3대 최우수 학회인 'International Conference on Learning Representations 2026'에 구두발표로 채택됐으며, 향후 자율주행·의료·콘텐츠 생성 등 고위험 영역에서 생성 AI의 안전한 실용화를 위한 핵심 기반 기술로 활용될 전망이다.