AI 의료기기 개발의 규제 강화, 데이터·알고리즘 위험 관리 필수

의료기기 개발에서 AI 활용이 확대되면서 개인의료정보 동의 범위, 생성형 AI의 환각, 알고리즘 편향 등 새로운 규제 쟁점이 등장했다. 개인정보보호위원회는 2026년 3월 가명정보 처리 가이드라인을 개정해 위험도 기반 판단으로 전환했고, 식품의약품안전처는 2025년 1월 생성형 인공지능 의료기기 허가·심사 가이드라인을 발간해 환각과 편향을 핵심 위해요인으로 명시했다.

약학정보원 PM2000 사건, 나블라의 AI 진료기록 환각 문제, 옵텀의 위험도 예측 알고리즘 편향 사례는 암호화만으로는 부족하며 개발 초기 단계에서 위험을 예견하고 관리해야 함을 보여준다. 국내 기업은 인공지능 기본법상 고영향 인공지능 해당 여부를 검토하고 영향평가와 데이터 품질·편향·환각 관리 체계를 갖춰야 한다.

규제의 실질은 동의 범위, 환각, 편향을 포함한 데이터·알고리즘 위험을 얼마나 체계적으로 관리했는가로 수렴하고 있으며, 이는 기업의 효율적인 규제 대응과 분쟁 예방의 핵심이 될 것으로 예상된다.