인공지능 알고리즘, 소수자 존재 지우는 '침묵의 설계' 확인

서울대 김승섭 교수 연구팀이 대규모 언어모델이 만든 가상 세계에서 소수자가 체계적으로 사라지는 현상을 실증 연구로 확인했다.

엔비디아의 12개 분류 한국인 페르소나 데이터를 언어모델에 입력해 가상주체에게 질문한 결과, 자신을 소수자라고 답한 사례는 단 한 건도 없었다. 장애인과 성소수자 정체성이 연산 과정에서 지워지고 있는 셈이다. 라마, 지피티, 클로드, 제미나이 등 주요 언어모델도 다수 집단 중심 데이터를 반복 학습해 소수자를 지배적 다수로 대체하는 유사한 패턴을 보였다. 연구팀은 이를 '침묵의 설계'로 규정하고, 정부 정책이나 인간 대상 연구에 확산되기 전 추가 검토가 시급하다고 경고했다.

김승섭 교수는 AI가 누구의 문제를 해결하고 있는지 고민해야 한다고 강조했다.