UNIST, AI 학습 데이터를 자연어로 변환해 블랙박스 설명 방법론 제안

울산과학기술원(UNIST) 인공지능대학원 김태환 교수팀은 AI 학습 데이터를 인간이 이해할 수 있는 자연어로 변환함으로써 AI 블랙박스를 설명하는 학습 방법론을 28일 제안했다.

기존 설명 가능한 인공지능(XAI) 연구는 학습 완료 후 모델의 내부 연산 과정을 사후적으로 분석했으나, 연구팀은 AI 학습의 원천인 데이터에 주목했다. 챗GPT 같은 LLM 모델로 사진 속 사물의 특징을 여러 문장으로 설명하게 하고, 외부 지식을 참고해 고품질 설명문을 생성했다. 영향력이 높은 설명문을 모델 학습에 제공한 결과 기존 방식보다 안정적으로 높은 성능을 보였다.

이번 연구는 딥러닝의 복잡한 의사결정 과정을 본질적으로 드러내는 방법이 될 수 있으며, 향후 블랙박스 AI 시스템을 투명하게 이해하는 기반이 될 전망이다. 연구 결과는 자연어처리 분야 대표 국제학회인 EMNLP의 정식 논문으로 채택됐다.