MIT 연구진, LLM의 AI 가중치 편집 가능성 공개

미국 MIT 연구진이 거대언어모델(LLM)이 다른 AI 모델의 신경망 가중치를 읽고 고칠 수 있다는 연구 결과를 2026년 11월 2일 공개했다.

연구진은 GPT-6 아스트라로 알리바바의 큐웬3.5-0.8B 가중치 0.016%를 수정해 MATH-500 정답률을 7.9%에서 48.1%로 끌어올렸다. 게임 규칙과 소스 코드를 입력해 만든 게임용 AI는 벽돌깨기에서 기존 AI보다 약 20배 높은 점수를 받았다.

연구진은 AI가 스스로를 고쳐 발전하는 재귀적 자기 개선(RSI)으로 이어질 잠재력이 있다고 전망했다. 다만 RSI는 인간이 통제할 수 있는 범위를 넘어설 수 있어 '고삐 풀린 AI'에 대한 우려도 커질 전망이다.