Model Collapse 4장 카드뉴스

AI가 생성한 데이터를 다음 세대 모델이 반복 학습할 때 성능과 다양성이 점차 무너지는 현상입니다. 2024년 7월 네이처에 실린 옥스퍼드대 등 연구진의 논문이 대표적으로, 언어 모델이 자기 출력물로 세대를 거듭해 학습하자 드물게 등장하는 정보부터 사라지고 결국 무의미한 문장을 내놓았습니다. 웹에 AI 생성 콘텐츠가 쌓일수록 다음 모델의 학습 데이터가 오염될 수 있어, 사람이 만든 원본 데이터의 확보와 데이터 출처 관리가 AI 산업의 과제로 떠올랐습니다.

모델 컬랩스(Model Collapse), 우리말로 모델 붕괴는 AI가 만든 글을 다음 AI가 계속 받아 학습하면 품질이 점점 망가지는 현상이에요. 복사본을 다시 복사하기를 반복하면 글자가 뭉개지는 것과 비슷합니다. 그래서 AI 시대에는 오히려 사람이 만든 원본 데이터의 값어치가 올라갑니다.

케이스 1: 옥스퍼드대 등 연구진(영국) — 네이처에 실린 붕괴 실험 연구진은 언어 모델의 출력물을 다음 세대 학습 데이터로 쓰는 과정을 반복했습니다 [1]. 세대가 지날수록 분포의 꼬리, 즉 드문 정보가 먼저 사라졌고 9세대에 이르자 원문과 무관한 반복 문장이 나왔습니다 [1][2]. 무분별한 합성 데이터 재학습의 위험을 보여준 대표 실험입니다. 도입효과: 반복 학습 9세대 만에 출력 붕괴