컨텍스트 롯 4장 카드뉴스

입력 컨텍스트가 길어질수록 언어 모델의 처리 품질이 고르지 않게 저하되는 현상입니다. 벡터DB 기업 크로마가 2025년 7월 기술 보고서에서 이름을 붙였고, GPT-4.1, 클로드 4, 제미나이 2.5 등 18개 모델 실험에서 단순한 과제조차 입력이 길어지면 정확도가 떨어짐을 확인했습니다. 컨텍스트 윈도우가 커졌다고 넣는 만큼 다 잘 읽는 것은 아니라는 뜻입니다. 필요한 정보만 골라 넣는 컨텍스트 엔지니어링이 중요해진 배경으로 꼽힙니다.

컨텍스트 롯(Context Rot)은 AI에게 주는 입력이 길어질수록 답변 품질이 서서히 나빠지는 현상이에요. rot는 부패라는 뜻으로, 자료가 쌓일수록 핵심이 묻힌다는 비유입니다. 300쪽 보고서를 받은 검토자가 중간 내용을 흘려 읽는 것과 비슷해서, AI에게도 다 주기보다 골라 주기가 중요합니다.

5, 큐원3 등 18개 모델로 입력 길이에 따른 성능 변화를 실험했습니다 [1]. 단어 반복 같은 단순 과제에서도 입력이 길어지면 성능이 균일하지 않게 저하됐습니다 [1]. 긴 문서 요약·검색을 쓰는 실무에 직접 시사점을 준 보고서입니다.