컨텍스트 엔지니어링

케이스 1앤트로픽 — 컨텍스트 분리형 멀티에이전트로 리서치 성능 90.2% 향상

앤트로픽은 2025년 6월 자사 리서치 기능의 설계기를 공개하며, 리드 에이전트가 계획을 세우고 서브에이전트 여러 개가 각자 독립된 컨텍스트 윈도우에서 검색을 수행하는 구조를 설명했습니다.^[1] 각 에이전트의 컨텍스트가 20만 토큰을 넘으면 잘리기 때문에, 계획을 외부 메모리에 저장하고 단계마다 요약해 넘기는 컨텍스트 관리가 시스템의 핵심이었습니다. 같은 해 9월에는 이 경험을 정리한 컨텍스트 엔지니어링 가이드를 발표했습니다.^[2]
도입효과: 내부 리서치 평가 성능 +90.2% (단일 에이전트 Claude Opus 4 대비, 2025-06)^[1]

케이스 2마누스 — KV 캐시 적중률 중심 설계로 입력 비용 10분의 1

범용 AI 에이전트 스타트업 마누스(Manus)는 2025년 7월 기술블로그에서 에이전트 컨텍스트를 '앞부분은 고정, 뒷부분만 추가' 원칙으로 설계한다고 밝혔습니다.^[3] 시스템 프롬프트를 바꾸지 않고 도구 목록을 안정적으로 유지하면 이전 계산 결과(KV 캐시)를 재사용할 수 있어 비용과 응답 속도가 크게 개선되기 때문입니다. 도구를 빼는 대신 가리는 방식, 파일시스템을 외부 메모리로 쓰는 방식 등이 함께 소개됐습니다.
도입효과: 캐시 적중 시 입력 토큰 비용 10분의 1 (100만 토큰당 0.30달러 vs 3달러, Claude Sonnet 기준, 2025-07)^[3]

케이스 3SK AX — 국내 기술조직의 컨텍스트 엔지니어링 분석과 검증

SK그룹 IT 서비스 기업 SK AX는 2025년 10월 기술블로그 데보션에 '프롬프트에서 컨텍스트 엔지니어링까지'라는 분석 글을 올려, 에이전트가 경험에서 얻은 교훈을 컨텍스트에 누적하는 ACE(Agentic Context Engineering) 프레임워크를 소개했습니다.^[4] 컨텍스트를 무작정 요약하면 정확도가 66.7%에서 57.1%로 떨어지는 사례를 함께 짚으며, 삭제 대신 구조화된 추가·갱신이 중요하다고 정리했습니다.
도입효과: 에이전트 벤치마크 AppWorld 정확도 최대 +17.1%p (ACE 적용 실험, SK AX 데보션 분석 인용, 2025-10)^[4]

케이스 4크로마 — 컨텍스트가 길수록 성능이 떨어지는 현상 실측

벡터 데이터베이스 기업 크로마(Chroma)는 2025년 7월 '컨텍스트 로트(Context Rot)' 기술 보고서에서 GPT·Claude·Gemini 등 18개 LLM을 대상으로 입력 길이에 따른 성능 변화를 측정했습니다.^[5] 같은 과제라도 입력 토큰이 늘어나면 모델 성능이 일관되게 하락했고, 컨텍스트 윈도우가 크다고 해서 정보를 균일하게 처리하지 않는다는 사실이 확인됐습니다. 긴 컨텍스트를 그대로 붓는 대신 선별과 압축이 앞서야 한다는 근거 데이터로 널리 인용됩니다.
도입효과: 18개 LLM 전반에서 입력 길이 증가 시 정확도 하락 실측 — 컨텍스트 선별 설계의 정량 근거 확보 (2025-07)^[5]

1. 자주 쓰는 AI 업무 하나를 골라, 현재 프롬프트에 들어가는 정보를 지시문·참고자료·기록 세 묶음으로 나눠 적어 봅니다.
2. 참고자료 묶음에서 답변에 실제로 쓰이지 않는 문서를 골라내 분량을 절반으로 줄여 봅니다 (길수록 좋다는 가정을 버리는 것이 첫걸음입니다).
3. 반복 업무라면 매번 바뀌는 부분(질문·데이터)과 바뀌지 않는 부분(규칙·형식·예시)을 분리하고, 바뀌지 않는 부분을 앞쪽에 고정합니다.
4. 긴 대화형 작업은 중간마다 '지금까지 결정된 사항' 요약 메모를 만들어 다음 요청에 붙입니다.
5. 같은 과제를 컨텍스트 구성만 바꿔 두 번 실행해 결과를 비교하고, 더 나은 구성을 팀 표준 문서로 남깁니다.

컨텍스트 엔지니어링에는 아직 정답 레시피가 없습니다. 모델과 과제마다 최적 구성이 다르고, 크로마의 실측처럼 컨텍스트를 늘리는 것 자체가 성능을 떨어뜨리기도 합니다.^[5] 정보를 더 넣을수록 토큰 비용도 함께 늘어나는데, 앤트로픽에 따르면 멀티에이전트 시스템은 일반 채팅 대비 약 15배의 토큰을 소비합니다.^[1] 결국 무엇을 넣을지보다 무엇을 뺄지 판단하는 일이 실무의 대부분을 차지합니다.

진화 방향은 자동화입니다. 모델이 자기 컨텍스트를 스스로 고쳐 쓰는 ACE 같은 자기 개선 연구가 이어지고 있고^[4], 파일시스템과 외부 메모리를 컨텍스트의 연장선으로 쓰는 에이전트 설계가 표준으로 자리 잡는 중입니다.^[2][3] 직무 관점에서는 '프롬프트 잘 쓰는 사람'에서 '업무 정보 구조를 설계하는 사람'으로 요구 역량이 넓어지고 있어, 문서 체계와 데이터 정리를 다루는 기획·운영 직군의 접점이 커지고 있습니다.