AI for Everyone
AI 트렌드

Agentic RAG

에이전틱 랙

AI 트렌드 분야에서 쓰이는 Agentic Retrieval-Augmented Generation(에이전트형 검색 증강 생성)의 약자로, 검색과 생성 사이에 스스로 판단하는 에이전트를 끼운 구조입니다. 2025년 1월 서베이 논문은 반성·계획·도구 사용·다중 에이전트 협업 패턴을 파이프라인에 넣어 검색 전략을 상황에 맞게 바꾸는 방식으로 정의합니다. 기존 RAG가 질문 한 번에 검색 한 번이라면, 에이전틱 RAG는 질문을 쪼개고 결과를 본 뒤 다시 검색합니다. 정확도는 오르지만 지연 시간과 토큰 비용이 함께 늘어납니다.

쉽게 말하면?

RAG는 Retrieval-Augmented Generation, 검색으로 근거를 찾아 답을 만드는 방식입니다. 여기에 에이전틱이 붙으면, 도서관에서 책 한 권만 뽑아 오는 대신 목차를 훑고 부족하면 다시 서가로 가는 사서가 붙은 셈이에요. 질문이 복잡할수록 여러 번 찾아보는 쪽이 정확하지만, 그만큼 시간과 비용이 더 들어갑니다.

한 줄로 비유하면?

책 한 권만 뽑아 오는 사서와, 목차를 훑고 부족하면 다시 서가로 가는 사서의 차이입니다.

어디에 쓰이나?

케이스 1네이버 플레이스 — Backoffice AI Agent

네이버 플레이스는 사내 운영 지식 검색을 위해 RAG와 MCP를 결합한 에이전트를 만들었습니다. 질의를 정규화한 뒤 밀버스 기반 벡터 검색과 BM25 검색을 함께 돌리고 RRF로 합친 다음 LLM 리랭커를 거칩니다. 도구 호출 여부는 모델이 스스로 판단합니다.
도입효과: 응답 만족도 약 2배, 응답 속도 1.4배, 토큰 사용량 66% 절감, 도구 호출 수 49% 감소(기존 키워드 검색 대비, 수집 문서 11,173건, 2025-11-10)[3]

케이스 2라인게임즈 — Nexus AI

라인게임즈는 게임 퍼블리싱 지원용 에이전트를 Amazon Bedrock Agents 위에 구축했습니다. 에이전트가 질문 의도를 분석해 문서 검색·코드 생성·서포트 티켓 생성 API 호출 중 알맞은 동작을 스스로 골라 실행합니다. 평가는 사람이 개입하는 방식으로 유지합니다.
도입효과: 응답 시간 사람 응대 2~24시간 → 45초 미만, 개발팀 직접 문의 주 50건 대비 36% 감소, 답변 정확도 88%(2025-12-10)[4]

케이스 3트위치 — 광고 영업 어시스턴트

트위치는 문서 200건 이상의 지식베이스를 RAG로 묶고, 지식베이스 조회·외부 API 호출·질문 거절을 에이전트가 판단하도록 만들어 슬랙에 붙였습니다. 답변에 출처를 함께 표시합니다.
도입효과: 누적 응답 11,000건 이상, 사용 영업사원의 트위치 매출 미사용자 대비 25% 증가, 출처 표기 도입 후 긍정 피드백 40% 증가(2024-12-13)[5]

케이스 4마이크로소프트 — Azure AI Search 에이전틱 검색

마이크로소프트는 복잡한 질문을 LLM이 하위 질의로 쪼개 병렬 검색하고 의미 기반 재정렬 후 합치는 파이프라인을 상용 제품으로 제공합니다. 공식 문서는 단일 질의 파이프라인보다 지연이 늘고 과금이 토큰 기준으로 바뀐다고 명시합니다.
도입효과: 과금 예시 기준 에이전틱 검색 2,000회당 약 4.32달러(검색 3.30달러 + 질의 계획 1.02달러)[2]

주의할 점은?

오늘 바로 해보기
1. 사내 질문 중 한 번의 검색으로 답이 나오지 않는 질문 5개를 모읍니다.
2. 각 질문을 사람이 직접 하위 질문 2~3개로 쪼개 봅니다.
3. 쪼개진 질문을 각각 검색해 답이 좋아지는지 확인합니다.
4. 좋아진 질문만 골라 에이전트가 자동으로 쪼개도록 프롬프트에 규칙을 넣습니다.
5. 응답 시간과 토큰 사용량을 함께 기록해 정확도 상승분과 비교합니다.

한계와 진화
가장 큰 비용은 시간과 돈입니다. 마이크로소프트 공식 문서는 에이전틱 검색이 단일 질의 파이프라인보다 지연을 늘리며, 과금 기준도 질의 건수가 아니라 토큰으로 바뀐다고 명시합니다. 검색 서비스와 모델 서비스 양쪽에서 비용이 동시에 발생하므로, 질문 유형별로 쓸 곳과 안 쓸 곳을 나누는 편이 현실적입니다.

평가 방법도 아직 정립되지 않았습니다. 2025년 1월 서베이 논문은 평가·조율·메모리 관리·효율·거버넌스를 미해결 과제로 꼽았습니다. 어느 단계에서 에이전트가 잘못 판단했는지 추적하려면 도구 호출 로그를 처음부터 남기는 설계가 필요합니다. 네이버 플레이스가 도구 호출 수를 지표로 관리한 것도 같은 맥락입니다.

참고 자료

  1. Singh et al., Agentic Retrieval-Augmented Generation: A Survey on Agentic RAG, arXiv:2501.09136 (2025-01-15) https://arxiv.org/abs/2501.09136
  2. Microsoft Learn, Agentic retrieval overview (Azure AI Search) https://learn.microsoft.com/en-us/azure/search/agentic-retrieval-overview
  3. 네이버 플레이스 개발 블로그, Backoffice AI Agent 구축기 (2025-11-10) https://medium.com/naver-place-dev/backoffice-ai-agent-%EA%B5%AC%EC%B6%95%EA%B8%B0-rag-mcp-%EA%B8%B0%EB%B0%98-%ED%94%8C%EB%A0%88%EC%9D%B4%EC%8A%A4ai-%ED%8A%B9%ED%99%94-%EC%A7%80%EC%8B%9D-%EA%B2%80%EC%83%89-%EC%8B%9C%EC%8A%A4%ED%85%9C-9a66b4afa1aa
  4. AWS 기술 블로그, LINE Games의 AI Agent를 통한 게임 퍼블리싱 가속화 여정 (2025-12-10) https://aws.amazon.com/ko/blogs/tech/linegames-ai-agent-for-accelerating-game-publishing/
  5. AWS ML Blog, How Twitch used agentic workflow with RAG on Amazon Bedrock (2024-12-13) https://aws.amazon.com/blogs/machine-learning/how-twitch-used-agentic-workflow-with-rag-on-amazon-bedrock-to-supercharge-ad-sales/
  6. LlamaIndex, Agentic strategies https://developers.llamaindex.ai/python/framework/optimizing/agentic_strategies/agentic_strategies
  7. Li et al., Towards Agentic RAG with Deep Reasoning, arXiv:2507.09477 (2025-07) https://arxiv.org/abs/2507.09477
  8. 삼성 테크 블로그, 업무 생산성 향상을 위한 Agentic RAG 기반 서비스 (2026-01-29) https://techblog.samsung.com/blog/article/76

대표 출처

Singh et al., Agentic Retrieval-Augmented Generation: A Survey on Agentic RAG, arXiv:2501.09136 (2025-01-15)
카드뉴스로 공유하기 다른 AI 용어 보기