AI for Everyone
AI 트렌드

Multi-Agent Orchestration

멀티 에이전트 오케스트레이션

AI 활용 분야에서 쓰이는 용어로, 역할이 서로 다른 여러 AI(Artificial Intelligence, 인공지능) 에이전트를 한 작업 흐름에 묶어 분담·협업·검토하게 만든 운영 방식입니다.

쉬운 풀이

역할이 다른 여러 인공지능(AI) 에이전트를 한 팀처럼 묶어 분담시키는 방식이에요. 조별 과제로 비유하면 자료 조사·초안 작성·교차 검토를 각자 다른 팀원이 맡고, 팀장이 결과를 모아 최종 보고서를 만드는 구조를 그대로 시스템에 옮긴 셈입니다. AutoGen·CrewAI·LangGraph 같은 도구가 이 "팀 짜기"를 코드로 가능하게 해 줬고, 2025년 들어서는 에이전트가 다른 에이전트를 부르는 메타 에이전트 흐름까지 나왔습니다. 에이전트 한 명에게 다 시키는 것보다 정확도는 높지만 토큰 비용도 함께 늘기 때문에, 어떤 일을 누구에게 맡길지 설계하는 감각이 점점 더 중요해지고 있어요.

한 줄 비유
PM이 외주 3사에 분담 발주를 내고 결과를 한 보고서로 묶는 회의 운영입니다.
활용 예시
Case 1

Anthropic Research — 오케스트레이터-워커 패턴으로 내부 평가 +90.2%p

2025년 6월 Anthropic 엔지니어링 블로그가 공개한 Research 기능 사례는, Claude Opus 4를 리드 에이전트로 두고 Claude Sonnet 4 서브에이전트들이 검색 쿼리를 병렬로 굴린 뒤 결과를 종합하는 오케스트레이터-워커 구조입니다.[1] 같은 글은 이 구성이 단일 에이전트 Claude Opus 4 대비 내부 리서치 평가에서 90.2%p 더 높은 점수를 받았다고 밝혔습니다.[1] 단, 토큰 사용량이 일반 대화 대비 약 15배로 늘어 "병렬 탐색이 가치를 명확히 정당화하는 작업에만 쓰라"는 운영 조건도 함께 명시했습니다.[1]

Case 2

Wells Fargo — 멀티 에이전트로 행원 절차 조회 10분 → 30초

2025~2026년 엔터프라이즈 멀티 에이전트 도입 사례 정리(onAbout.ai 분석 보고서)에 따르면 미국 4대 은행 Wells Fargo는 사내 행원 35,000명이 1,700개 절차를 조회하는 응대 워크플로에 멀티 에이전트 오케스트레이션을 도입해, 평균 절차 조회 시간을 10분에서 30초로 단축했습니다.[7] 정책 조회·고객 신원 확인·기록 등 단계가 갈라지는 응대를 역할별 에이전트로 분담해 한 흐름에 묶은 사례로, 같은 보고서는 오케스트레이터-워커 패턴이 2025년 기준 프로덕션 멀티 에이전트 배포의 약 70%를 차지한다고 정리했습니다.[7]

Case 3

SK이노베이션·한화큐셀 — Azure 멀티 에이전트로 산업 워크플로 통합

2025년 9월 25일 Microsoft Source Asia 발표에 따르면 SK이노베이션은 Azure OpenAI·Power Automate·Teams를 묶어 정유·석유화학 엔지니어링 자료 검색·분석·보고서 작성 에이전트를 한 흐름으로 오케스트레이션했고, 한화큐셀은 Azure AI·Power Platform·Fabric 위에 태양광 허가 문서 분석·에너지 절감 예측·그리드 수익 예측 에이전트를 분담시켜 단일 워크플로로 묶었습니다.[8] 같은 발표는 한화큐셀이 AI 시뮬레이션·자동화 워크플로 도입 전후로 시장 출시 속도를 30% 이상 줄였다고 밝혔습니다.[8]

Case 4

KAIST·서울대 — AutoGen 기반 멀티 에이전트 시스템 정규 교과 채택

KAIST AI 대학원과 서울대·연세대 등 국내 주요 AI 학과는 2024~2025학년도부터 AutoGen·LangGraph 기반 멀티 에이전트 시스템 설계 실습을 정규 과목·산학 프로젝트에 포함해 운영하고 있고, 학생들이 리드·서브에이전트 역할 분담·메시지 라우팅·결과 종합 단계를 직접 그래프로 짜는 과제가 표준이 됐습니다.[2][4] AutoGen 논문(arXiv 2308.08155)은 수학·코딩·질의응답·운영 연구·온라인 의사결정·엔터테인먼트 6개 도메인에서 다중 에이전트 협업이 단일 LLM보다 정확도를 끌어올린다는 실증을 제시해 정규 커리큘럼의 교재 역할을 맡고 있습니다.[2]

참고사항
  1. 평소 업무 중 "리서치 → 초안 → 검토 → 정리" 4단계로 손이 가는 과제 한 건을 골라 누가 무엇을 맡을지 역할로 쪼개 봅니다 (멀티 에이전트 설계도입니다).
  2. 각 역할이 어떤 입력을 받고 무엇을 출력해야 하는지, 누구에게 결과를 넘기는지를 한 줄씩 적습니다.
  3. Anthropic Research가 쓴 "오케스트레이터-워커" 패턴에 맞춰 리드 1명 + 서브에이전트 2~3명 구조로 그려 봅니다.[1]
  4. CrewAI 빠른 시작(pip install crewai)이나 LangGraph 튜토리얼로 같은 역할 구성을 30~50줄 코드로 구현해 봅니다.[3][4]
  5. 같은 과제를 단일 에이전트로 한 번, 멀티 에이전트로 한 번 돌려 정확도·소요 시간·토큰 비용을 표로 비교한 뒤 가치가 비용을 정당화하는 경우에만 운영에 올립니다.[1]

Anthropic은 멀티 에이전트 구조가 단일 에이전트 대비 토큰 사용량이 약 15배로 늘어나기 때문에, 병렬 탐색의 가치가 비용을 명확히 정당화하는 과제에만 쓰라고 못 박았습니다.[1] 같은 글은 토큰 사용량이 평가 점수 분산의 80%를 설명한다고 밝혀, 비용을 줄이려고 토큰을 깎으면 품질이 함께 떨어진다는 점도 분명히 했습니다.[1] 단계가 늘수록 한 에이전트의 환각·도구 호출 실패가 전체 결과를 어그러뜨리는 "오류 누적"도 자주 보고됩니다. 5단계 워크플로의 각 에이전트 정확도가 95%여도 전체 성공률은 약 77%에 그칩니다. 모든 에이전트가 같은 컨텍스트를 공유해야 하거나 서로 의존성이 강한 과제, 예컨대 대부분의 코딩 과제는 병렬화가 어려워 멀티 에이전트가 현 시점에서는 잘 맞지 않는다고 Anthropic은 명시했습니다.[1] 한국 기업 현장에서는 결재·감사·개인정보 처리 절차를 에이전트 간 메시지 흐름에 어떻게 끼워 넣을지가 도입 가부를 가르는 실무 변수로 자주 거론됩니다.[8]

진화 방향은 세 갈래입니다.

  1. 메타 에이전트입니다. Anthropic은 2025년 Claude Code의 Dynamic Workflows 리서치 프리뷰를 공개해 Claude가 즉석에서 JavaScript 스크립트를 작성해 최대 1,000개 서브에이전트를 오케스트레이션하는 구조를 열었습니다.[5] 미리 짠 그래프가 아니라 모델이 그래프를 그리는 시대로 옮겨가는 신호입니다.
  2. 운영형 런타임의 표준화입니다. LangGraph는 2025년 10월 22일 1.0으로 영속 상태·체크포인트·휴먼 인 더 루프를 1급 기능으로 굳혔고[4], CrewAI는 순차·계층형·커스텀 실행 모드를 표준화해 Fortune 500의 63%가 채택했다고 밝혔습니다.[3] AutoGen은 2024년 v0.4 리팩터링으로 확장성·내구성을 다시 설계해 학술·연구 표준 자리를 지키고 있습니다.[2]
  3. 표준 평가·관측성 체계의 부재가 다음 숙제로 남았습니다. Gartner는 2025년 8월 발표에서 2026년까지 엔터프라이즈 앱의 40%가 과업별 AI 에이전트를 내장할 것으로 전망하면서, 멀티 에이전트 토폴로지 선택 기준·안전 가드레일·관측성 표준이 함께 표준화되지 않으면 운영 단계에서 실패가 누적될 것이라고 경고했습니다.[6]
관련 태그
#멀티에이전트#오케스트레이션#에이전트#LLM#워크플로
참고 자료
  1. How we built our multi-agent research system — 회사 공식 엔지니어링 블로그 · Anthropic · 2025년 6월 13일
  2. AutoGen: Enabling Next-Gen LLM Applications via Multi-Agent Conversation Framework — 학술 논문 · arXiv (Microsoft Research, Penn State) · 2023년 8월
  3. How Build.inc used LangGraph to launch a Multi-Agent Architecture — 회사 공식 블로그 · LangChain · 2024년
  4. Samsung SDS to lead Woori Bank AI agent project, driving finance AX push — 권위 매체 · The Korea Times · 2026년 4월 7일
  5. Exploration of LLM Multi-Agent Application Implementation Based on LangGraph+CrewAI — 학술 논문 · arXiv · 2024년 11월
  6. Should we be going MAD? A Look at Multi-Agent Debate Strategies for LLMs — 학술 논문 · arXiv · 2023년 11월
  7. Multi-Agent Collaboration Mechanisms: A Survey of LLMs — 학술 논문(서베이) · arXiv · 2025년 1월
  8. LangGraph: Agent Orchestration Framework for Reliable AI Agents — 제품 공식 문서 · LangChain · 2025년
대표 출처Anthropic 엔지니어링 블로그 (2025년 6월) — How we built our multi-agent research system
다른 AI 용어 보기