AI 석학 앤드류 응이 말하는 AI 활용 4원칙

20년째 AI를 가르쳐 온 사람의 실행론

앤드류 응(Andrew Ng)은 스탠퍼드대 겸임교수이자 구글 브레인 창립 리드, 코세라 공동 창업자로, 지금은 DeepLearning.AI와 AI 펀드를 운영합니다. 2025년 그는 YC AI 스타트업 스쿨 강연과 LangChain 인터럽트 대담, 그리고 자신의 주간 서한 The Batch에서 모델 이야기보다 실행 방법을 반복해서 말했습니다. 앞서 소개한 카르파티가 개인이 모델을 다루는 손기술을 말한다면, 응은 업무와 팀 차원의 설계를 말합니다.

주장 1 — 속도가 성패를 가르고, 아이디어는 구체적이어야 빠르다

응은 YC 강연에서 스타트업 성공의 유력한 예측 변수로 실행 속도를 꼽았습니다 ^[1]. AI 코딩 도구로 프로토타입 제작은 "10배, 어쩌면 그보다 훨씬 더" 빨라졌다는 것이 그의 체감치입니다 ^[1]. 단, 속도의 전제는 구체성입니다. '의료 자산 활용 최적화' 같은 막연한 문장이 아니라 '병원 MRI 가동률을 높이는 스케줄러'처럼 당장 만들 수 있는 수준까지 좁혀야 팀이 움직인다고 강조합니다 ^[1].

주장 2 — '진짜 에이전트냐'를 따지지 말고 자율성의 정도를 물어라

2025년 5월 인터럽트 대담에서 응은 AI 에이전트 정의 논쟁을 소모적이라고 봤습니다. 어떤 시스템이 에이전트인지 아닌지가 아니라, 얼마나 에이전틱한지 정도의 문제로 보자는 제안입니다 ^[2]. 그가 지목한 기회도 서류 처리, 규정 점검, 데이터 조회처럼 분기가 적은 선형 워크플로우였습니다 ^[2]. 업무를 잘게 나눠 어느 단계에 LLM을 끼울지 판단하는 분해 능력이 희소하다고 말합니다 ^[2].

주장 3 — 진행 속도를 가르는 것은 평가와 오류 분석의 규율

2025년 10월 The Batch 서한에서 응은 에이전트를 만드는 팀의 진행 속도를 가장 잘 예측하는 단일 변수로 평가(evals)와 오류 분석(error analysis)을 규율 있게 돌리는 능력을 지목했습니다 ^[3][4]. 처음부터 정교할 필요는 없습니다. 본인도 엉성한 평가표로 시작해 반복 개선한다고 밝혔습니다 ^[3]. 결과물을 눈으로만 훑는 단계에 오래 머물지 말고, 무엇이 어느 단계에서 틀리는지 기록을 남기라는 조언입니다 ^[3].

주장 4 — 바이브 코딩은 이름처럼 가볍지 않다, 그래도 모두가 코드를 배울 때

응은 바이브 코딩이 "그냥 분위기 가는 대로 하면 된다고 사람들을 오해하게 만드는" 유감스러운 이름이라고 말했습니다. AI와 함께 하루 종일 코딩하면 솔직히 지친다고 할 만큼 깊이 지적인 작업이라는 것입니다 ^[5]. 그럼에도 결론은 확장입니다. 그는 이제 모든 직군이 코드를 배울 때가 됐다며, 자기 회사의 CFO와 채용 담당자, 안내 데스크 직원까지 코딩으로 성과를 높이고 있다고 소개했습니다 ^[1].

우리 업무로 옮기면

채팅 사용에서 시스템 구축으로 넘어가는 다음 행동은 이렇습니다.

• 오늘: 막연한 개선 희망을 구체적 태스크 한 줄로 바꿔 적습니다. '보고 업무 자동화'가 아니라 '매주 월요일 경쟁사 소식 5건 요약 초안 생성'입니다.
• 이번 주: 그 태스크를 5단계 이하로 분해하고, 단계마다 통과 기준을 한 줄씩 적습니다. 이것이 응이 말한 미니 평가표예요.
• 계속: AI가 틀린 사례를 폴더 하나에 모읍니다. 열 건만 쌓여도 오류 분석이 시작되며, 이것이 에이전틱 코딩 도구를 들이기 전의 밑판입니다.

따라 해볼 자료는 응의 서한 Improve Agentic Performance with Evals and Error Analysis와 강연 영상 Building Faster with AI입니다.

정리하면

응의 스펙트럼 관점은 특히 비개발자 학습에서 힘을 발휘합니다. 완성형 에이전트를 목표로 잡으면 시작이 늦어지지만, 자율성을 한 칸씩 올리는 접근은 첫 주부터 결과물이 나옵니다. 평가표와 오류 기록을 먼저 만드는 순서가, 채팅 사용자가 자기 업무의 설계자로 바뀌는 가장 짧은 경로입니다.