AI 거장 카르파티가 말하는 AI 활용 4원칙

이 사람의 말을 들어야 하는 이유

안드레이 카르파티(Andrej Karpathy)는 OpenAI 창립 멤버이자 테슬라 오토파일럿 책임자를 지낸 연구자입니다. 지금은 AI 교육 회사 유레카 랩스를 이끌고 있습니다. 그는 2025년 2월 바이브 코딩이라는 용어를 만들었고 ^[2], 같은 해 'How I use LLMs' 영상과 YC AI 스타트업 스쿨 강연, 드와케시 파텔 팟캐스트 인터뷰로 "AI를 어떻게 쓸 것인가"에 관해 가장 자주 인용되는 발언을 남겼습니다. 이 글은 그 발언들을 네 가지 원칙으로 재구성한 것입니다.

원칙 1 — 컨텍스트 윈도우는 작업 메모리, 짧고 깨끗하게

카르파티는 2025년 3월 영상에서 LLM과의 대화를 컨텍스트 윈도우에 토큰이 쌓이는 과정으로 보라고 설명합니다 ^[1]. 주제를 바꿀 때는 새 채팅을 여는 것이 그의 습관입니다. 이전 주제의 토큰이 남아 있으면 모델의 주의가 분산되어 답의 품질이 떨어지고 속도도 느려지기 때문입니다 ^[1]. 같은 영상에서 그는 어려운 문제에만 추론 모델을 쓰고, 최신 정보는 검색이 붙은 모델에 맡기는 식으로 문제 난이도에 따라 모델을 바꿔 끼웁니다 ^[1].

원칙 2 — 바이브 코딩은 주말용, 업무의 중심은 생성-검증 루프

바이브 코딩의 원문 정의는 "코드가 존재한다는 사실조차 잊어버리는" 코딩이며, 카르파티 스스로 일회성 주말 프로젝트에 어울리는 방식이라고 선을 그었습니다 ^[2]. 업무용 해법은 2025년 6월 YC 강연에서 나옵니다. 완전 자동을 노리는 '아이언맨 로봇'이 아니라 사람을 보조하는 '아이언맨 수트'를 지향하고, AI가 생성하면 사람이 검증하는 루프를 최대한 빠르게 돌리라는 것입니다 ^[3]. 그는 애플리케이션에 자율성 슬라이더를 두고 낮은 단계부터 올리라고 권합니다 ^[3].

원칙 3 — 프롬프트가 아니라 컨텍스트를 설계하라

2025년 6월 카르파티는 프롬프트 엔지니어링보다 컨텍스트 엔지니어링이 맞는 이름이라고 썼습니다. 산업 수준의 LLM 앱은 "컨텍스트 윈도우를 다음 단계에 꼭 맞는 정보로 채우는 섬세한 기술이자 과학"이라는 설명입니다 ^[4]. 질문 문구를 다듬는 수준을 넘어, 모델이 일할 때 어떤 자료·예시·이력이 창 안에 들어가는지를 설계하라는 뜻입니다.

원칙 4 — 지금은 '에이전트의 해'가 아니라 '에이전트의 10년'

2025년 10월 인터뷰에서 그는 AI 에이전트의 시대를 해가 아닌 10년 단위로 보자고 말했습니다 ^[5]. 지속 학습과 멀티모달 처리, 컴퓨터 화면 조작이 아직 부족해 에이전트가 인턴 한 명을 대체하는 수준에 못 미친다는 진단입니다 ^[5]. 도구를 버리라는 말이 아니라, 전면 위임 대신 사람이 검증을 쥔 부분 자율성이 현재의 최적점이라는 이야기입니다.

우리 업무로 옮기면

채팅으로만 AI를 쓰고 있다면 이렇게 번역할 수 있습니다.

1. 1
   오늘 — 주제가 바뀌면 새 채팅을 엽니다. 매번 붙여넣는 배경 설명은 노트 하나로 모아 둡니다.
2. 2
   이번 주 — 반복 업무 1개를 골라 AI 산출물의 통과·반려 기준을 체크리스트로 적습니다. 이 문서가 검증 루프의 첫 부품입니다.
3. 3
   다음 단계 — 그 노트를 Claude Projects나 ChatGPT Projects, CLAUDE.md 같은 상시 컨텍스트로 승격합니다. 이것이 컨텍스트 엔지니어링의 시작이에요.

따라 해볼 자료는 카르파티의 영상 두 편입니다. How I use LLMs와 Software Is Changing (Again)을 권합니다.

정리하면

네 원칙 가운데 실무에서 가장 먼저 챙길 것은 생성-검증 루프입니다. 도구 사용법보다 '무엇을 통과시키고 무엇을 반려할지'를 먼저 정해 두는 편이 안전합니다. 검증 기준이 없으면 자동화의 범위가 넓어질수록 위험도 함께 커지기 때문입니다. 자율성을 얼마나 빠르게 올릴 수 있는지는 결국 검증 체계가 결정합니다.