AI 에이전트, 카파시 수개월 난제를 하룻밤에 해결 — GPT-2 학습 100배 단축
카파시가 수개월 최적화한 AI 학습을 에이전트에게 하룻밤 맡겼더니, 전문가도 못 찾은 개선점을 발견. 168시간→1.65시간, 5700만 원→6만 원으로 단축된 AI 자동 최적화의 실체를 확인하세요.
• AI 비서에게 배송 주소 한 줄로 은행 정보를 빼냈다 — 기업 10곳 중 9곳이 위험합니다
• 워드프레스 AI 에이전트 — ChatGPT·Claude MCP 연동으로 사이트 자동 관리
AI 에이전트가 사람 전문가도 수개월간 해결하지 못한 AI 학습 최적화 문제를 하룻밤 만에 풀었습니다. AI를 20년 넘게 연구해온 안드레이 카파시(Andrej Karpathy)가 놀라운 고백을 했습니다. 자신이 수개월 동안 직접 손으로 조정한 AI 학습 설정을, AI 에이전트에게 하룻밤 맡겼더니 자신이 놓친 개선점을 찾아냈다는 것입니다.
테슬라 자율주행 AI 총괄, OpenAI 공동창업 멤버였던 카파시는 No Priors 팟캐스트에서 이렇게 말했습니다.
"지금 가능한 도구를 최대한 활용하려면, 당신 자신이 병목이 되지 않아야 합니다. 다음에 뭘 시킬지 앉아서 기다리고 있으면 안 됩니다."
— 안드레이 카파시, No Priors 팟캐스트 (2026년 3월)
AI 학습 최적화 과정 — 168시간이 1.65시간으로
카파시는 자신의 오픈소스 프로젝트 nanochat(깃허브 스타 약 5만)에서 GPT-2급 AI 모델의 학습을 최적화하고 있었습니다. GPT-2는 OpenAI가 2019년에 공개한 모델인데, 당시에는 학습에 168시간(7일)이 걸렸고 비용은 약 5,700만 원($43,000)이었습니다.
카파시는 수개월에 걸쳐 이 학습 과정을 직접 손으로 최적화했습니다. 배치 크기(한 번에 처리하는 데이터 양)를 바꿔보고, 데이터셋을 교체하고, 연산 방식을 개선했습니다. 그 결과 학습 시간이 3시간대까지 줄었고, 비용은 6만 4천 원($48)까지 떨어졌습니다.
하지만 결정적 돌파구는 사람이 아니라 AI에서 나왔습니다.
AI 에이전트 자동 연구(autoresearch) — 하룻밤의 결과
카파시는 자율적으로 실험을 반복하는 AI 에이전트에게 학습 설정 최적화를 맡겼습니다. '자동연구(autoresearch)'라고 이름 붙인 이 방식에서, AI는 하룻밤 동안 자동으로 다양한 설정 조합을 시도하고 결과를 비교했습니다.
결과는 놀라웠습니다. nanochat 프로젝트의 공개 기록에 따르면:
자동연구 1차 (3월 9일): 학습 시간 1.80시간 달성
자동연구 2차 (3월 14일): 학습 시간 1.65시간 달성 — 역대 최고 기록
핵심은 AI가 찾아낸 개선점들이 사람의 직관으로는 발견하기 어려운 것들이었다는 점입니다. 카파시는 "여러 설정값이 서로 영향을 주고받는 미세한 조합"을 AI가 체계적으로 탐색해서 찾아냈다고 설명했습니다. 20년 경력의 전문가도 이런 상호작용까지 직관적으로 파악하기는 어려웠던 것입니다.
이처럼 AI가 스스로 판단하고 행동하는 방식을 에이전틱 AI라고 부릅니다. 이 개념이 생소하다면 에이전틱 AI 개념 가이드에서 기초부터 살펴볼 수 있습니다.
nanochat 프로젝트의 스케일링 법칙 차트. 모델 크기와 연산량에 따른 최적점을 AI가 자동으로 탐색합니다.
GPT-2 학습 비용 비교 — 2019년 vs 2026년
2019년 GPT-2 학습
168시간
약 5,700만 원
2026년 AI 자동 최적화 후
1.65시간
약 6만 4천 원
같은 성능의 AI를 만드는 데 시간은 100분의 1로, 비용은 900분의 1로 줄어든 셈입니다. 이 중 마지막 한 단계(3시간 → 1.65시간)를 AI 에이전트가 사람 대신 해냈습니다.
AI 자동화가 통하는 영역 — 카파시의 조건
카파시가 무조건 "AI가 사람보다 낫다"고 주장한 것은 아닙니다. 그는 중요한 조건을 달았습니다.
"부드러운(soft) 느낌이 드는 분야에서는 성과가 떨어진다"고 카파시는 말했습니다. AI 학습 최적화처럼 결과를 숫자로 측정할 수 있는 영역에서는 AI 에이전트가 압도적이지만, 디자인 감각이나 창의적 판단처럼 정량화하기 어려운 영역에서는 아직 사람의 역할이 중요하다는 것입니다.
이 관점은 OpenAI의 수석 과학자 야쿠브 파초키(Jakub Pachocki)의 입장과 일맥상통합니다. 파초키 역시 "AI가 실험적 코딩 작업은 훌륭하게 해내지만, 복잡한 시스템 전체를 설계하는 수준은 아직 아니다"라고 최근 밝혔습니다. 다만 그는 OpenAI가 2026년 9월까지 '자율 AI 연구 인턴'을, 2028년 3월까지 'AI 연구원' 시스템을 배치할 계획이라고 덧붙였습니다.
AI 에이전트 활용법 — 반복 실험은 AI에게 맡겨라
카파시의 실험에서 배울 수 있는 핵심은 분명합니다.
반복 실험은 AI에게 맡기고, 사람은 방향을 정하는 일에 집중하라
코딩이든, 글쓰기든, 디자인이든 — 결과를 비교할 수 있는 작업이라면, 여러 번 시도하고 최적을 고르는 과정은 AI가 사람보다 빠르고 정확합니다. 사람은 "무엇을 최적화할 것인가"를 정하는 데 시간을 쓰는 것이 낫습니다.
이미 실무에서 이런 방식을 쓰는 사례가 늘고 있습니다. 쇼피파이 CEO 토비 뤼트케는 AI에게 120번의 실험을 시켜 코드 성능을 53% 향상시킨 오픈소스 방법을 공개하기도 했습니다. 여러 AI 에이전트를 조합해 팀처럼 활용하는 방법이 궁금하다면 에이전트 팀 실전 가이드를 참고해 보세요.
nanochat으로 AI 학습 자동 최적화 직접 체험하기
카파시의 nanochat 프로젝트는 오픈소스로 누구나 사용할 수 있습니다. AI 학습의 자동 최적화가 어떻게 작동하는지 직접 살펴볼 수 있습니다.
# nanochat 설치 및 실행
git clone https://github.com/karpathy/nanochat.git
cd nanochat
pip install -r requirements.txt
# GPT-2 학습 시작 (GPU 필요)
python train.py --depth 24GPU가 없어도 프로젝트의 리더보드에서 전 세계 개발자들의 최적화 기록과 방법을 확인할 수 있습니다.
No Priors 팟캐스트 원본은 YouTube에서 무료로 시청할 수 있습니다.
관련 콘텐츠 — Easy클코로 AI 시작하기 | 무료 학습 가이드 | AI 뉴스 더보기