테렌스 타오 AI 한계 진단 — 아이디어는 공짜, 검증 비용은 폭등

세계에서 가장 유명한 수학자 테렌스 타오(Terence Tao, 필즈상 수상자, UCLA 교수)가 AI 검증 비용이라는 구조적 한계를 짚었습니다. 핵심은 단순합니다 — AI가 아이디어를 만드는 비용은 거의 0원이 됐지만, 그 아이디어가 맞는지 확인하는 비용은 오히려 폭등했다는 것입니다.

타오는 팟캐스트 진행자 드워케시 파텔과의 대화에서 이렇게 말했습니다.

"AI가 아이디어 생성 비용을 거의 0에 가깝게 떨어뜨렸습니다. 놀라운 일이지만, 그 자체로 풍요가 만들어지지는 않습니다. 이제 병목은 다른 곳에 있습니다 — 사람들이 특정 과학 문제에 대해 이론을 수천 개 만들어낼 수 있게 됐으니까요. 이제 그걸 검증하고 평가해야 합니다."

AI가 기존 시스템을 마비시키는 이유 — 자동차 비유의 교훈

타오가 꺼낸 비유가 핵심을 찌릅니다. 자동차는 말보다 빨랐지만, 사람과 말을 위해 설계된 도로를 막아버렸습니다. 결국 도시 전체를 자동차에 맞게 다시 설계해야 했습니다 — 고속도로, 주차장, 신호 체계까지.

AI도 마찬가지라는 겁니다. AI가 만든 수학 증명을 기존 학술지 구조에 억지로 끼워 넣는 건, "사람을 위해 만든 도로에 자동차를 억지로 넣는 것"과 같습니다. 대신 AI에 맞는 완전히 새로운 인프라가 필요합니다.

AI 수학 실험 — 컨닝 페이퍼 하나로 점수 50점에서 93점

말만 하는 게 아닙니다. 타오는 직접 실험도 하고 있습니다. 지난 3월 13일, 그는 수학 증류 챌린지(Mathematics Distillation Challenge)를 공개했습니다.

규칙은 이렇습니다. 10KB 이하의 '컨닝 페이퍼'(수학 원리와 문제 풀이 전략을 정리한 짧은 문서)를 만들어서 AI에게 줍니다. 그러면 AI의 수학 성적이 얼마나 올라가는지 측정합니다. AI에게 맥락과 전략을 잘 전달하는 것이 핵심인데, 이는 프롬프트 엔지니어링의 원리와 정확히 같습니다.

10KB — A4 용지 3~4장 분량의 설명문 하나로 AI의 성적이 50점에서 93점으로 뛴 겁니다. 이건 "AI가 멍청하다"가 아니라 "사람이 만든 지식 압축본이 AI 성능을 극적으로 바꾼다"는 증거입니다.

AI 자동화 시대, 코딩·보고서·콘텐츠 검증이 진짜 병목인 이유

타오의 진단은 수학을 넘어 AI를 쓰는 모든 사람에게 적용됩니다.

타오의 자동차 비유로 돌아가면 — 지금 우리는 고속도로 없이 자동차만 잔뜩 사둔 상태입니다. AI가 쏟아내는 결과물을 효율적으로 검증할 인프라(자동 팩트체크, 코드 테스트 자동화, 형식 검증 도구 등)를 함께 만들어야 AI의 속도를 온전히 활용할 수 있습니다.

직접 참여할 수 있는 수학 증류 챌린지

타오의 실험에 직접 참여할 수도 있습니다. 수학 증류 챌린지는 2026년 4월 20일까지 누구나 참가할 수 있으며, SAIR 재단의 플레이그라운드에서 매일 무료 크레딧 10회로 테스트할 수 있습니다. 상위 1,000명은 2단계(증명 검증)에 진출합니다.

타오는 자신의 블로그에서 AI를 바이브 코딩된 시각화에도 활용한다고 밝혔습니다. 구글 딥마인드의 AlphaEvolve를 사용해 수학적 최적화 문제를 탐구하고 있으며, 이는 AI가 사람의 직관을 대체하는 게 아니라 보완하는 도구로서 가장 잘 작동한다는 그의 일관된 관점을 보여줍니다.

관련 콘텐츠 — Easy클코로 AI 시작하기 | 무료 학습 가이드 | AI 뉴스 더보기