내 AI가 만든 도구가 고장 나면 누가 고치나 — 해커뉴스 113표 받은 미래의 경고
AI가 코드를 공짜로 만들어주는 시대, 진짜 비용은 유지보수에 있습니다. 해커뉴스에서 화제된 소설 에세이가 그리는 미래 — 수확 시기 잘못 잡아 3300만 원 손실, 도구 40개가 서로 충돌, 그리고 '소프트웨어 정비사'라는 새 직업의 등장.
AI가 코드를 공짜로 만들어주는 세상이 오면, 프로그래머는 사라질까요? 해커뉴스에서 113표와 51개 댓글을 받으며 화제가 된 한 에세이는 정반대의 답을 내놓습니다. 코드를 만드는 건 공짜지만, 고치는 데는 수천만 원이 든다는 이야기입니다.
뉴스레터 Near Zero의 저자 Scott Werner가 쓴 이 글은 픽션이지만, 지금 AI 코딩 도구를 쓰는 모든 사람에게 던지는 메시지는 매우 현실적입니다.
트랙터 정비사에서 소프트웨어 정비사로
이야기의 주인공 톰 하트만은 미국 위스콘신주의 시골 마을에서 일합니다. 원래 11년 동안 트랙터를 고치던 정비사였지만, AI가 누구든 '말만 하면' 프로그램을 만들어주는 시대가 되자 새로운 직업이 필요해졌습니다. 바로 '소프트웨어 정비사' — AI가 만든 프로그램이 고장 났을 때 원인을 찾아 고치는 사람입니다.
그의 진단 성공률은 94%. 전국 평균보다 높습니다. 그런데 왜 이런 직업이 필요할까요? AI가 완벽한 코드를 만들어주는 것 아닌가요?
3300만 원이 날아간 양배추 농장
340에이커(약 42만 평) 양배추 농장을 운영하는 마가렛 브레넌은 AI가 만들어준 수확 시기 예측 도구 덕분에 여름 한 철에 약 5300만 원(4만 달러)을 절약했습니다. 문제는 가을에 터졌습니다.
도구가 수확 시기를 4일 일찍 잡았습니다. 아직 덜 자란 양배추를 수확하라고 권한 것입니다. 결과: 약 3300만 원(2만 5천 달러) 손실.
원인은 도구 자체의 버그가 아니었습니다. 도구가 참고하는 날씨 서비스의 예측 모델이 업데이트되면서, 동일한 날씨 데이터가 다른 의미로 해석된 것입니다. 도구는 멀쩡했고, 데이터도 정상이었지만, 그 사이의 연결고리가 끊어졌습니다.
톰이 이 문제를 진단하는 데 받은 비용은 24만 원(180달러) — 손실액의 0.7%에 불과합니다. 그는 월 53만 원(400달러)짜리 정기 점검 서비스를 제안했지만, 마가렛은 거절했습니다. 고장이 나야 비로소 돈을 쓰는 것이 인간의 본능이기 때문입니다.
도구 40개가 서로 싸우는 낙농장
26살의 낙농가 에단 노박은 1년 사이에 AI로 40개의 도구를 만들었습니다. 사료 최적화, 우유 가격 계산, 일정 관리 등 각각은 완벽했지만, 문제는 이 도구들이 서로 데이터를 주고받을 때 생겼습니다.
사료 최적화 도구를 업데이트했더니 출력 형식이 바뀌었고, 이를 읽는 우유 가격 계산 도구가 숫자를 잘못 해석했습니다. 결과: 3개월간 우유를 시장가보다 8% 낮게 팔아 약 1900만 원(1만 4천 달러) 손실. 에단은 원인을 알 수조차 없었습니다.
이 문제를 해결하기 위해 '소프트웨어 안무가(Choreographer)'라는 또 다른 새 직업의 전문가가 투입됐습니다. 3주간의 작업 끝에 40개 도구 중 11개가 서로 모순되거나 불필요하다는 사실을 발견하고 삭제했습니다.
'바닥이 움직인다' — AI 도구가 고장 나는 진짜 이유
톰이 접수하는 의뢰의 60%는 같은 유형입니다. 그가 '바닥이 움직인다(The Ground Moved)'라고 부르는 문제입니다.
AI가 만든 프로그램은 특정 시점의 데이터를 기준으로 작동합니다. 그런데 그 프로그램이 참고하는 외부 데이터 — 날씨 예보, 시장 가격, 위성 사진, 토양 센서 — 는 끊임없이 바뀝니다. 날씨 서비스가 예측 모델을 조용히 업데이트하면, 어제까지 완벽하게 작동하던 도구가 오늘은 엉뚱한 결과를 내놓습니다.
프로그램 자체에는 버그가 없습니다. 데이터도 정상입니다. 그런데 둘 사이의 '약속'이 깨진 것입니다. 이런 종류의 고장은 오류 메시지도 뜨지 않아서, 돈을 잃고 나서야 알게 됩니다.
40년 농사꾼의 지식 vs AI의 한계
71세 유기농 농부 캐롤 린드그렌의 이야기가 가장 인상적입니다. 손자가 AI로 만든 관개(물 대기) 자동화 시스템은 물 사용량을 15% 줄이면서 더 균일한 습도를 유지했습니다. 수치상으로는 완벽했습니다.
하지만 캐롤은 40년간 이 땅을 일구면서 특정 구역에 점토층이 있어 물이 다르게 스며든다는 것을 몸으로 알고 있었습니다. AI는 이 '경험 지식'을 반영하지 못했습니다. 결국 톰이 4천 원(4달러)짜리 물리적 스위치 하나를 달아서 해결했습니다 — 시스템이 제안하되, 최종 결정은 캐롤이 하도록.
핵심 교훈: AI가 '더 나은' 결과를 내더라도, 수십 년의 경험에서 나오는 맥락 지식(이 밭의 어디가 다른지, 왜 다른지)을 대체할 수는 없습니다. '기계가 제안하고, 사람이 결정한다'는 구조가 저항감을 극적으로 줄였다고 합니다.
이 소설이 지금 우리에게 중요한 이유
이 에세이는 픽션입니다. 하지만 해커뉴스 독자들이 열띤 토론을 벌인 이유가 있습니다. 지금 벌어지고 있는 일과 너무 비슷하기 때문입니다.
이미 현실에서 일어나고 있는 일들:
• 구글 엔지니어가 경고한 '이해력 부채' — AI가 깨끗한 코드를 짜주지만 아무도 그 코드를 이해하지 못하는 문제
• 카네기멜론대 806개 프로젝트 분석 — AI 코딩 도구를 쓰면 처음엔 빨라지지만 2개월 후 오히려 느려지는 현상
• UC 버클리 연구 — AI 에이전트 여러 개를 함께 쓰면 최대 87%가 실패하는 현상
• 아마존의 AI 코딩 도구 장애 — AI에게 시스템 권한을 줬더니 13시간 서비스 중단
에세이의 저자는 이 글을 Claude(AI)와 함께 몇 달에 걸쳐 작성했다고 밝혔습니다. '세계관 설정서, 문체 가이드, 보조 자료'를 만든 뒤 2주간 다듬어 AI 특유의 말투를 제거했다고 합니다.
해커뉴스 댓글에서 나온 핵심 논쟁
51개의 댓글에서 크게 세 가지 의견이 충돌했습니다.
"현실적이다" 쪽: "디스토피아도 유토피아도 아닌 중간 지점을 그려서 신선하다." 기술이 발전해도 인간의 판단력이 중요하다는 메시지에 공감하는 반응이 많았습니다.
"AI가 이것도 해결할 것" 쪽: "감시 에이전트(supervisor agent)가 하위 시스템 간 호환성을 자동으로 관리할 수 있다"는 반론도 있었습니다.
"AI로 쓴 소설의 한계" 쪽: 마가렛의 사례에서 기술적 모순점(캐롤이 물 부족을 '알면서' 톰은 '몰랐다'고 생각하는 장면)을 지적하며 AI 생성 콘텐츠의 논리적 약점을 꼬집는 의견도 있었습니다.
AI 도구를 쓰는 사람이라면 기억할 것
이 에세이가 던지는 가장 실용적인 질문은 이것입니다: "내가 AI로 만든 도구, 6개월 뒤에도 제대로 작동할까?"
바이브코딩으로 업무 자동화 도구를 만들거나, ChatGPT로 엑셀 매크로를 짜거나, AI에게 데이터 분석 스크립트를 시키는 분들이 많습니다. 에세이의 교훈을 현실에 적용하면 이렇습니다:
1. 외부 데이터에 의존하는 도구는 주기적으로 확인하기 — 환율, 날씨, 주가 등 외부 데이터를 가져오는 AI 도구는 데이터 소스가 바뀌면 조용히 틀린 답을 줍니다.
2. AI 도구를 여러 개 연결할 때는 '접점'을 기록하기 — 에단처럼 도구 40개를 만들면 어떤 도구가 어떤 데이터를 주고받는지 아무도 모르게 됩니다.
3. '기계가 제안하고, 내가 결정한다' 구조 유지하기 — 캐롤의 4천 원짜리 스위치처럼, 최종 판단은 사람이 하는 안전장치를 남겨두는 것이 좋습니다.
소프트웨어를 만드는 비용은 0에 가까워지고 있습니다. 하지만 소프트웨어를 이해하고, 관리하고, 고치는 비용은 오히려 올라가고 있습니다. 이 에세이는 그 역설을 아름다운 수채화 일러스트와 함께 보여주며, 해커뉴스 독자들의 뜨거운 반응을 얻었습니다.
전문은 Near Zero 뉴스레터에서 무료로 읽을 수 있습니다.
관련 콘텐츠 — Easy클코로 AI 시작하기 | 무료 학습 가이드 | AI 뉴스 더보기