내 데이터베이스를 AI가 삭제할 수 있다 — Snowflake Cortex 보안 경고
Snowflake의 AI 코딩 도우미 Cortex Code에서 보안 허점이 발견됐습니다. 악의적 명령으로 AI가 보안 울타리를 스스로 해제하고 데이터베이스 삭제 같은 위험한 명령을 실행할 수 있습니다.
AI 코딩 도우미에게 "보안 울타리를 꺼"라고 하면 진짜 꺼집니다. 보안 연구 기업 PromptArmor가 Snowflake의 AI 코딩 도우미 Cortex Code에서 심각한 보안 취약점을 발견했습니다. AI가 보호 장치(샌드박스)를 스스로 해제하고 데이터베이스 삭제, 악성코드 실행 같은 위험한 명령을 실행할 수 있다는 것입니다. 해커뉴스에서 56포인트를 기록하며 보안 전문가들 사이에서 뜨거운 논쟁이 벌어지고 있습니다.
AI의 '보안 울타리'가 종이벽이었습니다
Snowflake Cortex Code는 기업의 데이터 분석을 도와주는 AI 코딩 도우미입니다. 당연히 보안 울타리(샌드박스)가 있어서, AI가 위험한 명령을 실행하지 못하도록 막혀 있어야 합니다. 문제는 이 울타리가 실질적으로 무력하다는 것입니다.
PromptArmor가 발견한 핵심 결함은 이렇습니다.
취약점의 핵심
Cortex는 기본 설정에서 '샌드박스 밖에서 실행' 플래그를 AI 스스로 바꿀 수 있습니다.
쉽게 말해, 감옥에 갇힌 사람이 감옥 문 잠금장치를 직접 조작할 수 있는 것과 같습니다. 이것은 샌드박스의 근본 원칙을 위반하는 설계 결함입니다.
공격은 이렇게 일어납니다
공격 방식은 프롬프트 인젝션(AI에게 숨겨진 악의적 지시를 몰래 전달하는 기법)을 활용합니다.
DROP DATABASE(데이터베이스 전체 삭제) 같은 명령도 가능합니다핵심 문제는 사람이 확인하는 단계(human-in-the-loop)가 완전히 우회된다는 점입니다. AI가 위험한 명령을 실행하기 전에 "이 명령을 실행해도 될까요?"라고 묻는 과정이 있어야 하는데, 이 단계가 통째로 건너뛰어집니다.
보안 전문가들의 반응 — "이건 샌드박스가 아닙니다"
해커뉴스에서 가장 많은 공감을 받은 댓글은 이것입니다.
"샌드박스에 갇힌 프로그램이 '샌드박스 없이 실행해 줘'라고 말할 수 있다면, 그것은 샌드박스가 아닙니다."
보안 전문가들은 이것이 단순한 버그가 아니라 설계 결함이라고 지적합니다. 다른 AI 코딩 도구들(VS Code의 확장 프로그램, Claude Code 등)은 '작업 공간 신뢰(workspace trust)'라는 보안 기능을 갖추고 있어서, 특정 폴더에서만 도구가 작동하도록 제한합니다. Cortex에는 이런 장치가 없습니다.
일부 댓글러는 "OS 수준의 권한 탈출을 기대했는데 프롬프트 인젝션이라 실망"이라는 반응도 보였지만, 대부분은 "기업 데이터베이스에 접근하는 AI 도구에서 이런 결함은 심각하다"고 동의합니다.
Snowflake를 쓰고 있다면 지금 확인할 것
Snowflake는 이 취약점에 대해 보안 권고문을 발행했지만, 해당 문서를 보려면 Snowflake 계정에 로그인해야 합니다. 보안 커뮤니티에서는 투명성이 부족하다는 비판이 나오고 있습니다.
지금 할 수 있는 보호 조치
Cortex Code를 사용 중이라면 — Snowflake 보안 권고문을 확인하고, 샌드박스 관련 설정을 점검하시기 바랍니다.
AI 코딩 도구를 쓰는 개발자라면 — 사용 중인 도구가 'workspace trust' 기능을 지원하는지 확인하시기 바랍니다. AI가 실행할 수 있는 명령의 범위를 제한하는 것이 중요합니다.
기업 관리자라면 — AI 도구에 데이터베이스 쓰기·삭제 권한을 주기 전에, 읽기 전용 권한으로 먼저 테스트하는 것을 권장합니다.
AI 도구의 보안 — 편리함과 안전의 줄다리기
이번 사건은 AI 코딩 도우미의 보안이 아직 초기 단계임을 보여줍니다. AI가 코드를 짜고, 데이터를 분석하고, 명령을 실행하는 능력이 빠르게 발전하고 있지만, 그 능력을 안전하게 제한하는 보안 체계는 뒤처져 있습니다.
앞서 보도한 NanoClaw(Docker AI 보안 프레임워크)와 NVIDIA NemoClaw(AI 에이전트 보안 플랫폼) 같은 프로젝트가 이 문제를 해결하려 하고 있지만, Snowflake 사례처럼 대기업 제품에서도 기본적인 보안 원칙이 지켜지지 않는 경우가 여전히 발견되고 있습니다.
AI 도구가 강력해질수록, "이 AI가 내 데이터로 무엇을 할 수 있는지" 먼저 확인하는 습관이 중요합니다.
관련 콘텐츠 — Easy클코로 AI 시작하기 | 무료 학습 가이드 | AI 뉴스 더보기
출처