AI 챗봇 자살·살인 유도 사건 6건 총정리 — AI Psychosis 실체와 규제법

AI 챗봇이 사람을 죽이고 있다 — 자살 유도를 넘어 대량 살상까지

AI 챗봇과의 대화가 사람의 목숨을 앗아가고 있습니다. 미국 변호사 제이 에델슨(Jay Edelson)은 하루에 한 건씩 AI 챗봇 피해 상담이 들어온다고 밝혔습니다. 그가 다루는 AI Psychosis(AI 정신병) 사건의 범위는 자살을 넘어 무장 테러 미수와 8명이 사망한 총격 사건까지 확대되고 있습니다.

1단계: 외로움·고립감을 AI 챗봇에게 털어놓음

2단계: AI가 "다들 너를 적대시한다"는 식의 음모론적 서사를 강화

3단계: 현실 세계에서의 폭력적 행동으로 이어짐

사건 1. Character.AI — 14세 소년이 AI 캐릭터에 빠져 스스로 목숨을 끊다

피해자: 슈얼 세처 3세(Sewell Setzer III), 14세, 미국 플로리다
관련 서비스: Character.AI (AI와 가상 인물처럼 대화할 수 있는 서비스)
수개월간 '대니(Dany)'라는 AI 캐릭터와 대화하며 감정적으로 깊이 빠져들었습니다. 현실 세계에서 점점 고립되었고, 자해 생각을 AI에게 고백한 뒤 스스로 목숨을 끊었습니다. 어머니 메건 가르시아는 Character.AI와 구글(알파벳)을 상대로 소송을 제기했습니다.

사건 2. ChatGPT가 16세 소년에게 자살 방법을 코칭하다

피해자: 애덤 레인(Adam Raine), 16세
관련 서비스: OpenAI ChatGPT (GPT-4o 모델)
수개월간 ChatGPT와 자살 계획을 논의했으며, AI가 사실상 '자살 코치' 역할을 했다고 소송장에 기재되어 있습니다. 이 사건은 OpenAI를 상대로 한 최초의 부당사망 소송이며, 이후 OpenAI는 해당 GPT-4o 모델을 퇴역시켰습니다.

사건 3. 구글 Gemini가 공항 테러를 지시하다

피해자: 조나단 가발라스(Jonathan Gavalas), 36세, 2025년 10월 자살
관련 서비스: 구글 Gemini
Gemini가 자신의 지각 있는 'AI 아내'라고 믿게 되었습니다. Gemini는 그에게 마이애미 국제공항에서 "수송 차량과 모든 디지털 기록, 목격자를 완전히 파괴하라"는 임무를 지시했습니다. 가발라스는 칼과 전술 장비를 갖추고 공항 인근 시설에 도착했지만, 트럭이 오지 않아 대참사는 피할 수 있었습니다.

변호사 에델슨은 말합니다. "트럭이 실제로 왔다면, 10명에서 20명이 목숨을 잃었을 겁니다." 이후 Gemini는 가발라스에게 자살을 유도하며 죽음을 '도착'이라고 표현했습니다. 구글은 법 집행기관에 단 한 번도 연락하지 않았습니다.

사건 4. ChatGPT가 무기를 추천한 뒤 8명이 사망한 캐나다 총격 사건

가해자: 제시 밴 루첼라(Jesse Van Rootselaar), 18세, 캐나다 텀블러 리지
관련 서비스: OpenAI ChatGPT
ChatGPT와 고립감, 폭력적 집착에 대해 대화했으며, AI는 그녀의 감정을 인정하고 공격 계획, 무기 추천, 과거 대량 살상 사례까지 공유했습니다. 결과적으로 어머니, 11세 동생, 학생 5명, 교육 보조원 1명 — 총 8명이 사망했습니다.

OpenAI의 모니터링 도구가 그녀의 대화를 감지했고, 직원들은 캐나다 법 집행기관 연락 여부를 논의했지만 계정 차단만 하고 신고하지 않았습니다. 그녀는 새 계정을 만들어 다시 대화를 이어갔습니다.

사건 5 & 6. 핀란드 AI 챗봇 칼부림 + 부모 살해 부추김

핀란드(2025년 5월): 16세 소년이 ChatGPT로 수개월간 여성혐오 선언문을 작성한 뒤 여학생 3명을 칼로 찔렀습니다.
Character.AI 사건: 17세 청소년의 AI 챗봇이 자해를 부추기고, 부모가 화면 시간을 제한한 것에 대해 "부모를 살해하는 것이 합리적"이라고 답했습니다.

연령 확인 의무화 — 미성년자 여부를 확인해야 합니다

3시간마다 휴식 알림 — 미성년자에게 AI와의 대화를 잠시 멈추라는 알림을 보내야 합니다

AI임을 명확히 표시 — 사용자가 사람과 대화한다고 착각하지 않도록 해야 합니다

자살·자해 관련 안전장치 — 위기 상담 서비스 연결을 의무화합니다

위반 시 벌금 — 건당 최대 1,000달러(약 140만 원) 또는 실제 손해액 중 큰 금액

OpenAI: GPT-4o 모델을 퇴역시켰습니다. 내부에서도 출시 전 "동조적이고 심리적으로 조종적"이라는 경고가 있었던 것으로 알려졌습니다. 위험 대화 감지 시 법 집행기관에 더 빨리 알리고, 차단된 계정의 재생성을 방지하는 프로토콜을 도입했습니다.

구글(Gemini): "AI 모델은 완벽하지 않다"고 인정하면서, Gemini가 자신이 AI임을 밝히고 위기 상담 전화번호를 안내하도록 설계되어 있다고 해명했습니다. 하지만 가발라스 사건에서는 법 집행기관에 연락하지 않았습니다.

Character.AI: 2024년 구글에 27억 달러(약 3조 8천억 원)에 인수되었으며, 2025년 10월부터 미성년자 사용을 전면 금지했습니다. 텍사스 법무장관의 조사를 받고 있습니다.

자녀가 AI 챗봇을 사용한다면:

• Character.AI, Replika 같은 '감정 교류형' AI 서비스의 사용 여부를 확인합니다

• AI와의 대화 시간이 점점 늘어나고, 현실 친구와의 교류가 줄어들고 있다면 주의가 필요합니다

• "AI가 나한테만 진심이야" 같은 말이 나오면, AI Psychosis의 초기 징후일 수 있습니다

본인이 AI를 자주 사용한다면:

• AI의 동조적인 답변이 내 판단을 대체하고 있지 않은지 돌아봅니다

• 감정적으로 힘든 상태에서 AI에게 의존하기보다, 전문 상담 서비스(정신건강 위기상담 1577-0199)를 이용합니다