AI 딥페이크 가짜 인플루언서 60개 적발 — BBC 조사가 밝힌 수법과 구별법
BBC가 인스타그램·틱톡에서 AI 딥페이크로 만든 가짜 인플루언서 60개 계정을 적발했습니다. 3주 만에 팔로워 300만을 모은 수법, 수익 구조, 그리고 내 피드에서 가짜를 가려내는 4가지 방법을 정리합니다.
AI 딥페이크(Deepfake)로 만든 가짜 인플루언서가 인스타그램과 틱톡에서 수백만 팔로워를 모으고 있었습니다. BBC가 AI 전문 매체와 공동 조사한 결과, AI 가짜 인플루언서 60개 계정이 적발됐고, 실제 크리에이터의 영상을 도용해 피부색까지 바꾸는 정교한 딥페이크 수법이 드러났습니다. AI 자동화 기술이 악용되는 최신 사례를 분석합니다.
BBC는 AI 전문 매체 Riddance와 함께 인스타그램과 틱톡에서 AI로 생성된 가짜 흑인 여성 인플루언서 계정 약 60개를 발견했습니다. 이 중 20개는 틱톡에서, 나머지 대부분은 인스타그램에서 활동하고 있었습니다. 한 계정은 만든 지 불과 3주 만에 팔로워 300만 명을 모았습니다.
AI 딥페이크 인플루언서 수법 — 실제 영상을 훔쳐 피부색까지 변형
이 가짜 계정들의 수법은 정교했습니다. 말레이시아에서 활동하는 실제 모델 리야 울란(Riya Ulan)의 영상을 도용한 뒤, AI 딥페이크 기술로 피부색을 더 어둡게 바꾸고, 옷차림과 배경까지 노출이 많은 모습으로 변형했습니다.
계정 이름에는 "Ebony", "Noir", "Dark" 같은 인종 관련 단어를 의도적으로 넣었고, 백인 남성 시청자층을 겨냥한 것이 분명했습니다. BBC는 이를 "인종차별적이고 착취적"이라고 규정했습니다.
AI 딥페이크 가짜 계정 적발 수법 요약
• 실제 크리에이터의 영상 도용 → AI 딥페이크로 피부색·옷차림 변형
• "Ebony", "Noir" 등 인종 관련 이름으로 계정 생성
• AI 생성 콘텐츠라는 표시 없이 게시 (플랫폼 규정 위반)
• 프로필 링크를 통해 유료 성인 사이트로 유도하여 수익 창출
가짜 AI 인플루언서의 수익 구조
이 가짜 계정들의 목적은 분명했습니다. 인스타그램 프로필에 있는 링크를 따라가면, 여러 단계의 링크를 거쳐 유료 성인 콘텐츠 사이트로 연결됐습니다. 제3자 사이트에서는 '이 이미지는 AI로 만든 것'이라고 표시했지만, 정작 인스타그램과 틱톡의 계정에서는 AI 생성 콘텐츠라는 라벨을 전혀 붙이지 않았습니다.
이는 인스타그램과 틱톡 모두의 커뮤니티 가이드라인을 명백히 위반하는 것입니다. 두 플랫폼 모두 AI로 만든 콘텐츠에는 반드시 라벨을 붙이도록 규정하고 있습니다.
인스타그램·틱톡의 대응과 AI 콘텐츠 탐지의 한계
틱톡은 BBC 보도 이후 약 20개 계정을 차단했습니다. Meta(인스타그램)는 "해당 문제를 조사 중"이라고 밝혔고, 일부 위반 계정을 이미 삭제했다고 전했습니다. 하지만 BBC 보도 시점에서 틱톡에서 차단된 계정 중 일부는 여전히 인스타그램에서 활동하고 있었습니다.
핵심 문제는 플랫폼의 자동 탐지 시스템이 이런 가짜 계정을 사전에 걸러내지 못했다는 점입니다. 외부 언론의 조사와 보도가 있어야만 조치가 이뤄졌다는 것은, 현재 AI 콘텐츠 모니터링 시스템에 심각한 허점이 있다는 뜻입니다.
내 피드에서 AI 가짜 인플루언서를 구별하는 4가지 방법
이번 사건은 누구에게나 해당될 수 있습니다. 인스타그램과 틱톡을 쓰는 분이라면 다음 사항을 점검해보시기 바랍니다.
1. 계정 생성일 확인 — 만든 지 몇 주밖에 안 됐는데 팔로워가 수십만~수백만이면 의심해야 합니다
2. 영상 속 인물 관찰 — 손가락, 귀걸이, 배경의 경계선 등이 부자연스럽게 흔들리면 AI가 만든 영상일 가능성이 높습니다
3. "AI 생성" 라벨 확인 — 인스타·틱톡 모두 AI 콘텐츠에 라벨을 붙이도록 하고 있습니다. 라벨이 없는데 너무 완벽해 보이면 오히려 의심해볼 필요가 있습니다
4. 프로필 링크 주의 — 외부 사이트로 유도하는 링크가 여러 단계로 연결되면, 사기성 계정일 가능성이 높습니다
AI 기술, 악용과 활용 사이
AI 딥페이크가 이처럼 악용되는 사례가 늘고 있지만, AI 기술 자체는 업무 생산성을 높이는 강력한 도구이기도 합니다. 중요한 것은 AI가 어떻게 작동하는지 이해하고 올바르게 활용하는 것입니다. AI의 기본 원리가 궁금하다면 에이전틱 AI 입문 가이드에서 핵심 개념을 확인해보세요. 또한 AI를 실제 업무에 활용하는 방법이 궁금하다면 AI 프롬프트 엔지니어링 가이드도 함께 참고해보시기 바랍니다.
AI 딥페이크 악용의 진화 — 조직적 범죄로 확산
이번 BBC 조사는 AI 딥페이크(실존하지 않는 사람의 얼굴이나 몸을 AI로 만들어내는 기술) 악용이 새로운 단계에 접어들었음을 보여줍니다. 과거에는 유명인의 얼굴을 합성하는 수준이었지만, 이제는 특정 인종을 겨냥해 가짜 페르소나를 대량 생산하고 이를 수익화하는 조직적 범죄로 발전했습니다.
영국에서는 올해 초 AI 언드레싱 앱 광고를 금지하는 법안이 시행됐고, 미국에서도 xAI Grok의 딥페이크 생성에 대한 소송이 진행 중입니다. AI가 만들어낸 가짜 콘텐츠로부터 실제 사람들을 보호하는 것이 2026년 가장 시급한 기술 과제 중 하나가 되고 있습니다.
BBC 조사의 원문은 BBC 기술 섹션에서, 추가 분석은 NewsBytes에서 확인할 수 있습니다.
관련 콘텐츠 — Easy클코로 AI 시작하기 | 무료 학습 가이드 | AI 뉴스 더보기