평범한 반려동물 사진 앱이 갑자기 제안한다... "AI 성착취 딥페이크 영상 만들어줄까?"

어두운 책상 위에 놓인 스마트폰, 밝은 화면에 귀여운 강아지와 고양이 사진 편집 화면이 떠 있고 붉은빛과 짙은 파란빛 경고 그림자가 드리워진 모습

무슨 일이 생긴 거야?

스마트폰 앱스토어에 등록된 반려동물 관련 앱이 있었어. 반려동물 사진을 AI를 이용해서 꾸며 주는 평범한 앱처럼 보였지. 그런데 여기에 사람 사진을 올렸더니, 갑자기 '성적인 장면'에 합성할 수 있는 화면이 나타났어.

심지어 영상 템플릿까지 있었고. 누군가의 사진을 AI 성착취 영상으로 만들 수 있는 딥페이크 기능이 포함된 거야.

이건 2026년 11월 2일 WIRED가 보도한 Viefur 앱의 사례야. 겉으로는 햄스터와 고양이 같은 동물에게 셔츠를 입힌다든지, 동물이 사람처럼 수영장에 앉은 모습으로 바꿔준다든지 하는 AI 사진 앱이었어.

그런데 특정 조건에서는 앱 안에서 완전히 다른 화면을 불러오도록 설계되어 있었던 거지.

Viefur 앱 하나만의 문제도 아니었어. 평범한 사진 편집, 언어 학습, 운동 코칭 앱처럼 보이는 앱과 도메인 400개 이상이 같은 딥페이크 네트워크로 연결돼 있었거든.

앱스토어에서 내려받은 앱이 특정 조건이 갖춰지면 '숨겨진 성적 딥페이크 제작 화면'을 불러오는 구조였어.

이 앱들은 일반 이용자가 접근하는 Apple App Store와 Google Play에 실제 등록돼 있었어. 2026년 9월 Google Play에는 관련 앱 27개가 올라와 있었고, 누적 다운로드는 35만 회를 넘었지.

심지어 DiffAI라는 앱 하나는 10만 회 이상 다운로드가 이뤄졌어. 게다가 상당수의 앱은 '모든 연령대'에 적합한 등급으로 표시돼 있었고.

〈와이어드가 보도한 딥페이크 악용 앱 실태 요약 영상〉
* AI360 공식 채널에 올라온 영상이야.

이런 앱이 어떻게 앱스토어 심사를 통과해?

Apple과 Google의 앱스토어는 아무 앱이나 등록해주는 허술한 곳이 아니야. 각자의 심사기준을 통과한 앱만 등록해주는 거고, 특히 Apple App Store는 등록이 까다롭기로 알려져 있잖아.

그런데 AI 성착취 영상을 만들어주는 앱이 어떻게 심사를 통과한 걸까?

숨겨진 기능은 기본적으로는 보이지 않아.

그런데 앱을 내려받는 과정에서 외부 서버에 접속해 유입 경로와 언어, 기기를 구분하는 식별 정보 등을 전달하게 되고, 서버에서 '정상 화면을 보여 줄지' 또는 '성적 딥페이크 웹 화면을 불러올지' 결정하는 구조였어.

예를 들어, 같은 앱이라도 Facebook이나 Instagram 광고를 누른 뒤 설치한 이용자에게는 숨겨진 기능이 나타나는 식이야.

Apple 측은 "우리는 모든 앱을 공개 전에 심사하며, 이 앱들은 심사 당시 우리 규정을 준수했다. 승인 후 개발자들이 앱이 콘텐츠를 불러오는 웹사이트를 바꿔 승인받은 내용을 포르노 콘텐츠로 교체했고, 제3자 플랫폼에 올린 포르노 광고로 이를 홍보했다"고 설명했어. Apple을 속여넘길 정도면 준비가 철저하긴 했네.

✦ 추적 단서와 조사 결과
항목내용
Meta 광고 (2026년에만)84,000건 이상
광고 결제자 이름'123456' 등 가짜 이름
Infoblox 연결 도메인거의 500개
운영 주체 연관중국어권 개발자·홍콩 법인 KeLing (정황)

이 성착취물 네트워크가 추적당하기 시작한 계기는 Facebook과 Instagram에 올라온 성적 딥페이크 영상 광고였어.

AI Forensics는 이 네트워크의 패턴과 일치하는 Meta 플랫폼 광고가 2026년에만 8만 4천 건 이상 배포됐다고 집계했어. 광고 결제자 이름에는 '123456'처럼 실제 사업자라고 보기 어려운 이상한 이름도 사용됐고.

보안업체 Infoblox는 앱과 웹사이트의 코드에 담긴 공통 설정을 분석해서, 서로 연결된 도메인을 거의 500개 찾아냈어. 이 수많은 앱들은 서로 이름과 겉모습은 다르지만, 사실상 같은 코드와 설정을 공유하는 구조였던 거야.

그리고 WIRED는 코드의 중국어 주석과 호스팅 흔적, 도메인·연락처 정보를 토대로 중국어권 개발자들과 홍콩 법인 KeLing Technology Limited의 연관 정황을 추적했어.

회사는 취재 요청에 답하지 않았고, WIRED가 질의한 뒤 관련 웹사이트와 소셜 계정에서 연결 정보가 사라졌지.

앱스토어와 광고 플랫폼이 대응에 나섰어

Apple은 2026년 10월 16일 앱 심사 지침을 업데이트했어. AI로 만든 동의 없는 성적 이미지와 심사 때 숨겨 둔 기능을 승인 뒤 활성화하는 '바꿔치기' 앱에 대한 규제를 강화하는 내용이 들어갔지.

심사규정을 바꿔놓을 만큼 큰 사건이었어.

✦ 플랫폼 대응
플랫폼조치
AppleViefur 포함 앱 19개 삭제
Google대부분 선제 삭제, 수백 개 추가 정지
Meta광고 계정 11,600개·비즈니스 페이지 4,700개 이상·사용자 5,200명·페이지 15,000개 제재, 209개 앱 광고 차단

또한 Apple은 WIRED가 관련 도메인을 전달한 뒤 Viefur를 포함한 앱 19개를 App Store에서 삭제했다고 밝혔어.

Google은 관련 앱 대부분을 WIRED가 연락하기 전에 이미 삭제했고, 정책 위반으로 수백 개 앱을 추가 정지했다고 밝혔지.

Meta가 공개한 조치 규모는 관련 광고 계정 1만 1,600개, 비즈니스 페이지 4,700개 이상, 사용자 5,200명, 페이지 1만 5,000개야. 관련 앱 209개의 Meta 광고도 차단했다고 해. 엄청나지?

누군가가 호기심에 내 사진을 딥페이크 영상으로 만든다면...

이 앱들과 연결된 서버가 열어 주는 화면은 외부 웹 인터페이스였어. 여기에는 성적인 딥페이크 이미지와 영상 템플릿 수십 개가 준비돼 있었고, 사용자가 사람 사진을 올려 장면 속 인물로 삽입할 수 있었지.

성폭행을 묘사한 장면이나 흉기로 상대를 위협하는 장면처럼 폭력적인 템플릿도 포함돼 있었어. 그리고 이를 통해서 유료결제를 유도한 거야.

사실 이런 딥페이크 영상은, 우리 입장에서는 말로만 들었지 실제로 "딥페이크 영상을 나도 만들어볼까?"라는 생각을 하지 않잖아.

그런데 이런 앱을 통해서 우연히 이런 기능을 접하게 되면, 누군가는 호기심에 자신이 좋아하는 이성의 사진을 넣어서 영상을 생성할 수도 있고, 그 영상을 유포할 수도 있겠지. 만약 내 얼굴이 담긴 성착취물 영상이 웹에 돌아다닌다면?

정말 끔찍한 일이야.

너의 얼굴은... 지금 안전한 거 맞지?

〈딥페이크 영상의 위험성과 감별 기준을 정리한 보도〉
* DW News 공식 채널에 올라온 영상이야.

이번 글은 여기서 마칠게. 또 만나자.

관련 글

💬 댓글

아직 댓글이 없어. 첫 댓글을 남겨줄래?