가짜 영상이 쏟아지기 시작한다
호주 남동부 빅토리아주에서 11월 28일 주의회 선거가 열려. 병원·학교·경찰·교통을 맡는 주정부와 의회를 구성하는 선거야. 그런데 투표를 앞두고 출마한 후보의 가짜 영상부터 가짜 경찰이 등장한 인터뷰까지 유포됐어.
자유당은 보수·중도우파 성향의 주요 야당이야.
원 네이션(One Nation)은 이민·치안 문제를 앞세우는 우파 소수 정당이야.
주 총리(Premier)는 빅토리아주 정부의 수장이야.
우선 페이스북 페이지 AussieVoice에 올라온 가짜 영상들부터 다루고 가자. 경찰 제복을 입은 여성이 멜버른의 빅토리아주 대법원 앞에서 호주 방송사 7NEWS 기자와 인터뷰하는 장면인데, 이렇게 말해.
“호주에 와서 중범죄를 저지른다면 다음 비행기로 고향에 돌아가야 한다.”
여기서 '다음 비행기'는 호주 시민이 아닌 중범죄자를 출신국으로 추방하자는 구호야. 문제는 이 여자 경찰이 AI가 만든 가짜였다는 거지. 가짜라는 흔적은 화면 곳곳에 남아 있었어.
빅토리아주 대법원은 1884년에 완공된 석조 건물인데, 영상에는 현대식 유리와 콘크리트 건물이 나왔거든. 7NEWS 마이크의 색깔도 달랐고, 경찰 제복도 실제와 맞지 않았지.
하지만 무심코 이 영상을 본 사람이라면, 실제 경찰이 그런 말을 했다고 생각할 수 있어.
| 영상 | 내용 |
|---|---|
| 경찰 인터뷰 | 대법원 앞 7NEWS 인터뷰, "다음 비행기로 고향에" 발언 |
| 국경수비대 직원 | "불법 입국자를 돌려보내야 하느냐"는 질문에 답하는 영상 |
| 여권 사무소 여성 | 팻말 "얼굴 가리개를 벗어야 하나요?" |
AussieVoice에 올라온 가짜 영상은 더 있어.
하나는 호주 연방 국경수비대(Australian Border Force) 직원이 "불법 입국자를 돌려보내야 하느냐"는 질문에 답하는 영상이고, 다른 하나는 호주 여권 사무소 앞에서 히잡을 쓴 여성이 팻말을 들고 있는 영상이야.
그 팻말에는 "모든 공식 신원 확인 때 얼굴 가리개를 벗어야 하나요?"라고 적혀 있지.
이 영상들 역시 AI로 만든 가짜 영상이야. 영상 속의 간판에는 'SERVICES CORT', 'ENTRALIA'라는 엉터리 글자가 보였고, 호주 통신사 AAP의 팩트체크에서도 세 영상 모두 AI 생성물로 판정됐어.
이 영상들은 선거 정당이 올린 광고는 아니고 별도 페이스북 페이지의 영상이지만, 여론을 호도하려는 목적으로 보이지.
이제는 정당의 공식 영상도 AI로 만든다
선거 정당들도 AI 영상을 만들었어. 우선 10월 31일 빅토리아 노동당이 핼러윈 영상에 제스 윌슨(Jess Wilson)을 등장시켰지. 윌슨은 빅토리아주 자유당 대표이자 주 의회 야당 대표야.
노동당이 공격한 건 윌슨의 12억 7천만 호주달러 의료 계획인데, 이건 공공병원 수술 대기 환자를 민간 병원에서도 수술하게 해 대기 시간을 줄이겠다는 거야.
노동당은 윌슨이 미국식 의료체계를 도입해 의료비를 엄청나게 올릴 것처럼 여론을 조성하려 했고, 그래서 이 영상에는 윌슨이 심장마비 치료 15만 달러, 구급차 6천 달러, 출산 4만 달러라는 숫자에 대해 언급하는 장면이 나와.
하지만 윌슨은 실제로 이런 말을 한 적이 없어.
자유당 — 영상을 '쓰레기'라고 비난
콜린 브룩스 — "다른 정당도 AI 영상을 썼으니 노동당만 비판받을 수 없다"
윌슨은 가짜 영상이 유포되었음을 알게 되자 '절박한 흑색선전'이라며 반박했어.
하지만 주 총리이자 노동당 대표인 벤 캐럴(Ben Carroll)은 윌슨이 그동안 해온 발언을 근거로 이 가짜영상을 옹호했고, 그러자 자유당은 영상을 '쓰레기'라고 비난했지.
빅토리아주 재무장관이자 노동당 소속인 콜린 브룩스(Colin Brooks)는 "다른 정당도 AI 영상을 썼으니 노동당만 비판받을 수 없다"고 맞서기도 했어.
자유당도 참지 못하고 반격했어. 11월 3일 호주의 유명 경마 행사인 '멜버른 컵 데이'에, 노동당 대표 캐럴이 '말을 탄 채로 잠들어 있는' 가짜 영상을 올렸지. 책상에서 잠든 모습을 만든 영상도 있어.
이건 10월 24일 Herald Sun이 익명 취재원을 인용해 보도한 캐럴의 근무 중 낮잠 의혹을 비꼰 거야.
| 항목 | 내용 |
|---|---|
| 등장 | 마체테를 든 아프리카계 청년, 폭탄 조끼를 입은 중동계 남성 |
| 비판 | 특정 인종을 범죄자·테러리스트 이미지와 연결 |
| 제작 | 마크 니컬슨, 중국산 AI 도구 Seedance, 제작비 1,000달러 미만 |
| 반발 | 리치먼드 리딩 룸, 원 네이션 지지자 지출을 녹색당에 기부하겠다고 SNS에 밝혀 |
여기에 더해서 원 네이션의 선거 출범 영상은 인종 논쟁을 일으켰어. 마체테를 든 아프리카계 청년과 폭탄 조끼를 입은 중동계 남성이 나오는데, 특정 인종을 범죄자·테러리스트 이미지와 연결했다는 비판을 받았지.
이 영상의 제작자 마크 니컬슨(Mark Nicholson)은 원 네이션의 빅토리아주 의회 상원 후보이자 정치 풍자 제작사 스텝메이츠 스튜디오(Stepmates Studios)의 공동창립자야.
그는 중국산 AI 도구 Seedance로 영상을 만들었고, 제작비는 1,000달러 미만이라고 ABC에 밝혔지.
이 영상은 상당한 논란이 됐고, 카페 리치먼드 리딩 룸(Richmond Reading Room)에서는 "원 네이션 지지자가 가게에서 쓰는 돈을 녹색당에 기부하겠다"며 SNS에 불쾌감을 드러내기도 했어.
가짜 영상을 막는 법은 있을까?
| 빅토리아 | 남호주 | |
|---|---|---|
| 진실성 규제법 | 없음. 승인자 이름·주소 표시 | 있음. 허위·오도 광고 및 AI 딥페이크 규제 |
| AI 생성 고지 | — | 음성 3초 이상 + 화면 전체 표시 |
| AI 광고 위반 최대 벌금 | — | 개인 A$5,000 / 법인 A$10,000 |
| 철회·정정 | — | 선거관리위원 요구, 대법원 명령 가능 |
호주 내에서도 주마다 적용되는 법이 달라. 빅토리아주 녹색당 대표 엘런 샌델(Ellen Sandell)은 정치 딥페이크 광고를 금지하고 정치 광고의 진실성을 규율하는 법을 만들자고 요구했어.
빅토리아 선거관리위원회는 현재 주 안에 그런 법은 없다고 설명하거든. 선거 홍보물에는 누가 만들고 승인했는지 이름과 주소만 표시하면 돼. 반면 남호주처럼 선거법을 통해서 AI 가짜 선거 광고를 규제하는 지역도 있어.
어쨌든 이런 AI 가짜 영상을 막는 법 체계는 전세계적으로 아직 미비한 곳이 많아. 한동안은 가짜 영상을 판별하고 제재하는 데에 어려움을 겪을 거야.
기존에도 정치 홍보물은 상대방의 주장을 날조하거나 과장해서 만들어지는 경우가 흔했어. 하지만 상대 후보가 실제로 어떤 발언이나 행위를 한 것처럼 만들어진 가짜 영상은, 우리가 수용할 수 있는 선을 넘어선 것이겠지.
호주만이 아니라 앞으로 전세계에서 이런 AI 기술을 활용한 가짜 영상들이 창궐할 거야.
지금 우리는 유튜브를 비롯한 영상 플랫폼에 있는 영상들을 별 생각없이 시청하지만, 앞으로는 그런 영상을 볼 때마다 '이 영상이 진짜인지 아닌지' 먼저 구별부터 하고 봐야할 때가 올지도 모르겠어.
이번 글은 여기서 마칠게. 또 만나자.
관련 글
- 평범한 반려동물 사진 앱이 갑자기 제안한다... "AI 성착취 딥페이크 영상 만들어줄까?"
- "이거 AI가 생성한 이미지인지 확인해줘!" 《구글 SynthID Detector》가 무료로 공개됐다
- AI에게 투표를 시켰더니, 요놈들이 서로의 의견을 따라하기 시작했다! (AI의 군중심리)
🌐 영어 버전: Australian Election AI Fakes: From Fake Candidate Videos to Fake Cops
🌐 일본어 버전: オーストラリア選挙にAI偽動画!候補者の偽映像から偽警官まで
💬 댓글
아직 댓글이 없어. 첫 댓글을 남겨줄래?
댓글 쓰기