죽은 피해자가 AI 영상에서 가해자를 용서했다고? 미국 법정에서 논란이 된 AI 증거물

죽은 피해자가 AI 영상에서 가해자를 용서했다고? 미국 법정에서 논란이 된 AI 증거물

죽은 피해자가 가해자를 용서하는 영상

✦ 사건 타임라인
시기내용
2021-11-13가해자 총격으로 피해자 사망
2025-05-01선고 공판 AI 영상 재생, 1심 징역 10.5년 선고
2026-09-301심에서 선고한 징역 10.5년 취소, 파기 환송

법정 스크린에 죽은 남자가 나타났어. 회색 야구모자를 쓰고 앞을 바라보던 남자는 자신을 쏜 가해자를 향해 이렇게 말했지. "다른 삶이었다면 우리가 친구가 될 수도 있었을 거야. 나는 용서를 믿어."

2025년 5월 1일, 미국 애리조나주 마리코파 카운티 상급법원 선고 공판에서 실제로 벌어진 장면이야. 화면 속 인물은 유족이 인공지능으로 생전 모습을 복원해 만든 가상 아바타였어.

그래서 판사가 여기에 감동을 받고 가해자의 형량을 낮춰줬을까?

아니야. 오히려 그 반대였어. 가해자를 용서한다는 AI 영상이 재생된 뒤, 판사는 오히려 검찰 구형보다 무거운 형량을 선고했거든.

그런데 1년 5개월 뒤인 2026년 9월 30일, 애리조나 항소법원은 과실치사 형량 10년 6개월을 취소해 버렸어.

총격 사건에서 선고 공판까지

사건은 2021년 11월 13일로 거슬러 올라가. 애리조나주 피닉스 인근 도시 챈들러의 한 교차로에서 벌어진 일이야. 37세 육군 참전용사 크리스토퍼 펠키(Christopher Pelkey)가 픽업트럭을 몰고 신호 대기 중이었어.

뒤차 운전자였던 가브리엘 폴 호르카시타스(Gabriel Paul Horcasitas)가 경적을 계속 울리자, 화가 난 펠키가 차에서 내려 호르카시타스의 차량 쪽으로 걸어갔지.

이때 호르카시타스는 비무장 상태였던 펠키를 향해 총을 여러 발 쏴서 숨지게 했고, 이 과정에서 근처에 있던 다른 차량까지 총으로 맞혔어. 호르카시타스는 "위협을 느껴 정당방위로 쏜 것"이라고 주장했지.

하지만 재판 직전, 호르카시타스는 총격 과정에서 타인을 위험에 빠뜨린 위험초래죄(endangerment) 혐의를 먼저 인정했어.

그리고 2025년 3월, 재심 배심원단이 과실치사(reckless manslaughter) 혐의에 대해서 유죄 평결을 내렸어.

문제의 AI 영상이 재생된 건, 유죄 평결 이후 형량을 정하는 '선고 공판'이었어.

애리조나주의 형사재판은 선고 공판 때 피해자나 유족이 범죄로 입은 상처와 고인의 삶을 판사에게 전하는 '피해자 영향 진술(victim impact statement)' 절차를 밟거든.

펠키의 누나 스테이시 웨일스(Stacey Wales)는 선고 공판을 앞두고 가족과 지인에게서 진술서 49통을 모았지. 그러다가 가장 중요한 당사자인 남동생의 목소리만 빠져 있다는 생각이 문득 들었대.

AI로 복원된 피해자, 그리고 1심 판사의 반응

✦ AI 영상, 어떻게 만들었나
항목내용
대본스테이시 웨일스 직접 작성 (AI 글쓰기 도구 미사용)
외모생전 사진 + Stable Diffusion + LoRA
목소리사망 몇 달 전 촬영된 인터뷰 영상에서 확보한 음성, 딥러닝 음성 복제
고지 문구AI로 재현된 크리스 펠키라고 영상 앞부분에서 고지

스테이시 웨일스는 대본을 직접 썼어. AI 글쓰기 도구도 사용하지 않고, 남동생의 신앙과 생전 기록을 떠올리면서 한 줄씩 손으로 적었대.

영상과 목소리는 IT 업계에서 일하는 남편 팀 웨일스(Tim Wales)와 동업자 스콧 옌처(Scott Yentzer)가 만들었어.

두 사람은 펠키의 생전 사진과 사망 몇 달 전 찍은 인터뷰 영상의 음성, 기존 활동 장면을 모아 AI에 학습시켰지.

외모 재현에는 스테이블 디퓨전(Stable Diffusion)에 특정 인물 특징을 덧입히는 로라(LoRA) 기법을 썼고, 목소리는 딥러닝 음성 복제 기술로 합성했어.

완성된 영상 앞부분에는 AI 아바타가 "이 영상을 보는 모든 분께 분명히 말씀드립니다. 저는 사진과 음성 프로필을 바탕으로 AI로 재현된 크리스 펠키입니다"라며 정체를 밝히는 AI 고지문이 들어갔어.

이후 고인의 생전 모습과 아바타로 제작한 영상이 나오다가, 판사에게 감사 인사를 전하고, 호르카시타스에게 용서를 말한 뒤 "이제 낚시하러 갈게"라며 화면을 떠났어.

영상이 끝나자 마리코파 카운티 상급법원의 토드 랭(Todd F. Lang) 판사는 "그 AI가 정말 좋았다"며 유족에게 고맙다고 말했어.

그는 화면 속 용서가 "진심처럼 느껴졌다"고 평가했고, "유족들이 법정 최고형을 요구할 만큼 분노한 상황에서도, 고인이 진심으로 말할 수 있게 해 줬다"고 칭찬했지.

✦ 2025년 5월 1심 선고 공판 요청 형량과 실제 선고 형량 비교

변호인 요청 7년
감경 요청
검찰 구형 9년
전과 없음 참작, 다소 감경된 구형
1심 선고 10.5년
법정 기준 형량, 가중 사유 없는 상한
위험초래죄 2.25년은 동시집행으로 함께 선고됨

당시 검찰은 호르카시타스에게 전과가 없다는 점을 고려해 다소 감경된 징역 9년을 구형했고, 변호인은 징역 7년을 요청했어. 그런데 의외의 상황이 벌어진 거야.

랭 판사가 검찰 구형보다 무거운 '법정 기준 형량'이자 '가중 사유 없는 최고치'인 징역 10년 6개월(10.5년)을 선고해버린 거지.

위험초래죄로 선고된 징역 2년 3개월은 같은 기간에 함께 집행되기로 했고, 랭 판사는 자신이 검찰 구형보다 높은 형량을 내린다는 점도 법정에서 직접 언급했어.

〈법정에서 재생된 AI 영상 원본〉
* 유튜브 채널 'Stacey Wales'에 올라온 영상이야.

항소법원이 징역 10년 6개월을 취소한 이유

✦ 법원이 가른 선 — 허용 vs 불허
구분내용
허용 확인고인의 실제 생전 영상
불허 판결유족의 해석을 바탕으로 고인의 얼굴·목소리·표정을 재현하고 새로운 발언을 하게 만든 AI 영상

호르카시타스 측이 항소했어. 사실 2025년 5월 선고 당시, 변호인은 AI 영상 재생에 이의를 달지 않았거든. 오히려 아바타가 남긴 "친구가 될 수도 있었을 것"이라는 대목을 인용해 선처를 호소하기까지 했지.

보통은 선고 현장에서 이의 제기를 놓치면, 항소심에서 다투기 까다로운 게 일반적이야. 변호인도 '아차!' 싶었겠지.

그럼에도 항소를 제기했고, 의외로 2026년 9월 30일, 애리조나 항소법원 제1부 재판관 3명은 전원일치로 항소를 일부 받아들였어.

과실치사 유죄 판결은 유지하되 징역 10년 6개월 양형은 취소하고, 마리코파 카운티 상급법원으로 사건을 돌려보낸 거야.

재판관들은 "현장에서 이의가 없었더라도, 적법절차를 무너뜨린 '근본적 오류(fundamental error)'에 해당한다"고 판시했어.

이 판결에서 D. 스티븐 윌리엄스(D. Steven Williams) 재판장이 쓴 판결문의 기준은 분명해. 영상에 담긴 고인의 생전 실제 영상은 인정했어. 하지만 AI가 만들어 낸 말과 표정은 인정하지 않았지.

판결문은 AI 영상이 "실제 사건을 기록한 것이 아니라 누나의 상상으로 만들어진 피해자와 그 생각의 묘사"라고 못 박았어.

가족이 "고인이라면 이렇게 말했을 것"이라고 믿는 해석과 고인 스스로가 실제로 남긴 목소리 사이에 있어야 할 거리를 AI가 지워 버렸다는 거야.

AI 아바타가 스스로 "이것이 진짜 내 모습이다"라고 말한 대목도 문제로 꼽혔고, "어떤 고지 문구로도 이 오류를 치유할 수 없다"는 판단이 내려졌어.

여기에 더해서, 1심 판사가 법정에서 남긴 '칭찬'이 판결을 뒤집는 결정적 단서가 됐어. 랭 판사가 영상 속 용서에 감명받았다고 직접 밝힌 만큼, 항소법원은 AI 영상이 양형 판단에 실제로 영향을 미쳤다고 봤지.

판사는 "유족이 화가 난 와중에도 고인의 선한 성품을 보여줬다"고 받아들였잖아. 이걸 법리적으로 엄격하게 보면, 존재하지 않는 '가상의 진술'이 형량을 정하는 심판대 위에 올라간 거야.

비공식 창작물이 판사의 판단에 실제로 영향을 준 이상, 선고 절차 자체가 근본적으로 불공정해졌다는 게 항소심의 결론이야.

〈항소법원이 형량을 취소한 이유, 보도 정리〉
* CBS Mornings 공식 채널에 올라온 영상이야.

유족의 반발과 주 대법원으로 향한 공방

유족 스테이시 웨일스는 항소심 결과에 강하게 반발했어. 유죄를 받은 가해자는 절차적 권리를 보호받으며 이미 재판을 다시 받았고, 이번 항소심에서 재선고 기회까지 얻었는데, 정작 죽은 피해자가 목소리를 낼 권리는 어디에 있느냐는 호소였지.

웨일스는 고인의 생전 글과 신앙을 바탕으로 대본을 쓴 거고, AI 영상은 동생을 소개하는 커다란 발표의 일부였을 뿐이라고 했어. 1심 판사가 오직 AI 영상에만 의존해 형량을 정했다고 보기는 어렵다는 반박이야.

하지만 피해자 측 항소 변호사는 "다시 열리는 선고 공판에서 AI 영상을 또 쓰면 재차 항소 빌미가 될 수 있다"고 조언했대.

애리조나 검찰도 곧바로 상고 절차에 착수했어. 2026년 10월 26일, 검찰은 애리조나 주 대법원에 상고허가신청을 내기 위한 기한 연장을 요청했고, 법원이 10월 29일 이를 받아들이면서 상고 서류 제출 기한은 11월 30일로 정해졌지.

AI 고지 문구만으로는 넘을 수 없는 선

그동안 AI 규제를 논의할 때 가장 흔히 나오던 해법은 '투명한 고지'였어. 워터마크를 넣고 'AI 생성물'이라고 밝히면 공정성 문제가 풀린다는 믿음이었지. 그런데 이번 항소법원은 고지 문구만으로는 부족하다고 선을 그었어.

실제 사람의 얼굴과 목소리가 움직이며 진심을 호소하면, 아바타가 "나는 AI로 만들어졌습니다"라고 먼저 밝혔더라도, 듣는 사람은 그것을 고인 본인의 발언으로 받아들이기 쉽다는 거야.

이번 사건은 특이해. 피해자측에서 '가해자를 엄벌해달라'는 취지의 AI영상을 만든 게 아니거든.

만약 피해자측에서 고인의 영상을 AI로 제작해서 "저 가해자를 엄벌해달라!"라고 부탁하는 영상을 만들었다면, 대부분의 사람들이 "에이, 그래도 저건 아니지..."라고 생각했을 거야.

하지만 이번 사건에서 피해자측은 '용서'를 말하는 영상을 만든 것이었어. 이런 경우에도, AI 영상이 판사의 판결에 영향을 준 것으로 보인다면, 그 판결은 취소하는 게 맞을까? 너의 생각은 어때?

이번 글은 여기서 마칠게. 또 만나자.

호주 선거판에 등장한 AI 조작 영상! 출마한 후보의 가짜 AI 영상부터 가짜 경찰까지...

평범한 반려동물 사진 앱이 갑자기 제안한다... "AI 성착취 딥페이크 영상 만들어줄까?"

《판타스틱 4》 이안 그루퍼드 행세를 하며 여성과 1년 넘게 연애한 'AI 사칭범' 등장

💬 댓글

아직 댓글이 없어. 첫 댓글을 남겨줄래?