도리토스를 먹다가 경찰에게 제압당하고 수갑까지 채워진 10대 학생... AI가 과자를 총기로 착각했다!

밤 학교 앞에서 파란 과자봉지를 든 학생을 빨간 AI 스캔 박스로 경고 표시하고 경찰차 불빛이 비추는 일러스트

도리토스를 먹었을 뿐인데, 경찰이 총을 겨눴다

2025년 10월 20일 저녁 6시 30분 무렵, 미국 메릴랜드주 볼티모어 카운티의 켄우드 고등학교 밖은 평온했어.

풋볼 훈련을 막 끝낸 16세 학생 타키 앨런(Taki Allen)과 풋볼팀 친구 3명(유이오사 오그베이데, 데본 톰슨 주니어, 키스 윈필드 3세)이 집으로 태워다 줄 차를 기다리며 수다를 떨고 있었지.

타키의 손에는 코치가 훈련 뒤 챙겨 준 '쿨 랜치 맛 도리토스' 과자 봉지가 들려 있었고, 그들은 웃고 떠들며 과자를 나눠 먹었어.

그런데 저녁 7시 21분에 경찰에게 출동 명령이 떨어졌고, 7시 23분쯤 경찰이 현장에 도착했어. 학교 앞 풍경은 순식간에 공포 영화처럼 변해 버렸지.

볼티모어 카운티 경찰차 여러 대가 예고도 없이 학교 앞마당으로 몰려들더니, 총을 뽑아 든 경찰관들이 학생들에게 소리치며 다가간 거야.

타키와 친구 3명은 영문도 모른 채 두 손을 들었고, 경찰은 이 학생들을 시멘트 바닥에 무릎 꿇린 뒤에 등 뒤로 수갑을 채웠어.

타키는 언론 인터뷰에서 "경찰이 총을 겨누는 걸 보고, 내가 죽는 건가 싶은 생각부터 들었다"고 털어놨어. 10대 학생 4명이 차가운 바닥 위에서 수갑을 찬 채 최소 6분 넘게 구금돼 몸수색을 당했으니까.

그런데 경찰이 학생들을 직접 수색했음에도 아무것도 발견되지 않았어. 이후 경찰관은 학생들이 있던 곳 근처의 쓰레기통을 살펴보다가 빈 도리토스 봉지 여러 개를 찾아냈지.

〈WBAL-TV 보도 도리토스 과자봉지 총기 오인 사건〉
* WBAL-TV 11 Baltimore 공식 채널에 올라온 영상이야.

2분 만에 취소된 경보가 10분 뒤 되살아난 기막힌 사연

✦ 사건 당일 타임라인

2025년 10월 20일 저녁
7시 4분경
AI가 총기 의심 경보
7시 5~6분
안전국장·경찰이 확인하고 경보 취소
7시 19분경
교장이 교육청 간부들에게 문자
7시 21분
경찰에게 출동 명령
7시 23분
경찰 현장 도착

비무장 10대 학생들 앞에 무장 경찰이 들이닥친 이유는 학교 보안 카메라에 연결된 AI 총기 감지 시스템 ‘옴닐러트 건 디텍트(Omnilert Gun Detect)’ 때문이었어.

사건 당일 저녁 7시 4분경, 학교 입구 근처에서 과자 봉지를 쥔 타키의 모습을 포착한 시스템이 '총기 의심 경보'를 울렸거든.

✦ AI는 무엇을 감지했나

OIGE 조사보고서와 소장의 설명이 갈린다
OIGE 조사보고서
• '파란 감자칩 봉지 하나'를 위협으로 감지한 것은 아님
• 손가락 밖으로 삐져나온 정체 미확인 물체를 쥔 손의 위치·각도 조합이 경보를 촉발
피해 학생들의 소장
• 타키 손에 들린 도리토스 봉지를 '90% 확률의 총기'로 식별했다고 주장

AI가 이때 무엇을 감지했는지를 두고는 갑론을박 중이야. 메릴랜드주 교육감찰관실(OIGE) 조사보고서는 AI가 단순히 '파란 감자칩 봉지 하나'를 위협으로 감지한 것이 아니라고 명시했지.

허리나 주머니 높이 정도에서 손가락 밖으로 약간 삐져나온 '정체가 확인되지 않은 물체'를 쥔 손의 위치, 각도 조합이 경보를 촉발했다는 거야.

반면에 피해 학생들이 법원에 낸 소장에서는 시스템이 타키 손에 들린 도리토스 봉지를 '90% 확률의 총기'로 식별했다고 주장했어.

AI가 경보를 울렸다고 해서 무조건 경찰이 출동하는 것도 아니야. 옴닐러트 시스템은 AI가 위협 신호를 띄우면 회사 내부의 인간 검토팀이 먼저 화면을 확인하도록 설계돼 있거든.

그런데 인간 검토팀 직원도 화면 속 물체가 과자 봉지라는 점을 걸러내지 못한 채 위협이 맞다고 승인해 버린 거야. 하지만 한 단계가 더 남아 있어. 교육청 직원들과 경찰에게 내용이 전송되는데, 여기서 또 걸러질 수 있거든.

실제로 경보 문자는 볼티모어 카운티 교육청(BCPS) 직원 5명과 카운티 경찰국 관계자 10명 등 최소 15명의 휴대전화로 전송됐어. 문자 안에는 타키가 과자 봉지를 든 사진과 짧은 영상 클립으로 연결되는 웹페이지 주소가 담겨 있었지.

하지만 저녁 7시 5분에서 7시 6분 사이, 교육청 안전국장 에릭 녹스(Eric Knox)와 안전 담당자 마빈-바스타, 경찰 소속 로빈슨 경사(Sgt. Robinson)가 영상을 확인하고는 '총이 아닌 과자 봉지'임을 알아챘어.

그래서 불과 2분 만에 경보를 취소했지. 링크된 웹페이지 상태도 '취소'로 바뀌었고, 첫 문자를 받았던 사람들 모두에게 '취소 알림' 문자가 발송됐어.

이대로 끝났어야 할 소동은 10분 넘게 지난 뒤 엉뚱한 곳에서 되살아났어. 첫 경보 수신자 중 한 명이었던 켄우드 고등학교 교장 캐서린 스미스(Catherine "Kate" Smith)가 뒤늦게 첫 번째 문자 메시지를 열어본 거야.

스미스 교장은 바로 뒤에 도착한 취소 문자를 놓쳤고, 확대해 본 영상 화면에서도 취소 표시를 알아차리지 못했지.

이후 교장은 교육청 학교 안전 담당자에게 전화를 걸어 경보 상태를 확인하려 했으나 연락이 닿지 않았고, 결국 학교 전담 경찰관(SRO) 존 더글러스(John Douglas)의 개인 휴대전화로 연락해서 해당 경보에 대해 물어보며 타키가 과자 봉지를 든 영상 캡처를 보냈어.

결국 저녁 7시 19분경, 스미스 교장은 교육청 간부들에게 '옴니 경보가 울렸고, 교내 테라스에 무장한 듯한 우리 학교 학생이 서 있어서 전담 경찰관이 관할서에 신고 중'이라는 문자를 남겼어.

전담 경찰관이 캡처 이미지를 경찰에 전달하자, 이미 공식 시스템에서 10여 분 전에 취소됐던 경보가 새로운 신고로 둔갑되어 버렸지. 결국 무장 순찰차 최소 6대(현장 목격 학생 체감으로는 약 8대)의 출동으로 이어지고 말았네.

(아아... 교장 선생님 왜 그러셨나요...)

〈NBC 특집 옴닐러트 AI 총기 감지 시스템 해설〉
* Omnilert 공식 채널에 올라온 영상이야.

7,000대의 카메라와 1% 미만에 그친 경찰 통보 비율

✦ 옴닐러트 도입 규모와 비용

볼티모어 카운티 교육청
카메라
최소 7,000대
계약 기간
3년 9개월, 1년 별도 연장 조건
지출 승인 한도
266만 3,000달러
연간 모니터링 비용
56만 달러

볼티모어 카운티 교육청은 2023년 가을부터 2024년 봄 사이 관내 165개 학교의 기존 보안 카메라 최소 7,000대에 옴닐러트 시스템을 붙였어.

1년 별도 연장 조건이 포함된 3년 9개월 계약의 지출 승인 한도는 약 260만 달러(공식 승인 한도 266만 3,000달러) 수준이고, 별도 예산 자료에는 연간 모니터링 비용으로 56만 달러가 배정됐지.

옴닐러트는 얼굴인식 기술 없이 카메라 프레임을 실시간 분석해 총기와 총기 폭력에 가까운 자세를 포착하고, AI와 인간 검증을 결합해 오경보가 거의 0에 가깝다고 홍보해 왔어.

사건 직후 타키의 가족과 지역 사회에선 흑인 학생을 겨냥한 알고리즘 차별 의혹까지 불거졌지. 이에 OIGE가 공식 조사를 벌여 2025년 11월 25일 보고서를 내놨어.

감찰관실은 AI 알고리즘이 인종이나 성별을 확률 계산에 반영하는 대신 움직이는 물체와 손 자세만 따지기 때문에 소프트웨어 자체의 인종 편향 증거는 찾기 어렵다고 판단했거든.

✦ 경보 처리 통계

2023년 11월부터 2025년 11월까지 기록
1단계, AI가 탐지한 물체 중
모니터링 단계에서 걸러져 추가 조치 불필요
96%
2단계, 교육청에 전달된 경보 중
경찰 통보가 필요했던 경우
1% 미만
2단계, 교육청에 전달된 경보 중
경찰 통보가 필요하지 않았던 경우
99% 초과

감찰관실이 함께 공개한 경보 처리 통계도 눈길을 끌었어.

2023년 11월부터 2025년 11월까지 2년 치 기록을 살펴보니, 첫 번째 단계에서 AI가 탐지한 물체 가운데 96%는 옴닐러트 모니터링 단계에서 걸러져 추가 조치가 필요하지 않았네.

두 번째 단계로 옴닐러트 검증을 거쳐 교육청에 전달된 경보만 따로 보면, 그중 경찰 통보가 필요했던 경우는 1% 미만에 그쳤어. 교육청에 전달된 경보 가운데 99%를 넘는 비중이 경찰 통보가 필요하지 않았던 사례였던 셈이지.

각 수치는 서로 다른 처리 단계와 분모를 기준으로 삼고 있으며, 경찰 통보 불필요 경보와 오경보는 구분해서 해석해야 하는 지표야.

✦ 켄우드 고등학교 vs 앤티오크 고등학교

같은 옴닐러트 시스템
켄우드 고등학교 사건
• 과자 봉지에 경보가 울림
• 무장 경찰 출동으로 이어짐
2025년 1월 앤티오크 고등학교
• 내슈빌 교육청이 100만 달러 넘게 들여 관내 학교들에 같은 시스템 설치
• 총격범이 카메라와 멀고 총기가 가려져 사전 탐지 실패
• 사상자 발생

이 시스템의 허점은 이미 2025년 1월에 드러난 적이 있어. 테네시주 내슈빌 메트로 공립교육청이 100만 달러 넘게 들여 관내 학교들에 동일한 '옴닐러트 시스템'을 설치했고, 앤티오크 고등학교도 그중 하나였거든.

그런데 총격범이 카메라와 거리가 멀었고 총기가 가려진 탓에 실제 총격 사건을 사전에 잡아내지 못했고, 결국 사상자가 발생했었어.

과자봉지에는 무장 경찰 출동까지 부르는 경보를 띄우면서, 정작 흉기를 가리고 들어오는 범죄자는 잡아내지 못했던 거야.

시스템이 "의도대로 작동했다"는 개발사, 그리고 법정에 선 학생들

사건 직후 옴닐러트 대변인 블레이크 미첼(Blake Mitchell)은 "야간 조명의 특성과 봉지의 색감·빛 반사, 손가락 하나를 뻗어 쥔 자세가 총을 쥔 모습과 흡사해 인간 검증팀이 확인 후 전달했다"고 해명했어.

그러면서 회사는 전체 절차가 의도대로 작동했다(functioned as intended)고 방어했지.

학교와 경찰이 공동 점검을 거쳐 연례 재교육을 약속했지만, 당시 현장에 출동해 무고한 학생들에게 수갑을 채웠던 경찰관들은 어떤 징계도 받지 않고 넘어갔어.

✦ 소송 개요

제기일2026년 11월 17일
법원·소장메릴랜드주 볼티모어 카운티 순회법원, 31쪽
원고타키 앨런 등 당시 학생 4명
피고옴닐러트, 교육청, 스미스 교장, 출동 경찰관들
요구손해배상과 재발 방지 금지명령

결국 사건 발생 약 1년 1개월 만인 2026년 11월 17일, 타키 앨런(보호자 제리 데이비스·라몬트 데이비스를 통해 제소)을 비롯한 당시 학생 4명이 시민권 단체 Lawyers’ Committee for Civil Rights Under Law 등의 도움을 받아 법정 싸움을 시작했어.

메릴랜드주 볼티모어 카운티 순회법원에 낸 31쪽 분량의 소장(Allen, et al. v. Omnilert, et al.)에는 옴닐러트와 교육청, 스미스 교장, 출동 경찰관들이 나란히 피고로 올랐지.

원고 측은 경찰이 합리적인 의심 근거조차 없이 미성년자들을 제압·수색해 미국 수정헌법 제4조·제14조와 메릴랜드 권리장전, 불법감금 금지 원칙을 어겼다고 주장하고 있어.

또한 원고 측은 '교육청에 전달된 경보 대다수에 경찰 출동이 불필요했다'고 지적하고, '취소 혼선을 방치해 학생들을 위험에 노출시켰다'며 손해배상과 재발 방지 금지명령을 요구했어.

AI를 어디까지 믿을 수 있을까

최근에 AI 기술이 발달하면서, "판사를 비롯한 사법부를 AI로 대체해야 한다"는 극단적인 주장도 나오곤 해. 판사도 결국 인간이고, 자신의 신념이나 감정에 치우쳐서 판결을 내려버리는 경우가 많다는 거야.

반면에 AI는 객관적이고 공정하게 판결을 내려줄 거라는 주장이지.

하지만 이번 도리토스 과자봉지 사건을 보면, AI 역시 인간 못지않게 치명적인 실수를 저지른다는 걸 알 수 있어. 인간 판사도 순간의 판단 실수나 중립적이지 않은 판결로 무고한 사람을 범죄자로 만들곤 해.

하지만 그건 AI도 마찬가지라는 거야. AI는 결국 알고리즘을 기반으로 동작하는 것인데, 그 알고리즘이 완벽할 수는 없잖아. 결국 AI 역시 경우에 따라 실수를 저지르게 되는 거야.

예를 들어 공항의 보안검색에도 AI가 도입되는 추세이지만, 여기에도 어려운 점이 있어. AI가 위험물을 걸러내는 민감도를 높이면 너무 많은 물건들을 위험물로 분류하고, 민감도를 낮추면 위험물을 놓쳐버리거든.

이번 사건에서의 총기 감지 시스템도 마찬가지일 거야. AI가 총기를 찾아내는 민감도를 높이면 이번처럼 말도 안 되는 물건을 총기로 분류해버리고, 민감도를 낮추면 총기를 놓쳐서 사고로 이어지는 거지.

결국 AI에게만 중요한 판단을 맡겨놓기에는 아직 부족함이 많아. 결국 인간이 검증자 역할을 해줘야 하는데, 이번 사건에서는 인간들이 그 역할을 제대로 못했네.

이번 글은 여기서 마칠게. 또 만나자.

“완전히 타서 못 먹겠다” AI 가짜 사진으로 피자 환불받은 손님... 피자집이 가짜 이미지를 잡아낸 방법은?

"챗GPT: 약 복용량 줄이고, 의사에게 비밀로 하세요" 환자 사망에 소송당한 OpenAI... AI의 책임은 어디까지?

사장님들 조심하세요... CEO를 사칭해 1억 2,900만 달러를 도둑질한 AI 사기단의 실체

“완전히 타서 못 먹겠다” AI 가짜 사진으로 피자 환불받은 손님... 피자집이 가짜 이미지를 잡아낸 방법은?

새까만 피자 한 판과 자동 환불 2026년 10월 23일 아침, 미국 로스앤젤레스 에코파크에서 피자집을 운영하는 론다 레이놀즈(Rhonda Reynolds)는 배달 플랫폼 '도어대시(DoorDash)' 가맹점 관리 화면을 열었다가 기막힌...

AI 리버스 엔지니어링으로 삼성 스마트TV의 광고를 없애려다가... Codex 계정을 차단당했다?

스마트 TV를 뜯어보다가 Codex 계정 정지를 당한 사람 거실 한가운데 놓인 스마트 TV를 켰는데, 화면을 몽땅 가리는 스폰서 광고부터 먼저 떠. 꽤 답답하지. 심지어 내 취향과 생활 패턴까지 기가 막히게 맞춘 광고가 연달아 나오기 시작하면, 뭔가 ...

"챗GPT: 약 복용량 줄이고, 의사에게 비밀로 하세요" 환자 사망에 소송당한 OpenAI... AI의 책임은 어디까지?

발렌타인데이 밤, 위챗 영상통화 너머로 마주한 비극 ✦ 사건 핵심 타임라인 2025년 11월 ~ 2026년 11월 2025년 11월 13일 아마존 감원 통보 2026년 1월 16일 라모트리진 감량 시작 1월 29일 주치의 진료 앞두고 "감량 ...

200쪽에 달하는 민원서류까지 등장했다... AI가 써준 민원서류에 신음하는 영국 공무원들

공무원 입장에서는 단 1쪽짜리 민원문서도 부담스러워. 자칫 잘못 답변을 했다가는 두고두고 전례로 남아서 골치아픈 상황에 처하게 되거든. 그런데 최근에는 가장 심한 사례의 경우 한 통이 200쪽에 달하는 민원서류(이 정도면 거의 책 한 권이지)까지 영국...