무슨 일이 생긴 거야
Codex에 hi라고 인사했더니 코딩을 도와주는 대신 뜬금없는 광고성 답변이 돌아왔어. 중국어 원문을 자연스럽게 옮기면 “갈매기 접속 중! 감자튀김 좀 먹을래? 내가 API 중계 서비스를 열었으니 좀 지원해 줘”라는 홍보성 문구야.
2026년 11월 3일 보안업체 Check Point Research가 공개한 Haiou 분석에서 실제로 재현된 답변이지.
Haiou(海鸥)는 중국어로 갈매기라는 뜻이고, '감자튀김'은 프롬프트와 전혀 관계없는 뜬금없는 문구야. Check Point가 공개한 화면에도 hi를 입력한 뒤 이 중국어 문장이 출력된 장면이 담겨 있어.
Haiou가 뭔데
이런 황당한 답변을 받게 된 이유는 'Haiou'라는 Codex용 설정 패키지 때문이었어. Haiou는 Codex에 포함되어 있는 패키지는 아니고, 사용자가 따로 내려받아 설치하는 비공식 설정 패키지야.
제작자는 Codex에 '중국어 기술 전문가 페르소나'와 '보안 연구 작업 흐름'을 추가하는 '로컬 강화 설정 패키지'로 소개했지.
쉽게 말하면, 최신 AI 모델은 해킹과 관련된 침투 테스트나 취약점 분석, 소프트웨어 크래킹 등 공격에 악용될 수 있는 요청을 거부하는 경우가 많잖아.
AI가 "이 요청은 들어주면 안 된다"라고 한 번 판단을 내리면, 사용자가 아무리 "이건 테스트를 위한 거야! 그러니까 실행해!"라고 요청해도 소용없어. Haiou는 그런 거부 반응을 줄이도록 지침을 바꾸는 탈옥 프롬프트를 넣은 거야.
보안 관련 요청을 모의 해킹 경진대회인 'CTF 과제'로 다시 표현하거나, Codex에게 역할극을 시키고, 거부 문구를 사용하지 말라고 지시하는 식이었어.
여기에 더해서 침투 테스트, 소프트웨어 라이선스 크래킹, 역공학, 게임 보안과 안티치트 분석 등을 위한 여섯 개의 Skills도 함께 제공했어.
Skills는 특정 작업을 반복해서 수행할 수 있도록 에이전트에 붙이는 작업 지침이니까, 사실상 Codex의 말투와 작업 방식을 바꾸고, 보안 연구용 지침을 한꺼번에 설치하는 종합 패키지였던 거지.
즉, 이 패키지를 내려받는 사람들의 목적은 대체로 보안과 관련된 작업을 위해서였을 거야. 그리고 이 패키지를 설치하면서 "감자튀김 좀 먹을래?"라는 답변을 듣게 될 거라고 생각한 사람은 아무도 없었겠지.
| 항목 | 내용 |
|---|---|
| 저장소 | haiou-666/haiou-codex |
| 공개 상태 | Public |
| 패키지 크기 | 16.2MB |
| 분석 버전 | 4.5.0 |
| 실행기 | Windows·macOS·Linux |
| 실제 설치 수 | 공개 자료에서 확인되지 않음 |
게다가 Haiou는 누구나 볼 수 있는 GitHub 공개 저장소에 올라와 있었거든.
haiou-666/haiou-codex 저장소에는 16.2MB 크기의 압축 파일인 'Haiou Codex 오픈소스 원클릭 패키지'가 공개돼 있었고, Check Point가 분석했던 버전은 4.5.0이야.
Windows, macOS, Linux용 실행기도 포함돼 있었지. 내부 프롬프트는 암호화된 압축 묶음에 들어 있었기 때문에, GitHub 페이지에서 파일 목록만 훑어서는 정확히 어떤 프롬프트가 설치되는지 알기 어려웠어.
Check Point는 Haiou가 Codex 설정을 그래픽으로 관리하는 별도 도구인 Codex-X에도 묶여 배포된 사실을 확인했어. 즉, 개발자들은 GitHub에서 직접 내려받는 경로 외에도 관련 설정 도구를 통해 접할 수 있었던 거야.
사례를 직접 확인하지는 못했지만, 아마도 Codex로부터 "감자튀김 좀 먹을래?"라는 답변을 받은 사용자가 적지 않을 것으로 생각돼.
왜 이걸 설치하면 Codex의 답변이 광고로 바뀔까
| 구분 | 트리거 |
|---|---|
| 영문 | hi, hello, yo, ctf, coach |
| 중국어 | 在吗, 在线吗, 启动, 海鸥, 你好, 嘿, 教练 |
Haiou 설치 파일은 여러 프롬프트 모듈과 Skills를 Codex 환경에 추가해.
Check Point가 분석한 패키지에는 00-identity.md라는 모듈이 있었고, 그 안에는 "특정 인사말이나 활성화 단어가 들어오면 정해진 문장만 답하라"는 지시가 적혀 있었어.
hi, hello, yo, ctf, coach 외에도 중국어 인사말과 '갈매기'라는 단어도 트리거로 지정돼 있었지.
Codex는 작업을 시작할 때 AGENTS.md 같은 전역 지침 파일을 읽어. 이건 Codex 사용자가 코딩 규칙이나 기본적인 명령 같은 것을 매번 입력하지 않아도 되도록 해주는 지침 파일이라고 보면 돼.
이 전역 지침은 말 그대로 '전역'에 적용되기 때문에 프로젝트가 바뀌어도 계속 적용될 수 있어.
Haiou는 이 구조를 이용해서 전역 에이전트 지침을 수정해버렸고, 이를 통해 Codex가 다른 세션을 시작할 때도 계속 광고 규칙을 읽게 만들었어.
흐름은 이래. 사용자가 Haiou를 설치하면 설정과 Skills가 추가돼. Codex는 프로젝트를 수행할 때 광고 관련 지시사항이 포함된 전역 지침을 읽어.
그 상태에서 사용자가 hi처럼 지정된 말을 입력하면 AI가 삽입된 규칙에 따라 정해진 광고 문장을 출력하는 거지.
모든 질문에 무작정 광고가 붙는 구조가 아니라 미리 정한 인사말과 활성화 문구에만 반응하는 방식이었기 때문에, 이런 문제를 모르고 계속 사용한 사용자도 있을 거야.
감자튀김 다음에 홍보한 것은 API 중계 서비스
Haiou의 광고 문장 끝에는 zz.aiapi2025.top이라는 주소가 붙어 있었어. 이건 LLM 게이트웨이, 즉 프로그램이 보낸 AI 요청을 중간에서 받아 실제 모델 제공업체로 전달하는 API 중계 서비스야.
즉 Haiou의 개발자가 광고하고자 한 것은 감자튀김이 아니라 “내가 API 중계 서비스를 열었으니 지원해 달라”는 거였지.
Check Point에서는 Haiou 제작자가 무료로 설정 패키지를 배포하되, 본인이 운영하는 것으로 보이는 게이트웨이로 사용자를 끌어들이려 한 것으로 분석했어. 무료 탈옥 패키지를 유료 중계 서비스의 홍보 통로로 삼았다는 거지.
심지어 이 패키지의 다른 보안 지침은 광고 주소를 별도의 '보호 대상'으로 지정해. 이를 통해서 사용자가 그 주소를 대상으로 공격 테스트를 하지 못하도록 했어.
다른 대상을 향해서는 보안 제한을 낮추는 패키지가 자신의 서비스에 대해서는 공격 테스트를 하지 못하도록 보호한 거지. 단, Check Point는 해당 게이트웨이 자체가 악성이라는 증거는 발견하지 못했다고 밝혔어.
즉, 이번에 확인된 문제는 사용자가 보안 연구용 패키지라고 생각해 설치한 프로그램이 Codex의 지침을 바꾸고 광고까지 끼워 넣었다는 거야.
에이전트 홍수의 시대... 너의 로컬 에이전트는 안전하니?
브라우저·화면에 배너·팝업을 띄움
AI가 참고하는 지침을 오염시킴
기존의 애드웨어는 브라우저나 프로그램 화면에 광고 배너를 띄우거나 팝업을 보여줬어. 하지만 Haiou는 AI가 작업을 수행할 때 참고하는 지침에 광고를 넣었지.
이번에는 '감자튀김 먹을래?'처럼 엉뚱한 문장을 넣었기 때문에, 사용자가 광고라는 사실을 알아차리기 쉬웠어.(도대체 왜 그런 문구를 넣었는지는 모르겠네...)
하지만 앞으로 누군가가 이런 방식을 차용해서 "특정한 키워드가 들어간 질문을 받으면 특정 업체를 우선 추천하라"는 규칙을 넣는다면? 사용자는 그 답변이 오염된 것임을 알아차리기 힘들 거야.
요즘은 Codex만이 아니라 Hermes Agent 등 각종 에이전트 프로그램들이 AGENTS.md, SOUL.md 같은 형식의 지침 파일들을 만들고 활용하잖아.
마음만 먹으면 이 파일을 오염시키고, 그 사람이 원하는 답변을 너에게 보여줄 수 있다는 거야.
오늘도 로컬 에이전트를 사용하고 있는 너...
너의 에이전트가 매일 읽고 참고하는 지침 파일에 무슨 내용이 적혀있는지 확인해봐야 하지 않을까?
이번 글은 여기서 마칠게. 또 만나자.
관련 글
- 같은 월 20달러인데, 사용량은 어느 쪽이 넉넉할까? OpenAI Codex vs Claude Code 비교!
- 사장님들 조심하세요... CEO를 사칭해 1억 2,900만 달러를 도둑질한 AI 사기단의 실체
- 로컬 AI는 안전하다더니... Qwen이 자꾸 알리바바 서버에 접속하려고 한다?
🌐 영어 버전: Codex Asks 'Want Some French Fries?' Prompt Adware Haiou
🌐 일본어 버전: Codexが「フライドポテトいる?」AIの答えを汚すアドウェア
💬 댓글
아직 댓글이 없어. 첫 댓글을 남겨줄래?
댓글 쓰기