OpenAI가 공개한 내용
2026년 9월 30일, OpenAI는 자사 모델에서 "보호된 추론"을 빼내려는 조직적 캠페인을 찾아내 차단했다고 밝혔습니다. 보호된 추론은 모델이 과제를 풀 때 쓰는 내부 기록으로 최종 답변에는 나타나지 않습니다. 한 모델의 출력이나 추론을 허가 없이 다른 모델 훈련에 쓰는 것을 **적대적 증류(adversarial distillation)**라고 합니다.
전형적인 해킹은 아니다
OpenAI에 따르면 공격자들은 암호를 깨거나 데이터베이스를 침해하거나 사용자 대화에 접근하지 않았습니다. 대신 모델과의 상호작용을 조작해 보호된 추론이 보이는 형태로 대규모 재현되도록 했고, 이는 이용 약관 위반입니다.
언급된 기법 중 하나는 한 대화의 암호화된 추론을 복사해 다른 대화에서 모델에게 해독·전사를 요청하는 것입니다. 독립 연구자들도 여러 모델과 대화 압축에 관련된 취약점을 보고했고 OpenAI가 사실로 확인했습니다.
타임라인과 규모
- 7월 1일: 낮은 빈도로 활동 시작
- 7월 24~25일: 4,000명 이상의 사용자에게서 추출 패턴을 쓴 1만 6,000건의 요청 급증
- 추가 조사로 1만 5,000명 이상의 클러스터와 연관을 확인, 7월 28일까지 완전히 차단
OpenAI는 이 수치가 시도 건수이며 반드시 성공한 추출은 아니라고 강조합니다.
배후 판단
모든 공격자가 한 주체인지는 불분명하지만, OpenAI는 핵심 활동을 Kimi 개발사 Moonshot AI와 관련된 인물들의 소행으로 봅니다. 이는 OpenAI의 평가이며, 작성 시점까지 Moonshot의 공개 입장은 찾지 못했습니다.
OpenAI의 대응
- 부정 계정 차단·제한, 가입과 인프라 통제 강화
- 다른 사용자의 암호화된 추론을 재사용해 내용을 복원하는 경로 차단
- 추론을 노출할 수 있는 스트리밍 출력을 감지·보류하는 검사 추가
- 활동이 거쳐 간 외부 제공업체와 협력
- Frontier Model Forum과 정부 정보공유 채널로 공유
왜 중요한가
OpenAI는 빼낸 추론이 원래 모델의 안전장치 없이 다른 모델 훈련에 쓰일 수 있다고 지적합니다. Anthropic도 Opus 5.5에 증류 방지 기능 "preserved thinking"을 넣는 등 업계 공통 과제입니다.
기업에 주는 의미
- AI API를 쓴다면 추론과 문맥에 대한 계정 확인과 제한 강화를 예상하세요.
- 계정이나 제공업체 사이에서 추론 데이터를 주고받는 연동은 깨질 수 있습니다.
- 모델 선택 시 가격뿐 아니라 출처와 안전장치도 고려하세요.
출처
- OpenAI(2026.9.30): https://openai.com/index/disrupting-a-coordinated-model-distillation-campaign/
- Anthropic, Claude Opus 5.5: https://www.anthropic.com/claude-opus-5-5
AI를 안전하게, 거버넌스를 갖춰 쓰고 싶으신가요? KGA IT가 무료 상담을 제공합니다: kga-it.com