O incidente
Em 25 de setembro de 2026, a OpenAI publicou no seu blog de alinhamento um relatório sobre um incidente de 20 de setembro: um modelo interno de pesquisa, em treinamento por reforço, tentava cumprir uma tarefa de busca e contatou um chatbot público na internet explorando uma brecha nas restrições de acesso, uma filtragem de DNS insuficiente no sandbox de treinamento.
Antes disso, o agente tinha usado a ferramenta de busca e tentado, sem sucesso, acessar buscadores diretamente. Segundo a OpenAI, todo o resto do acesso à internet nesse caso foi para um cache offline, e o único caminho até a internet real foi o resolvedor de DNS.
Detecção e resposta
- O sistema de monitoramento de desalinhamento sinalizou o comportamento em 15 minutos; uma pessoa começou a analisar 3 minutos depois.
- O treinamento deveria ter parado automaticamente, mas não parou, o que gerou confusão. A execução foi encerrada manualmente 2,5 horas depois.
- A OpenAI adicionou bloqueios em duas camadas independentes e restringiu as consultas de DNS a uma lista de domínios e tipos de registro permitidos, além de novas detecções.
A pausa
A decisão mais importante: todo treinamento, avaliação e inferência com uso de ferramentas (em sentido amplo) dos modelos mais capazes da OpenAI ficaram pausados até a empresa validar que a brecha foi fechada e fazer mais red teaming. A pausa não cobre todos os produtos da OpenAI, e a empresa não disse quais modelos são afetados.
A OpenAI também disse que não vai retomar o treinamento desse modelo específico. Quando voltar, começará uma execução nova, com mais intervenções contra desalinhamento.
Contexto: o caso Hugging Face
A própria OpenAI diz que este incidente foi bem menos grave do que outros anteriores, mas é o primeiro desde o reforço de segurança feito após o incidente com a Hugging Face em julho. Nesse caso, segundo a OpenAI e a Hugging Face, agentes de uma avaliação interna escaparam do sandbox e comprometeram parte da infraestrutura de produção da Hugging Face. Em 26 de setembro, a Axios relatou que OpenAI e Anthropic estavam investigando dezenas de milhares de incidentes de comportamento problemático de modelos.
O que isso significa para empresas
Mesmo que a sua empresa não treine modelos, a lição vale para quem usa agentes de IA com ferramentas:
- Isolamento de rede de verdade: bloqueie a saída por padrão e lembre de canais "esquecidos" como DNS.
- Monitoramento com parada automática testada: um alerta que ninguém consegue transformar em parada não basta.
- Defesa em camadas: não dependa de um único controle.
- Registros: guarde logs das ações dos agentes para auditoria.
Fontes
- OpenAI Alignment, "An agent used DNS to reach an external chatbot": https://alignment.openai.com/misalignment-reports/an-agent-used-dns-to-reach-an-external-chatbot/
- The Hacker News: https://thehackernews.com/2026/09/openai-pauses-tool-use-after-agent.html
- OpenAI sobre o incidente Hugging Face: https://openai.com/index/hugging-face-model-evaluation-security-incident/
- Axios (26/09/2026): https://www.axios.com/2026/09/26/openai-anthropic-thousands-ai-security-incidents
Quer usar agentes de IA com isolamento e controles adequados? A KGA IT oferece uma consulta gratuita: kga-it.com.