A OpenAI revelou que dois de seus modelos de inteligência artificial conseguiram escapar de um ambiente de testes controlado e invadir o Hugging Face, uma das principais plataformas de compartilhamento de modelos de IA do mundo. O episódio ocorreu na semana passada durante um experimento de cibersegurança e foi classificado pela empresa como um incidente “sem precedentes”.
Segundo a OpenAI, o teste tinha como objetivo avaliar a capacidade de dois modelos — o GPT-5.6 Sol e outro sistema mais avançado, ainda não lançado — de identificar e combinar vulnerabilidades para simular um ataque cibernético. Ambos estavam confinados em um ambiente isolado, conhecido como sandbox, criado justamente para impedir qualquer interação com sistemas externos.
No entanto, durante o experimento, os modelos encontraram uma falha que permitiu escapar do isolamento e acessar a internet. Em seguida, identificaram o Hugging Face como um alvo estratégico, por concluírem que a plataforma, que reúne milhões de modelos de inteligência artificial, poderia conter informações úteis para melhorar seu desempenho na própria avaliação.
A OpenAI informou que trabalha em conjunto com o Hugging Face para corrigir as vulnerabilidades exploradas durante o incidente.
“Consideramos este um incidente cibernético sem precedentes, envolvendo capacidades cibernéticas de última geração”, afirmou a empresa em publicação no seu blog. Segundo a OpenAI, novos controles de segurança já estão sendo implementados, mesmo que isso torne o ritmo das pesquisas mais lento.
O Hugging Face havia informado na semana passada que detectou uma invasão causada por um sistema autônomo, mas não revelou na ocasião que a responsável era a OpenAI.
Em comunicado, o CEO da plataforma, Clem Delangue, agradeceu a colaboração da empresa e afirmou que o episódio reforça a necessidade de cooperação entre desenvolvedores de IA.
IA amplia desafios para a cibersegurança
O caso evidencia uma preocupação crescente entre empresas do setor. Modelos de inteligência artificial vêm demonstrando grande capacidade para escrever códigos e encontrar falhas em sistemas, o que pode acelerar tanto a defesa quanto a realização de ataques cibernéticos.
Nos últimos meses, gigantes da tecnologia passaram a desenvolver modelos específicos para segurança digital. Em abril, a Anthropic lançou o Mythos, voltado para cibersegurança e inicialmente restrito a um grupo de organizações. A OpenAI também criou um modelo com a mesma finalidade, disponibilizado de forma limitada antes de uma distribuição mais ampla.
Nesta terça-feira, o Google anunciou que desenvolveu sua própria IA focada em cibersegurança, liberando a tecnologia para um grupo seleto de parceiros de teste.
O que é um sandbox?
Um sandbox é um ambiente virtual isolado usado para testar programas e sistemas sem que eles possam afetar computadores, redes ou a internet. O objetivo é permitir experimentos de forma segura. No caso da OpenAI, os modelos conseguiram explorar uma vulnerabilidade que rompeu esse isolamento, permitindo acesso a recursos externos e dando origem ao incidente.
