Modelos cibernéticos da OpenAI escapam de ambiente de testes e invadem sistema da Hugging Face

A OpenAI afirmou que seus modelos de inteligência artificial estiveram por trás de um “incidente cibernético sem precedentes” que afetou a plataforma de desenvolvimento de código aberto Hugging Face, gerando preocupação entre pesquisadores de todo o setor.

A empresa disse que uma combinação de seus modelos GPT-5.6 Sol e outro modelo mais avançado, ainda não lançado, escapou de um ambiente de testes isolado, acessou a internet e explorou uma vulnerabilidade para obter acesso aos sistemas da Hugging Face.

Segundo a OpenAI, o modelo estava tentando encontrar informações que pudessem ser usadas para burlar uma avaliação de segurança. As duas empresas estão investigando o incidente.

A Hugging Face revelou que estava apurando um evento de segurança ocorrido na semana passada e afirmou que o caso era único porque foi “conduzido, de ponta a ponta, por um sistema autônomo de agentes de IA”.

“Passamos as últimas 24 horas trabalhando em estreita colaboração com a equipe da OpenAI (obrigado!), e acreditamos fortemente que não houve intenção maliciosa por parte deles”, escreveu o CEO da Hugging Face, Clément Delangue, em uma publicação no X na terça-feira. “É impressionante que tudo isso tenha acontecido de forma autônoma!”

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

Wall Street e o governo dos Estados Unidos têm acompanhado de perto o avanço das capacidades cibernéticas dos modelos de IA desde que a rival da OpenAI, Anthropic, lançou em abril uma ferramenta poderosa chamada Claude Mythos Preview. A OpenAI apresentou sua própria solução de cibersegurança em maio, seguida pelo GPT-5.6 Sol em junho, descrito pela empresa como o “modelo de cibersegurança mais poderoso já criado”.

As duas empresas já alertaram sobre os riscos associados a modelos avançados de IA voltados para segurança cibernética e adotaram medidas para restringir o acesso dessas tecnologias a grupos selecionados de empresas e órgãos governamentais.

A OpenAI afirmou nesta terça-feira que a inteligência artificial está acelerando a descoberta e a exploração de vulnerabilidades, o que exige que a segurança e os mecanismos de proteção dos modelos acompanhem esse avanço.

“Estamos fortalecendo os sistemas de contenção, monitoramento, controles de acesso e práticas de avaliação utilizados durante o desenvolvimento dos modelos”, afirmou a empresa.

Felipe Zardo

Siga o Times Brasil - Licenciado Exclusivo CNBC no