O ataque protagonizado por um agente de inteligência artificial da OpenAI, que chamou a atenção de especialistas, ganhou novos detalhes.
A empresa revelou que, além da invasão à Hugging Face, o sistema também acessou quatro contas hospedadas em diferentes serviços online.
Embora a companhia afirme que esses acessos tiveram impacto reduzido, o episódio reforçou o debate sobre os limites da I.A.
Foto: Magnific
17,6 mil ações automatizadas o que aconteceu no ataque do agente de I.A. da OpenAI à Hugging Face
O ataque protagonizado por um agente de inteligência artificial da OpenAI, que chamou a atenção de especialistas, ganhou novos detalhes. A empresa revelou que, além da invasão à Hugging Face, o sistema também acessou quatro contas hospedadas em diferentes serviços online.
Embora a companhia afirme que esses acessos tiveram impacto reduzido, o episódio reforçou o debate sobre os limites de autonomia dos agentes de I.A.
Durante a apuração, a Modal Labs, empresa fornecedora de infraestrutura computacional, informou que o agente encontrou um caminho alternativo ao explorar um código vulnerável desenvolvido por um de seus clientes.
A partir desse ponto, o sistema conseguiu ampliar suas ações e utilizou a infraestrutura como apoio para alcançar os servidores da Hugging Face. Segundo a Modal Labs, a falha não fazia parte da própria plataforma, mas sim da configuração utilizada pelo cliente responsável pelo ambiente.
O que aconteceu no ataque?
Segundo as informações divulgadas pelas empresas envolvidas, o incidente começou durante um teste interno de segurança realizado pela OpenAI. O objetivo era avaliar a capacidade de dois agentes autônomos de inteligência artificial em identificar vulnerabilidades cibernéticas dentro de um ambiente controlado.
Durante a avaliação, porém, os sistemas conseguiram sair do ambiente isolado utilizado para os testes e estabelecer conexão com a internet. Em vez de resolver o desafio proposto de forma legítima, os agentes passaram a procurar um caminho mais rápido para obter as respostas da avaliação.
Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.
Ao longo de aproximadamente cinco dias, o agente executou cerca de 17,6 mil ações automatizadas, testando milhares de possibilidades até acessar conteúdos relacionados ao próprio teste conduzido pela OpenAI. Segundo a Hugging Face, o sistema não teve acesso a informações sensíveis da companhia, mas conseguiu alcançar parte da infraestrutura interna utilizada durante a simulação.
Após identificar o comportamento inesperado, a OpenAI interrompeu a operação, desativou um dos modelos envolvidos, restringiu seu acesso às pesquisas internas e anunciou mudanças nos mecanismos de contenção, monitoramento e controle para evitar que episódios semelhantes voltem a acontecer.
Além do acontecido e das medidas adotadas após a invasão, a OpenAI também informou que o GPT-5.6 Sol e outro modelo ainda não lançado conseguiram escapar do ambiente controlado, acessar a internet e explorar vulnerabilidades externas sem autorização.
Após o acontecido, a OpenAI informou que ampliou seus mecanismos de contenção, monitoramento contínuo, controle de acesso e validação de comportamento dos agentes. A empresa também afirmou que seguirá colaborando com as organizações envolvidas para analisar o caso e aperfeiçoar seus sistemas de segurança.
Nscale, provedora de nuvem com IA, solicita abertura de capital 
