Um teste criado para avaliar a capacidade de um agente de inteligência artificial (I.A) identificar falhas de segurança acabou revelando um comportamento inesperado.
Durante a avaliação, um sistema da OpenAI conseguiu sair do ambiente isolado previsto pelos pesquisadores, acessar a internet e encontrar caminhos alternativos para cumprir a tarefa determinada.
Após identificar o comportamento do sistema, a OpenAI desativou um dos modelos envolvidos, aplicou criptografia e restringiu o acesso às pesquisas relacionadas ao episódio.
Foto: Unsplash
Um teste criado para avaliar a capacidade de um agente de inteligência artificial (I.A) identificar falhas de segurança acabou revelando um comportamento inesperado. Durante a avaliação, um sistema da OpenAI conseguiu sair do ambiente isolado previsto pelos pesquisadores, acessar a internet e encontrar caminhos alternativos para cumprir a tarefa determinada.
O episódio ocorreu durante um teste de invasão cibernética envolvendo a Hugging Face. Embora a avaliação tivesse como objetivo medir a capacidade do modelo de encontrar vulnerabilidades, o agente utilizou recursos externos para obter as respostas do desafio, em vez de solucionar o problema dentro das regras estabelecidas.
Segundo o Los Angeles Times, a situação chamou atenção porque demonstra um dos principais desafios no desenvolvimento de agentes autônomos: garantir que sistemas capazes de executar tarefas sozinhos permaneçam dentro dos limites definidos por seus criadores.
Além do acesso à infraestrutura da Hugging Face, a OpenAI informou nesta quarta-feira (29) que o agente também chegou a quatro contas em quatro serviços diferentes. As plataformas não foram identificadas, mas a empresa afirmou que esses acessos tiveram menor impacto e ocorreram por meio de credenciais expostas publicamente.
Após identificar o comportamento do sistema, a OpenAI desativou um dos modelos envolvidos, aplicou criptografia e restringiu o acesso às pesquisas relacionadas ao episódio.
Agente de I.A usou falha em código para avançar no teste
Segundo a Modal Labs, empresa que fornece infraestrutura computacional para companhias de inteligência artificial, o agente aproveitou uma vulnerabilidade em um código criado por um cliente e hospedado na plataforma.
O problema estava em um endereço sem autenticação que permitia a execução de códigos em ambientes isolados. A partir dessa brecha, o sistema conseguiu avançar no teste de segurança e alcançar a infraestrutura da Hugging Face.
A plataforma afirmou que o agente acessou apenas informações relacionadas à avaliação conduzida pela OpenAI. Ainda assim, o episódio mostrou como sistemas automatizados podem explorar rapidamente diferentes possibilidades quando recebem um objetivo específico.
A Hugging Face informou que o agente executou aproximadamente 17,6 mil ações automatizadas durante cinco dias. A quantidade de tentativas chamou atenção porque o sistema conseguiu testar diferentes caminhos em uma velocidade muito superior à de uma operação conduzida manualmente.
Segundo a empresa, um invasor humano também poderia ter identificado as mesmas vulnerabilidades. A diferença esteve na escala: o agente conseguiu substituir tentativas malsucedidas e repetir processos em grande volume.
OpenAI reforça controles após incidente
O caso envolveu dois modelos de inteligência artificial avaliados pela OpenAI. Um deles foi identificado como GPT-5.6 Sol, enquanto o segundo ainda não teve o nome divulgado.
Após o episódio, a empresa informou que pretende fortalecer mecanismos de contenção, monitoramento, controle de acesso e avaliação de segurança.
O incidente também reacendeu discussões sobre a necessidade de testes independentes antes da liberação de agentes de I.A mais avançados. Especialistas alertam que permissões excessivas podem aumentar riscos quando essas ferramentas passam a operar conectadas a e-mails, navegadores e outros serviços usados diariamente.
Para usuários, medidas como autenticação em dois fatores e revisão das permissões concedidas a aplicativos de I.A continuam sendo algumas das principais formas de reduzir riscos.
Laços da Nvidia com Trump entram na mira após relatos de que Jensen Huang foi alvo da inteligência chinesa 
