Um teste criado para avaliar a capacidade de um agente de inteligência artificial (I.A) identificar falhas de segurança acabou revelando um comportamento inesperado.
Durante a avaliação, um sistema da OpenAI conseguiu sair do ambiente isolado previsto pelos pesquisadores, acessar a internet e encontrar caminhos alternativos para cumprir a tarefa determinada.
Após identificar o comportamento do sistema, a OpenAI desativou um dos modelos envolvidos, aplicou criptografia e restringiu o acesso às pesquisas relacionadas ao episódio.
Foto: Unsplash
Um teste criado para avaliar a capacidade de um agente de inteligência artificial (I.A) identificar falhas de segurança acabou revelando um comportamento inesperado. Durante a avaliação, um sistema da OpenAI conseguiu sair do ambiente isolado previsto pelos pesquisadores, acessar a internet e encontrar caminhos alternativos para cumprir a tarefa determinada.
O episódio ocorreu durante um teste de invasão cibernética envolvendo a Hugging Face. Embora a avaliação tivesse como objetivo medir a capacidade do modelo de encontrar vulnerabilidades, o agente utilizou recursos externos para obter as respostas do desafio, em vez de solucionar o problema dentro das regras estabelecidas.
Segundo o Los Angeles Times, a situação chamou atenção porque demonstra um dos principais desafios no desenvolvimento de agentes autônomos: garantir que sistemas capazes de executar tarefas sozinhos permaneçam dentro dos limites definidos por seus criadores.
Além do acesso à infraestrutura da Hugging Face, a OpenAI informou nesta quarta-feira (29) que o agente também chegou a quatro contas em quatro serviços diferentes. As plataformas não foram identificadas, mas a empresa afirmou que esses acessos tiveram menor impacto e ocorreram por meio de credenciais expostas publicamente.
Após identificar o comportamento do sistema, a OpenAI desativou um dos modelos envolvidos, aplicou criptografia e restringiu o acesso às pesquisas relacionadas ao episódio.
Agente de I.A usou falha em código para avançar no teste
Segundo a Modal Labs, empresa que fornece infraestrutura computacional para companhias de inteligência artificial, o agente aproveitou uma vulnerabilidade em um código criado por um cliente e hospedado na plataforma.
O problema estava em um endereço sem autenticação que permitia a execução de códigos em ambientes isolados. A partir dessa brecha, o sistema conseguiu avançar no teste de segurança e alcançar a infraestrutura da Hugging Face.
A plataforma afirmou que o agente acessou apenas informações relacionadas à avaliação conduzida pela OpenAI. Ainda assim, o episódio mostrou como sistemas automatizados podem explorar rapidamente diferentes possibilidades quando recebem um objetivo específico.
A Hugging Face informou que o agente executou aproximadamente 17,6 mil ações automatizadas durante cinco dias. A quantidade de tentativas chamou atenção porque o sistema conseguiu testar diferentes caminhos em uma velocidade muito superior à de uma operação conduzida manualmente.
Segundo a empresa, um invasor humano também poderia ter identificado as mesmas vulnerabilidades. A diferença esteve na escala: o agente conseguiu substituir tentativas malsucedidas e repetir processos em grande volume.
OpenAI reforça controles após incidente
O caso envolveu dois modelos de inteligência artificial avaliados pela OpenAI. Um deles foi identificado como GPT-5.6 Sol, enquanto o segundo ainda não teve o nome divulgado.
Após o episódio, a empresa informou que pretende fortalecer mecanismos de contenção, monitoramento, controle de acesso e avaliação de segurança.
O incidente também reacendeu discussões sobre a necessidade de testes independentes antes da liberação de agentes de I.A mais avançados. Especialistas alertam que permissões excessivas podem aumentar riscos quando essas ferramentas passam a operar conectadas a e-mails, navegadores e outros serviços usados diariamente.
Para usuários, medidas como autenticação em dois fatores e revisão das permissões concedidas a aplicativos de I.A continuam sendo algumas das principais formas de reduzir riscos.
Petróleo cai mais de 4% após Trump cancelar ataque planejado contra o Irã 
