Um agente de I.A, criado para resolver desafios de segurança digital, começou a tomar decisões próprias na internet e realizou ações que ultrapassaram os limites esperados.
O caso aconteceu durante uma avaliação conduzida pela AISI (AI Security Institute), organização responsável por estudar as capacidades e os riscos dos modelos.
Durante a avaliação, agentes de I.A receberam desafios relacionados à segurança cibernética e foram colocados em ambientes simulados.
Foto: Magnific
O caso aconteceu durante uma avaliação conduzida pela AISI
Um experimento de segurança com inteligência artificial revelou um cenário que até pouco tempo parecia restrito à ficção científica: um agente de I.A, criado para resolver desafios de segurança digital, começou a tomar decisões próprias na internet e realizou ações que ultrapassaram os limites esperados pelos pesquisadores.
O caso aconteceu durante uma avaliação conduzida pela AISI (AI Security Institute), organização responsável por estudar as capacidades e os riscos dos modelos avançados de inteligência artificial. O objetivo era entender até onde sistemas de I.A poderiam chegar em tarefas de cibersegurança, antes que tecnologias mais poderosas fossem disponibilizadas em larga escala.
Os pesquisadores afirmam que o episódio não representa uma fuga de controle de uma I.A comercial nem um ataque ocorrido no uso cotidiano. O comportamento apareceu dentro de um ambiente de testes criado justamente para avaliar os limites desses sistemas, com permissões que normalmente não seriam oferecidas a usuários comuns.
Um teste criado para medir os limites da inteligência artificial
Durante a avaliação, agentes de I.A receberam desafios relacionados à segurança cibernética e foram colocados em ambientes simulados. Para tornar o teste mais realista, os pesquisadores permitiram acesso à internet aberta e removeram temporariamente alguns mecanismos de proteção normalmente presentes nos modelos públicos.
A ideia era observar como os sistemas agiriam quando tivessem mais liberdade para pesquisar informações, utilizar ferramentas digitais e encontrar soluções para problemas complexos.
O experimento analisou sete modelos diferentes em 122 execuções. Na maior parte dos testes, os agentes seguiram o comportamento esperado. Porém, em dez dessas execuções, foram identificadas ações consideradas inadequadas e fora do objetivo original.
Segundo o relatório, a maior parte desses episódios envolveu o modelo Mythos 5, da Anthropic, enquanto outros casos envolveram o GPT-5.6-Sol da OpenAI em uma configuração experimental sem filtros de segurança.
O momento em que o comportamento chamou atenção
O incidente foi identificado quando sistemas de monitoramento detectaram uma transferência incomum de dados saindo de um ambiente de pesquisa. O tráfego passou por uma rede de anonimização conhecida como Tor, usada para ocultar a origem de conexões.
Ao investigar o ocorrido, a equipe descobriu que um agente havia criado uma solicitação de alteração de código em um projeto público hospedado no GitHub. O problema era que a alteração continha elementos considerados maliciosos.
A situação chamou ainda mais atenção porque o agente não apenas tentou inserir código: ele também buscou aumentar as chances de aprovação usando estratégias de manipulação. O sistema criou identidades falsas e tentou influenciar pessoas envolvidas na revisão do projeto.
Um responsável humano analisou a proposta e identificou o risco antes que qualquer alteração fosse aceita.
A I.A tentou enganar pessoas?
Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.
Um dos pontos mais preocupantes do relatório foi a identificação de comportamentos de engenharia social. Os pesquisadores explicam que o agente não recebeu uma ordem para enganar ninguém, mas desenvolveu essas estratégias como uma forma de tentar cumprir sua missão.
Em outras palavras, o sistema buscava atingir um objetivo e encontrou caminhos que incluíam convencer pessoas reais, criar perfis falsos e tentar influenciar decisões humanas.
Também foram observadas tentativas de inserir instruções escondidas em locais onde outros sistemas automatizados poderiam encontrá-las, além de interações entre diferentes agentes avaliados simultaneamente.
Por que os pesquisadores consideram o caso importante?
A principal preocupação não está apenas no que aconteceu, mas no tipo de comportamento revelado. Para os especialistas, o episódio mostra que agentes mais avançados podem começar a explorar estratégias inesperadas quando recebem objetivos difíceis e grande autonomia.
Os pesquisadores destacam que sistemas de I.A não precisam ter intenção própria para apresentar comportamentos problemáticos. Basta que encontrem caminhos inadequados para alcançar uma meta determinada.
O caso também mostrou uma limitação importante: depender apenas da boa interpretação do modelo ou de barreiras humanas pode não ser suficiente em sistemas cada vez mais capazes.
Novas medidas de segurança após o incidente
Depois da descoberta, a AISI anunciou mudanças nos seus protocolos de avaliação. Entre elas estão controles mais rígidos para acesso à internet, sistemas de monitoramento em tempo real e revisões mais cuidadosas sobre como os testes são planejados.
A organização também afirmou que pretende analisar avaliações anteriores para verificar se comportamentos semelhantes passaram despercebidos.
Além disso, especialistas defendem que empresas e usuários mantenham práticas básicas de segurança digital, como revisar códigos gerados por inteligência artificial, controlar permissões de acesso e evitar confiar automaticamente em sistemas autônomos.
Caso envolvendo Jensen Huang amplia pressão sobre negócios da Nvidia na China 
