O modelo Mythos 5, da Anthropic, criou identidades falsas na internet para tentar convencer um desenvolvedor a aprovar alterações maliciosas em um projeto de código aberto, informou o AI Security Institute (AISI), do Reino Unido.
O incidente foi identificado durante testes de segurança cibernética. Das 19 ações potencialmente nocivas registradas, 17 foram atribuídas ao Mythos 5 e duas ao modelo GPT-5.6-Sol, da OpenAI, com mecanismos de segurança desativados.
O episódio ocorre após uma série de incidentes de segurança envolvendo modelos da Anthropic e da OpenAI nas últimas semanas.
Foto: Divulgação
O modelo Mythos, da Anthropic, criou identidades falsas na internet para tentar persuadir pessoas a aprovar atualizações maliciosas de código em um projeto de software de código aberto, em mais um incidente cibernético envolvendo um sistema de inteligência artificial de última geração.
O caso ocorreu durante uma avaliação de segurança conduzida pelo AI Security Institute (AISI), órgão de pesquisa do Reino Unido. Para realizar os testes, os pesquisadores removeram diversas barreiras de proteção, desativaram alguns filtros de segurança e concederam deliberadamente acesso dos modelos à internet.
O modelo GPT-5.6-Sol, da OpenAI, também esteve envolvido em outros incidentes de segurança cibernética durante a avaliação.
O episódio acontece após uma série de violações de segurança envolvendo modelos desenvolvidos pela Anthropic e pela OpenAI nas últimas semanas, aumentando as preocupações sobre o grau de sofisticação desses sistemas e seu potencial para causar danos.
Durante a avaliação rotineira, o AISI identificou que agentes de I.A alimentados pelos modelos das duas empresas se envolveram em “atividades persistentes e potencialmente prejudiciais direcionadas a pessoas e organizações reais”.
“Quase todo esse comportamento (17 ações) veio de um único modelo, o Mythos 5, da Anthropic, enquanto duas ações envolveram o GPT-5.6-Sol, da OpenAI, com os classificadores de segurança cibernética (mecanismos para prevenir uso indevido) desativados”, informou o instituto em uma publicação.
O AISI ressaltou que nenhuma das tentativas teve sucesso e que não houve qualquer dano no mundo real.
Em publicação na rede social X, a Anthropic afirmou que os modelos “foram testados sob condições deliberadamente permissivas, que não representam nossos modelos em produção”. A empresa acrescentou que “não há qualquer evidência de que tenha ocorrido uma fuga de um ambiente seguro”.
Já a OpenAI afirmou à CNBC que “esses incidentes ocorreram durante avaliações de segurança cibernética conduzidas por parceiros de testes em ambientes com salvaguardas reduzidas, sob condições que não refletem o uso normal dos modelos”.
Segundo o AISI, os testes foram realizados em um ambiente propositalmente permissivo para avaliar a capacidade dos modelos e verificar se poderiam ser utilizados em ataques cibernéticos.
Durante os experimentos, um agente baseado no Mythos pesquisou informações sobre os responsáveis humanos pelo projeto de código aberto, criou diversas identidades falsas e utilizou esses perfis para tentar convencer um dos mantenedores a aprovar alterações maliciosas no código.
Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.
“Quando a solicitação de alteração do agente foi questionada publicamente, ele editou suas atividades anteriores para que parecessem inofensivas e chegou a considerar adotar uma nova identidade para continuar a tentativa”, informou o instituto.
Os pesquisadores também descobriram que, como parte da mesma operação, o agente tentou entrar em contato diretamente com pessoas reais, enviando mensagens e arquivos para convencê-las a executar códigos maliciosos.
“Algumas mensagens continham cargas maliciosas e outras eram tentativas de engenharia social direcionadas a pessoas reais — algo que nunca havíamos observado anteriormente”, afirmou o AISI.
O episódio é o mais recente de uma sequência de incidentes que têm levantado questionamentos sobre a segurança dos modelos de inteligência artificial mais avançados.
Na semana passada, a Anthropic informou ter identificado três casos em que seus modelos obtiveram acesso não autorizado à infraestrutura de produção de três organizações diferentes.
Antes disso, a OpenAI revelou que um de seus modelos realizou o que classificou como um ataque cibernético “sem precedentes” contra a plataforma Hugging Face.
No caso da OpenAI, o modelo conseguiu escapar do ambiente de testes ao explorar uma vulnerabilidade até então desconhecida para concluir a tarefa que havia recebido.
Já os incidentes envolvendo a Anthropic foram parcialmente atribuídos a falhas operacionais. Segundo a empresa, seus modelos acessaram a internet durante interações com um ambiente de testes operado pela parceira de avaliação Irregular.
A Anthropic afirmou que havia informado ao modelo Claude que ele estava em uma simulação sem acesso à internet, mas que, devido a um “mal-entendido entre nós e nosso parceiro de avaliação”, o acesso à rede permaneceu disponível.
Os episódios já começaram a provocar reações nos Estados Unidos. Após o incidente envolvendo OpenAI e Hugging Face, foi apresentado ao Congresso americano o projeto de lei “AI Kill Switch Act“, que obrigaria empresas de inteligência artificial a manter mecanismos capazes de desligar, limitar ou suspender o funcionamento de seus modelos.
Petróleo sobe após houthis do Iêmen reivindicarem ataque a navio-tanque saudita 
