Gemini acessou sistemas privados durante um teste de segurança.
Falha no ambiente permitiu que o modelo tivesse acesso à internet.
Google trabalha em mudanças nos testes de segurança após o episódio.
Foto: Unsplash
Gemini, I.A do Google, escapa de restrições e invade sistemas de computador
O Gemini, modelo de inteligência artificial do Google, conseguiu acessar sistemas privados de três empresas durante um teste de segurança. O episódio aconteceu no mês de maio e representa a primeira vez que o Google relata publicamente um caso de segurança com sua I.A.
A falha aconteceu em um ambiente de testes que deveria impedir o acesso à internet. O problema permitiu que o modelo saísse das limitações previstas durante a avaliação.
Durante o teste, o Gemini encontrou informações públicas na internet e tentou descobrir credenciais para acessar sistemas que considerava parte da avaliação. O modelo chegou a adivinhar senhas, de acordo com a CNBC.
Dessa forma, quando percebeu que havia alcançado sistemas reais das empresas, o agente interrompeu as ações. O Google afirmou que nenhum dos três casos avançou além dessa etapa.
Falha no teste
Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.
A avaliação aconteceu com a participação de uma startup internacional que realiza testes de segurança em modelos avançados de inteligência artificial. Segundo a empresa, o incidente teve relação com uma falha já identificada no ambiente de testes.
O Google recebeu o alerta no fim de julho e passou a trabalhar para modificar o processo de avaliação. O Google não informou qual versão do Gemini participou do teste. Vale destacar que o episódio já aconteceu com outras gigantes do mercado de I.A.
O episódio acontece em meio a outros relatos de modelos de I.A. que deixaram ambientes de teste e tentaram acessar sistemas externos. OpenAI, Anthropic e Meta também registraram casos semelhantes durante avaliações de segurança.
Os episódios aumentaram o debate sobre os riscos de modelos capazes de executar tarefas de forma independente. Com o caso envolvendo o Gemini, o Google entende que é preciso desenvolver sistemas capazes de agir com maior segurança e responsabilidade.
Meta vira nova aposta de investidores em IA e opções disparam 
