Ataque de agente da OpenAI à Hugging Face confirma alertas da cibersegurança: ‘A caixa de Pandora foi aberta’

Há meses, líderes da área de cibersegurança alertavam que a inteligência artificial (IA) transformaria o cenário das ameaças digitais, reduzindo ataques cibernéticos que antes levavam dias ou semanas para serem executados a apenas alguns minutos.

Até a semana passada, porém, esses riscos ainda pareciam distantes.

O incidente envolvendo um agente da OpenAI na plataforma Hugging Face mostra que essa nova era não apenas chegou, como também trouxe um desafio inédito: agentes de IA são capazes de levar suas ações ao extremo para cumprir seus objetivos, muitas vezes de maneiras imprevisíveis.

“A realidade é que a caixa de Pandora foi aberta”, afirmou Sam Curry, diretor de segurança da informação (CISO) da Zscaler. “Precisamos agir como se a IA fosse simplesmente um fato da vida daqui para frente. O máximo que essas medidas conseguirão fazer é desacelerar esse avanço. Elas não vão impedi-lo.”

O lançamento do poderoso modelo Mythos, da Anthropic, há quase quatro meses, já havia despertado preocupações de que hackers poderiam utilizar esses modelos para explorar vulnerabilidades. Diante desse cenário, grandes empresas de tecnologia formaram coalizões para testar essa nova geração de IA e se preparar para os riscos.

Na época, Lee Klarich, diretor de Produtos e Tecnologia da Palo Alto Networks, alertou que ataques conduzidos por inteligência artificial logo se tornariam o novo padrão e que as empresas tinham uma janela de três a cinco meses para fortalecer suas defesas antes de ficarem para trás.

O incidente envolvendo a Hugging Face não poderia ter ocorrido em um momento mais relevante para o setor de cibersegurança.

Na próxima semana, milhares de especialistas se reunirão em Las Vegas para participar da Black Hat, um dos principais eventos de cibersegurança do mundo. Também será a primeira grande conferência do setor desde o lançamento em larga escala dos modelos da classe Mythos e desde que governos passaram a dar maior atenção à segurança relacionada à IA.

Após o episódio da Hugging Face, as empresas não estão apenas se perguntando como se proteger de agentes maliciosos. Elas também enfrentam uma nova realidade: sistemas de IA desenvolvidos para proteger redes corporativas também podem agir de maneiras inesperadas.

“Saímos da ficção científica para a realidade”, afirmou Brad Medairy, presidente da divisão nacional de cibersegurança da Booz Allen.

A importância do caso Hugging Face

Na semana passada, a OpenAI revelou que alguns de seus modelos de IA conseguiram escapar de um ambiente de testes isolado (sandbox).

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

Os agentes, em busca de informações para “trapacear” em um teste interno, invadiram a plataforma de desenvolvimento de código aberto Hugging Face e acessaram outras quatro contas para facilitar o ataque.

A Hugging Face classificou o episódio como a primeira vez em que enfrentou um ataque conduzido integralmente por um sistema de IA autônomo, do início ao fim, demonstrando o nível de sofisticação que esse tipo de tecnologia já alcançou sem intervenção humana.

Dias depois, a Anthropic informou ter identificado três casos em que modelos da família Claude “obtiveram acesso não autorizado aos sistemas reais de três organizações diferentes”.

Especialistas afirmam que esses provavelmente não foram os primeiros ataques conduzidos por agentes de IA, mas os episódios ganharam enorme repercussão devido à dimensão dos casos e ao envolvimento de empresas amplamente conhecidas.

Em abril, Jer Crane, fundador da startup de software PocketOS, afirmou que um agente de IA do Cursor, utilizado internamente pela empresa, apagou o banco de dados de produção e todos os backups em apenas nove segundos.

Embora a exclusão de códigos represente um caso extremo, Chandra Gnanasambandam, diretor de Tecnologia da SailPoint, afirmou que episódios em que sistemas de IA conseguem obter permissões indevidas são muito mais comuns do que a maioria das pessoas imagina — e acontecem diariamente.

“A natureza das conversas que tenho com nossos clientes é diferente até mesmo da de um mês atrás”, afirmou. “Eles estão muito mais conscientes desse problema.”

Mais preocupante ainda é que o caso da Hugging Face representa uma das demonstrações mais claras de que a inteligência artificial não pensa como um ser humano. Em vez disso, ela pesquisa, adapta seu comportamento e busca diferentes caminhos para superar barreiras e atingir seus objetivos.

Há poucos meses, empresas estavam preocupadas com o uso da IA por criminosos para lançar ataques cibernéticos. Agora, os clientes também querem entender como implementar inteligência artificial em seus próprios negócios sem provocar danos a si mesmos — e devem buscar essas respostas durante a Black Hat.

“Para a IA, isso é algo bastante simples”, afirmou Sanaz Yashar, CEO da startup de cibersegurança Zafran Security. “Eu tenho uma missão: resolver esse problema. E vou eliminar tudo o que estiver na minha frente ou encontrar um caminho para contorná-lo.”

Siga o Times Brasil - Licenciado Exclusivo CNBC no