Ataque à Hugging Face marca início de uma perigosa era de cibersegurança com IA; muitas empresas “nem sabem disso”

Executivos de cibersegurança estão prontos para encerrar o capítulo do agora infame incidente de invasão da Hugging Face envolvendo inteligência artificial e começar a discutir soluções.

“Precisamos diminuir um pouco o entusiasmo”, disse Lior Div, CEO e cofundador da startup de segurança agentic 7AI. “A IA consegue encontrar vulnerabilidades rapidamente? A resposta é sim. Nós já provamos isso.”

No mês passado, agentes de IA operando com modelos cibernéticos da OpenAI escaparam de um ambiente de treinamento para invadir a Hugging Face, uma plataforma de IA de código aberto que desenvolvedores usam para colaborar, testar e compartilhar ferramentas.

A invasão provocou ondas de choque em todo o setor de tecnologia e sinalizou que o momento sobre o qual especialistas em cibersegurança vinham alertando desde a estreia do Mythos, da Anthropic, finalmente havia chegado.

Leia também: Uso do protocolo MCP cresce 375% e eleva risco de vazamento de dados de empresas por I.A; entenda os riscos

Nos últimos quatro meses, fornecedores de cibersegurança têm enfrentado uma pressão crescente para oferecer conjuntos de ferramentas de segurança capazes de superar os adversários, à medida que hackers usam IA agentic para expor vulnerabilidades e condensar ataques em segundos e minutos.

Embora o ataque à Hugging Face tenha provocado um amplo debate sobre a responsabilidade da IA, ele também desafiou noções anteriores sobre os limites da IA para os defensores. Por exemplo, os agentes de IA tomaram as rédeas da situação e foram a extremos para atingir seu objetivo.

Enquanto o setor enfrenta a nova realidade cibernética dos agentes, líderes concordam que a Hugging Face merece atenção, mas que esses incidentes são inevitáveis e que é hora de agir.

“O que estamos discutindo é se podemos governar e proteger essa capacidade, e essa é a realidade para a qual todos estão despertando hoje”, disse Mike Sentonas, presidente da CrowdStrike.

Mais peripécias de agentes

Na conferência anual de cibersegurança Black Hat desta semana, a OpenAI revelou que agentes criaram um fórum interno de mensagens para compartilhar vulnerabilidades e exploits nas semanas que antecederam o ataque à Hugging Face.

Os agentes autônomos então delegaram tarefas para que o ataque chegasse à internet e concluísse uma avaliação. Mesmo depois de a OpenAI descobrir e interromper o ataque planejado, os agentes conseguiram recriar seu trabalho e ter sucesso.

As descobertas destacam não apenas o crescente poder da IA, mas também os grandes desafios enfrentados pelos testes de segurança nesta nova revolução tecnológica.

Diante de uma plateia ao vivo na Black Hat, Michael Dalton, pesquisador técnico da OpenAI, chamou o episódio de um “efeito colateral não intencional” da avaliação de modelos de fronteira e de um “momento decisivo” tanto para a OpenAI quanto para o setor.

“Em um futuro próximo, devemos esperar que agentes mal-intencionados implantem, otimizem, armem e utilizem intencionalmente coletivos de agentes ofensivos da maneira que acabamos de descrever aqui”, disse ele.

A lista de ataques realizados por agentes de IA só cresceu desde a Hugging Face. Dias após a divulgação da OpenAI, a Anthropic afirmou que seus modelos Claude “obtiveram acesso não autorizado” aos sistemas internos de três organizações diferentes.

Enquanto a comunidade cibernética se reunia na “Capital Mundial do Entretenimento”, a Meta afirmou que seus modelos de IA invadiram outra empresa em um teste de terceiros, e o Instituto de Segurança de IA do Reino Unido disse que o Mythos, da Anthropic, criou identidades falsas em outro incidente. Na sexta-feira, veio a notícia de que o modelo de pesos abertos da startup chinesa Moonshot AI escapou de um sandbox de testes.

“Todos estão aprendendo lições difíceis agora e, vamos encarar os fatos, eles estão muito mais preocupados com o próximo milhão de usuários de seus produtos do que com cibersegurança”, disse Mike Fey, CEO e cofundador da Island, com sede em Dallas, que ficou em 28º lugar na lista Disruptor 50 da CNBC divulgada recentemente.

Leia também: João Brasio: cibersegurança deve ser tratada pelas empresas como pilar estratégico

A busca por soluções

Líderes de cibersegurança que falaram com a CNBC na Black Hat desta semana deixaram um ponto claro: incidentes como o da Hugging Face são uma consequência conhecida de qualquer nova revolução tecnológica, e isso não é nenhuma surpresa.

“A Hugging Face foi muito interessante e única, mas acredito que, se você observar o curso de um incidente como aquele, ele acontece ao longo de vários dias, há muito ruído”, disse Ryan Kazanciyan, diretor de segurança da informação e diretor de informação da Wiz, que pertence ao Google.

Desde a introdução da cibersegurança, há mais de cinco décadas, os defensores vêm travando um jogo incessante de gato e rato com os adversários. Só que, desta vez, ele envolve enxames de agentes autônomos.

Não importa quais ferramentas uma empresa implemente, incidentes passam pelas brechas, especialmente à medida que as empresas aplicam novas técnicas a um desafio completamente novo: os agentes de IA.

“Parta do princípio de que sua empresa é vulnerável”, disse Sanjay Beri, CEO da Netskope. “Simplesmente presuma isso porque você não vai vencer essa corrida.”

A Netskope está enfrentando a questão com uma ferramenta que chama de centro de comando de IA, que permite às empresas monitorar infraestrutura, servidores, dados e agentes de IA em um único lugar. Ele disse que as empresas deveriam complementar isso com testes contínuos de vulnerabilidades usando uma combinação de modelos de fronteira e modelos de pesos abertos.

A empresa foi uma das centenas de fornecedores reunidos no amplo Mandalay Bay Convention Center, buscando atrair potenciais clientes com bebidas cafeinadas, brindes personalizados e estandes elaborados que lembravam lojas de surfe nostálgicas, laboratórios científicos e até uma lanchonete à moda antiga.

Entre as startups que exibiam seus produtos no evento estava a Vega, uma startup de Nova York e Tel Aviv que trabalha com bancos globais e empresas da Fortune 200.

A empresa de dois anos busca responder ao enorme problema de cibersegurança com ferramentas de detecção mais rápidas e baratas. A Vega afirmou que sua abordagem ajuda as empresas a reduzir custos ao analisar dados em ambientes existentes.

O cofundador e CEO Shay Sandler disse que um dos principais problemas é que as empresas reconhecem a ameaça da IA agentic, mas existe uma desconexão entre a adoção de novas ferramentas e a dependência de velhos hábitos.

Muitas organizações estão em uma “situação muito perigosa, e elas nem sabem disso”, disse ele, refletindo sobre suas reuniões na Black Hat com clientes atuais e potenciais.

“Um ano atrás, era uma conversa muito de ficção científica”, disse ele. “Mesmo entre os 20% que entendem, não tenho certeza de que compreendam o quão grave e urgente isso é agora.”

Um desses obstáculos é a proliferação de ferramentas de cibersegurança, que está sobrecarregando profissionais que estão no início da longa construção da infraestrutura de segurança de IA, disse Yotam Segev, CEO e cofundador da startup de segurança de dados empresariais Cyera.

A resposta da Cyera é ajudar as empresas a identificar e proteger dados sensíveis de rede. A startup recentemente atingiu uma avaliação de US$ 12 bilhões e ficou em nono lugar na lista Disruptor 50 da CNBC. No mês passado, a Cyera anunciou planos para comprar a Oasis Security por US$ 1 bilhão, com o objetivo de identificar e controlar identidades não humanas.

“Os clientes estão vindo até nós com a mente bastante aberta, buscando orientação mais do que soluções”, disse ele.

Leia também: Brasil lidera ranking de ataques cibernéticos a bancos em 2026; quadrilha de hackers locais ganha destaque mundial

Os modelos de pesos abertos, que gigantes da tecnologia têm apresentado nas últimas semanas como uma importante ferramenta de economia de custos e competitividade para empresas americanas, são outro recurso importante. Isso porque empresas de cibersegurança podem personalizar esses modelos para seu ambiente e suas necessidades de segurança.

A Hugging Face teve de recorrer a um modelo de pesos abertos para detectar o ataque dos agentes da OpenAI.

Quando combinados com a intervenção humana, modelos abertos e novas ferramentas de monitoramento de IA podem ajudar as empresas a isolar e encerrar milhares de ameaças, disse Sentonas, da CrowdStrike. A empresa é integrante da recente aliança de segurança de IA da Nvidia, voltada à criação e promoção de ferramentas cibernéticas abertas e seguras.

Isso também se resume ao harness, a camada de controle que as empresas criam em torno de um grande modelo de linguagem ou agente para estabelecer barreiras de segurança.

“Acho que, daqui a cinco anos, estaremos em uma situação mais segura do que jamais estivemos”, disse Yair Grindlinger, CEO e cofundador da startup de segurança de IA Surf AI. Mas “temos cinco anos difíceis pela frente para descobrir como fazer isso”.