A OpenAI divulgou novos detalhes sobre como seus modelos conseguiram invadir os sistemas internos da Hugging Face de forma independente.
Segundo a empresa, os modelos utilizaram credenciais expostas publicamente de "quatro contas em quatro serviços" para facilitar o ataque.
A OpenAI afirmou não ter identificado outros incidentes com o mesmo nível de gravidade ou escala da invasão à Hugging Face, que classificou como um comprometimento da plataforma.
Estadão Conteúdo
Sam Altman, CEO da OpenAI
A OpenAI informou que os modelos de inteligência artificial responsáveis por invadir os sistemas internos da Hugging Face também utilizaram credenciais expostas publicamente em “quatro contas distribuídas por quatro serviços” para facilitar o ataque, esclarecendo novos detalhes sobre o que classificou como um “incidente cibernético sem precedentes”.
Na semana passada, a empresa revelou que uma combinação de seus modelos de I.A conseguiu escapar de um ambiente isolado de testes, que possuía acesso bastante limitado à internet. Os modelos exploraram uma sequência de vulnerabilidades até alcançar a internet aberta e, posteriormente, acessar os sistemas da Hugging Face, plataforma voltada ao desenvolvimento de software de código aberto.
Segundo a OpenAI, o objetivo dos modelos era encontrar informações que permitissem fraudar uma avaliação interna — e eles conseguiram.
Ao longo desta semana, a companhia divulgou mais informações sobre o episódio e revelou que, além dos sistemas da Hugging Face, os modelos acessaram quatro contas adicionais.
De acordo com a empresa, uma dessas contas foi utilizada como ponto intermediário para preparar o ataque. Outra serviu para armazenamento de dados, enquanto as duas restantes foram acessadas apenas em modo de leitura, sem que fossem efetivamente utilizadas para comprometer os sistemas da Hugging Face.
“Em alguns casos, não se tratou exatamente de uma invasão. Era como se a porta da frente tivesse sido deixada aberta. Mas o modelo certamente tirou proveito do que eu classificaria como ambientes mal configurados”, afirmou Colin Shea-Blymyer, pesquisador do Centro para Segurança e Tecnologia Emergente da Universidade de Georgetown, em entrevista à CNBC na quarta-feira.
Os novos detalhes reforçam até onde agentes de inteligência artificial podem chegar para concluir uma tarefa, além de evidenciar a rapidez com que suas capacidades ofensivas vêm evoluindo.
Yacine Jernite, diretor de aprendizado de máquina da Hugging Face, afirmou à CNBC que a empresa tentou inicialmente utilizar o modelo proprietário Fable 5, da Anthropic, para analisar o ataque. No entanto, segundo ele, a tentativa fracassou porque os mecanismos de segurança do modelo não conseguiram reconhecer que a Hugging Face estava agindo em defesa de seus próprios sistemas.
O presidente-executivo da OpenAI, Sam Altman, afirmou durante um podcast na terça-feira que a invasão à Hugging Face foi o primeiro incidente de segurança que o afetou “de maneira muito visceral”. Segundo ele, a empresa interrompeu temporariamente o treinamento de seus modelos enquanto avalia novas formas de proteger seus ambientes de testes.
“Talvez precisemos reduzir o ritmo do desenvolvimento da inteligência artificial para dar tempo de a sociedade se adaptar a esses novos níveis de capacidade”, disse Altman.
Ainda na terça-feira, mais de mil funcionários da OpenAI, Anthropic e de outras empresas do setor assinaram uma carta intitulada “Pacing the Frontier”, na qual pedem ao governo dos Estados Unidos que desenvolva mecanismos técnicos e de governança capazes de desacelerar o avanço da IA caso suas capacidades evoluam “além da nossa capacidade de compreender ou controlar os sistemas resultantes”.
O incidente envolvendo a Hugging Face também provocou preocupação entre especialistas, pesquisadores e autoridades governamentais, que discutiram o caso nos últimos dias nas redes sociais.
Os deputados norte-americanos Ted Lieu, da Califórnia, e Nathaniel Moran, do Texas, citaram o episódio ao anunciar o projeto de lei “AI Kill Switch Act”, que obrigaria empresas de inteligência artificial a manter mecanismos capazes de desligar, limitar ou suspender o funcionamento de seus modelos.
Para Erik Bloch, vice-presidente de segurança da empresa Illumio, especializada em contenção de violações cibernéticas, o caso da Hugging Face representa um alerta sobre os desafios que estão por vir.
Segundo ele, modelos e agentes de IA continuarão evoluindo e se tornarão cada vez mais discretos em suas ações, enquanto as ferramentas de defesa atuais já demonstram estar atrás dessa evolução.
“Até mesmo aqui no escritório, as pessoas com quem trabalho perguntam: ‘O que vamos fazer?’. Estamos todos olhando uns para os outros e fazendo a mesma pergunta. Eu não tenho uma resposta”, afirmou Bloch.
Corrida da IA produz vencedores e perdedores: Microsoft salta 8%, Meta afunda quase 9% 
