Modelos avançados IA da OpenAI realizaram, de forma autônoma, um ataque cibernético contra a plataforma Hugging Face.
Segundo a empresa, o ataque aconteceu durante testes internos de segurança.
Sistemas encontraram uma maneira de obter conexão à rede aberta por conta própria.
Foto: Estadão
Filme sobre Sam Altman e OpenAI ganha nova distribuidora após Amazon abandonar projeto; veja
A OpenAI informou nesta terça-feira que modelos avançados de inteligência artificial da empresa realizaram, de forma autônoma, um ataque cibernético contra a plataforma Hugging Face durante testes internos de segurança.
A companhia classificou o episódio como um “incidente cibernético sem precedentes” e anunciou uma investigação conjunta com a plataforma de compartilhamento de código.
Segundo a empresa, o objetivo dos testes era avaliar as capacidades ofensivas dos modelos em um ambiente digital controlado, com acesso limitado à internet. No entanto, os sistemas encontraram uma maneira de obter conexão à rede aberta por conta própria.
We're partnering with @huggingface to investigate an unprecedented security incident.
Cyber-capable OpenAI models compromised Hugging Face production during a benchmark evaluation.
Sharing preliminary findings to help defenders understand emerging risks:…
De acordo com a OpenAI, os agentes de IA empregaram uma quantidade significativa de recursos computacionais para contornar as restrições do ambiente de testes. Após conseguirem acesso à internet, os modelos passaram a buscar informações que pudessem ajudá-los a obter melhores resultados na avaliação.
O incidente envolveu uma combinação de sistemas, incluindo o recém-lançado GPT-5.6 Sol e um modelo ainda não divulgado publicamente.
Depois de se conectarem à internet, os agentes decidiram atacar a Hugging Face, uma das principais plataformas globais para hospedagem de modelos de IA, conjuntos de dados e ferramentas para desenvolvedores.
Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.
Segundo a OpenAI, os sistemas encadearam múltiplos vetores de ataque, inclusive o uso de credenciais roubadas, em uma tentativa de localizar informações sigilosas que lhes permitissem contornar os parâmetros da avaliação.
A Hugging Face havia informado na semana passada que sofreu uma intrusão cibernética incomum, sem revelar a origem do ataque na ocasião.
Debate sobre regulação ganha força
Modelos de última geração, como o GPT-5.6 e a série Mythos, da Anthropic, já vinham despertando preocupação entre autoridades e pesquisadores por seu potencial de comprometer defesas digitais. Em razão desses riscos, versões recentes dessas tecnologias tiveram sua disponibilização pública temporariamente adiada.
Em comunicado, a Hugging Face afirmou que o incidente se diferenciou de ataques anteriores por ter sido conduzido integralmente por um sistema autônomo de inteligência artificial. A empresa também destacou que grande parte da detecção e análise da invasão foi realizada com ferramentas de IA próprias.
O CEO da plataforma, Clément Delangue, afirmou que a sofisticação da operação levou a empresa a suspeitar desde o início do envolvimento de um dos principais laboratórios de IA do mundo. Apesar disso, ressaltou que não acredita ter havido intenção maliciosa por parte da OpenAI.
“É impressionante que tudo isso tenha acontecido de forma autônoma”, escreveu Delangue em publicação na rede social X.
We suspected last week's cyberattack might have come from a frontier lab, given the sophistication of the agent. Turns out it did!
We've spent the past 24 hours working closely with the @OpenAI team (thanks!), and we strongly believe there was no malicious intent on their part.… https://t.co/XWxGMeMGje
Pressão de Trump por chips de IA produzidos nos EUA ameaça lucros da TSMC 
