O governo dos Estados Unidos bloqueou globalmente o acesso aos novos modelos Fable 5 e Mythos 5, da Anthropic, poucos dias após o lançamento das ferramentas.
O jailbreak de IA é uma técnica usada para tentar contornar as regras de segurança de um modelo de inteligência artificial.
Esse tipo de manipulação preocupa governos porque abre margem para o uso indevido da tecnologia em larga escala.
Foto: Pexels
O que é um jailbreak de IA e por que ele assusta governos?
O governo dos Estados Unidos bloqueou globalmente o acesso aos novos modelos Fable 5 e Mythos 5, da Anthropic, poucos dias após o lançamento das ferramentas, em meio a preocupações com possíveis técnicas de jailbreak de IA.
A decisão obrigou a empresa a suspender o uso das IAs para usuários estrangeiros, incluindo pessoas fora do território americano e até funcionários internacionais. A justificativa oficial foi “segurança nacional”, mas sem detalhes públicos sobre os riscos envolvido
O jailbreak de IA é uma técnica usada para tentar contornar as regras de segurança de um modelo de inteligência artificial.
Isso ocorre quando, por exemplo, usuários manipulam instruções enviadas ao sistema para fazê-lo ignorar limitações, filtros de proteção ou restrições que os desenvolvedores estabelecem.
Dessa forma, a IA pode gerar respostas fora do padrão ou, até mesmo, conteúdos que os sistemas de segurança bloqueiam.
Por que o jailbreak preocupa governos
Esse tipo de manipulação preocupa governos porque abre margem para o uso indevido da tecnologia em larga escala.
Quando usuários quebram um modelo, ele deixa de respeitar integralmente as barreiras de segurança que os desenvolvedores projetaram, o que aumenta o risco de agentes explorarem falhas em contextos sensíveis e utilizarem aplicações além do limite previsto.
Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.
A Anthropic contestou a decisão do governo americano. Em comunicado, a empresa afirmou que a medida se baseia em uma interpretação incorreta dos riscos e destacou que a possibilidade de jailbreak, por si só, não justificaria restringir o acesso global à tecnologia.
A companhia também argumentou que, se esse critério se aplicasse de forma ampla, ele bloquearia praticamente todos os principais desenvolvimentos em inteligência artificial.
Segundo a empresa, ela já havia informado previamente as autoridades sobre possíveis vulnerabilidades antes do lançamento dos modelos. A Anthropic defende ainda que decisões regulatórias desse tipo precisam seguir critérios técnicos claros, com maior transparência e previsibilidade.
Os modelos Fable 5 e Mythos 5 ficaram disponíveis gratuitamente por um período promocional de 13 dias. A previsão era de que, após 22 de junho, a empresa migrasse o acesso para um modelo pago via API, com cobrança por uso.
O episódio evidencia o peso crescente das discussões sobre controle e segurança na inteligência artificial. Enquanto empresas aceleram o desenvolvimento de novos sistemas, governos ampliam a vigilância sobre possíveis brechas e o jailbreak de IA se torna um dos principais pontos de atenção nesse equilíbrio.
CEO da Nvidia, Jensen Huang, surge como principal aliado de Trump no debate sobre segurança da IA
