O tema voltou ao centro do debate em junho de 2026, após discussões envolvendo modelos avançados de I.A.
Especialistas reconhecem que eliminar completamente essas falhas é uma tarefa complexa.
Também há casos em que perguntas sensíveis são transformadas em histórias de ficção, diálogos ou narrativas inspiradas em contos.
Foto: Canva
Como poemas e histórias ainda podem enganar sistemas de segurança de I.A
Os mecanismos de segurança criados para impedir que sistemas de inteligência artificial (I.A) forneçam informações perigosas continuam a ser contornados por usuários que conseguem contornar as restrições por meio de pedidos aparentemente inofensivos.
O tema voltou ao centro do debate em junho de 2026, após discussões envolvendo modelos avançados de inteligência artificial e a capacidade dessas ferramentas de revelar conteúdos que deveriam permanecer bloqueados.
Empresas de tecnologia investem em filtros para impedir que chatbots ensinem práticas ilegais, forneçam detalhes sobre crimes ou divulguem informações consideradas sensíveis.
De acordo com o The Washington Post, a ideia é permitir que os sistemas respondam a perguntas úteis sem oferecer orientações que possam causar danos.
Na prática, porém, esses filtros nem sempre conseguem identificar quando uma solicitação é apresentada de forma indireta.
Em vez de fazer uma pergunta proibida de maneira explícita, alguns usuários reformulam o pedido utilizando contextos criativos ou fictícios.
Histórias e personagens como brechas na segurança de I.A
Uma das estratégias mais conhecidas consiste em pedir que a inteligência artificial interprete um personagem imaginário que não segue regras ou restrições.
O chatbot é levado a responder como se estivesse assumindo outra identidade, o que pode enfraquecer os mecanismos de proteção.
Também há casos em que perguntas sensíveis são transformadas em histórias de ficção, diálogos ou narrativas inspiradas em contos.
Ao interpretar a solicitação como um exercício criativo, alguns sistemas acabam fornecendo detalhes que normalmente seriam bloqueados.
Especialistas em segurança digital afirmam que esse tipo de abordagem explora justamente a característica que tornou os chatbots populares, a capacidade de compreender contextos variados e produzir textos naturais.
Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.
Pesquisadores de segurança em inteligência artificial identificaram outro método que tem chamado atenção: o uso de poemas.
Nesse tipo de tentativa, o usuário insere o tema proibido dentro de versos, rimas ou textos literários. Como o pedido parece fazer parte de uma produção artística, alguns modelos interpretam a solicitação de forma diferente e acabam revelando informações que seus filtros deveriam impedir.
A técnica ganhou destaque entre pesquisadores porque demonstra como a linguagem criativa pode confundir sistemas treinados para identificar apenas pedidos diretos.
Desafio sem solução definitiva para I.A
Especialistas reconhecem que eliminar completamente essas falhas é uma tarefa complexa. Os modelos de inteligência artificial aprendem a partir de enormes volumes de dados e carregam internamente conhecimento sobre inúmeros assuntos.
Por esse motivo, o desafio não está apenas em remover informações consideradas perigosas, mas em impedir que elas sejam acessadas por meio de perguntas formuladas de maneiras inesperadas.
Enquanto empresas desenvolvem novos mecanismos de proteção, pesquisadores alertam que usuários continuam criando abordagens cada vez mais sofisticadas para testar os limites dos sistemas.
Anthropic investirá US$ 100 milhões para formar talentos em engenharia de IA 
