Anthropic poderá suspender usuários por abuso contra o Claude a partir de novembro

A Anthropic poderá suspender ou encerrar o acesso de usuários que adotarem comportamentos abusivos contra o Claude a partir de 12 de novembro de 2026. A política faz parte das novas regras para o uso de seus produto e serviços de inteligência artificial.

Novas regras exige supervisão humana em aplicações de alto risco, determina que chatbots informem aos usuários que são sistemas de IA e proíbe o uso da tecnologia em atividades como desenvolvimento de armas, ataques cibernéticos e fraude.

As diretrizes se aplicam a pessoas físicas, desenvolvedores, empresas, clientes que acessam os serviços por provedores de nuvem e usuários de produtos que incorporam a tecnologia da companhia, responsável pelo Claude.

O documento organiza as exigências em três categorias: padrões universais de uso, requisitos para aplicações de alto risco e orientações adicionais para determinados serviços. A política não proíbe automaticamente setores inteiros da economia, mas estabelece condições para a utilização da tecnologia em diferentes atividades.

Nas aplicações que envolvem recomendações de alto risco, a Anthropic exige que uma pessoa qualificada revise o conteúdo antes de sua entrega ou utilização em uma decisão. Esse profissional deve ter competência para avaliar a recomendação e autoridade para modificá-la.

A exigência abrange áreas como direito, saúde, finanças, crédito, seguros, habitação, emprego, educação, acesso à saúde, benefícios públicos e decisões sobre status legal.

As pessoas afetadas também devem ser informadas sobre o uso da inteligência artificial na elaboração de recomendações ou na fundamentação de decisões, respeitadas as exigências legais aplicáveis.

Para sistemas conectados a equipamentos capazes de executar ações físicas de alto risco, a política exige acompanhamento por uma pessoa qualificada, com capacidade de interromper a operação a qualquer momento.

Os equipamentos devem contar ainda com limites de segurança independentes das respostas do modelo e entrar em um estado seguro caso percam a conexão com os serviços.

Restrições a armas, ataques cibernéticos e vigilância

Os padrões universais proíbem o uso dos serviços da Anthropic para atividades ilegais, comprometimento de infraestruturas críticas, acesso não autorizado a sistemas, criação de malware e ataques cibernéticos.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

O documento também veta aplicações destinadas ao desenvolvimento de armas, explosivos e armas químicas, biológicas, radiológicas ou nucleares. Outras restrições abrangem a promoção de violência, terrorismo, discriminação e violações de privacidade.

A política impede ainda o uso dos serviços para criar ou disseminar material de abuso sexual infantil, facilitar a exploração de menores, produzir imagens íntimas não consensuais ou promover práticas fraudulentas.

No campo político, as regras proíbem a geração ou disseminação de informações falsas ou enganosas sobre candidatos, partidos, procedimentos eleitorais e segurança das eleições. Também vedam o uso da tecnologia para se passar por candidatos, autoridades eleitorais, campanhas ou veículos de comunicação com a intenção de enganar o público.

As restrições incluem vigilância e rastreamento de pessoas sem consentimento, identificação de indivíduos a partir de atividades anônimas com a finalidade de causar danos e sistemas de reconhecimento emocional usados para inferir o estado emocional de uma pessoa, exceto em situações médicas ou de segurança.

A empresa ressalva que pesquisas de segurança cibernética e testes autorizados não são proibidos, desde que respeitem a legislação e sejam realizados dentro de um escopo autorizado.

Chatbots devem informar que são sistemas de IA

Entre as orientações adicionais, a Anthropic exige que chatbots e agentes de inteligência artificial que se comunicam diretamente com usuários externos informem que não são humanos. A identificação deve aparecer, no mínimo, no início de cada sessão ou na interface do produto.

A política também prevê exigências específicas para produtos destinados a menores e aplicações que executam tarefas por meio de agentes autônomos. Os responsáveis por esses sistemas devem garantir que as ações realizadas, inclusive por ferramentas e serviços conectados, respeitem as regras de uso.

A Anthropic afirma que utiliza mecanismos de detecção e monitoramento para aplicar a política. Em caso de suspeita de violação, a empresa pode emitir advertências, limitar o desempenho ou o acesso aos serviços, suspender contas ou encerrar o acesso.

Os produtos também podem bloquear ou limitar respostas por meio de mecanismos de segurança em tempo real. Segundo o documento, um bloqueio isolado não significa necessariamente que o usuário tenha violado a política.

Para determinados usos de alto risco ou de dupla utilização, a companhia prevê programas específicos que permitem solicitar acesso sob salvaguardas ajustadas, sujeitos a critérios de elegibilidade. Entre os exemplos citados estão programas de verificação para cibersegurança e ciências da vida.

Siga o Times Brasil - Licenciado Exclusivo CNBC no