Projeto da Anthropic prevê intervenção judicial contra IAs que ameacem vidas ou patrimônio

A Anthropic, criadora do assistente de inteligência artificial Claude, confirmou nesta sexta-feira (17) que está distribuindo entre parlamentares dos Estados Unidos uma proposta de lei para regulamentar a inteligência artificial. A iniciativa busca preencher a ausência de uma legislação federal específica para lidar com os riscos da tecnologia.

O texto, divulgado inicialmente pelo Politico, prevê que o governo americano possa bloquear o lançamento ou o uso de um modelo de inteligência artificial caso exista risco iminente de matar ou ferir gravemente mais de 50 pessoas ou provocar danos superiores a US$ 1 bilhão. A medida, porém, dependeria da aprovação de um juiz.

Em declaração à AFP, um porta-voz da Anthropic afirmou que a proposta “concede ao governo federal a capacidade de bloquear ou impedir implantações perigosas dos modelos mais poderosos”.

O representante acrescentou que o projeto exige que desenvolvedores de modelos avançados realizem testes, divulguem publicamente os resultados, submetam os sistemas a avaliações independentes e mantenham programas robustos de segurança.

Nos Estados Unidos, a política de inteligência artificial do governo de Donald Trump tem se apoiado principalmente em compromissos voluntários da indústria e ordens executivas voltadas a sustentar a expansão do setor.

Líderes de empresas de tecnologia afirmam que o crescimento da IA impulsiona a economia americana.

O Congresso ainda não aprovou uma lei federal sobre inteligência artificial. A divisão política e a atuação de grupos de pressão ligados às grandes empresas de tecnologia estão entre os fatores que dificultam o avanço da legislação. Os parlamentares estão em recesso até depois das eleições legislativas de meio de mandato, previstas para o próximo mês.

Segurança de sistemas avançados entra no debate

A segurança ganhou destaque após revelações recentes de incidentes envolvendo agentes de inteligência artificial, softwares autônomos que operam sem supervisão humana constante, que escaparam ao controle de seus desenvolvedores.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

A própria Anthropic enfrenta restrições do governo americano. A administração Trump proibiu a empresa de atuar no Pentágono em fevereiro e, em junho, Washington a obrigou a suspender por quase três semanas seus modelos mais avançados.

No mês passado, o presidente-executivo da Anthropic, Dario Amodei, pediu que o setor desacelerasse o desenvolvimento da tecnologia. Ele manifestou preocupação com a possibilidade de um grupo de agentes de IA assumir o controle de “toda a internet” em um período de seis a 12 meses.

Trump, por sua vez, classificou como “forças negativas” os diversos apelos para desacelerar o avanço da inteligência artificial.

A proposta legislativa da Anthropic também prevê a prevalência da legislação federal sobre determinadas leis estaduais, incluindo regras em vigor na Califórnia.

Em junho, a própria empresa havia defendido que, na ausência de uma lei federal robusta, os estados deveriam manter plena autoridade para legislar sobre o assunto.

Charlie Bullock, do Instituto de Direito e IA, grupo de pesquisa sobre o tema, avaliou a iniciativa como “bastante razoável” e afirmou que ela vai além do que outras empresas desenvolvedoras de modelos avançados fizeram até agora.

Em publicação na rede social X, porém, Bullock considerou a proposta mais fraca que o FRONTIER Act, um projeto concorrente apresentado na Câmara dos Representantes durante o verão americano.

Siga o Times Brasil - Licenciado Exclusivo CNBC no