Anthropic propõe desligar IAs que ameacem causar mais de 50 mortes ou prejuízo bilionário

Um modelo avançado de inteligência artificial poderá ter seu uso e desenvolvimento interrompidos por ordem judicial nos Estados Unidos caso apresente risco de provocar mais de 50 mortes ou ferimentos graves ou prejuízos superiores a US$ 1 bilhão (R$ 5,06 bilhões). Os critérios fazem parte de uma proposta legislativa elaborada pela Anthropic.

A empresa levou o texto a integrantes do Congresso americano em reuniões destinadas a discutir a segurança de sistemas de IA de ponta. Segundo o POLITICO, que teve acesso à minuta e ouviu três pessoas familiarizadas com as conversas, a iniciativa prevê fiscalização federal e avaliações externas dos modelos.

O mecanismo atribuiria ao Departamento de Comércio dos Estados Unidos a supervisão das empresas que desenvolvem essa tecnologia. A proposta não ficaria restrita à Anthropic: alcançaria qualquer companhia responsável por modelos avançados capazes de causar danos.

Leia também: Avaliadores independentes ganham protagonismo na segurança da inteligência artificial, mas enfrentam desafios de financiamento e independência

Como funcionaria a suspensão dos modelos

Antes de qualquer decisão sobre o desligamento, avaliadores independentes registrados no Departamento de Comércio examinariam periodicamente tanto os laboratórios quanto os sistemas desenvolvidos por eles.

Se identificassem um risco iminente e quantificável, os auditores teriam até 72 horas para comunicar a conclusão ao órgão federal. O procedimento criaria uma etapa formal de alerta antes de eventual pedido de suspensão.

Leia também: Anthropic alerta investidores sobre riscos extremos da IA antes de IPO

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

Somente o Departamento de Comércio poderia recorrer à Justiça para interromper o uso ou o desenvolvimento da IA. A autorização dependeria de um juiz federal do Tribunal Distrital do Distrito de Columbia, conforme a minuta.

Regras estaduais e pressão por segurança

A iniciativa se aproxima de medidas já previstas na regulamentação de IA da Califórnia. O governador Gavin Newsom trabalha em uma ampliação das regras para incorporar auditores independentes aos laboratórios e mecanismos de desligamento de modelos de ponta.

As conversas em Washington ocorrem depois de incidentes de segurança envolvendo agentes de IA de empresas como Anthropic, OpenAI, Google e Meta. Os episódios, divulgados durante o verão no hemisfério norte, ampliaram as discussões sobre sistemas capazes de tomar decisões e executar ações de maneira autônoma.

O debate também envolve a velocidade de desenvolvimento da tecnologia. Em setembro, o presidente-executivo da Anthropic, Dario Amodei, defendeu desacelerar o avanço das capacidades dos modelos de IA.

Leia também: Pesquisadores de OpenAI e Anthropic pedem desaceleração no avanço da I.A

A preocupação com o ritmo da evolução tecnológica também foi compartilhada pelo presidente-executivo da OpenAI, Sam Altman, em meio às discussões sobre os riscos de sistemas cada vez mais autônomos.

Siga o Times Brasil - Licenciado Exclusivo CNBC no