EXCLUSIVO: Anthropic entra em conflito com Pentágono sobre uso de IA; saiba o que cada lado exige

A Anthropic está em desacordo com o Departamento de Defesa sobre como seus modelos de inteligência artificial devem ser usados, e seu trabalho com a agência está “sob revisão”, disse um porta-voz do Pentágono à CNBC.

A startup de cinco anos recebeu um contrato de US$ 200 milhões (R$ 1 bilhão) com o DoD no ano passado. Em fevereiro, a Anthropic é a única empresa de IA que implantou seus modelos nas redes classificadas da agência e forneceu modelos personalizados para clientes de segurança nacional. Mas as negociações sobre os termos de uso futuros encontraram um obstáculo, disse Emil Michael, o subsecretário de guerra para pesquisa e engenharia, em um encontro de defesa na Flórida na terça-feira.

A Anthropic quer a garantia de que seus modelos não serão usados para armas autônomas ou para “espionar americanos em massa”, de acordo com um relatório da Axios. O DoD, por outro lado, quer usar os modelos da Anthropic “para todos os casos de uso lícito” sem limitação.

“Se qualquer empresa não quiser acomodar isso, é um problema para nós”, disse Michael. “Pode criar uma dinâmica onde começamos a usá-los e nos acostumamos com o funcionamento desses modelos, e quando chegar o momento de usá-los em uma situação urgente, seremos impedidos.”

Leia também: Anthropic descarta anúncios em IA e reforça foco no mercado corporativo

Este é o mais recente revés na relação cada vez mais tensa da Anthropic com o governo Trump, que criticou publicamente a empresa nos últimos meses. David Sacks, o investidor de risco que atua como czar de IA e cripto da administração, acusou a Anthropic de apoiar uma “IA woke” devido à sua postura sobre regulação.

Um porta-voz da Anthropic disse que a empresa está tendo “conversas produtivas, de boa fé” com o DoD sobre como “resolver corretamente essas questões complexas”.

“A Anthropic está comprometida em usar a IA de fronteira em apoio à segurança nacional dos EUA”, disse o porta-voz.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

Rivais também receberam contratos

As rivais da startup, OpenAI, Google e xAI, também receberam contratos de até US$ 200 milhões do DoD no ano passado. Essas empresas concordaram em permitir que o DoD use seus modelos para todos os fins lícitos dentro dos sistemas não classificados das forças armadas, e uma empresa concordou em “todos os sistemas”, de acordo com um alto funcionário do DoD que pediu anonimato porque as negociações são confidenciais.

Leia também: Pentágono ameaça romper com Anthropic por restrições ao uso militar de inteligência artificial

Se a Anthropic não concordar com os termos de uso do DoD, a agência poderá rotular a empresa como um “risco à cadeia de suprimentos”, o que exigiria que seus fornecedores e contratados certificassem que não usam os modelos da Anthropic, disse a fonte.

A designação é tipicamente reservada para adversários estrangeiros, por isso seria um golpe complexo para a Anthropic. A empresa foi fundada por um grupo de ex-pesquisadores e executivos da OpenAI em 2021, e é mais conhecida por desenvolver uma família de modelos de IA chamada Claude.

A Anthropic anunciou no início deste mês que fechou uma rodada de financiamento de US$ 30 bilhões (R$ 157, 2 bilhões) com uma avaliação de US$ 380 bilhões (R$ 2 bilhões), mais que o dobro do seu valor na última captação em setembro.

Siga o Times Brasil - Licenciado Exclusivo CNBC no