Open AI: Altman enfrenta questionamentos nos EUA sobre uso da IA em operações militares

O CEO da OpenAI, Sam Altman, se reuniu com um grupo de parlamentares em Washington, D.C., em um encontro no qual o senador Mark Kelly, democrata do Arizona, afirmou ter levantado “questões sérias” sobre a abordagem da empresa em relação à guerra e ao recente acordo firmado com o Departamento de Defesa dos Estados Unidos.

Em entrevista à CNBC, Kelly disse que o grupo discutiu “em detalhes” temas como vigilância e o uso de sistemas de inteligência artificial dentro de uma “kill chain” – cadeia de operações militares que identifica e elimina alvos. Segundo o senador, a conversa foi “produtiva”.

“Precisamos ter limites claros, e devemos sempre considerar a Constituição dos Estados Unidos, garantindo que tudo esteja em conformidade com ela”, afirmou Kelly.

Leia também: OpenAI faz primeira ação de marketing no Brasil e lança ChatGPT como guia oficial do Lollapalooza

A OpenAI firmou um acordo com o Departamento de Defesa (DoD) no fim de fevereiro, apenas algumas horas depois de a empresa rival Anthropic ter sido colocada na lista de risco à segurança nacional pelo secretário de Defesa Pete Hegseth, que classificou a companhia como “risco à cadeia de suprimentos para a segurança nacional”.

A Anthropic vinha tentando renegociar seu contrato com o Pentágono, mas as negociações fracassaram por divergências sobre como a tecnologia poderia ser utilizada.

Segundo o impasse, o Departamento de Defesa queria acesso irrestrito aos modelos de IA da empresa para todos os usos legais, enquanto a Anthropic buscava garantias de que seus sistemas não seriam utilizados em armas totalmente autônomas ou em vigilância doméstica em massa.

Leia também: OpenAI vai adquirir startup de cibersegurança Promptfoo para reforçar a proteção de agentes de IA

Em uma publicação na rede X, no dia em que o acordo fracassou, Altman afirmou que a proibição de vigilância doméstica em massa e a exigência de responsabilidade humana no uso da força – inclusive em sistemas de armas autônomas – estão entre os “princípios de segurança mais importantes” da OpenAI. Segundo ele, o Departamento de Defesa concordou com essas condições e as incluiu no acordo firmado com a empresa.

A OpenAI também divulgou um trecho do contrato com o Pentágono, que afirma que o governo pode usar o sistema de IA “para todos os propósitos legais”.

A empresa declarou estar confiante de que o Departamento de Defesa não poderá usar seus sistemas para vigilância em massa ou armas totalmente autônomas, citando mecanismos de segurança da plataforma, a linguagem contratual e as leis existentes.

Leia também: Supervisora de robótica da OpenAI pede demissão por discordar de uso militar da IA

“Achamos muito importante apoiar o governo dos Estados Unidos e o processo democrático”, disse Altman à CNBC. Ele acrescentou que, embora discorde da decisão do Pentágono de classificar a Anthropic como risco de segurança, considera que o governo precisa ter autoridade para decidir como os temas mais críticos do país devem funcionar.

O conflito entre Anthropic e o Departamento de Defesa surpreendeu autoridades e especialistas em tecnologia em Washington, já que muitos viam os modelos da empresa como superiores e os primeiros a serem implantados em redes classificadas do governo americano.

Além disso, a Anthropic vinha sendo elogiada por sua capacidade de integrar seus sistemas a grandes contratadas de defesa, como a Palantir.

Kelly afirmou que o Congresso precisa participar ativamente da definição de regras para o uso militar da inteligência artificial.

“Precisamos de legislação que estabeleça limites e salvaguardas”, disse o senador. “Este é o Congresso dos Estados Unidos – as coisas não avançam tão rápido quanto gostaríamos, mas essa tecnologia está evoluindo muito rapidamente.”

Cauê Rigamonti

Siga o Times Brasil - Licenciado Exclusivo CNBC no