Amodei, fundador da Anthropic, diz que China é maior obstáculo ao plano de desaceleração da inteligência artificial

A desaceleração da inteligência artificial proposta pelo executivo-chefe da Anthropic, Dario Amodei, enfrenta um obstáculo que ele próprio chama de “dilema mais difícil”: o que acontece se a China não seguir o mesmo caminho. A informação é da CNBC, assinada pela jornalista Ashley Capoot.

Em entrevista neste domingo (13), Amodei afirmou que colocar um limite de velocidade no avanço da inteligência artificial exigiria cooperação internacional, algo que considera difícil de alcançar. Segundo ele, os incentivos para avançar mais rápido e obter vantagem militar são grandes demais para serem ignorados por rivais geopolíticos.

O executivo publicou um ensaio no sábado (12) pedindo que as empresas de inteligência artificial reduzam o ritmo de melhoria de seus modelos mais avançados. O texto veio na sequência de alertas de pesquisadores do setor sobre o potencial crescente da tecnologia de causar danos catastróficos.

Leia também: OpenAI descarta IPO neste ano, enquanto Altman, Musk e Amodei alertam que IA avança rápido demais

China é o maior obstáculo para desaceleração da IA

Um pesquisador da própria Anthropic, Jacob Coxon, anunciou a saída da empresa por considerar que a companhia e sua principal rival, a OpenAI, estão “apostando com nossas vidas”. O episódio ocorreu dias antes da publicação do ensaio de Amodei.

O momento é sensível para o setor. Empresas de inteligência artificial enfrentam reação pública contrária à expansão de data centers e pressão crescente por regulação em Washington. Anthropic e OpenAI também se preparam para possíveis aberturas de capital, ainda sem data oficial definida.

O executivo-chefe da OpenAI, Sam Altman, afirmou no sábado (12) que a empresa provavelmente não abrirá capital neste ano, citando preocupações com segurança. “Agora seria um momento pouco recomendável para abrir capital”, disse Altman, em entrevista à Fortune.

Plano de três etapas para pausar avanço da inteligência artificial

No ensaio, Amodei propôs um plano de três etapas para reduzir o ritmo de desenvolvimento da inteligência artificial sem “sacrificar vantagem comercial ou a liderança dos Estados Unidos” no setor.

Segundo Amodei, a Anthropic já se comprometeu unilateralmente com a primeira etapa, que concede a avaliadores externos acesso equivalente ao de funcionários da empresa para verificar práticas de segurança e reportar incidentes. A segunda etapa prevê coordenação entre empresas líderes de países democráticos para estabelecer padrões comuns de segurança, enquanto a terceira propõe articulação entre governos democráticos e autoritários.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

Indústria reage de forma dividida à proposta de desaceleração

A relação entre Altman e Amodei, que deixou a OpenAI para fundar a Anthropic, é conhecida por ser tensa. Ainda assim, Altman manifestou apoio ao ensaio em publicação na rede social X no sábado (12), dizendo concordar com a necessidade de “moderar o ritmo da fronteira tecnológica”.

Outros nomes da indústria também se manifestaram a favor da proposta. Demis Hassabis, presidente do Google DeepMind, escreveu que o ensaio de Amodei “aponta na direção certa”, embora os detalhes ainda precisem ser discutidos.

Elon Musk, executivo-chefe da Tesla e da SpaceX, também apoiou publicamente a iniciativa. “Dario está certo ao dizer que deveria haver alguma supervisão”, escreveu Musk em publicação no domingo (13). “Revisão por pares entre concorrentes de inteligência artificial é o caminho certo para começar isso.”

Musk foi crítico da Anthropic por anos, até que a SpaceX, que adquiriu sua startup de inteligência artificial xAI no início deste ano, fechou um contrato de computação em nuvem com a empresa em maio. Pelo acordo, a Anthropic pagará US$ 1,25 bilhão por mês à SpaceX até maio de 2029, segundo documentos apresentados a órgãos reguladores.

Alexandr Wang, chefe de inteligência artificial da Meta, ainda não comentou diretamente o ensaio de Amodei. Em publicação no sábado (12), ele disse que a unidade de pesquisa da empresa está ampliando rapidamente os esforços voltados ao alinhamento dos modelos à medida que se tornam mais avançados.

Saída de pesquisador aumenta pressão por segurança

David Sacks, crítico frequente da Anthropic e ex-czar de inteligência artificial e criptomoedas do governo do presidente Donald Trump, também comentou o ensaio no sábado (12). Ele escreveu que, se a OpenAI e a Anthropic realmente acreditam que seus modelos são perigosos o suficiente para justificar uma desaceleração, apoia a decisão das empresas de agir com responsabilidade.

Sacks acrescentou que as companhias precisam parar de esperar autorização de terceiros e reconhecer que suas motivações não são puramente altruístas. Segundo ele, ambas enfrentam exposição a processos por responsabilidade sobre produtos, caso suas tecnologias venham a facilitar ataques cibernéticos de grande escala, o que tornaria a desaceleração vantajosa também do ponto de vista comercial.

“Então vão em frente e moderem o ritmo da fronteira tecnológica”, escreveu Sacks. “Vocês são quem está definindo esse ritmo. A forma mais simples de não construir uma superinteligência é vocês concordarem em não construí-la.”

Siga o Times Brasil - Licenciado Exclusivo CNBC no