Pesquisador da Anthropic alerta que sistemas avançados de IA podem representar risco de extinção da humanidade ainda nesta década.
A principal preocupação não está nos modelos atuais, mas em uma possível superinteligência capaz de se aprimorar de forma contínua e acelerada.
A corrida entre empresas de IA pode reduzir o espaço para decisões mais cautelosas, segundo pesquisadores que criticam a pressão competitiva do setor.
Foto: Canva
Gigantes de tecnologia dos EUA assinaram um código de boas práticas na Casa Branca, com o objetivo de gerenciar os riscos associados à IA.
Pesquisadores ligados à Anthropic, responsável pelo Claude, vêm expressando preocupação com a velocidade do avanço da inteligência artificial e com a possibilidade de os mecanismos de segurança não acompanharem a evolução dos modelos. As críticas colocam em debate tanto os riscos de sistemas mais capazes quanto a competição entre as empresas do setor.
Evan Hubinger, que lidera na Anthropic uma equipe dedicada a testar sistemas de IA em situações adversas, afirmou publicamente considerar plausível um cenário em que a tecnologia cause danos graves à humanidade. A manifestação ocorreu após declarações de Jacob Coxon, ex-pesquisador da companhia, que deixou a empresa em meio a preocupações semelhantes.
Hubinger disse acreditar que sistemas de IA extremamente avançados podem representar um risco relevante ainda nesta década. Segundo ele, o setor também não dispõe, hoje, de uma solução consolidada para garantir que modelos muito mais capazes permaneçam sob controle humano.
“Realmente acreditamos, com sinceridade, que a IA poderia matar todos os humanos”, escreveu o pesquisador em uma publicação na rede X. Ele ponderou, porém, que considera baixo o risco associado aos modelos atualmente disponíveis.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
A avaliação de Hubinger diferencia as ferramentas existentes de uma possível geração futura de inteligência artificial. Para ele, a principal preocupação está no surgimento de sistemas capazes de melhorar o próprio desempenho de maneira recorrente, avançando mais rapidamente do que os mecanismos criados para supervisioná-los.
O pesquisador afirmou que o risco atual é reduzido, mas apontou como motivo de preocupação a possibilidade de uma “superinteligência surgindo de um autoaperfeiçoamento recursivo”. A hipótese envolve sistemas que conseguiriam contribuir para o desenvolvimento de versões cada vez mais sofisticadas de si mesmos.
Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.
Hubinger trabalha justamente na avaliação de comportamentos inesperados em modelos de IA. Sua equipe realiza testes voltados a identificar falhas que possam não aparecer em condições convencionais de uso. Antes da Anthropic, ele atuou no Machine Intelligence Research Institute e passou por OpenAI, Google e Yelp.
Saída de pesquisador expõe divergências
As declarações ganharam repercussão após Jacob Coxon, ex-integrante da Anthropic e da OpenAI, anunciar sua saída da companhia. Segundo o relato apresentado no documento, Coxon avaliou que permanecer trabalhando diretamente no desenvolvimento de sistemas avançados poderia contribuir para uma trajetória que considera insegura.
O pesquisador também questionou a dinâmica competitiva entre os principais laboratórios de inteligência artificial. Na avaliação dele, empresas podem acabar reduzindo a margem destinada à segurança quando acreditam que concorrentes avançarão independentemente de suas decisões.
Essa lógica, segundo Coxon, cria um incentivo para que diferentes companhias mantenham o ritmo de desenvolvimento mesmo diante de dúvidas sobre os riscos envolvidos. Ele afirmou que laboratórios estariam “correndo direto para uma superinteligência autoaperfeiçoável”, segundo o material.
O debate levantado pelos pesquisadores vai além da capacidade dos próprios modelos. Uma das questões é se empresas concorrentes terão incentivos suficientes para desacelerar o desenvolvimento caso identifiquem ameaças que ainda não sabem controlar.
Coxon argumenta que uma companhia pode considerar arriscado interromper ou reduzir seus projetos se acreditar que outras organizações continuarão avançando. Nesse cenário, decisões individuais de cautela poderiam ter pouco efeito sobre a evolução geral da tecnologia.
📌 ONDE ASSISTIR AO MAIOR CANAL DE NEGÓCIOS DO MUNDO NO BRASIL:
🔷 Canal 562 ClaroTV+ | Canal 562 Sky | Canal 592 Vivo | Canal 187 Oi | Operadoras regionais
🔷 TV SINAL ABERTO: parabólicas canal 562
🔷 ONLINE: www.timesbrasil.com.br | YouTube
🔷 FAST Channels: Samsung TV Plus, LG Channels, TCL Channels, Pluto TV, Roku, Zapping | Novos Streamings
Siga o Times Brasil - Licenciado Exclusivo CNBC no
Lula vence eleição presidencial histórica no Brasil; Bolsonaro se recusa a reconhecer a derrota 
