Evan Hubinger afirma que há mais de 10% de chance de pessoas morrerem na próxima década devido aos riscos da I.A.
Jacob Coxon deixa a Anthropic e critica o avanço acelerado da inteligência artificial por Anthropic e OpenAI.
Cientista-chefe da OpenAI defende desaceleração até que empresas criem barreiras comuns de segurança para a tecnologia.
Foto: Divulgação
I.A tem mais de 10% de chance de exterminar humanos, diz pesquisador
A inteligência artificial (I.A) tem mais de 10% de chance de matar todos os humanos na próxima década, segundo uma avaliação pessoal de Evan Hubinger, líder de alinhamento da Anthropic.
A declaração ganhou repercussão após Jacob Coxon, pesquisador que já trabalhou na Anthropic e na OpenAI, anunciar sua saída da empresa e criticar o ritmo de desenvolvimento da tecnologia.
Coxon afirmou, em uma publicação no X, que deixou a Anthropic por temer que a empresa e sua principal concorrente estejam “jogando com nossas vidas”. Segundo ele, pessoas que trabalham no desenvolvimento de I.A acreditam que a tecnologia pode matar todos os humanos até o fim da década.
Dessa forma, a publicação ultrapassou 70 milhões de visualizações e reacendeu a discussão sobre os riscos de sistemas cada vez mais avançados, de acordo com a CNBC.
Pesquisador estima risco superior a 10%
Hubinger reforçou parte das preocupações de Coxon em uma publicação no X. Além disso, o pesquisador afirmou que a Anthropic realmente acredita que a inteligência artificial pode matar todos os humanos.
Além disso, Hubinger afirmou que há mais de 10% de chance de pessoas morrerem na próxima década. Para ele, esse risco está relacionado ao avanço da inteligência artificial.
Hubinger afirmou que a Anthropic está fazendo o possível para lidar com a questão. No entanto, reconheceu que a empresa ainda não tem um plano para resolver o alinhamento de uma eventual superinteligência. No desenvolvimento de I.A, alinhamento é o trabalho realizado para garantir que os sistemas sigam valores e intenções humanas.
Coxon, por sua vez, alertou que os próximos sistemas poderão superar as capacidades humanas. Segundo ele, essas tecnologias poderão hackear sistemas, transformar áreas inteiras rapidamente e adquirir poder e recursos no mundo real.
Outro ponto de preocupação envolve o chamado autoaperfeiçoamento recursivo, possibilidade de uma inteligência artificial projetar e desenvolver seu próprio sucessor sem intervenção humana.
Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.
Essa capacidade ainda não existe. Mesmo assim, Anthropic e OpenAI já alertaram sobre esse risco. Segundo as empresas, a situação poderia levar à perda de controle humano sobre sistemas avançados.
A preocupação com esse tipo de risco não surgiu agora. Em 2023, Sam Altman, CEO da OpenAI, Dario Amodei, CEO da Anthropic, e outros especialistas assinaram uma declaração que apontava a redução do risco de extinção causado pela IA como uma prioridade global, ao lado de ameaças como pandemias e guerra nuclear.
Alguns pesquisadores utilizam a expressão p(desastre) para estimar a probabilidade de resultados catastróficos relacionados à tecnologia.
Cientista-chefe da OpenAI também pede cautela com I.A
A discussão ganhou outro elemento no domingo, quando Jakub Pachocki, cientista-chefe da OpenAI, afirmou que nenhuma empresa de I.A conseguiu resolver o alinhamento e o monitoramento em um nível suficiente para continuar aumentando seus sistemas na velocidade máxima por muito mais tempo.
Pachocki defendeu desacelerações voluntárias até que o setor estabeleça barreiras de segurança comuns. Além disso, ele também pediu maior coordenação internacional entre governos sobre o desenvolvimento futuro da tecnologia.
Enquanto isso, parlamentares americanos discutem formas de regulamentar a I.A. Em julho, Jay Obernolte e Lori Trahan apresentaram o FRONTIER Act, que propõe uma estrutura para modelos avançados.
No início de setembro, Bernie Sanders e Greg Casar apresentaram o Ban Artificial Superintelligence Act, que prevê a suspensão temporária do desenvolvimento de I.A avançada até que o governo federal estabeleça regras de segurança. Apesar das propostas, ainda não existe consenso sobre como regulamentar o setor.
A estimativa de Hubinger é uma avaliação pessoal sobre um risco futuro. Ela não representa uma previsão consensual de que a I.A irá exterminar a humanidade. Ainda assim, a declaração mostra a preocupação de pesquisadores do setor. O principal receio envolve o avanço rápido dos sistemas e a falta de soluções definitivas para controlar uma eventual superinteligência.
Apple anuncia iPhone 18 Pro e Pro Max em novas cores e iPhone Duo 
