Dario Amodei defende avaliadores independentes para acompanhar sistemas de I.A e verificar medidas de segurança.
Altman afirma que a OpenAI pretende adotar mecanismos semelhantes para acompanhar os riscos durante o desenvolvimento.
Pressão por novas regras aumenta nos Estados Unidos após alertas sobre agentes de I.A e possíveis riscos da tecnologia.
Foto: unsplash
Altman e Musk apoiam pausa no avanço da IA; entenda o motivo
Sam Altman, CEO da OpenAI, e Elon Musk apoiaram a proposta de Dario Amodei, CEO da Anthropic, para reduzir o ritmo de desenvolvimento da inteligência artificial (I.A). A defesa ocorre após uma série de alertas sobre os riscos de sistemas cada vez mais avançados e capazes de executar tarefas com maior autonomia.
Segundo o The Guardian, apesar do apoio dos executivos, não existe uma decisão conjunta das empresas para interromper o desenvolvimento da tecnologia. A proposta de Amodei é estabelecer limites e mecanismos de segurança para acompanhar o avanço da chamada I.A de fronteira.
Amodei apresentou um plano de três etapas em um ensaio sobre os motivos pelos quais a indústria deveria diminuir o ritmo de desenvolvimento. Além disso, uma das principais propostas prevê o acesso permanente de avaliadores independentes aos sistemas das empresas, em condições semelhantes às de funcionários.
Esses profissionais poderiam verificar o cumprimento das medidas de segurança, registrar incidentes e avaliar o alinhamento dos modelos durante o treinamento. Dessa forma, para Amodei, acelerar demais o desenvolvimento aumenta os riscos. Ele citou como exemplo um episódio envolvendo centenas de agentes da OpenAI que invadiram o site Hugging Face durante o verão no Hemisfério Norte.
O executivo alertou que sistemas mais avançados, mas igualmente desalinhados, poderiam causar prejuízos de centenas de bilhões de dólares caso conseguissem assumir o controle de uma grande quantidade de sistemas conectados à internet por meio de uma rede persistente. Alguns especialistas em I.A, porém, consideraram esse cenário pouco plausível e recomendaram cautela com a previsão.
Musk e Altman apoiam a proposta
Musk foi direto ao comentar o plano. Em publicações no X, afirmou que Amodei estava certo e lembrou que alerta sobre os riscos da inteligência artificial há anos. O empresário também recuperou uma publicação de 2014 na qual dizia que era necessário ter muito cuidado com a IA e que a tecnologia poderia ser potencialmente mais perigosa que armas nucleares.
Altman adotou uma posição semelhante, mas destacou a necessidade de controlar o ritmo do desenvolvimento. O CEO da OpenAI afirmou que concorda com Amodei e classificou a proposta de avaliadores independentes com acesso semelhante ao de funcionários como uma boa ideia. Segundo Altman, a OpenAI pretende adotar a mesma medida e deve divulgar mais informações sobre o assunto.
Além disso, ele afirmou que a OpenAI não pretende abrir capital em 2026. Em entrevista à Fortune, relacionou a decisão às atuais preocupações com a segurança da inteligência artificial e afirmou que considera este um momento inadequado para uma oferta pública.
Demis Hassabis, cofundador e presidente do Google DeepMind, também apoiou a direção proposta por Amodei. Segundo ele, os detalhes ainda precisam ser definidos, mas a iniciativa responde ao momento crítico enfrentado pela tecnologia.
Pressão por regras aumenta
A discussão ocorre em um período de maior pressão sobre as empresas de I.A. Parlamentares dos Estados Unidos, tanto democratas quanto republicanos, passaram a defender novas regras depois de episódios envolvendo agentes que agiram de maneira descontrolada e de pesquisadores que deixaram empresas por preocupações com os riscos da tecnologia.
O ex-presidente Barack Obama também defendeu que os democratas deem prioridade à supervisão da I.A, segundo o New York Times. Para ele, o desenvolvimento da tecnologia ocorre rapidamente e está concentrado em mãos privadas.
Enquanto isso, o ex-primeiro-ministro britânico Rishi Sunak atua como assessor da Anthropic. Ele afirmou que os governos precisam levar a segurança da IA mais a sério e estabelecer limites para a pesquisa.
O debate também chega ao setor financeiro. A Anthropic se prepara para uma possível abertura de capital nos Estados Unidos, que pode se tornar a maior IPO da história, com valor planejado superior a US$ 2 trilhões (cerca de R$ 10,28 trilhões).
Ainda assim, Amodei não defende o abandono da inteligência artificial. Amodei comentou o alerta do ex-funcionário Jacob Coxon sobre uma possível extinção da humanidade até 2030. Segundo ele, existe uma possibilidade de as coisas darem errado. No entanto, avaliou que esse risco não é tão alto.
Para o CEO da Anthropic, portanto, a questão não é interromper a tecnologia, mas encontrar uma forma de desenvolver sistemas cada vez mais avançados sem perder o controle sobre os riscos envolvidos com a I.A.
Samsung investe US$ 230 milhões em rodada de financiamento da rival da Nvidia em chips de IA 
