Amodei, da Anthropic, propõe plano para desacelerar avanço das capacidades da IA

O CEO da Anthropic, Dario Amodei, publicou neste sábado (12) um ensaio defendendo que as empresas de inteligência artificial controlem o ritmo com que aprimoram as capacidades de seus modelos, em um momento em que um número crescente de pesquisadores pede uma desaceleração coordenada.

Amodei propôs um plano de três etapas que, segundo ele, ajudará a moderar o ritmo de desenvolvimento sem “sacrificar a vantagem comercial ou a liderança dos Estados Unidos em IA”, embora tenha reconhecido que algumas medidas podem ser mais fáceis de alcançar do que outras. A Anthropic está se preparando ativamente para o que é amplamente esperado como um IPO histórico, embora a empresa não tenha divulgado oficialmente quando pretende estrear no mercado.

A Anthropic se comprometeu “unilateralmente” com a primeira etapa do plano, afirmou Amodei, que concede a avaliadores externos acesso equivalente ao de funcionários para verificar práticas de segurança e relatar incidentes. A segunda etapa incentiva as principais empresas de IA de países democráticos a se coordenarem e estabelecerem padrões comuns de segurança, enquanto a terceira prevê coordenação entre governos democráticos e governos autoritários.

Leia também: Claude foi usado por iranianos para mapear possíveis alvos militares dos EUA, diz Anthropic

“Para deixar claro, controlar o ritmo não significa interromper o treinamento dos modelos ou o progresso técnico, mas garantir que as empresas dediquem tempo adequado para alinhar e proteger seus modelos, e para que avaliadores externos confirmem isso”, escreveu Amodei.

Preocupações com as capacidades da IA

O ensaio de Amodei foi publicado depois que um pesquisador da Anthropic provocou uma grande repercussão nas redes sociais nesta semana ao anunciar que havia deixado seu emprego na empresa. Jacob Coxon, que também trabalhou como pesquisador na OpenAI, principal rival da Anthropic, afirmou que pediu demissão por temer que Anthropic e OpenAI estejam “apostando com nossas vidas”. Segundo ele, as pessoas que desenvolvem IA “acreditam sinceramente que ela poderia matar todos nós até o fim da década”.

Embora extremas, as preocupações sobre o potencial da IA para provocar a extinção humana ou outros eventos catastróficos não são novas nos círculos de pesquisa em inteligência artificial. Em 2023, por exemplo, importantes pesquisadores e executivos do setor, incluindo Amodei e o CEO da OpenAI, Sam Altman, assinaram uma declaração segundo a qual “mitigar o risco de extinção causado pela IA deve ser uma prioridade global, ao lado de outros riscos de escala social, como pandemias e guerra nuclear”.

Leia também: Trump descarta riscos de extinção da humanidade pela I.A enquanto funcionários da OpenAI e Anthropic pedem desaceleração

Amodei afirmou neste sábado que, embora a possibilidade de interromper ou desacelerar o desenvolvimento da IA tenha sido discutida desde 2023, fazer isso naquele momento fazia “pouco sentido”. Segundo ele, os modelos não eram poderosos o suficiente para agir no mundo real naquela época e também ainda não eram capazes de “engano significativo, manipulação, trapaça ou ataques cibernéticos”.

“Continuo acreditando que a IA pode melhorar enormemente a qualidade da vida humana. Meu desejo de alcançar esses benefícios permanece intacto”, escreveu Amodei. “Mas os benefícios só serão alcançados se construirmos a tecnologia da maneira correta e – desde que usemos bem o tempo que ganharmos – vale a pena tomar um cuidado extraordinariamente deliberado para fazer isso direito.”

Apoio a uma desaceleração voluntária

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

O ensaio de Amodei foi elogiado por diversos pesquisadores e executivos do setor neste sábado, incluindo Sam Altman. Em uma publicação no X, ele afirmou concordar com Amodei que a indústria precisa controlar o ritmo de desenvolvimento das capacidades avançadas de IA. Altman disse que o assunto tem sido um “tema central” das discussões na OpenAI nas últimas semanas.

Leia também: Claude invade sistema externo durante teste da Anthropic

“Assumir o compromisso de ter avaliadores independentes com acesso semelhante ao de funcionários é uma ótima ideia, e faremos o mesmo”, afirmou Altman. “Teremos mais a compartilhar em breve.”

No início deste mês, o cientista-chefe da OpenAI, Jakub Pachocki, publicou um texto em um blog e alertou que nenhuma empresa de IA “resolveu o alinhamento e o monitoramento em grau suficiente para continuar, de forma responsável, ampliando os modelos na velocidade máxima por muito mais tempo”. No setor de IA, alinhamento se refere ao trabalho realizado pelos desenvolvedores para garantir que o sistema se comporte de acordo com os valores e as intenções humanas.

Pachocki afirmou esperar e desejar que desacelerações voluntárias se tornem “comuns até que parâmetros de segurança compartilhados sejam estabelecidos”.

Elon Musk também manifestou apoio a uma desaceleração neste sábado, escrevendo em uma publicação no X que “Dario está certo”.

Leia também: Pesquisadores da OpenAI e Anthropic pedem desaceleração no avanço da I.A

Musk, cuja startup concorrente de IA, a xAI, foi adquirida por sua empresa de foguetes SpaceX no início deste ano, costumava ser um crítico ferrenho da Anthropic. Ele já afirmou anteriormente que a empresa “odeia a civilização ocidental” e está “condenada a se tornar o oposto de seu nome”, ou seja, misantrópica. Mas, desde que a Anthropic anunciou um grande acordo de capacidade computacional com a SpaceX em maio, Musk mudou amplamente seu tom.

“Todos que conheci eram altamente competentes e se importavam muito em fazer a coisa certa”, escreveu Musk na ocasião. “Ninguém acionou meu detector de maldade.”

Amodei escreveu neste sábado que acredita que a IA ainda pode “elevar dramaticamente a qualidade da vida humana”, mas que os riscos precisam ser levados a sério.

“Acredito que, se desacelerar nos desse até mesmo um ou dois anos adicionais antes que os modelos atinjam níveis críticos de capacidade, e usássemos esse tempo para avançar no alinhamento, poderíamos reduzir muito o risco de que algo dê seriamente errado”, afirmou.

Siga o Times Brasil - Licenciado Exclusivo CNBC no