Huang, da Nvidia, diverge dos CEOs da Anthropic e da OpenAI sobre segurança da IA ​​na Dreamforce

O CEO da Anthropic, Dario Amodei, e o CEO da OpenAI, Sam Altman, apresentaram visões sobre a segurança da inteligência artificial que divergiram da posição do CEO da Nvidia, Jensen Huang, durante conversas na conferência Dreamforce, da Salesforce. O debate ganhou espaço no mainstream poucos dias antes do evento.

Amodei subiu ao palco primeiro, ao lado do CEO da Salesforce, Marc Benioff, durante a palestra anual da empresa. A participação ocorreu após um ensaio publicado por Amodei no fim de semana, no qual ele defendeu que o setor reduza o ritmo de desenvolvimento de modelos de IA.

“Eu acho que essa é a forma de conduzir o setor adiante, dando o exemplo e mostrando que todos podem sempre fazer melhor”, disse Amodei a Benioff na terça-feira, diante de cerca de 12 mil pessoas no Moscone Center, em San Francisco.

Executivos do setor, incluindo o CEO da OpenAI, Sam Altman, o CEO da SpaceX, Elon Musk, e o presidente do Google DeepMind, Demis Hassabis, rapidamente manifestaram apoio à proposta de Amodei. A iniciativa surgiu depois que pesquisadores do setor alertaram, na semana anterior, sobre o potencial da IA de causar danos catastróficos. Amodei propôs um plano de três etapas para moderar a velocidade de avanço das capacidades dos modelos sem “sacrificar a vantagem comercial ou a liderança dos Estados Unidos em IA”.

Huang, que participou do evento com Benioff logo depois de Amodei, apresentou uma perspectiva diferente. O CEO da empresa mais valiosa do mundo afirmou que as forças de mercado já funcionam como um mecanismo de controle e que o setor não precisa de novas leis ou regulamentações. Huang acrescentou que velocidade e segurança não são necessariamente incompatíveis, embora as empresas devam controlar o ritmo até terem certeza de que estão lançando produtos que serão bem recebidos pelo mercado.

“É uma falsa escolha”, disse Huang a Benioff. “É perfeitamente possível ter as duas coisas ao mesmo tempo.”

Huang afirmou que cabe às empresas responsáveis pelo desenvolvimento dos modelos agir de maneira responsável com seus produtos.

“Corram o mais rápido que puderem”, disse. “Mas, se em algum momento vocês sentirem que a empresa está fora de controle ou que o produto não será seguro, façam uma pausa e certifiquem-se de que tudo está correto.”

Um dia antes, Huang havia participado do All-In Summit, em Los Angeles, quando recebeu uma ligação do presidente Donald Trump. O presidente, pelo viva-voz, demonstrou preocupação com pessoas que estariam tentando impedir a construção de data centers de IA.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

“Não vamos deixar isso acontecer, senhor”, respondeu Huang a Trump.

A Dreamforce é um dos principais eventos da indústria de software há mais de uma década. A conferência atrai cerca de 50 mil pessoas para o centro de San Francisco e ocupa uma grande área da cidade onde a Salesforce está sediada. A palestra de Benioff costuma reunir diversos convidados de alto nível, frequentemente pessoas que estão no centro das principais discussões do universo tecnológico naquele momento.

Benioff mantém relações de longa data tanto com Huang quanto com Amodei.

Na terça-feira, Salesforce e Nvidia anunciaram um novo modelo de raciocínio para a plataforma Agentforce, da Salesforce. O modelo foi desenvolvido com base em um dos modelos de código aberto da Nvidia, o Nemotron. No fim do mês passado, Salesforce e Anthropic ampliaram sua parceria estratégica e apresentaram o “Claudeforce”, uma nova forma de permitir que profissionais de vendas acessem dados importantes diretamente pelo chatbot Claude, da Anthropic.

Sobre como as empresas de IA devem avançar, Benioff disse a jornalistas na terça-feira: “Se elas sentirem que deveriam desacelerar, então deveriam desacelerar. Se sentirem que deveriam acelerar, então deveriam acelerar. E depois deveriam ser responsabilizadas.”

A participação de Altman com Benioff aconteceu mais tarde naquele dia. Durante uma conversa entre os dois CEOs, Altman afirmou que é fundamental que segurança e monitoramento venham antes do avanço das capacidades dos modelos, considerando o poder das tecnologias que já existem.

“Há empresas dizendo coisas como: ‘Só seremos responsáveis se as outras empresas forem responsáveis’”, afirmou Altman. Segundo ele, as pessoas então perguntam o que a empresa fará para garantir que seja segura e responsável “independentemente do que aconteça”.

“Não deveria haver nenhuma condição para isso”, concluiu.

Siga o Times Brasil - Licenciado Exclusivo CNBC no