Nvidia e Anthropic divergem sobre segurança da IA; Huang diz que optar entre velocidade e cautela é uma “falsa escolha”

O CEO da Anthropic, Dario Amodei, e o CEO da Nvidia, Jensen Huang, apresentaram visões diferentes sobre a segurança da inteligência artificial durante a conferência Dreamforce, da Salesforce, poucos dias depois de o tema ganhar grande repercussão pública.

Amodei foi o primeiro a subir ao palco, ao lado do CEO da Salesforce, Marc Benioff, durante a palestra anual do executivo. A participação aconteceu poucos dias depois de Amodei publicar um ensaio em que defendeu uma desaceleração no ritmo de desenvolvimento dos modelos de IA.

Leia mais: Sarah Friar, diretora financeira da OpenAI, enfatiza a necessidade de levar a segurança a sério em relação aos riscos da IA

“Acho que essa é a melhor maneira de fazer o setor avançar: dar o exemplo e mostrar que todos nós podemos sempre fazer melhor”, disse Amodei a Benioff na terça-feira, diante de cerca de 12 mil pessoas no Moscone Center, em São Francisco.

Executivos do setor, entre eles o CEO da OpenAI, Sam Altman; o CEO da SpaceX, Elon Musk; e o presidente do Google DeepMind, Demis Hassabis, rapidamente demonstraram apoio à proposta de Amodei. A iniciativa veio depois de pesquisadores da área alertarem, na semana passada, para o potencial de a IA provocar danos catastróficos.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

Amodei propôs um plano em três etapas para reduzir o ritmo de avanço das capacidades dos modelos, sem “sacrificar a vantagem comercial ou a liderança dos Estados Unidos em IA”.

Leia mais: OpenAI, Anthropic e Google negociam criação de organização voltada à segurança para IA

Huang, que subiu ao palco com Benioff pouco depois de Amodei, tem uma visão diferente. O CEO da empresa mais valiosa do mundo afirmou que as próprias forças do mercado já funcionam como um mecanismo de controle e que o setor não precisa de novas leis ou regulamentações.

Huang também disse que velocidade e segurança não são necessariamente incompatíveis. Segundo ele, as empresas devem, porém, controlar o ritmo de desenvolvimento até terem segurança de que aquilo que estão colocando no mercado será de fato valorizado pelos consumidores.

Siga o Times Brasil - Licenciado Exclusivo CNBC no