Anthropic diz que empresas de IA não podem operar com ‘código de honra’

Sarah Heck, chefe de políticas públicas da Anthropic, afirmou que não acredita que empresas de inteligência artificial possam lidar com questões de supervisão e segurança seguindo apenas um “código de honra”.

“Queremos trabalhar com o governo para descobrir o que faz sentido”, afirmou Heck nesta quarta-feira (16), durante o Politico Decoded Summit, em Washington. “Não podemos corrigir nossa própria lição de casa, e isso está muito claro.”

Debate sobre ritmo da IA divide setor

Os comentários de Heck ocorrem poucos dias depois de o CEO da Anthropic, Dario Amodei, agitar o setor de tecnologia ao defender uma desaceleração deliberada no ritmo de desenvolvimento dos modelos. No sábado, Amodei propôs um plano de três etapas para moderar a velocidade de avanço das capacidades dos modelos sem “sacrificar a vantagem comercial ou a liderança dos Estados Unidos em IA”.

Leia também: Huang, da Nvidia, diverge dos CEOs da Anthropic e da OpenAI sobre segurança da IA ​​na Dreamforce

Executivos do setor, incluindo o CEO da OpenAI, Sam Altman, o CEO da SpaceX, Elon Musk, e o presidente do Google DeepMind, Demis Hassabis, manifestaram rapidamente apoio à proposta de Amodei, apresentada depois de pesquisadores da indústria alertarem, na semana passada, para o potencial da IA de provocar danos catastróficos.

“Dario está certo”, escreveu Musk em uma publicação no X no sábado.

Outros líderes de tecnologia, entre eles o CEO da Nvidia, Jensen Huang, e o CEO da Meta, Mark Zuckerberg, não estão tão convencidos de que o desenvolvimento precise ser desacelerado intencionalmente.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

Durante uma palestra na conferência anual Dreamforce, da Salesforce, na terça-feira (15), Huang afirmou que o setor não precisa de novas leis ou regulamentações. Ele acrescentou que velocidade e segurança não são incompatíveis, embora as empresas devam controlar o ritmo até terem certeza de que estão lançando produtos prontos para chegar ao mercado.

Leia também: OpenAI, Anthropic e Google negociam criação de organização voltada à segurança para IA

Zuckerberg fez comentários semelhantes aos de Huang na terça-feira e afirmou que a Meta adiou por “vários meses” o lançamento do Muse, seu agente pessoal de IA, para se concentrar em segurança e proteção.

“Não pedimos que todos os outros fizessem isso antes de nós”, escreveu Zuckerberg em uma publicação no X. “Simplesmente fizemos isso como parte do nosso trabalho cotidiano porque era claramente a coisa certa para as pessoas e para nós.”

Anthropic mantém diálogo diário com Casa Branca

Heck afirmou nesta quarta-feira que a Anthropic conversa com a Casa Branca “diariamente” e que a empresa vem trabalhando com o Congresso “durante todo o ano”. Segundo ela, a companhia está fazendo um esforço para levantar desde já “as questões difíceis”.

Leia também: Anthropic, OpenAI e Google discutem criação de órgão independente para regular segurança dos sistemas

“Se não começarmos a pensar agora em algumas dessas questões difíceis – seja como lidamos com a China, como fazemos a regulamentação da IA ou como continuamos avançando nossas próprias salvaguardas –, se não fizermos isso agora, talvez seja tarde demais”, afirmou Heck.

Siga o Times Brasil - Licenciado Exclusivo CNBC no