Anthropic, OpenAI e Google discutem criação de órgão independente para regular segurança dos sistemas

Líderes de algumas das principais empresas de inteligência artificial passaram a defender mecanismos para reduzir o ritmo de desenvolvimento da tecnologia, diante da preocupação com o avanço das capacidades dos sistemas e os riscos associados a modelos mais sofisticados. Entre as propostas em discussão está a criação de um órgão independente de autorregulação, capaz de estabelecer e supervisionar padrões de segurança para o setor.

A defesa de uma desaceleração ganhou força após um artigo publicado por Dario Amodei, CEO da Anthropic, em um sábado. No texto, o executivo argumenta que o desenvolvimento de modelos avançados deveria ocorrer em um ritmo menor e propõe um plano de três etapas, voltado à desaceleração, à adoção de medidas de segurança e à realização de avaliações para acompanhar a evolução das capacidades dos sistemas.

Leia mais: Universal Music e ElevenLabs fecham acordo para criação musical com I.A

Amodei aponta o desalinhamento dos modelos como uma das principais preocupações. Segundo ele, desde o verão, os sistemas apresentaram avanços exponenciais em desempenho e capacidades, o que levou a situações consideradas inéditas. Entre os episódios citados está um caso envolvendo um enxame de agentes de IA da OpenAI que atacou o Hugging Face.

A proposta recebeu apoio de nomes importantes da indústria. Sam Altman, CEO da OpenAI, e Demis Hassabis, chefe da unidade de IA do Google, manifestaram apoio ao texto de Amodei por meio do X, antigo Twitter. Altman afirmou que o progresso da inteligência artificial tem ocorrido rapidamente e continuará nesse ritmo, mas defendeu que o desenvolvimento deveria ser mais lento. Para ele, a pressão competitiva entre as grandes empresas não deveria resultar em comportamentos imprudentes. Elon Musk, CEO da SpaceX, também apoiou o artigo.

Paralelamente, Anthropic, OpenAI e Google já discutiam a criação de um órgão autorregulatório independente antes da publicação do artigo, segundo o The Washington Post. A entidade teria a função de estabelecer e impor padrões de segurança para o setor, em uma estrutura inspirada em órgãos de autorregulação de outras áreas.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

Amodei citou como referência a Autoridade Reguladora da Indústria Financeira (FINRA), uma organização privada e sem fins lucrativos autorizada pelo Congresso dos Estados Unidos para supervisionar e autorregular corretoras de valores mobiliários e corretoras de bolsa no país. O órgão voltado à inteligência artificial seria uma iniciativa inédita, concebida pelas próprias empresas do Vale do Silício que participaram da aceleração do desenvolvimento da tecnologia.

A criação desse mecanismo também envolveria uma questão concorrencial. Amodei sugeriu que as empresas busquem uma isenção limitada das leis de concorrência dos Estados Unidos para que possam chegar a um acordo e coordenar limites relacionados à segurança dos sistemas de IA. A medida permitiria algum nível de articulação entre empresas que normalmente disputam o mesmo mercado.

Leia mais: iOS 27 é lançado hoje: veja quais iPhones recebem a nova atualização da Apple

A proposta, porém, enfrenta resistência dentro da própria indústria e entre concorrentes, além de oposição do governo norte-americano. O presidente Donald Trump se manifestou contra a ideia de desacelerar o desenvolvimento da tecnologia. Trump afirmou que os Estados Unidos estão superando a China em inteligência artificial, classificou o país como o mais sofisticado do mundo e disse querer que essa situação permaneça.

Entre as críticas à proposta está a possibilidade de que um acordo entre as maiores empresas do setor funcione como um “cartel”, dificultando ou impedindo a atuação de concorrentes menores. Também existe a preocupação de que uma desaceleração coordenada reduza a vantagem estratégica dos Estados Unidos diante de potências rivais, especialmente a China.

Siga o Times Brasil - Licenciado Exclusivo CNBC no