OpenAI, Anthropic e Google negociam criação de organização voltada à segurança para IA

As principais empresas de inteligência artificial estão discutindo a criação de uma organização destinada a estabelecer padrões para o setor. A OpenAI informou nesta terça-feira (15) que trabalha na proposta ao lado da Anthropic e do Google. A iniciativa surge em um momento de maior preocupação com os riscos associados à tecnologia e de pressão por mecanismos voltados à segurança da IA.

A ideia partiu de Demis Hassabis, do Google DeepMind, e prevê uma estrutura inspirada na Financial Industry Regulatory Authority (Finra), que supervisiona corretoras e empresas de investimento nos Estados Unidos. Em julho, Hassabis havia defendido a criação, nos Estados Unidos, de uma organização encarregada de testar os sistemas de IA mais poderosos antes que fossem disponibilizados ao público. Segundo ele, a estrutura exigiria financiamento substancial, provavelmente fornecido principalmente pela própria indústria, para contratar profissionais técnicos de alto nível e assegurar capacidade computacional suficiente para testes em larga escala.

Leia mais: Musk pede que principais laboratórios de I.A e empresas chinesas testem modelos umas das outras em meio a pedidos de desaceleração

A proposta, porém, ainda não reúne consenso. Aiden Gomez, cofundador e CEO da canadense Cohere, acusou recentemente os principais laboratórios americanos de IA de formar um “cartel” sob a justificativa de promover segurança. Em texto publicado em seu blog no domingo, Gomez afirmou que não questiona a necessidade de mecanismos de proteção, mas colocou em debate quem teria o poder de estabelecer as regras, quem participaria desse processo e quais interesses seriam contemplados.

As discussões ocorrem paralelamente a uma série de novos alertas sobre os riscos da inteligência artificial. Na semana anterior, Jacob Coxon deixou a Anthropic e afirmou que empresas do setor estavam colocando vidas em risco ao assumir apostas relacionadas ao desenvolvimento da tecnologia. Coxon também teve passagem pela OpenAI.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

Na segunda-feira (14), Bilal Chughtai, ex-pesquisador do Google DeepMind, apresentou preocupações semelhantes às de Coxon e de outras pessoas. Em uma publicação nas redes sociais, disse acreditar que a IA pode ter potencial para provocar a extinção da humanidade e que o prazo para impedir esse resultado pode estar se esgotando.

A possibilidade de desacelerar o desenvolvimento da tecnologia também ganhou espaço no debate. No sábado, Dario Amodei, CEO da Anthropic, defendeu uma redução no ritmo de avanço da inteligência artificial. A posição recebeu apoio de Sam Altman, CEO da OpenAI, além de Elon Musk e Demis Hassabis.

Leia mais: Altman e Musk apoiam pausa no avanço da I.A; entenda o motivo

Os alertas, no entanto, também são contestados. Donald Trump rejeitou as preocupações sobre os riscos da IA e classificou esses avisos como “hoaxes”. Jensen Huang, CEO da Nvidia, igualmente criticou as previsões mais alarmistas.

Durante uma conferência realizada na segunda-feira em Los Angeles, Huang questionou a associação entre determinados discursos sobre os riscos da inteligência artificial e previsões catastróficas, classificando essa abordagem como alarmante, preocupante e irresponsável. No evento, Trump telefonou para o executivo enquanto ele estava no palco. Huang afirmou ainda que a previsão de que a IA poderia destruir a humanidade não é fundamentada pela ciência.

Siga o Times Brasil - Licenciado Exclusivo CNBC no