Anthropic anuncia parceria com Accenture para avaliar modelos avançados de IA

A Anthropic anunciou, nesta sexta-feira (18), uma parceria com a Accenture para ampliar a participação de avaliadores externos na análise de seus modelos mais avançados de inteligência artificial. O trabalho será conduzido pela Faculty, unidade especializada em IA da consultoria, e incluirá avaliações dos sistemas e atividades de “red-teaming”, nas quais são buscados deliberadamente comportamentos inadequados ou falhas para identificar possíveis vulnerabilidades.

A iniciativa está ligada a um compromisso assumido pelo CEO da Anthropic, Dario Amodei, de permitir que observadores independentes avaliem os modelos mais poderosos desenvolvidos pela empresa. Amodei apresentou esse compromisso em um ensaio publicado em 12 de setembro, no qual também defendeu que as empresas de inteligência artificial reduzam o ritmo de avanço das capacidades de seus modelos.

Pelos termos anunciados, Anthropic e Accenture esperam investir pelo menos US$ 1 bilhão cada na iniciativa ao longo dos próximos cinco anos. A Anthropic informou que, diante da importância e da urgência atribuídas ao trabalho, financiará diretamente a atuação da Accenture neste momento. Segundo a empresa, no longo prazo, os recursos deveriam vir de fontes conjuntas, descritas como “pooled”, ou de governos.

A proposta ocorre em meio a movimentos semelhantes de outras empresas do setor. Sam Altman, CEO da OpenAI, afirmou que a companhia também permitiria acesso semelhante a avaliadores externos. Satya Nadella, CEO da Microsoft, manifestou apoio à presença de avaliadores incorporados às empresas, mas afirmou que esse tipo de supervisão não deveria ficar sob o controle de um pequeno número de entidades.

A Anthropic também informou estar em conversas com a Model Evaluation and Threat Research (METR), organização sem fins lucrativos sediada na Califórnia. Uma das possibilidades discutidas é a participação da entidade em partes do processo de avaliação incorporada, com a utilização de recursos financeiros próprios.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

A independência do METR, porém, é alvo de questionamentos. David Sacks, ex-assessor de IA da Casa Branca, e outros críticos levantaram dúvidas sobre a autonomia da organização em razão de vínculos apontados com investidores e funcionários da Anthropic. O METR, por sua vez, afirma que não recebe financiamento de empresas de inteligência artificial nem de seus executivos.

As discussões sobre a independência dos avaliadores também ganharam força na sexta-feira, quando mais de 100 pesquisadores de inteligência artificial assinaram uma carta pública sobre o tema. Entre os signatários está Geoffrey Hinton, descrito no material como um dos “padrinhos” da inteligência artificial.

O documento defende que avaliadores incorporados às empresas de IA sejam “significativamente independentes”. Entre os requisitos mínimos estabelecidos na carta estão a não propriedade ou governança por empresas de IA de fronteira, a ausência de outros negócios comerciais significativos com essas companhias e a não concessão de pagamentos ou outras recompensas condicionadas às conclusões dos avaliadores.

Segundo os pesquisadores, esses critérios são condições mínimas para que a independência das organizações responsáveis pelas avaliações seja considerada significativa.

Siga o Times Brasil - Licenciado Exclusivo CNBC no