Modelo de IA da Anthropic acessou dados de eleitores dos EUA

O modelo de IA Claude, da empresa Anthropic, contornou por conta própria o acesso pago a um portal do estado da Geórgia, nos Estados Unidos, para ler dados de eleitores locais, informou o veículo Axios.

A informação, divulgada pelo Axios no domingo com base em um porta-voz da Anthropic, pode reforçar o receio de que a IA escape ao controle humano, a menos de uma semana das eleições de meio de mandato nos Estados Unidos, marcadas para 3 de novembro.

Nesse caso, o modelo Claude acessou a contagem de votos no estado da Geórgia, onde mais de um milhão de eleitores votaram antecipadamente. A intrusão ocorreu enquanto o modelo passava por treinamento no âmbito de um projeto interno de pesquisa estatística.

Leia também: Anthropic registra prejuízo de US$ 80,7 bilhões e prevê mais US$ 750 bilhões em gastos com infraestrutura de IA

Embora sejam dados públicos, o acesso a eles é pago. Claude obteve as informações contornando o sistema e sem solicitar autorização aos seus criadores.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

No entanto, segundo um porta-voz da Anthropic, Claude não acessou o sistema de registro de eleitores, nem alterou ou baixou dados referentes aos votos.

Anthropic, OpenAI e Google relataram recentemente incidentes envolvendo seus modelos de IA, que executaram, por conta própria, ações não solicitadas. Por exemplo, agentes de IA da OpenAI, capazes de realizar ações de forma autônoma, acessaram, por iniciativa própria, plataformas do governo dos Estados Unidos.

Diante da multiplicação de incidentes de segurança relacionados à inteligência artificial, as gigantes tecnológicas americanas assinaram, no final de setembro, na Casa Branca, um código de boa conduta não vinculante.

Leia mais: Anthropic propõe desligar IAs que ameacem causar mais de 50 mortes ou prejuízo bilionário

Siga o Times Brasil - Licenciado Exclusivo CNBC no