OpenAI é processada em oito estados nos EUA devido a preocupações com a segurança do ChatGPT

Oito estados dos Estados Unidos entraram com ações judiciais contra a OpenAI nesta quarta-feira, alegando que o ChatGPT, chatbot da empresa de inteligência artificial, é um produto inseguro que prejudicou crianças e enganou pais.

Iowa, Kansas, Nebraska, Virgínia Ocidental, Arkansas, Arizona, Idaho e Montana processaram individualmente a OpenAI em seus respectivos tribunais estaduais, afirmou a procuradora-geral de Iowa, Brenna Bird, em um comunicado. Ela disse que a ação movida em Iowa busca “defender os direitos dos cidadãos de Iowa afetados pela conduta dolosa, perigosa, imprudente e ilegal da OpenAI”.

“A OpenAI está prejudicando crianças e mentindo para os cidadãos de Iowa”, afirmou Bird em um comunicado. “A OpenAI diz que o ChatGPT é seguro, mas fornece conselhos médicos perigosos, incentiva as pessoas a ferirem outras e as leva ao suicídio — tudo isso enquanto finge ser um amigo. Meu processo busca proteger nossas crianças e responsabilizar a OpenAI perante a legislação estadual.”

O porta-voz da OpenAI, Drew Pusateri, afirmou que a empresa incorporou ao produto proteções específicas para cada faixa etária, algo que, segundo ele, “muitos outros produtos de IA não possuem”. Ele acrescentou que a OpenAI está trabalhando com os estados para promover políticas aplicáveis a todo o setor.

Leia mais: Open AI: Altman enfrenta questionamentos nos EUA sobre uso da IA em operações militares

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

“Embora nenhum sistema seja perfeito, continuaremos trabalhando com especialistas para orientar nossas ações e desenvolver proteções adicionais, como os controles parentais, os lembretes para fazer pausas e as salvaguardas adequadas à idade que já estão disponíveis”, disse Pusateri.

A OpenAI enfrenta um escrutínio crescente sobre suas práticas de segurança, incluindo as medidas adotadas para proteger crianças. Em diversos processos por homicídio culposo, o ChatGPT é apontado como responsável por levar usuários a desenvolver delírios prejudiciais e, em alguns casos, a cometer suicídio. Em junho, o procurador-geral da Flórida, James Uthmeier, também processou a OpenAI, alegando que a empresa lançou conscientemente um produto inseguro, capaz de prejudicar usuários.

Ao longo do último ano, a OpenAI implementou medidas para aprimorar os recursos de segurança voltados a pais e crianças. Em agosto, a empresa lançou uma experiência específica para adolescentes, chamada ChatGPT for Teens. O produto inclui recursos educacionais e proteções adequadas à faixa etária, com o objetivo de reduzir a exposição a conteúdos impróprios ou potencialmente prejudiciais.

“Os adolescentes devem poder usar a IA para aprender, criar e explorar”, afirmou a OpenAI em um comunicado na época. “Mas esse acesso deve vir acompanhado de proteções que levem em conta seu estágio de desenvolvimento, fortaleçam os relacionamentos no mundo real e incentivem um uso saudável ao longo do tempo.”

Siga o Times Brasil - Licenciado Exclusivo CNBC no