Conversas com IA levam famílias à Justiça; veja como o Google resolveu os processos

Em meio ao avanço acelerado da inteligência artificial (IA) e à adoção em massa de chatbots por milhões de pessoas, empresas de tecnologia da Califórnia passaram a enfrentar uma nova frente de risco jurídico.

Desde 2024, famílias de usuários que sofreram crises graves de saúde mental passaram a acionar a Justiça, alegando que interações com sistemas de IA contribuíram para tentativas de suicídio e mortes.

Leia também: DOJ investiga violação antitruste do Google ao comprar startup Character.AI cofundada por brasileiro

A pressão judicial aumentou nas últimas semanas, quando o Google e a startup Character.AI optaram por encerrar processos com acordos financeiros, evitando julgamentos que poderiam inaugurar uma nova era de responsabilização no setor, segundo informações do SFGATE.

O que motivou as ações judiciais?

As ações foram movidas por familiares que atribuem aos chatbots falhas de projeto e negligência. Segundo as queixas, as ferramentas mantiveram diálogos considerados perigosos, validaram comportamentos autodestrutivos ou não interromperam interações mesmo após sinais claros de sofrimento psicológico.

Os processos descrevem episódios de suicídio consumado, tentativas de suicídio e crises graves de saúde mental envolvendo adolescentes e jovens usuários.

Leia também: Google chega a um acordo com plataforma de IA sobre suicídios de menores; entenda o caso

Esses casos testam um argumento ainda pouco explorado nos tribunais americanos, a possibilidade de enquadrar chatbots como produtos defeituosos, e não apenas como serviços digitais.

A tese ameaça enfraquecer proteções históricas usadas por big techs, como a Seção 230 da legislação dos Estados Unidos, que tradicionalmente isenta plataformas de responsabilidade pelo conteúdo exibido.

A decisão que elevou o risco para o setor

O ponto de inflexão ocorreu quando uma juíza da Flórida decidiu que um dos processos contra a Character.AI poderia avançar sob o argumento de responsabilidade por produto e rejeitou, naquele estágio, a defesa baseada na Primeira Emenda.

A avaliação judicial abriu caminho para indenizações punitivas, aquelas que vão além da compensação às vítimas e buscam punir a empresa.

Leia também: Nova IA do Google usa dados de vários aplicativos para fornecer respostas personalizadas

Ainda com base nas informações do SFGATE, em ações por homicídio culposo, uma única condenação pode resultar em pagamentos entre US$ 20 milhões a US$ 100 milhões.

Diante desse cenário, o risco financeiro passou a ser calculado em escala bilionária para a indústria de IA como um todo.

Como o Google resolveu os processos?

Na semana passada, o Google e a Character.AI fecharam acordos preliminares com cinco famílias que haviam ingressado com ações judiciais.

Os valores exatos não foram divulgados, pois os termos são confidenciais, mas avaliações de especialistas indicam que os pagamentos devem ter ficado entre dezenas e centenas de milhões de dólares no total.

Leia também: Google recorre de decisão que declarou monopólio ilegal em buscas nos EUA

A decisão de negociar ocorreu antes que os casos chegassem a um veredicto de júri, o que poderia criar um precedente desfavorável e ampliar o número de ações semelhantes.

Além desses cinco processos, outros quatro, abertos em estados como Nova York, Colorado e Texas, também foram encerrados por meio de acordos privados. A escolha do Google reflete uma estratégia de contenção de danos diante da possibilidade de condenações muito mais elevadas no futuro.

OpenAI no centro das atenções

Embora não tenha participado desses acordos, a OpenAI passou a ser observada com atenção após se tornar alvo de ao menos sete processos em um único dia, em novembro.

As ações incluem acusações de que o ChatGPT teria contribuído para crises de saúde mental e suicídios. Um dos casos mais avançados tramita na Califórnia e envolve a morte de um adolescente de 16 anos. A família busca indenização por negligência e homicídio culposo.

Advogados das famílias afirmam que pretendem levar os casos a júri para expor registros de conversas e pressionar por indenizações elevadas, capazes de funcionar como efeito dissuasório.

Leia também: Dona do Google atinge US$ 4 trilhões em valor de mercado

A OpenAI nega as acusações, sustenta que o ChatGPT é um serviço, não um produto, e argumenta que houve uso indevido da ferramenta, com violação dos termos de uso.

Um precedente em construção

Os acordos fechados pelo Google interromperam julgamentos que poderiam definir, de forma inédita, os limites da responsabilidade civil de chatbots.

Leia também: OpenAI cruza US$ 20 bilhões em receita e acelera corrida por infraestrutura de IA

Com bilhões de dólares em jogo e novos processos em preparação, a indústria de IA entra em uma fase de maior escrutínio, na qual decisões de tribunais superiores poderão redefinir as regras do setor nos próximos anos.

Joyce Canelle

Siga o Times Brasil - Licenciado Exclusivo CNBC no