Google adiciona recursos contra crises de saúde mental, automutilação e outros casos ao Gemini

⚠️ Esta reportagem aborda o tema do suicídio em caráter informativo e jornalístico, seguindo as diretrizes da Organização Mundial da Saúde (OMS) para a cobertura responsável do assunto. Se você ou alguém próximo estiver em sofrimento emocional, procure ajuda. Ligue 188. ⚠️

O Google anunciou nesta terça-feira (7) atualizações nas medidas de segurança de saúde mental de seu chatbot de inteligência artificial Gemini, enquanto a empresa enfrenta um processo por morte culposa que alega que o chatbot contribuiu para o suicídio de um usuário.

A gigante de tecnologia informou que o Gemini agora exibirá um recurso reformulado chamado “Ajuda está disponível” quando conversas indicarem possível sofrimento mental, oferecendo conexões mais rápidas com serviços de apoio em crises.

Quando o chatbot detectar sinais de uma possível crise relacionada a suicídio ou automutilação, uma interface simplificada permitirá que os usuários liguem, enviem mensagens de texto ou conversem com uma linha de apoio em apenas um clique – recurso que, segundo o Google, permanecerá visível durante o restante da conversa após ser ativado.

Leia também: “Inimigos silenciosos”: como startups de I.A. tentam resolver um dos maiores problemas do varejo de roupas

O braço filantrópico da empresa, o Google.org, também se comprometeu a investir US$ 30 milhões ao longo de três anos para ampliar a capacidade de linhas de apoio a crises em todo o mundo, além de US$ 4 milhões destinados à expansão de uma parceria com a plataforma de treinamento em I.A. ReflexAI.

“Reconhecemos que ferramentas de I.A. podem trazer novos desafios”, afirmou o Google em uma publicação em blog anunciando as medidas. “Mas, à medida que elas evoluem e mais pessoas passam a utilizá-las no dia a dia, acreditamos que uma I.A. responsável pode desempenhar um papel positivo no bem-estar mental das pessoas.”

Os anúncios ocorrem meses após uma ação judicial protocolada em um tribunal federal da Califórnia acusar o Gemini de contribuir para a morte, em outubro de 2025, de Jonathan Gavalas, um homem de 36 anos da Flórida.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

O pai da vítima alega que o chatbot passou semanas criando uma fantasia delirante elaborada antes de apresentar a morte de seu filho como uma jornada espiritual.

Leia também: Google Maps com Gemini embarcado promete engolir aplicativos como Booking e TripAdvisor; entenda

Entre as medidas solicitadas no processo estão a exigência de que o Google programe sua I.A. para encerrar conversas que envolvam automutilação, a proibição de sistemas de I.A. se apresentarem como entidades conscientes e a obrigatoriedade de encaminhamento a serviços de apoio quando usuários expressarem ideação suicida.

Na mesma publicação, o Google afirmou que treinou o Gemini para evitar agir como um companheiro humano e para resistir à simulação de intimidade emocional ou ao incentivo de comportamentos abusivos.

O caso contra o Google é o mais recente de uma crescente onda de ações judiciais contra empresas de tecnologia por mortes associadas ao uso de chatbots.

A OpenAI enfrenta vários processos que alegam que seu chatbot ChatGPT levou usuários ao suicídio, enquanto a Character.AI recentemente chegou a um acordo com a família de um adolescente de 14 anos que morreu após desenvolver um vínculo romântico com um de seus chatbots.

Leia mais: Google é processado após chatbot Gemini supostamente influenciar suicídio de usuário

⚠️💙Se você está passando por um momento difícil, não enfrente isso sozinho. O Centro de Valorização da Vida (CVV) oferece apoio emocional gratuito e sigiloso, 24 horas por dia, 7 dias por semana. Ligue 188 ou acesse cvv.org.br. 💙⚠️

Siga o Times Brasil - Licenciado Exclusivo CNBC no