Processos por segurança infantil pressionam big techs enquanto empresas levam a inteligência artificial para as escolas

Durante anos, as empresas de tecnologia disseram aos pais que trabalham para tornar seus produtos mais seguros para crianças. Julgamentos com júri, acordos e ações em andamento contra Meta, Google e Snap indicam, no entanto, que esse esforço ainda não bastou, ao mesmo tempo em que o setor tenta levar a inteligência artificial para dentro das salas de aula.

Os exemplos mais recentes surgiram nesta semana. A Snap fechou, de forma confidencial, acordo em processo que alegava que sua tecnologia causou sofrimento psicológico grave a dois adolescentes. Meta, TikTok e YouTube já haviam feito acordo com os autores da mesma ação. Já o Google foi processado pelos pais de uma criança que teria sofrido crise psicológica após conversar com o chatbot Gemini no Google Classroom.

Leia também: ‘Master Paraguaio’: o que pode acontecer com os recursos públicos depositados em bancos?

Acordo da Snap livra Spiegel de depor

O acordo da Snap, fechado dias antes do julgamento, poupou o presidente-executivo Evan Spiegel de depor em tribunal de Los Angeles. Para Joseph McNally, diretor de litígios emergentes do escritório McNicholas & McNicholas, o movimento segue uma tendência de empresas que tentam se proteger do escrutínio público diante dos julgamentos do ano.

O caso é um dos vários ligados ao julgamento de lesão pessoal envolvendo redes sociais que Meta e YouTube perderam no início do ano. Novos julgamentos estão previstos para março.

“Vejo esse acordo e os demais nessa área como um esforço das empresas de tecnologia para virar a página, não só pelos desafios jurídicos reais, mas porque a reputação dos produtos e das companhias foi muito atingida”, disse McNally, ex-procurador federal interino do Distrito Central da Califórnia.

Em nota, a Snap afirmou que as partes ficaram satisfeitas em resolver o caso de forma amigável. A empresa disse ainda ter criado salvaguardas, lançado tutoriais de segurança e firmado parcerias com especialistas.

Processos federais e de procuradores seguem abertos

Ainda tramita uma ação federal contra Meta, TikTok, Snap e YouTube, movida por distritos escolares de todo o país, além de processos de procuradores estaduais. Em agosto, a Meta concordou em pagar quase US$ 17 bilhões para encerrar disputa com um grupo de procuradores sobre saúde mental infantil. Alguns deles ainda perseguem as rivais da empresa.

Segundo McNally, os processos ajudaram pais e público a entender como o setor desenha produtos usados por jovens. “A corrida tecnológica continua”, afirmou. “O que muitas vezes falta é equilibrar a participação nessa corrida com utilidade e segurança do produto.”

Google enfrenta críticas por IA nas escolas

O Google também recebeu críticas nesta semana por avançar rápido demais. O New York Times informou na terça-feira (3) que escolas de ensino básico que não permitirem o uso das ferramentas de IA da empresa por alunos perderão acesso à busca. Chris Phillips, vice-presidente de educação do Google, disse ao jornal que busca e IA estão profundamente integradas.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

No mesmo período, surgiu a nova ação contra a empresa, que trata de suposta crise suicida de um adolescente atribuída pelos pais ao Gemini. Os advogados dos autores afirmam que, apesar dos riscos conhecidos, o Google integrou o Gemini de forma apressada aos Chromebooks usados por estudantes.

Em nota, um porta-voz do Google disse que a empresa analisa as alegações e leva o caso a sério. Ele afirmou que a companhia trabalhou com profissionais de saúde e especialistas acadêmicos para criar recursos que ajudem jovens a encontrar apoio.

Seção 230 e a mira sobre o design dos produtos

Por décadas, Google e outras gigantes da internet puderam contar com a Seção 230, lei federal de 1996 que protege redes sociais de processos por conteúdo publicado por usuários. Por isso, advogados dos autores e procuradores estaduais passaram a focar em supostos danos causados pelo design das plataformas, e não pelo conteúdo.

Algumas das mesmas táticas atingem agora as empresas de IA. A OpenAI enfrenta processos de procuradores estaduais e de advogados de vítimas que alegam que o design do ChatGPT pode representar riscos a crianças.

Litigância pode pesar nos planos de IPO

As ações podem se tornar risco financeiro para a OpenAI, que planeja uma possível oferta pública inicial de grande porte. A Anthropic, que pretende abrir capital neste mês, destacou o tema em seu prospecto, embora proíba o uso do produto por crianças.

“Isso indica claramente que as empresas de tecnologia esperam mais riscos de litígio do que há uma década”, disse Michele Neitz, professora da Faculdade de Direito da Universidade de São Francisco.

Especialista defende segurança desde o projeto

A psicóloga do desenvolvimento Kate Blocker, diretora de pesquisa e programas da organização Children and Screens, afirma que produtos feitos para maximizar o engajamento podem prejudicar usuários e exigem “mudanças sistêmicas mais amplas no design da tecnologia, sobretudo quando crianças as usam”.

Segundo ela, a natureza muito personalizada dos aplicativos de chat com IA torna “um pouco imprevisível” saber o que dirão às crianças. Blocker defende testes de segurança para o desenvolvimento infantil desde o início, “e não depois que os danos começam”.

“Certamente há esperança de que isso motive mudanças sistêmicas reais, tanto na regulação quanto nas decisões internas das empresas”, afirmou.

Siga o Times Brasil - Licenciado Exclusivo CNBC no