A OpenAI lançou nesta terça-feira (18) uma nova versão de seu principal chatbot, o ChatGPT, desenvolvida exclusivamente para adolescentes.
O chatbot tem mecanismos de proteção e monitoramento mais rígidos.
A empresa de tecnologia vinha enfrentando críticas e reclamações judiciais de que a ferramenta teria levado alguns usuários ao suicídio.
Foto: Unsplash
A OpenAI lançou nesta terça-feira (18) uma nova versão de seu principal chatbot, o ChatGPT, desenvolvida exclusivamente para adolescentes.
A OpenAI lançou nesta terça-feira (18) uma nova versão de seu principal chatbot, o ChatGPT, desenvolvida exclusivamente para adolescentes, com mecanismos de proteção e monitoramento mais rígidos, após enfrentar críticas e reclamações judiciais de que a ferramenta teria levado alguns usuários ao suicídio.
Batizada de “ChatGPT para Adolescentes”, a versão com parâmetros modificados é ativada automaticamente para usuários que se registrarem como tendo entre 13 e 17 anos ou que forem identificados pela empresa como menores de idade a partir de padrões de uso ou da idade da conta.
A maior parte das proteções utilizadas no modelo para adolescentes já existia nas contas do ChatGPT pertencentes a menores, incluindo restrições para conteúdos relacionados a automutilação, violência, transtornos alimentares e sexualidade explícita.
O programa também oferece lembretes mais frequentes para fazer pausas, períodos de “horário silencioso” com bloqueio do serviço e o Modo de Estudo. Nesse recurso, o chatbot responde aos usuários com perguntas orientadoras em vez de fornecer respostas diretas, “para ajudar os adolescentes a compreender o conteúdo”, segundo a OpenAI.
Outras restrições do modelo para adolescentes incluem impedir que o chatbot sugira que tem sentimentos pessoais pelo usuário ou que possui consciência própria. Alguns recursos, como o modo de voz, também ficam desativados.
Os pais podem optar por vincular suas contas às contas dos filhos e receber alertas caso sejam identificadas discussões sobre determinadas situações de alto risco, como automutilação ou suicídio.
Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.
Os alertas enviados aos pais são analisados por moderadores humanos, e detalhes específicos dos registros de conversas são removidos para proteger a privacidade.
O novo modo para adolescentes chega em meio ao aumento da pressão legal e regulatória sobre a OpenAI.
A empresa enfrenta diversos processos por morte por negligência, incluindo uma ação movida pelos pais de Adam Raine, de 16 anos, um adolescente que morreu por suicídio e que, segundo a acusação, teria utilizado métodos sugeridos pelo ChatGPT.
A Comissão Federal de Comércio dos Estados Unidos (FTC) também abriu uma investigação sobre chatbots de inteligência artificial que atuam como companheiros digitais, com foco nos possíveis riscos para crianças e adolescentes.
Assim como as empresas de redes sociais, as gigantes de inteligência artificial enfrentam uma pressão regulatória crescente. O Congresso americano apresentou diversos projetos de lei para regulamentar chatbots, enquanto a Califórnia passou a exigir mecanismos de proteção para assistentes que atuam como companheiros ou confidentes.
Outras empresas de I.A também enfrentaram críticas relacionadas ao uso de seus produtos por menores. Algumas, como a concorrente Anthropic, optaram por restringir o uso de seus modelos a adultos.
Rendimentos dos títulos públicos globais atingem máximas de várias décadas enquanto governos pagam o preço pelo impasse entre EUA e Irã 
