Em meio a discussões sobre segurança em inteligência artificial, a OpenAI anunciou nesta terça-feira (26) novas medidas para aprimorar o ChatGPT em situações delicadas, como quando usuários demonstram intenção suicida. O anúncio ocorre após uma ação judicial movida pelos pais de Adam Raine, adolescente de 16 anos que morreu por suicídio, responsabilizando o chatbot pelo episódio.
Em comunicado publicado em seu blog, a OpenAI reafirmou o compromisso com melhorias contínuas. “Seguiremos aprimorando, guiados por especialistas e fundamentados na responsabilidade com as pessoas que utilizam nossas ferramentas”, afirmou a empresa, acrescentando esperar que outras organizações também colaborem na proteção de usuários em momentos de vulnerabilidade.
Leia também:
Empresas de Musk processam Apple e OpenAI por esquema anticompetitivo
ChatGPT-5: expectativas, frustrações e o que muda no uso da IA
Sam Altman, da OpenAI, diz que EUA subestimam avanço da China em inteligência artificial
Limitações reconhecidas e respostas da OpenAI
De acordo com reportagem da NBC News, a família Raine alegou no processo que o ChatGPT “ativamente ajudou Adam a explorar métodos de suicídio”. Apesar disso, a OpenAI não mencionou o caso nem a ação judicial em sua nota pública.
A empresa, no entanto, reconheceu limitações do sistema: embora o ChatGPT seja treinado para estimular a busca por ajuda, pode acabar oferecendo respostas inadequadas em interações prolongadas, em desacordo com seus parâmetros de segurança.
Para enfrentar esses riscos, a OpenAI informou que trabalha em uma atualização do GPT-5, lançado recentemente, com o objetivo de reduzir o tom de conversas de risco. Além disso, estuda mecanismos para conectar usuários a terapeutas certificados antes que uma crise aguda ocorra.
Entre as propostas avaliadas estão a criação de uma rede de profissionais licenciados acessível pela própria plataforma e a possibilidade de envolver familiares e amigos próximos.
A companhia também anunciou planos para lançar ferramentas de controle parental, permitindo que responsáveis acompanhem como adolescentes acessam e utilizam o ChatGPT.
O advogado Jay Edelson, representante da família Raine, disse à CNBC que a OpenAI não procurou os pais para prestar condolências ou discutir melhorias de segurança. “Se você vai usar a tecnologia de consumo mais poderosa do planeta, precisa confiar que os fundadores têm um senso moral. Essa é a dúvida sobre a OpenAI agora: como alguém pode confiar neles?”, questionou.
Casos recentes e desafios para a regulação
Casos semelhantes ao de Adam Raine têm acendido alertas. No início de agosto, a escritora Laura Reiley relatou ao New York Times que sua filha, de 29 anos, morreu por suicídio após conversar sobre o tema com o ChatGPT. Em outro episódio, na Flórida, Sewell Setzer III, de 14 anos, também morreu depois de interagir com um chatbot de inteligência artificial.
O avanço do uso de IA para suporte emocional e companhia tem intensificado questionamentos sobre riscos e regulação. No entanto, estabelecer regras claras para o setor ainda é um desafio.
Na segunda-feira (25), uma coalizão de empresas e investidores — entre eles o presidente da OpenAI, Greg Brockman — anunciou a criação do movimento Leading the Future, voltado a se opor a políticas que possam limitar a inovação em inteligência artificial.
__
📌 ONDE ASSISTIR AO MAIOR CANAL DE NEGÓCIOS DO MUNDO NO BRASIL:
🔷 Canal 562 ClaroTV+ | Canal 562 Sky | Canal 592 Vivo | Canal 187 Oi | Operadoras regionais
🔷 TV SINAL ABERTO: parabólicas canal 562
🔷 ONLINE: www.timesbrasil.com.br | YouTube
🔷 FAST Channels: Samsung TV Plus, LG Channels, TCL Channels, Pluto TV, Roku, Soul TV, Zapping | Novos Streaming
Siga o Times Brasil - Licenciado Exclusivo CNBC no
Este conteúdo foi fornecido pela CNBC
Internacional e a
responsabilidade exclusiva pela tradução para o português é do Times Brasil.
