Enquanto o Brasil inteiro discutia nesta semana o julgamento da ação contra o ministro Alexandre de Moraes no Supremo Tribunal Federal, poucos se lembravam do detalhe que deu origem a todo o processo, um punhado de mensagens pessoais retiradas do celular do banqueiro Daniel Vorcaro e depois compartilhadas com a imprensa, trocadas por quem, até aquele momento, confiava que a tecnologia guardava segredo do que se dizia. Se nem um ministro da mais alta Corte do país tem garantia de que uma conversa privada permanece privada, fica mais fácil entender por que a privacidade de quem digita algo íntimo para o ChatGPT, essa criatura de bolso que promete ouvir sem julgar, dura exatamente até o instante em que alguém do outro lado decide ler.
Esse tipo de conversa que uma pessoa qualquer digita de madrugada para o ChatGPT, um sintoma estranho, uma dúvida sobre o próprio casamento, o rascunho de uma carta de demissão, confiando que ninguém além da máquina está do outro lado. Não está. Em algum fuso horário distante, um terceirizado recrutado por uma empresa chamada Crossing Hurdles e pago através da plataforma Mercor abre essa mesma conversa inteira, lê, escreve um resumo do que a pessoa queria e dá uma nota para a resposta do chatbot, dentro de um programa interno da OpenAI batizado de Project Lily, que a empresa nunca explicou com clareza ao público, segundo revelou a 404 Media nesta segunda-feira (14).
O ChatGPT tem mais de 900 milhões de usuários, e boa parte deles usa o aplicativo como se fosse um terapeuta de bolso, um assistente pessoal ou um amigo disponível 24 horas por dia. Segundo o jornalista Joseph Cox, autor da reportagem, poucos imaginam que uma pessoa de carne e osso, sentada em algum lugar do mundo, pode estar lendo o que eles escreveram. A OpenAI diz que aplica um modelo próprio de filtro de privacidade antes de qualquer prompt chegar aos revisores, mas a própria empresa reconhece, em documentação técnica citada pela reportagem, que esse filtro erra, ignora identificadores incomuns e falha justamente quando o contexto é limitado, que é exatamente o tipo de situação em que uma informação sensível costuma aparecer.
Existe uma opção para desativar a revisão humana das conversas, mas ela não vale para o que já foi digitado antes de o usuário mexer na configuração. Quando a 404 Media perguntou à OpenAI se a empresa já havia avisado, de forma explícita, que humanos poderiam ler essas trocas, a resposta veio incompleta, e só depois da publicação a companhia apontou para uma página de ajuda genérica. Não é a primeira vez que esta coluna esbarra em gente ouvindo o que deveria ficar só entre a pessoa e a máquina. Em setembro, foi o relógio da Apple gravando conversas alheias sem o consentimento de quem estava do outro lado da mesa. Agora é o teclado do ChatGPT, aberto à noite, achando que ninguém além da máquina está prestando atenção.
Terceirizados pagos para julgar sua conversa
Os documentos obtidos pela reportagem mostram que os revisores não veem o nome de usuário de quem escreveu o prompt, mas têm acesso a um resumo de memória que pode indicar onde essa pessoa mora e o que ela já perguntou ao chatbot antes. O trabalho consiste em ler a conversa inteira, escrever um resumo da intenção de quem escreveu e notar as respostas do ChatGPT numa escala de um a sete, mirando metas específicas como reduzir bajulação, cortar emojis de checkmark e evitar que o modelo finja ter vivido experiências humanas.
🔍 Bajulação algorítmica é a tendência de um modelo de IA concordar demais com quem escreve e validar ideias mesmo quando elas são erradas ou nocivas, um viés que equipes de segurança tentam corrigir treinando o sistema com exemplos do que não fazer.
Um dos terceirizados ouvidos pela reportagem disse ganhar mais de US$ 50 por hora, o equivalente a cerca de R$ 257 na cotação atual, descrevendo a rotina como mecânica, ocasionalmente engraçada e, ao mesmo tempo, inconsistente, já que as regras de avaliação mudam com frequência e às vezes se contradizem. A Meta, segundo a reportagem, encerrou o contrato com a Mercor em abril depois de um vazamento de dados na empresa, episódio sem relação direta com o trabalho feito para a OpenAI, mas que expõe o tipo de intermediário que hoje decide, na prática, o que passa por qualidade dentro de um chatbot usado por quase um bilhão de pessoas.
Anthropic também faz isso com Claude
A parte que talvez incomode mais o leitor desta coluna é que a Anthropic confirmou à 404 Media usar revisão humana semelhante para melhorar o Claude, aplicada a usuários que ativaram voluntariamente essa opção nas configurações de conta. O Google também recorre a revisores humanos, mas avisa a prática de forma explícita, sem deixar a informação escondida numa página de ajuda que ninguém lê. A diferença entre revelar e deixar vazar talvez seja o único critério moral que sobrou nessa história inteira.
Fica a pergunta que nenhuma dessas empresas responde de bom grado: se a inteligência artificial promete ser o confessionário digital da geração atual, alguém precisa avisar ao usuário que o padre tem nome, CPF e recebe por hora.
Leia todas as colunas do autor em AI-451.
Siga o Times Brasil - Licenciado Exclusivo CNBC no
‘Ato hostil’: Trump ameaça a UE com tarifas devido à proposta de adesão associada do Canadá 
