Problema em alertas de notícias gerados por IA da Apple levanta preocupações sobre tecnologia

Uma funcionalidade de inteligência artificial (IA) presente em iPhones, da Apple, está gerando falsos alertas de notícias, alimentando preocupações sobre o potencial da tecnologia em espalhar desinformação.

Na semana passada, o recurso lançado recentemente pela empresa, que utiliza IA para resumir notificações de aplicativos de notícias, divulgou resumos incorretos sobre uma notícia do aplicativo da BBC.

A cobertura dizia respeito à semifinal do PDC World Darts Championship – Campeonato Mundial de Dardos – mas a IA afirmou erroneamente que o jogador britânico Luke Littler havia vencido o campeonato. O erro ocorreu antes da final, que Littler de fato ganhou no dia seguinte.

Horas depois, o sistema de IA da Apple, conhecido como Apple Intelligence, emitiu outra notificação falsa, alegando que o tenista Rafael Nadal havia se declarado gay.

Esses incidentes não são isolados. Em dezembro, a BBC reclamou à Apple sobre um erro similar. A IA gerou um título falso que sugeria que Luigi Mangione, preso após o assassinato do CEO da UnitedHealthcare, Brian Thompson, em Nova York, teria tirado a própria vida — algo que nunca aconteceu.

Apesar das tentativas da BBC de corrigir a situação, a Apple respondeu apenas que está trabalhando em uma atualização para corrigir o problema, que incluirá um esclarecimento indicando quando o texto exibido é gerado pelo Apple Intelligence. No momento, as notificações aparecem como se fossem enviadas diretamente da fonte de notícias.

“Os recursos de inteligência da Apple estão em fase beta e continuamos aprimorando com base no feedback dos usuários”, disse a Apple em comunicado à BBC. A empresa incentiva os usuários a reportarem notificações inesperadas.

Outros veículos também foram afetados. Em novembro, a funcionalidade gerou uma notificação errada afirmando que o primeiro-ministro de Israel, Benjamin Netanyahu, havia sido preso. O erro foi reportado por Ken Schwencke, editor do site investigativo ProPublica, na rede social Bluesky.

O problema da desinformação com IA

A Apple promove os resumos de notificações como uma forma eficiente de consolidar e reescrever prévias de notícias em alertas únicos na tela inicial dos usuários. A ideia é ajudá-los a digerir rapidamente as informações sem serem sobrecarregados por inúmeras notificações.

No entanto, especialistas em IA apontam que o sistema apresenta “alucinações”, ou seja, informações falsas ou enganosas. “Suspeito que a Apple não será a única a enfrentar desafios com conteúdo gerado por IA. Já vimos exemplos de serviços de IA propagando inverdades com confiança”, disse Ben Wood, analista da CCS Insights, à CNBC.

Esses erros ocorrem porque o sistema da Apple tenta compactar informações em resumos curtos, frequentemente misturando palavras de maneira que distorce os fatos, mas os apresenta como se fossem verdadeiros.

Além disso, o funcionamento de IA generativa, baseado em grandes quantidades de dados, pode levar a respostas imprecisas quando a máquina não sabe a resposta, gerando o que muitos chamam de “mentiras”.

Ainda não há uma data exata para a atualização do sistema da Apple. A empresa prometeu uma solução para as próximas semanas.