O Google suspendeu temporariamente um novo recurso de inteligência artificial do Google Earth poucas horas após seu lançamento.
A decisão veio depois que usuários passaram a utilizar a ferramenta para criar imagens falsas de cenas de destruição sobrepostas às imagens de satélite da plataforma.
A funcionalidade permitia gerar conteúdos por I.A a partir de comandos de texto e inseri-los em locais reais ao redor do mundo.
foto: unsplash
Google interrompe ferramenta de I.A do Earth após uso para criar imagens falsas de destruição
O Google suspendeu temporariamente um novo recurso de inteligência artificial (I.A) do Google Earth poucas horas após seu lançamento. A decisão veio depois que usuários passaram a utilizar a ferramenta para criar imagens falsas de cenas de destruição sobrepostas às imagens de satélite da plataforma.
A funcionalidade permitia gerar conteúdos por I.A a partir de comandos de texto e inseri-los em locais reais ao redor do mundo. A rápida repercussão das montagens levou a empresa a interromper a novidade enquanto desenvolve mecanismos de segurança mais rigorosos.
O caso também reacendeu o debate sobre os desafios da inteligência artificial generativa em serviços utilizados como fonte de informação por pesquisadores, jornalistas e autoridades.
Recurso do Google permitia criar cenas fictícias em locais reais
Lançada na última quinta-feira (30), a ferramenta possibilitava gerar imagens por inteligência artificial e sobrepô-las aos mapas e imagens de satélite do Google Earth.
Em poucas horas, usuários começaram a compartilhar montagens que simulavam acontecimentos inexistentes em diferentes partes do mundo. Entre elas estavam um avião aparentemente colidindo com um arranha-céu em Manhattan, uma instalação nuclear no Irã e imagens que sugeriam um atentado a bomba em Moscou.
Antes da suspensão, jornalistas do The Washington Post também testaram a novidade. Em um dos experimentos, a ferramenta criou uma aparente cratera de explosão ao lado do Monumento a Washington. Além disso, em outro teste, simulou um brilho sobre o espelho d’água da capital americana e transformou a praça do Zócalo, na Cidade do México, em um local aparentemente repleto de manifestantes.
Após a repercussão, o Google informou, em publicação na rede social X, que estava revertendo a implementação do recurso enquanto trabalhava em medidas de segurança mais robustas.
Re: our statement on Image Generation in Google Earth: “We know that people uniquely trust Google Earth for a reliable view of the world. We’ve seen geospatial professionals using this feature for a range of useful purposes, however we’ve also seen people sharing screenshots of…
O episódio chamou atenção porque governos, pesquisadores, jornalistas e especialistas utilizam amplamente o Google Earth para analisar acontecimentos reais. Imagens de satélite servem de apoio para governos, pesquisadores, jornalistas e especialistas que acompanham guerras, desastres naturais e outras crises.
Segundo Henry Ajder, especialista em manipulação por inteligência artificial, integrar um gerador de imagens diretamente à plataforma pode contribuir para reduzir a confiança do público nesse tipo de registro visual.
Para ele, a facilidade para produzir montagens aumenta a tendência de questionar até mesmo imagens autênticas quando envolvem temas politicamente sensíveis.
Ainda assim, não está claro se as imagens falsas criadas no Google Earth chegaram a enganar um grande número de pessoas. Em muitos casos, as publicações deixavam evidente que se tratavam de conteúdos gerados por inteligência artificial.
Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.
O Google informou que as imagens criadas pela ferramenta continham uma marca d’água invisível compatível com o SynthID, tecnologia desenvolvida pela empresa para identificar conteúdos gerados por inteligência artificial.
No entanto, especialistas afirmam que o mecanismo não elimina completamente os riscos. Henk van Ess, pesquisador especializado em investigações digitais, explicou que usuários podem contornar a identificação com ferramentas de remoção de marca d’água ou até mesmo ao fotografar a imagem exibida na tela.
Durante testes realizados, um repórter fotografou com um iPhone uma das imagens alteradas pelo Google Earth. Depois disso, o sistema do Google deixou de identificá-la como conteúdo gerado por I.A.
Na avaliação de Emmanuelle Saliba, diretora de investigação da GetReal, tecnologias de identificação são importantes, mas não resolvem o principal desafio. Segundo ela, usuários costumam compartilhar essas imagens em poucos segundos, enquanto verificar sua autenticidade exige tempo e contexto.
Google reforça medidas de segurança para ferramentas de I.A
A polêmica amplia a discussão sobre o equilíbrio entre inovação e segurança no desenvolvimento de ferramentas de inteligência artificial.
Especialistas lembram que imagens de satélite sempre foram consideradas difíceis de manipular devido à complexidade necessária para produzi-las. Entretanto, ao integrar um gerador de imagens ao Google Earth, o processo passou a exigir apenas um comando de texto, tornando esse tipo de montagem muito mais acessível.
O episódio também se soma a outras controvérsias envolvendo ferramentas de I.A do Google. Nos últimos anos, a empresa restringiu temporariamente recursos de geração de imagens do Gemini após críticas sobre os resultados produzidos pela tecnologia. Além disso, um vídeo falso de coelhos pulando sobre uma cama elástica, criado com I.A do Google, viralizou nas redes sociais.
Agora, o Google afirma que continuará desenvolvendo mecanismos de segurança antes de decidir se voltará a disponibilizar o recurso. Enquanto isso, o caso reforça os desafios de ampliar o uso da inteligência artificial sem comprometer a confiabilidade de uma plataforma utilizada como referência para analisar acontecimentos reais em diferentes partes do mundo.
Dow Jones sobe 900 pontos e S&P 500 fecha acima de 7.700 pela primeira vez em forte alta de Wall Street 
