O movimento global pela segurança online abriu caminho para uma série de produtos baseados em inteligência artificial projetados para manter as crianças longe de conteúdos potencialmente prejudiciais na internet.
No Reino Unido, uma nova legislação chamada Online Safety Act impõe um dever de cuidado às empresas de tecnologia para proteger as crianças de materiais inadequados para a idade, discurso de ódio, bullying, fraudes e material de abuso sexual infantil (CSAM).
As empresas podem enfrentar multas de até 10% de sua receita anual global em caso de violações. Mais adiante, regulamentos históricos voltados para manter as crianças mais seguras online estão rapidamente avançando no Congresso dos Estados Unidos.
Um projeto de lei, conhecido como Kids Online Safety Act, tornaria as plataformas de mídia social responsáveis por impedir que seus produtos prejudiquem as crianças — semelhante ao Online Safety Act no Reino Unido.
Esse impulso dos reguladores está levando a uma reavaliação por parte de vários grandes players da tecnologia. O Pornhub e outros gigantes da pornografia online estão bloqueando todos os usuários de acessarem seus sites, a menos que passem por um sistema de verificação de idade.
No entanto, sites de pornografia não têm sido os únicos a tomar medidas para verificar a idade dos usuários. Spotify, Reddit e X implementaram sistemas de verificação de idade para evitar que crianças sejam expostas a materiais sexualmente explícitos ou inadequados.
Tais medidas regulatórias têm sido recebidas com críticas da indústria de tecnologia — principalmente devido a preocupações de que possam infringir a privacidade dos usuários da internet.
Tecnologia de ID digital em expansão
No centro de todas essas medidas de verificação de idade está uma empresa: a Yoti, que produz tecnologia capaz de capturar selfies e usar inteligência artificial para verificar a idade de uma pessoa com base em suas características faciais.
A empresa afirma que seu algoritmo de IA, treinado com milhões de rostos, pode estimar a idade de pessoas de 13 a 24 anos com uma margem de erro de dois anos.
A empresa já fez parceria com os correios do Reino Unido e espera capitalizar o movimento mais amplo por cartões de ID digital emitidos pelo governo no Reino Unido. A Yoti não está sozinha no setor de software de verificação de identidade — outros concorrentes incluem Entrust, Persona e iProov.
No entanto, a empresa tem sido a fornecedora mais proeminente de serviços de verificação de idade sob o novo regime do Reino Unido.
“Está havendo uma corrida pela tecnologia de segurança infantil, e os fornecedores de serviços precisam conquistar a confiança e a credibilidade”, disse Pete Kenyon, sócio do escritório de advocacia Cripps, à CNBC. “As novas exigências sem dúvida criaram um novo mercado, e os fornecedores estão se apressando para deixar sua marca.”
No entanto, o aumento dos métodos de identificação digital também gerou preocupações sobre violações de privacidade e possíveis vazamentos de dados.
“Surgem questões substanciais de privacidade com o uso dessa tecnologia”, disse Kenyon. “A confiança é fundamental e só será conquistada pelo uso de procedimentos técnicos e de governança rigorosos e eficazes para manter os dados pessoais seguros.”
Rani Govender, gerente de políticas de segurança infantil online da ONG britânica NSPCC, afirmou que a tecnologia “já existe” para autenticar usuários sem comprometer sua privacidade. “As empresas de tecnologia devem tomar decisões deliberadas e éticas, escolhendo soluções que protejam as crianças de danos sem comprometer a privacidade dos usuários”, afirmou à CNBC.
“A melhor tecnologia não apenas preenche requisitos; ela constrói confiança.”
Smartphones seguros para crianças
A onda de novas tecnologias surgindo para evitar que as crianças sejam expostas a danos online não se limita apenas ao software. No início deste mês, a fabricante finlandesa de telefones HMD Global lançou um novo smartphone chamado Fusion X1, que usa IA para impedir que as crianças filmem ou compartilhem conteúdo nu ou visualizem imagens sexualmente explícitas pela câmera, tela e em todos os aplicativos.
O telefone utiliza tecnologia desenvolvida pela SafeToNet, uma empresa britânica de cibersegurança focada na segurança infantil. “Acreditamos que mais precisa ser feito neste campo”, disse James Robinson, vice-presidente da área familiar da HMD, à CNBC.
Ele ressaltou que a HMD desenvolveu o conceito de dispositivos para crianças antes da entrada em vigor do Online Safety Act, mas observou que foi “ótimo ver o governo tomando medidas mais rigorosas.”
O lançamento do smartphone amigável para crianças da HMD segue o crescente movimento “sem smartphone”, que incentiva os pais a evitar que seus filhos possuam um smartphone. A partir de agora, Govender, da NSPCC, afirma que a segurança infantil se tornará uma prioridade significativa para gigantes digitais como Google e Meta.
As gigantes da tecnologia têm sido acusadas por anos de agravar a saúde mental de crianças e adolescentes devido ao aumento do bullying online e do vício em redes sociais. Em resposta, argumentam que tomaram medidas para resolver essas questões por meio do aumento de controles parentais e recursos de privacidade.
“Por anos, as gigantes da tecnologia ficaram de braços cruzados enquanto conteúdo prejudicial e ilegal se espalhava por suas plataformas, deixando os jovens expostos e vulneráveis”, disse ela à CNBC. “Essa era de negligência precisa acabar.”, finaliza.
—
📌 ONDE ASSISTIR AO MAIOR CANAL DE NEGÓCIOS DO MUNDO NO BRASIL:
🔷 Canal 562 ClaroTV+ | Canal 562 Sky | Canal 592 Vivo | Canal 187 Oi | Operadoras regionais
🔷 TV SINAL ABERTO: parabólicas canal 562
🔷 ONLINE: www.timesbrasil.com.br | YouTube
🔷 FAST Channels: Samsung TV Plus, LG Channels, TCL Channels, Pluto TV, Roku, Soul TV, Zapping | Novos Streamings
Siga o Times Brasil - Licenciado Exclusivo CNBC no
Este conteúdo foi fornecido pela CNBC
Internacional e a
responsabilidade exclusiva pela tradução para o português é do Times Brasil.
