O avanço acelerado da I.A. segue emitindo previsões cada vez mais preocupantes.
Enquanto alguns líderes do setor enxergam uma era de automação positiva, outros alertam para riscos mais graves.
A diretora de I.A. do Google DeepMind voltou a comentar a possibilidade da I.A. representar uma ameaça real.
Foto: Unsplash
I.A pode levar à extinção da humanidade Executiva do Google faz alerta
O avanço acelerado da I.A. segue emitindo previsões cada vez mais preocupantes. Enquanto alguns líderes do setor enxergam uma era de automação positiva, outros defendem que a tecnologia também exige atenção aos riscos mais graves.
Entre os especialistas, Lila Ibrahim, diretora de I.A. do Google DeepMind, voltou a comentar a possibilidade da inteligência artificial representar uma ameaça existencial para a humanidade.
Lila Ibrahim integrou, em 2023, o grupo de especialistas que assinou uma declaração do Center for AI Safety. O documento defendia que o risco de extinção provocado pela inteligência artificial deveria receber a mesma atenção dedicada a ameaças como uma “guerra nuclear”.
Questionada sobre a possibilidade de esse cenário realmente acontecer, Ibrahim respondeu que a probabilidade “não é zero”, embora tenha evitado apresentar qualquer percentual. Segundo ela, qualquer número seria apenas uma estimativa pessoal.
A executiva afirmou em entrevista à Fortune que continua considerando o debate importante. Para Ibrahim, ignorar esse tipo de risco seria um erro durante uma transformação tecnológica tão rápida.
Futuro da I.A
O alerta da executiva acompanha manifestações semelhantes feitas por outros nomes influentes no mercado de tecnologia. Geoffrey Hinton, apelidado como o “padrinho da I.A.”, já estimou entre 10% e 20% a chance de a inteligência artificial provocar a extinção da humanidade nas próximas décadas.
Dario Amodei, CEO da Anthropic, também afirmou anteriormente que existe uma possibilidade significativa do futuro seguir um caminho “extremamente negativo”.
Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.
A lenda Stephen Hawking, anos antes da popularização da inteligência artificial generativa, alertou que a tecnologia poderia representar uma ameaça para a sobrevivência humana caso evoluísse sem mecanismos de controle.
Preocupações e precauções
Para Ibrahim, a pandemia mostrou que grandes crises costumam surgir em situações que poucas pessoas esperam. Além disso, ela afirmou que empresas de tecnologia discutiram pouco os impactos negativos durante o crescimento da internet e das redes sociais.
Na avaliação da executiva, esse aprendizado deve orientar o desenvolvimento da inteligência artificial. Ainda de acordo com ela, filmes de ficção científica podem até exagerar alguns cenários, mas também funcionam como alertas sobre problemas que precisam receber atenção.
Enquanto parte da indústria alerta sobre os riscos, Elon Musk continua defendendo um cenário com forte expansão. O trilionário afirma que robôs e inteligência artificial poderão produzir riqueza em escala suficiente para tornar o trabalho opcional e reduzir drasticamente a “importância do dinheiro nas próximas décadas”.
Jeff Bezos, criador da Blue Origin, já declarou que milhares de pessoas poderão viver no espaço nas próximas décadas, enquanto Sam Altman, CEO da OpenAI, acredita que novas profissões surgirão à medida que a I.A. transformar o mercado de trabalho. Vale destacar que o setor segue em crescimento, mas também aumenta a atenção para decisões autônomas da tecnologia.
As Sete Magníficas perdem US$ 1 trilhão: os números mais impressionantes da queda de ações de tecnologia 
