EXCLUSIVO CNBC: CEO da Palantir cobra responsabilidade diante dos riscos do avanço da IA e defende responsabilidade sobre seus impactos

Em meio ao debate sobre os limites da inteligência artificial, o CEO da Palantir, Alex Karp, alertou para os riscos associados ao avanço da tecnologia e defendeu a criação de diretrizes aplicáveis aos sistemas de IA.

Em entrevista exclusiva à CNBC, Karp questionou a capacidade do setor de se autorregular e afirmou que empresas devem ser responsabilizadas pelos efeitos de suas tecnologias.

Segundo o executivo, o desenvolvimento de sistemas capazes de operar de forma desalinhada com a intenção humana cria um problema que ultrapassa o campo tecnológico.

“Essa é uma fronteira inteiramente nova, não é mesmo? Quando discutem a segurança da humanidade e a criação de uma tecnologia, uma IA que pode se libertar. Esse desalinhamento com a intenção humana pode nos causar danos”.

Para Karp, a discussão sobre regras precisa começar pela responsabilização de quem desenvolve e implementa essas tecnologias.

“É preciso encontrar um jeito de estabelecer diretrizes razoáveis que sejam cumpridas”, disse.

O executivo acrescentou que a primeira linha de defesa deveria ser a responsabilização pelos atos praticados. Karp questionou a ideia de que a autorregulação deveria substituir mecanismos de responsabilização.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

“Estão solicitando regulação social para fugir da primeira linha de defesa, que é: se você cria uma tecnologia capaz de destruir 10% do mundo, isso é algo que tem responsabilidade civil e criminal atrelada”.

Na avaliação do executivo, o primeiro passo seria exigir que as empresas expliquem quais medidas estão adotando diante dos riscos identificados.

“O primeiro passo deve ser, ok, você revelou isso, o que está fazendo a respeito? O segundo passo é dizer, se não está fazendo, não é responsável, teremos que envolver pessoas.”

Karp também apontou dificuldades para estabelecer mecanismos de regulação, principalmente pela necessidade de contar com especialistas capazes de compreender tecnologias cada vez mais complexas.

“Será muito complicado, porque regular exige pessoas, precisa de quem entenda. Outro problema é que todos que entendem disso estão em alguma folha de pagamento. Então, em quem confiar?”

O executivo comparou o desafio ao desenvolvimento da energia nuclear e das primeiras armas nucleares. Segundo ele, naquele período, os envolvidos no desenvolvimento dessas tecnologias eram movidos por diferentes convicções e não estavam necessariamente vinculados aos interesses comerciais que existem atualmente.

“Quando fizemos a energia nuclear e a bomba, as pessoas fizeram porque acreditavam. Não estavam na folha de pagamento”, afirmou.

Siga o Times Brasil - Licenciado Exclusivo CNBC no