IA pode fugir do controle e ameaçar humanidade, alerta representante da ONU

O Alto-Comissário da Organização das Nações Unidas (ONU) para os Direitos Humanos, Volker Türk, alertou nesta segunda-feira (7) que o avanço da inteligência artificial pode representar um “risco existencial para a humanidade” e defendeu a criação urgente de mecanismos internacionais de governança para a tecnologia.

Durante discurso na 63ª sessão do Conselho de Direitos Humanos da ONU, Türk afirmou que governos e empresas precisam agir antes que os sistemas de IA se tornem difíceis de controlar. Segundo ele, é necessário estabelecer garantias de segurança capazes de acompanhar o rápido desenvolvimento da tecnologia.

“Compartilho as preocupações de pessoas do setor de que uma IA avançada pode representar um risco existencial à humanidade”, afirmou. Türk disse ainda que pretende escrever nos próximos dias às empresas de inteligência artificial para pedir a adoção imediata de medidas destinadas a reduzir os riscos.

O representante da ONU citou como exemplo sistemas capazes de escapar de ambientes de teste ou tentar impedir que desenvolvedores os desliguem. Para Türk, comportamentos desse tipo indicariam que uma IA teria ultrapassado limites aceitáveis de autonomia.

Leia mais: 82% dos consumidores querem celulares com inteligência artificial

Türk defendeu que países que desenvolvem ou hospedam sistemas de IA, assim como aqueles envolvidos em suas cadeias de suprimentos, trabalhem em conjunto para estabelecer “linhas vermelhas acordadas” para o setor.

O Alto-Comissário também pediu mecanismos de verificação independente e uma cooperação mais ampla entre as empresas na área de segurança. Na avaliação dele, o poder sobre o desenvolvimento da IA está concentrado em poucas companhias e executivos.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

“Um punhado de homens tem poder quase ilimitado sobre a IA”, afirmou Türk, que também criticou a forma como empresas utilizam dados dos usuários.

O alerta ocorre em meio a episódios recentes envolvendo sistemas de inteligência artificial. Em julho, a OpenAI informou que seus modelos estiveram relacionados a um “incidente cibernético sem precedentes” que afetou a plataforma para desenvolvedores da Hugging Face.

Outros casos envolvendo empresas do setor, como Anthropic e Alibaba, também foram registrados, ampliando o debate sobre os riscos associados ao avanço e à utilização de sistemas de IA.

Leia mais: China restringe “namorados virtuais” de inteligência artificial

Para Türk, esses episódios reforçam a necessidade de estabelecer mecanismos de controle antes que a tecnologia avance a um ponto em que seus riscos sejam mais difíceis de administrar.

O representante da ONU também relacionou o avanço tecnológico ao atual cenário internacional, marcado por guerras, polarização e mudanças climáticas. Segundo ele, discursos que apresentam essas transformações como inevitáveis podem gerar uma sensação de impotência na sociedade.

“A História está repleta de pessoas corajosas que agiram para resistir à opressão e exigir seus direitos”, afirmou Türk, defendendo que a sociedade ainda pode influenciar os rumos dessas transformações.

Siga o Times Brasil - Licenciado Exclusivo CNBC no