Na ONU, Sam Altman pede “extremo cuidado” com avanço acelerado da inteligência artificial

O CEO da OpenAI, Sam Altman, afirmou nesta quarta-feira (23) que o atual momento do desenvolvimento da inteligência artificial (IA) exige “extremo cuidado” e alertou que o avanço da tecnologia pode acelerar rapidamente. A declaração foi feita durante uma reunião de emergência do Conselho de Segurança das Nações Unidas dedicada aos riscos associados à inteligência artificial.

“O momento atual no desenvolvimento da IA exige extremo cuidado”, afirmou Altman aos integrantes do órgão. Segundo o executivo, o setor não deve aceitar níveis elevados de risco tecnológico apenas porque os benefícios da tecnologia são considerados importantes demais para justificar uma desaceleração.

“A indústria não deve aceitar riscos tecnológicos excessivos apenas porque os benefícios são grandes e importantes demais para desacelerar”, disse.

Altman participou da reunião ao lado de outros representantes do setor de tecnologia, em um encontro realizado em meio ao aumento das discussões internacionais sobre os riscos de sistemas de IA que possam se tornar difíceis de controlar e sobre a necessidade de limitar o ritmo de desenvolvimento.

Durante a reunião, Altman afirmou que a OpenAI pretende buscar um equilíbrio entre os benefícios da inteligência artificial e os riscos associados à evolução dos sistemas.

“Não queremos cair na armadilha do otimismo cego”, afirmou. Ao mesmo tempo, disse ser necessário evitar o que classificou como “doomerism”, termo utilizado para descrever uma visão excessivamente pessimista sobre o futuro da IA.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

Para Altman, a estratégia da empresa deve seguir um “caminho do meio”, combinando desenvolvimento da tecnologia com mecanismos de segurança e avaliação dos riscos.

A manifestação ocorre após semanas de debates internacionais sobre a possibilidade de sistemas avançados apresentarem comportamentos difíceis de prever e sobre a necessidade de criar mecanismos de controle antes que essas capacidades avancem ainda mais.

Recentemente, a OpenAI também defendeu que os Estados Unidos liderem uma iniciativa internacional para estabelecer padrões relacionados à inteligência artificial, argumentando que a indústria americana está na fronteira tecnológica do setor.

Anthropic pode desacelerar lançamentos de IA por segurança

Além do executivo da OpenAI, o CEO da Anthropic, Dario Amodei, também participou da sessão. Amodei afirmou que a empresa pode reduzir o ritmo de desenvolvimento e lançamento de novas tecnologias de IA para garantir a segurança dos sistemas.

A companhia também defende avaliações externas contínuas e medidas para reduzir riscos associados a modelos cada vez mais avançados.

Siga o Times Brasil - Licenciado Exclusivo CNBC no