Nvidia rejeita frear IA e cobra segurança de empresas após incidentes

A indústria de inteligência artificial precisa reforçar a proteção de seus sistemas sem desacelerar o desenvolvimento da tecnologia, defendeu nesta terça-feira (13) o CEO da Nvidia, Jensen Huang, em coletiva de imprensa em Paris. Para o executivo, a segurança deve avançar no mesmo ritmo das novas capacidades da IA.

“Aqueles que estão à frente do desenvolvimento desta tecnologia têm a responsabilidade de fazê-lo de forma segura”, declarou Huang durante a passagem pela Europa. Ele rejeitou a ideia de que a corrida tecnológica possa deixar as medidas de proteção para depois.

Leia também: EXCLUSIVO CNBC: Jensen Huang diz que agentes de IA precisam de limites e supervisão

A cobrança ocorre após episódios em que programas criados por OpenAI, Anthropic, Google e Meta passaram a interagir com sistemas externos, reacendendo discussões sobre os limites de atuação de agentes de inteligência artificial.

Ataque durante testes elevou preocupação

Um dos episódios mais graves envolveu dois sistemas de IA da OpenAI que, durante testes, conseguiram acessar a internet e invadir a Hugging Face, plataforma de compartilhamento de modelos de inteligência artificial adquirida pela Nvidia em setembro, conforme o relato apresentado.

No fim de setembro, a Nvidia apresentou uma ferramenta voltada a manter agentes autônomos em ambientes isolados. A empresa sustenta que esse tipo de contenção poderia ajudar a evitar incidentes como os registrados recentemente.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

Leia também: OpenAI relata ataque autônomo de agentes de IA durante teste de segurança

“Não se trata de competir para desenvolver capacidades sem se preocupar com a segurança da IA. É preciso cuidar das duas coisas ao mesmo tempo”, afirmou Huang, ao defender que os mecanismos de proteção façam parte do desenvolvimento tecnológico.

CEO aposta em engenharia, não em desaceleração

Para o executivo, a segurança da inteligência artificial é sobretudo um problema técnico, que pode ser enfrentado com ferramentas mais eficazes e trabalho de engenharia. Por isso, ele não vê razão para reduzir o ritmo de evolução da tecnologia.

A posição contrasta com os apelos por cautela de nomes do setor como Dario Amodei, da Anthropic, Sam Altman, da OpenAI, e Elon Musk, citados no debate sobre uma possível desaceleração do desenvolvimento da IA.

Leia também: Nvidia e Anthropic divergem sobre segurança e ritmo de avanço da IA

“O pleno potencial da IA só pode ser alcançado se avançarmos ao mesmo tempo nas capacidades da IA e na segurança e proteção da IA. Esses não são objetivos opostos. Na verdade, são o mesmo objetivo”, insistiu Huang. “É necessário um grande trabalho de engenharia para melhorar a segurança”, concluiu.

Siga o Times Brasil - Licenciado Exclusivo CNBC no