EXCLUSIVO CNBC: Empresas de tecnologia têm obrigação de tornar IA segura, diz Bret Taylor, da OpenAI

As empresas de tecnologia têm a obrigação de tornar a inteligência artificial segura à medida que modelos cada vez mais avançados são desenvolvidos, afirmou Bret Taylor, chairman e presidente do conselho da OpenAI, em entrevista exclusiva à CNBC.

Para Taylor, a segurança é uma condição para que a tecnologia cumpra o objetivo de beneficiar a humanidade. Ele comparou a responsabilidade dos laboratórios de pesquisa ao princípio de não causar danos presente no juramento hipocrático.

“Não podemos beneficiar a humanidade se a IA não for segura”.

O executivo disse que os pesquisadores envolvidos no desenvolvimento de modelos de fronteira estão tratando a questão da segurança como uma responsabilidade pessoal, diante do potencial das tecnologias que estão sendo criadas.

A evolução desses sistemas exige que os laboratórios avaliem continuamente os riscos associados ao desenvolvimento e ao treinamento dos modelos.

Taylor também citou o incidente envolvendo a Hugging Face como um exemplo dos problemas que podem surgir quando modelos apresentam falhas de alinhamento.

Experiências desse tipo reforçam a necessidade de aprofundar as pesquisas sobre segurança antes que os sistemas se tornem ainda mais capazes.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

O avanço da inteligência artificial também envolve, segundo Taylor, um dilema entre manter a liderança tecnológica dos Estados Unidos e reduzir os riscos associados aos modelos de fronteira. Ele afirmou que os laboratórios precisam encontrar maneiras de avançar nas duas frentes simultaneamente.

“Como podemos continuar a manter nossa posição de liderança global em IA, o que é absolutamente vital para a segurança nacional deste país? E como garantimos que, ao fazê-lo, não aumentamos o risco de segurança?”, questionou.

Para Taylor, um dos principais caminhos está na evolução da ciência do alinhamento, área dedicada a desenvolver métodos para que sistemas de inteligência artificial se comportem de acordo com objetivos e parâmetros definidos pelos humanos.

“Precisamos vencer na ciência do alinhamento tanto quanto vencer na ciência da IA”.

Na avaliação do executivo, o avanço científico é necessário para permitir que a indústria continue desenvolvendo modelos mais sofisticados sem abrir mão dos mecanismos de segurança.

Taylor defendeu a participação de pesquisadores especializados na busca por soluções para esses desafios.

“Só precisamos dos melhores pesquisadores do mundo trabalhando neste problema para que possamos ter o melhor dos dois mundos, ter o ritmo que queremos enquanto temos a segurança que exigimos”.

Siga o Times Brasil - Licenciado Exclusivo CNBC no