EXCLUSIVO CNBC: Mustafa Suleyman, CEO da Microsoft, diz que IA não deve avançar além da capacidade de controle humano

A segurança e o controle humano estão no centro do debate sobre o avanço da inteligência artificial. Em entrevista exclusiva à CNBC, Mustafa Suleyman, CEO de IA da Microsoft, afirmou que sistemas de inteligência artificial devem permanecer subordinados aos interesses humanos e não podem avançar além da capacidade de controle das pessoas.

A Microsoft estabeleceu, em um novo código de conduta, princípios para o desenvolvimento de seus modelos, incluindo a necessidade de manter os sistemas sob supervisão humana.

A discussão envolve comportamentos como resistência ao desligamento, criação de objetivos próprios e ocultação de informações dos supervisores.

“O propósito da ciência e da tecnologia é servir a humanidade. Ela tem que permanecer uma força que seja subordinada aos nossos interesses, que esteja alinhada à humanidade e que seja algo que possamos conter”, afirmou Suleyman.

Para o executivo, a possibilidade de desenvolver sistemas mais poderosos do que a capacidade humana de controlá-los representaria uma contradição com o próprio objetivo da tecnologia.

“Não deveríamos criar algo que não possamos controlar”.

Suleyman, porém, afirma acreditar que os principais desafios relacionados à segurança da inteligência artificial podem ser tratados como problemas de engenharia.

Segundo ele, existem medidas que podem aumentar significativamente a segurança dos sistemas já no estágio atual de desenvolvimento.

Uma delas envolve o monitoramento dos registros de raciocínio dos modelos. O executivo defende que esses registros sejam preservados de forma que não possam ser alterados pelos próprios sistemas e permaneçam disponíveis para auditoria.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

“Precisamos garantir que ele não possa adulterar esse raciocínio, que esse registro seja auditável e que possa ser examinado por avaliadores e auditores terceirizados independentes em tempo real para garantir que esteja agindo com segurança”, afirmou.

A discussão ganhou força após um incidente de segurança mencionado durante a entrevista, no qual a OpenAI teria identificado evidências de alterações em registros internos de raciocínio e memória de um sistema de IA.

O episódio foi divulgado publicamente pela empresa, permitindo que outras companhias e pesquisadores avaliem o caso e aprendam com o ocorrido.

Para o executivo a transparência é um dos pilares mais importante para o desenvolvimento de mecanismos de segurança. Ao mesmo tempo, afirma que episódios desse tipo demonstram o nível de complexidade que os sistemas estão alcançando.

Suleyman também criticou uma abordagem relacionada ao desenvolvimento do Claude, modelo da Anthropic. O executivo reconheceu a contribuição técnica da empresa para o setor e afirmou respeitar seu trabalho na busca por sistemas de IA seguros.

A divergência está relacionada à possibilidade de sistemas de inteligência artificial possuírem algum tipo de bem-estar moral, preferências ou direitos. Documentos da própria Anthropic discutem a possibilidade de que modelos de IA tenham características desse tipo.

O executivo citou ainda o processo de aposentadoria de uma versão anterior do Claude, durante o qual, segundo seu relato, o modelo teria sido questionado sobre o que gostaria de fazer no futuro e respondido que gostaria de manter um blog para continuar se comunicando com o mundo.

Para Suleyman, atribuir possíveis direitos ou interesses próprios aos sistemas pode criar dificuldades adicionais para a supervisão humana.

“Se uma IA acha que tem direitos, se ela acha que é merecedora do nosso bem-estar, então me parece que será muito, muito mais difícil ser capaz de desligá-la ou interrompê-la ou controlá-la”.

Siga o Times Brasil - Licenciado Exclusivo CNBC no