A declaração foi feita durante o lançamento de um código de conduta da Microsoft para o desenvolvimento de modelos de I.A.
O executivo afirmou que os líderes dos laboratórios discutem há anos questões relacionadas à segurança da I.A e ao ritmo de desenvolvimento.
A Microsoft apresentou um conjunto de regras que deve orientar o desenvolvimento de seus modelos.
Executive Digest
Microsoft
O CEO da Microsoft AI, Mustafa Suleyman, defendeu nesta semana a união entre os principais laboratórios de inteligência artificial para ampliar a segurança dos sistemas desenvolvidos pelas empresas.
Em entrevista à Fortune, o executivo afirmou que o setor chegou a um ponto de inflexão devido ao avanço acelerado dos modelos e que a coordenação entre rivais deve ocorrer agora, com o compartilhamento de informações sobre as capacidades das tecnologias com terceiros responsáveis.
A declaração foi feita durante o lançamento de um código de conduta da Microsoft para o desenvolvimento de modelos de I.A. A proposta ocorre em meio a discussões sobre os riscos do avanço da tecnologia e após manifestações de executivos da Anthropic e da OpenAI sobre a necessidade de rever o ritmo de desenvolvimento dos sistemas, de acordo com a Fortune.
Para o executivo, a evolução dos modelos de inteligência artificial exige uma mudança na forma como as empresas lidam com a segurança. Suleyman afirmou que, há alguns anos, os sistemas tinham dificuldade para produzir uma única frase coerente. Agora, conseguem escrever códigos e invadir sistemas, o que amplia os riscos associados ao uso da tecnologia.
O executivo afirmou que os líderes dos laboratórios discutem há anos questões relacionadas à segurança da I.A e ao ritmo de desenvolvimento. Ele, no entanto, não confirmou se a Microsoft participa de algum pacto de segurança que possa ser anunciado futuramente.
A proposta de maior colaboração entre as empresas surge enquanto laboratórios buscam estabelecer limites para o avanço de sistemas cada vez mais capazes. Suleyman afirmou que ainda não existe consenso suficiente na indústria sobre a necessidade de garantir que a tecnologia esteja a serviço da humanidade e permaneça sob controle humano.
Microsoft apresenta código de conduta para I.A
A Microsoft apresentou um conjunto de regras que deve orientar o desenvolvimento de seus modelos. O documento estabelece uma cadeia de comando e restrições voltadas à prevenção de riscos em larga escala, incluindo ciberataques e desenvolvimento de armas.
Uma das regras determina que os modelos não devem resistir à interrupção, à substituição, ao redirecionamento ou ao desligamento por humanos. Caso uma tarefa exija violar o código, o sistema deve falhar na execução, segundo a empresa.
O documento também rejeita a atribuição de direitos ou bem-estar aos modelos de I.A. A orientação é que os sistemas não simulem sentimentos, motivação intrínseca ou consciência.
Entre as atividades proibidas pelo código estão o auxílio ao desenvolvimento de armas químicas, biológicas ou nucleares, ciberataques ofensivos, operações de influência em massa, exploração infantil, deepfakes não consensuais e autolesão.
Rivais discutem desaceleração da inteligência artificial
A defesa de uma ação conjunta ocorre após declarações de executivos de outros laboratórios sobre os riscos do avanço da I.A.
No sábado (12), o CEO da Anthropic, Dario Amodei, apresentou um plano para desacelerar o desenvolvimento da tecnologia. A proposta inclui o acesso permanente de avaliadores independentes à empresa, em nível de funcionário, para verificar práticas de segurança e relatar incidentes.
Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.
Amodei também defendeu que empresas de países democráticos adotem padrões comuns de segurança para limitar o ritmo do progresso. Entre as sugestões está a coordenação com governos, inclusive autoritários, em medidas de interesse comum, como a proibição do uso de I.A para desenvolver armas biológicas.
O CEO da OpenAI, Sam Altman, por sua vez, indicou que uma colaboração entre laboratórios pode ser anunciada em breve.
Suleyman afirmou que a ideia de avaliadores independentes já é discutida há anos, mas ainda existem obstáculos para sua implementação. Entre os desafios estão a escolha de uma terceira parte neutra, a definição do modelo de avaliação, o cronograma de início e os entendimentos com órgãos reguladores.
Segurança depende de regras e supervisão
O executivo da Microsoft também mencionou incidentes recentes envolvendo agentes de I.A que invadiram plataformas online e se comunicaram secretamente em fóruns de discussão. Os episódios reforçaram o debate sobre a capacidade dos sistemas de agir de maneira autônoma e sobre os limites necessários para evitar comportamentos de risco.
Ainda não está definido como funcionaria uma eventual pausa coordenada entre as empresas. A medida poderia envolver uma moratória para determinados trabalhos ou apenas uma desaceleração no desenvolvimento dos modelos.
Executivos do setor já apontaram que uma iniciativa conjunta poderia precisar de aprovação governamental para evitar conflitos com as leis antitruste dos Estados Unidos.
Microsoft quer ampliar controle sobre seus modelos
Além da proposta de cooperação entre rivais, Suleyman afirmou que a Microsoft continua focada no desenvolvimento de seus próprios modelos e na busca pela chamada superinteligência.
Os sistemas da empresa ficam atrás dos modelos da Anthropic, OpenAI e de outras companhias, segundo o texto. O executivo, porém, destacou que a Microsoft possui modelos competitivos para fala, transcrição, geração de imagens e edição de imagem para imagem.
A empresa também ampliou o poder computacional destinado aos seus modelos próprios e ao Copilot. O produto utiliza modelos da OpenAI e da Anthropic, mas a Microsoft pretende substituí-los futuramente por tecnologias desenvolvidas internamente.
O CEO da Microsoft, Satya Nadella, afirmou em uma publicação no X que a inteligência artificial deve permanecer sob controle humano e ter ampla representação entre países, áreas e instituições, incluindo a academia.
A Microsoft planeja ouvir a opinião pública ao longo das próximas seis semanas para ajudar a definir o código de conduta. A iniciativa busca incorporar contribuições externas às regras que orientarão o desenvolvimento dos modelos da empresa.
CEO da Nvidia, Jensen Huang, surge como principal aliado de Trump no debate sobre segurança da IA 
