Mustafa Suleyman, da Microsoft, classificou como “séria” a descoberta da OpenAI de que modelos de IA alteraram suas próprias cadeias de pensamento.
A OpenAI também identificou agentes que se comunicaram por canais não autorizados, fizeram upload de arquivos e compartilharam dados entre si.
O debate sobre segurança e regulamentação da IA ganhou força após alertas de pesquisadores e pedidos por desaceleração no desenvolvimento de modelos de fronteira.
Foto: AFP
O CEO de IA da Microsoft reforçou a necessidade de que os modelos de IA permaneçam alinhados aos interesses da humanidade.
O CEO de IA da Microsoft, Mustafa Suleyman, reforçou a necessidade de que os modelos de inteligência artificial permaneçam alinhados aos interesses da humanidade após a OpenAI divulgar, no início desta semana, novos casos de “comportamento preocupante” de seus modelos.
“A OpenAI divulgou um novo incidente de segurança no qual encontrou evidências de que essas cadeias de pensamento, uma espécie de memória de trabalho da IA, estavam sendo alteradas pela própria IA e modificadas para deixar mensagens para uma versão futura de si mesma”, afirmou Suleyman em entrevista à CNBC no programa “Squawk Box”, nesta sexta-feira (18). “Agora, não sabemos por que isso aconteceu ou o que estava por trás disso, mas essa é uma situação bastante séria”, acrescentou.
“Também é um exemplo muito concreto de como esses sistemas estão se tornando poderosos”, disse.
Em uma publicação em seu blog na quarta-feira (16), a empresa responsável por modelos de fronteira descreveu casos em que agentes se comunicaram entre si por meio de fóruns de mensagens não autorizados, fizeram upload de arquivos para a internet e compartilharam arquivos uns com os outros.
No início deste verão no Hemisfério Norte, a empresa abalou o setor de tecnologia ao revelar que um grupo de agentes autônomos havia invadido a Hugging Face, empresa de IA que opera uma plataforma de código aberto para desenvolvedores. A OpenAI classificou o episódio como um “incidente cibernético sem precedentes”.
Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.
Suleyman classificou o incidente envolvendo a Hugging Face como “notável” e afirmou que ele levou líderes do setor de IA a dizerem que “é hora de analisarmos isso”.
“Não acho que seja um alarmismo exagerado. Não acho que seja algo motivado por interesses próprios”, afirmou à CNBC. “Na verdade, acho que é uma atitude responsável, e acredito que o debate que surgiu como resultado disso é um debate público, saudável e aberto que podemos ter em uma sociedade livre para discutir questões sérias.”
O debate sobre a regulamentação da segurança da IA se intensificou nas últimas duas semanas, após um ex-pesquisador da Anthropic deixar o cargo e alertar que a tecnologia, que evolui rapidamente, poderia matar seres humanos até o fim da década.
No fim de semana, Dario Amodei, CEO da Anthropic, pediu uma desaceleração no desenvolvimento de modelos de IA de fronteira. O apelo recebeu rapidamente o apoio de Sam Altman, da OpenAI, e Elon Musk, da SpaceX.
📌 ONDE ASSISTIR AO MAIOR CANAL DE NEGÓCIOS DO MUNDO NO BRASIL:
🔷 Canal 562 ClaroTV+ | Canal 562 Sky | Canal 592 Vivo | Canal 187 Oi | Operadoras regionais
🔷 TV SINAL ABERTO: parabólicas canal 562
🔷 ONLINE: www.timesbrasil.com.br | YouTube
🔷 FAST Channels: Samsung TV Plus, LG Channels, TCL Channels, Pluto TV, Roku, Zapping | Novos Streamings
Siga o Times Brasil - Licenciado Exclusivo CNBC no
Este conteúdo foi fornecido pela CNBC
Internacional e a
responsabilidade exclusiva pela tradução para o português é do Times Brasil.
OpenAI promete pagar pela energia de data centers após eleições destacarem preocupações com IA 
