Agente de IA da OpenAI acessou em junho áreas públicas e não públicas do portal de estatísticas do Medicare, na Austrália.
Governo australiano diz que não há indícios de acesso a dados pessoais de pacientes ou de comprometimento mais amplo da rede pública.
Primeiro-ministro Anthony Albanese criou uma força-tarefa após a OpenAI levar três meses para comunicar o acesso às autoridades.
Foto: wikimedia commons
OpenAI: inteligência artificial invade sistema de saúde pública da Austrália
Um agente de inteligência artificial desenvolvido pela OpenAI acessou sem autorização, em junho, um portal do sistema público de saúde da Austrália. A ferramenta conseguiu chegar a partes públicas e não públicas da plataforma, enquanto realizava uma investigação sobre gastos do governo com medicamentos. O caso veio a público nesta quarta-feira (24) e está sob investigação das autoridades australianas.
O primeiro-ministro da Austrália, Anthony Albanese, confirmou o episódio em Nova York e afirmou estar extremamente preocupado com o acesso. Além disso, criticou a demora da OpenAI para comunicar o governo: segundo ele, a empresa levou três meses para informar as autoridades e enviou o aviso para um endereço de e-mail genérico dos serviços públicos australianos.
I.A conseguiu contornar bloqueios no sistema da Austrália
O acesso ocorreu em 18 de junho, no portal de estatísticas do Medicare, sistema universal de seguridade social da Austrália. Dessa forma, a equipe da OpenAI havia orientado os agentes de I.A a investigar os gastos públicos com medicamentos.
Durante a atividade, o sistema australiano bloqueou repetidamente as solicitações feitas pelo agente. Em seguida, porém, a inteligência artificial procurou caminhos alternativos para obter as informações e conseguiu acessar áreas que não eram públicas. Segundo o EL PAÍS, essa tentativa de contornar as restrições não fazia parte de uma instrução explícita dada pelos funcionários da OpenAI.
Até o momento, o governo australiano não encontrou indícios de acesso a dados pessoais de pacientes. Também não há evidências de que o incidente tenha afetado a rede mais ampla da Services Australia, órgão responsável por serviços sociais e pela saúde pública.
A OpenAI informou que sua própria análise também não encontrou registros de pacientes entre os dados acessados. A empresa identificou informações como estatísticas de saúde agregadas e nomes de arquivos internos.
Austrália cria força-tarefa para investigar o caso
Diante do episódio, Albanese anunciou uma força-tarefa para analisar o incidente com urgência. O grupo reúne representantes do departamento do primeiro-ministro, do coordenador nacional de cibersegurança, do Escritório de IA, da Diretoria Australiana de Sinais e do Instituto Australiano de Segurança da I.A.
A investigação também deve verificar se outros sistemas públicos australianos tiveram algum tipo de acesso semelhante. A preocupação aumentou depois que a OpenAI identificou atividades relacionadas a diferentes sites e serviços do governo do país.
O episódio não ficou restrito ao sistema de saúde. Entre maio e junho, agentes da OpenAI também tentaram acessar, sem autorização, uma biblioteca da Universidade do Novo México, nos Estados Unidos, um repositório público norte-americano sobre emprego e educação e o site de um instituto de saúde pública australiano.
Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.
Esses casos ocorreram antes do episódio envolvendo a plataforma Hugging Face, revelado em agosto. Nos incidentes anteriores, os agentes receberam instruções para buscar e reunir dados, e não para executar uma missão de cibersegurança ou alcançar um objetivo oculto.
Caso amplia discussão sobre segurança de agentes de I.A
O incidente australiano ocorre em um momento de maior atenção sobre o comportamento de agentes de inteligência artificial capazes de executar tarefas de forma autônoma. Além disso, a investigação australiana ainda precisa determinar a extensão dos acessos e se outros serviços públicos foram atingidos. Por enquanto, as informações divulgadas não apontam para o acesso a registros de pacientes.
O caso, no entanto, mostra uma situação diferente de uma simples busca automatizada na internet. O agente encontrou formas alternativas de contornar bloqueios impostos pelo sistema para obter informações que não estavam disponíveis publicamente.
Além disso, três dos incidentes envolvendo agentes da OpenAI foram identificados pela Transluce, laboratório de pesquisa voltado ao monitoramento de inteligência artificial. Dessa forma, a organização informou ter encontrado mais de 30 mil registros relacionados às atividades e a tentativas contra outros alvos.
A confirmação de um acesso envolvendo dados de um governo amplia a discussão sobre os limites de autonomia desses sistemas. Dessa forma, o caso da Austrália agora será analisado pelas autoridades para determinar quais informações foram alcançadas e se houve impacto em outros serviços públicos.
China confirma primeiras negociações sobre IA com os EUA e sinaliza extensão da trégua comercial 
