Especialistas questionam ministra gerada por IA da Albânia

Na semana passada, a Albânia anunciou que uma ministra gerada por inteligência artificial assumiria uma nova pasta de licitações públicas. “Diella” é alardeada como a primeira ministra virtual do mundo, e o primeiro-ministro albanês, Edi Rama, prometeu que a nomeação acabaria com a corrupção desenfreada em contratos governamentais — um grande obstáculo para a adesão da nação balcânica à União Europeia. Mas sérias questões técnicas, políticas e éticas foram levantadas sobre a legisladora virtual.

Verdadeiramente incorruptível?

Ao anunciar a nomeação de Diella, Rama afirmou que as licitações públicas agora estariam “100% livres de corrupção”.

“Diella nunca dorme, não precisa ser paga, não tem interesses pessoais, não tem primos, porque primos são um grande problema na Albânia”, disse o primeiro-ministro, cujo país ocupa a 80ª posição entre 180 no índice de corrupção da Transparency International.

Políticos albaneses são frequentemente implicados em escândalos de corrupção ligados a fundos públicos. O ex-prefeito da capital Tirana foi detido enquanto estava no cargo e permanece sob custódia, suspeito de corrupção em conexão com a concessão de contratos governamentais.

O líder da oposição e ex-primeiro-ministro Sali Berisha também é suspeito de conceder contratos públicos a seus associados.

Diella é a solução?

Na verdade, não, de acordo com especialistas. “Como qualquer sistema de IA, ela depende inteiramente da qualidade e consistência dos dados e da confiabilidade dos modelos por trás dela”, disse Erjon Curraj, especialista em transformação digital e cibersegurança.

O funcionamento exato de Diella permanece desconhecido, mas provavelmente se baseia em Modelos de Linguagem de Grande Escala (LLM) para responder a consultas — semelhante às vastas quantidades de texto que alimentam chatbots generativos como o ChatGPT ou o Gemini.

Mas se os dados de entrada estiverem incompletos, tendenciosos ou desatualizados, as decisões da IA refletirão essas falhas, e ela “poderá interpretar mal documentos, sinalizar incorretamente um fornecedor ou não perceber sinais de conluio”, disse Curraj.

“Os LLMs refletem a sociedade; eles têm vieses. Não há razão para acreditar que isso resolva o problema da corrupção”, disse o cientista da computação e especialista em inteligência artificial Jean-Gabriel Ganascia.

“Assumir que uma máquina não tem vieses implica que devemos nos submeter à máquina”, disse Ganascia.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

Quem tem o controle?

A oposição albanesa apelou ao Tribunal Constitucional por preocupações sobre quem seria responsabilizado pelas decisões da IA. “Quem vai controlar Diella?” Berisha perguntou ao parlamento. Ganascia concorda que as questões de responsabilidade e controle são cruciais quando se trata de IA.

“Se a tomada de decisões públicas é confiada a uma máquina, isso significa que não há mais responsabilidade; somos reduzidos ao estado de escravos.”

“O que me preocupa é a ideia de uma máquina governando, oferecendo a resposta ‘certa’ e impedindo qualquer deliberação”, disse o pesquisador, que também é filósofo. Um político assume a responsabilidade, mas aqui, a ideia é que a máquina é perfeita, e de qualquer forma não podemos ir contra suas decisões.”

Em uma aparente tentativa de abordar essas preocupações, um decreto publicado na quinta-feira afirma que Rama “também se responsabiliza pela criação e operação do Ministério virtual de Inteligência Artificial Diella.”

Velha corrupção, novo software

A nomeação atraiu manchetes em todo o mundo, algo em que o primeiro-ministro se destaca, seja por participar de reuniões internacionais de tênis, anunciar um banimento do TikTok, criar um Estado Bektashi modelado no Vaticano, ou abrir acampamentos de migrantes para abrigar pessoas interceptadas no mar pelo governo italiano.

Mas alcançar seus objetivos é uma questão diferente.

O TikTok permanece facilmente acessível na Albânia, apenas algumas dezenas de homens foram transferidos para os acampamentos de migrantes e a legalidade da iniciativa ainda está sendo contestada por tribunais italianos. Pouco progresso público também foi feito em relação ao Estado Bektashi desde seu anúncio há um ano.

Quanto a Diella, cujo rosto é o da conhecida atriz albanesa Anila Bisha, que assinou um contrato que expira em dezembro para o uso de sua imagem, não está claro se sua nomeação sobreviverá ao escrutínio do Tribunal Constitucional.

Também é incerto se a nomeação estará em conformidade com os padrões da União Europeia, à qual a Albânia espera se juntar nos próximos cinco anos. “Até agora, não há informações sobre como Diella realmente funciona”, disse o cientista político albanês Lutfi Dervishi.

“Se um sistema corrupto fornecer dados manipulados, ou se filtros forem configurados para o que ela não deve ver, Diella apenas legitimará a velha corrupção com um novo software.”, finaliza ele.

Siga o Times Brasil - Licenciado Exclusivo CNBC no