Donald Trump sentou à mesa com alguns dos principais empresários de inteligência artificial do mundo. A ideia de deixar a indústria de inteligência artificial se autorregular impõe severas preocupações para toda a humanidade. Poderiam aqueles que mais lucram moderar a sede por lucro para colocar o interesse coletivo à frente de tudo. A história mostra que não. E as redes sociais são talvez o exemplo mais próximo.
Alguns dos donos dessas empresas de tecnologia também são os controladores das redes sociais. Vale lembrar que eles não foram capazes de criar um arcabouço autorregulatório decente que tornasse as redes sociais um lugar seguro, que evitasse que fossem utilizadas para fins destrutivos, como a desestabilização de democracias.
Além disso, muitos países estão apertando a regulação das redes sociais porque essas empresas foram incapazes de proteger a população desses países ou, pelo menos, de mantê-la livre de ataques digitais que têm atentado contra a segurança de pessoas do mundo, e de maneira mais alarmante contra crianças e adolescentes. Tanto que estados tiveram que agir para proibir acesso desse público às redes.
Dito isso, torna-se bastante preocupante a ideia de que essas empresas de inteligência artificial seriam elas próprias capazes de domesticar a criatura que estão criando. Essa quimera — que inclusive os próprios executivos admitem que pode estar pronta em pouco tempo para uma espécie de fagocitose da humanidade — não deveria ser deixada exclusivamente nas mãos de quem a desenvolve.
Trump avalia que os vigilantes desse desenvolvimento da inteligência artificial seriam os próprios executivos e que não haveria nenhuma autoridade acima deles. Muito preocupante, para dizer o mínimo. Como imaginar que executivos que têm posturas — algumas delas, inclusive, preconceituosas e elitistas — poderiam ser colocados como vigilantes da maior arma de destruição em massa que a humanidade poderia produzir? Vale lembrar a fala recente de Bill Gates: “A IA é certamente poderosa o suficiente para desencadear eventos que causem um bilhão de mortes”.
O elefante na sala (de comando)
Todos esses termos poderiam soar como excessivamente alarmistas se fossem proferidos apenas por este pessimista. Mas quando saem das bocas mais poderosas do mundo, a situação muda. Além de Gates, outros grandes executivos do setor de tecnologia já vêm apontando que, em pouco tempo, o desenvolvimento da inteligência artificial seria capaz de gerar danos irreparáveis à humanidade. Se o poder de comando e controle estiver em mãos descuidadas (para ser benevolente), os riscos crescem exponencialmente.
Em Watchmen, obra de Alan Moore sobre super-heróis imorais ou amorais, Dr. Manhattan é o mais poderoso vigilante, mas ele tem uma característica principal: o asco contra a humanidade. Tendo o poder de fazer tudo, ele simplesmente escolhe — spoiler — não salvar a humanidade dos infortúnios que ele e seus pares ajudou a causar.
É preciso que se vigie os vigilantes, sim. E é preciso que esse papel caiba principalmente ao Estado — essa palavra ofensiva para muitos, mas que nada mais é do que uma forma de organização racional da sociedade.
O Estado produziu quimeras também ao longo de sua existência, desde a formação do Estado moderno, como as forças que levaram ao nazismo e ao fascismo e, por consequência, às duas Grandes Guerras. Mas não há possibilidade de evitar uma catástrofe ainda maior sem a presença incisiva do Estado.
É esse ente que, como organizador da sociedade e representação dela — ainda que uma representação fraca e incompleta— que precisa estabelecer os limites. Não se pode domesticar a inteligência artificial e as novas tecnologias sem que haja, de fato, uma interferência estatal severa.
Para isso, vale estudar profundamente os trabalhos de autores ocidentais e orientais sobre o tema e a necessidade de formação de um arcabouço jurídico bem definido, capaz de criar protocolos de atuação dentro das empresas e fora delas também. Protocolos que permitam, por exemplo, interromper sistemas de inteligência artificial ou desligá-los se for necessário, diante de qualquer tipo de ameaça grave.
É preciso que a sociedade tenha seus próprios vigilantes. E isso precisa ser feito o quanto antes, antes que as autoridades — ou os próprios executivos — coloquem essas tecnologias em um patamar inalcançável.
Catástrofe à vista em até 12 meses
O próprio Dario Amodei, CEO da Anthropic e um dos principais beneficiados pelos retornos financeiros da IA, faz alertas muito sérios. Ele aponta para uma “corrida ao fundo do poço” e para a possibilidade de que, “em 6 a 12 meses”, um ataque massivo de IA possa “assumir o controle de toda a internet”. Ele menciona o caso concreto OpenAI-Hugging Face (OAI-HF), quando, recentemente, uma IA “fanaticamente devotada” atacou alvos que não havia sido instruída a atacar.
Por isso, Amodei convoca a sociedade como um todo a trabalhar na criação de um sistema de controle da tecnologia, além de sugerir a criação de leis em âmbito global. Ele pede que “governos exijam” o que chamou de “medidas para conter o avanço” da IA, mesmo quando isso pode render “acusações de alarmismo”.
Ainda antes da manifestação de Trump sobre a autorregulação no setor, o executivo da Anthropic já havia identificado que haveria acusações de “captura regulatória” se essas empresas liderassem o processo de moderação do mercado. E, de fato, com as empresas conduzindo o processo da maneira como Trump imagina, parece ser exatamente esse o cenário.
Ainda que as empresas decidam “priorizar a cautela em vez da velocidade e a prudência em vez do lucro”, como pede Amodei, é difícil garantir que apenas a boa vontade daqueles que mais lucram com a IA seja suficiente para fazer com que o interesse público se imponha. A sociedade precisa, urgentemente, se organizar para vigiar os vigilantes.
Siga o Times Brasil - Licenciado Exclusivo CNBC no
OpenAI acusa chinesa Moonshot AI de tentar extrair raciocínio de seus modelos 
