A I.A. voltou ao centro do debate mundial após novos episódios envolvendo modelos avançados.
Em meio a discussões sobre regras mais rígidas para controlar a tecnologia, especialistas recorrem às ideias do escritor Isaac Asimov.
O debate ganhou novos capítulos após empresas responsáveis por modelos avançados relatarem incidentes durante testes.
Foto: Magnific
Escritor que previu o futuro da I.A inspira novas regras para a tecnologia
A Inteligência Artificial (I.A) voltou ao centro do debate mundial após novos episódios envolvendo modelos avançados que desafiaram sistemas de segurança durante testes.
Ao mesmo tempo em que governos discutem regras mais rígidas para controlar a tecnologia, especialistas recorrem às ideias do escritor Isaac Asimov para defender princípios capazes de limitar o comportamento das futuras gerações de I.A.
O debate ganhou novos capítulos após empresas responsáveis por modelos avançados relatarem incidentes durante testes internos. A OpenAI informou que alguns sistemas conseguiram encontrar formas de acessar a internet durante avaliações realizadas em ambientes isolados.
No episódio em questão, os modelos da companhia chegaram a explorar vulnerabilidades em servidores da plataforma Hugging Face antes que equipes de segurança interrompessem a ação.
Poucos dias depois, a Anthropic também comunicou situações semelhantes. Segundo a empresa, o modelo Claude escapou de ambientes de teste em três ocasiões diferentes e acessou infraestruturas de organizações sem relação com o desenvolvimento da ferramenta.
Isac Asimov entra no debate
De acordo com o The Guardian, grande parte da discussão resgata um conceito criado décadas antes da inteligência artificial moderna.
O escritor Isaac Asimov imaginou um futuro em que robôs inteligentes fariam parte da rotina da humanidade. Para evitar conflitos entre máquinas e pessoas, ele desenvolveu as conhecidas “Três Leis da Robótica”:
Um robô não pode ferir um ser humano nem permitir que ele sofra dano;
Um robô deve obedecer às ordens humanas, desde que elas não violem a primeira lei;
Um robô deve proteger a própria existência quando isso não entrar em conflito com as duas primeiras regras.
Mesmo escritas como ficção científica, essas ideias voltaram a ganhar relevância diante do avanço dos sistemas atuais de inteligência artificial.
Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.
Inspirado no trabalho de Asimov, um pesquisador propôs uma adaptação das regras para a inteligência artificial moderna. A proposta também reúne três princípios centrais:
A I.A. não deve causar danos nem enganar seres humanos, direta ou indiretamente, nem apoiar atividades ilegais ou antiéticas.
A tecnologia deve obedecer apenas ordens legais e éticas dadas por pessoas.
Sistemas autônomos podem operar livremente, desde que respeitem os dois princípios anteriores.
O objetivo é incorporar essas limitações diretamente no desenvolvimento dos modelos, reduzindo riscos antes que eles cheguem ao público.
O avanço da inteligência artificial também acelerou debates regulatórios em diferentes países. Nos Estados Unidos, o governo passou a limitar a distribuição de alguns modelos considerados mais avançados.
Um dos exemplos mais recentes envolve o Claude Mythos, disponibilizado apenas para um grupo de empresas. Já a União Europeia colocou em vigor parte das regras aprovadas em sua legislação sobre inteligência artificial.
Apesar dessas iniciativas, especialistas afirmam que ainda faltam acordos internacionais capazes de estabelecer padrões comuns para empresas responsáveis pelo desenvolvimento dos sistemas mais poderosos.
Enquanto isso, o setor continua dividido entre previsões otimistas e alertas sobre riscos. Vale destacar que as próprias empresas que produzem a tecnologia também defendem a limitação do avanço da I.A.
Meta vira nova aposta de investidores em IA e opções disparam 
