A corrida pela inteligência artificial costuma premiar empresas que lançam modelos cada vez mais avançados.
A Anthropic seguiu um caminho diferente ao decidir restringir parte das capacidades de sua tecnologia mais poderosa.
A decisão chamou a atenção do mercado após o modelo originar despertar preocupações no setor de cibersegurança.
Foto: Tecmundo
Por que a Anthropic limitou sua IA mais poderosa antes de lançá-la
A corrida pela inteligência artificial costuma premiar empresas que lançam modelos cada vez mais avançados. No entanto, a Anthropic seguiu um caminho diferente ao decidir restringir parte das capacidades de sua tecnologia mais poderosa antes de disponibilizá-la ao público.
A decisão chamou a atenção do mercado após o modelo originar despertar preocupações no setor de cibersegurança, o que levou a empresa a limitar a capacidade do novo modelo.
De acordo com o El País, há cerca de 2 meses a Anthropic apresentou o Mythos Preview, um modelo de inteligência artificial que demonstrou capacidade para identificar vulnerabilidades de software em poucos minutos.
Diante desse potencial, a empresa optou por não liberar a tecnologia para uso geral. Em vez disso, compartilhou o sistema com cerca de 150 empresas, governos e instituições que participam do projeto Glasswing, incluindo a Espanha.
Chegada do Fable 5 da Anthropic
Neste mês de junho, a Anthropic lançou o Fable 5, descrito como o modelo mais poderoso já disponibilizado ao público pela empresa. Segundo a companhia, ele se destaca em design de software, pesquisa científica e tarefas complexas.
Ao mesmo tempo, a empresa limitou parte das capacidades ligadas à segurança cibernética. Quando usuários fazem determinadas perguntas, o sistema utiliza respostas geradas por outro modelo chamado Claude Opus 4.8, considerado menos sensível para esse tipo de tema.
Problemas e bloqueio da Anthropic
Apesar da expectativa em cima do novo lançamento da Anthropic, o Fable 5 também foi o responsável por um fracasso da empresa. Mesmo com as limitações de segurança, o modelo recém-lançado foi analisado por especialistas que encontraram falhas curiosas e perigosas.
Entre elas, o sistema não era capaz de responder respostas simples sobre temas educacionais, como biologia. Entretanto, o Fable 5 respondia a questões relacionadas ao uso de gás cloro como arma química. Esses elementos foram suficientes para que o governo americano decretasse o bloqueio da plataforma.
Mesmo em meio à forte corrida e concorrência pelo domínio da I.A., a tecnologia avançada segue mostrando que ainda existem passos a serem respeitados. Além de forte concorrência, erros sérios em novos lançamentos podem alterar o rumo da empresa no mercado financeiro.
Por isso, a estratégia da Anthropic de limitar a capacidade antes mesmo do acesso ao público mostra como empresas de inteligência artificial enfrentam desafios cada vez maiores, relacionando inovação e riscos que envolvem segurança e reputação da empresa.
Allbirds muda de nome novamente, contrata nova CEO e vê ações dispararem 
