Segurança da I.A. entra na rota dos bilhões após avanço de ataques e riscos de controle

Com sistemas de inteligência artificial cada vez mais expostos a ataques, manipulações e falhas de controle, a segurança passou a ocupar uma parcela maior dos investimentos das empresas de tecnologia. Nesse cenário, Accenture e Anthropic anunciaram neste sábado (19) que destinarão pelo menos US$ 1 bilhão cada, ao longo de cinco anos, à proteção e à avaliação de modelos de IA.

A parceria prevê a criação de uma equipe de avaliadores integrados para testar modelos, simular ataques e analisar mecanismos de proteção, em um momento de forte debate sobre os riscos e a velocidade de desenvolvimento da tecnologia.

Pelo acordo, a Accenture formará uma equipe especializada que trabalhará com as equipes internas e os parceiros de segurança da Anthropic. O grupo realizará testes de red teaming, que simulam ataques contra sistemas, além de avaliações de alinhamento e dos mecanismos de proteção dos modelos.

“A Accenture está reunindo uma equipe dedicada, com profunda experiência em IA, segurança e no setor, para trabalhar em conjunto com a Anthropic”, afirmou Julie Sweet, presidente do conselho e CEO da Accenture.

Segundo a executiva, a segurança dos sistemas exige não apenas conhecimento técnico, mas também compreensão sobre como a tecnologia é utilizada no mundo real.

A Accenture também pretende aproveitar a aquisição da Faculty, empresa especializada em inteligência artificial aplicada, para ampliar sua atuação em testes e avaliação de modelos. A companhia possui experiência em projetos nos setores governamental, de defesa, saúde e infraestrutura.

Marc Warner, diretor de Tecnologia da Accenture e CEO da Faculty, afirmou que a segurança deve fazer parte do desenvolvimento dos sistemas desde o início.

“Unir forças com a Anthropic para atuar como avaliadores integrados é exatamente o tipo de trabalho para o qual a Faculty foi criada”, disse.

Disputa sobre velocidade e segurança

O anúncio ocorre após uma semana de divergências entre executivos e autoridades sobre o avanço dos modelos de IA e a necessidade de novas regras.

Dario Amodei, CEO da Anthropic, publicou um texto defendendo uma redução deliberada no ritmo de desenvolvimento dos modelos mais avançados. A posição recebeu apoio público de Sam Altman, CEO da OpenAI, e de Elon Musk, CEO da SpaceX.

Durante a conferência Dreamforce, na terça-feira (15), Amodei voltou a defender uma abordagem mais cautelosa.

“Eu acho que essa é a forma de conduzir o setor adiante, dando o exemplo e mostrando que todos podem sempre fazer melhor”, afirmou.

Altman também defendeu que segurança e monitoramento sejam tratados antes da expansão das capacidades dos modelos. Segundo ele, a responsabilidade das empresas não deveria depender do comportamento de concorrentes.

“Não deveria haver nenhuma condição para isso”, afirmou.

A posição contrasta com a de Jensen Huang, CEO da Nvidia, que rejeitou a necessidade de novas leis específicas para regular a inteligência artificial.

“As empresas devem inovar o mais rápido possível, mas nunca devem inovar tão rápido a ponto de lançar produtos inseguros”, disse.

Em outra declaração, Huang afirmou: “Não precisamos de novas leis. É bobagem. Não precisamos, temos leis de sobra”.

No mesmo evento, o executivo disse que velocidade e segurança não são necessariamente incompatíveis.

“É uma falsa escolha. É perfeitamente possível ter as duas coisas ao mesmo tempo”, declarou.

Para Huang, as empresas devem interromper o desenvolvimento quando identificarem riscos em um produto. “Corram o mais rápido que puderem. Mas, se em algum momento vocês sentirem que a empresa está fora de controle ou que o produto não será seguro, façam uma pausa e certifiquem-se de que tudo está correto”, afirmou.

O debate também chegou ao governo americano. O presidente Donald Trump rejeitou pedidos por uma desaceleração no desenvolvimento da IA e classificou como uma “farsa” as preocupações de que a tecnologia poderia destruir a humanidade.

Em publicação na Truth Social, Trump afirmou que aqueles que preveem uma destruição causada pela IA são os mesmos que, segundo ele, fizeram previsões sobre mudanças climáticas.

Durante o All-In Summit, em Los Angeles, Huang recebeu uma ligação de Trump e colocou o presidente no viva-voz diante do público. “Estou dizendo a vocês, é tudo uma farsa. Os data centers são ótimos, enriquecem as pessoas e enriquecem os estados”, afirmou Trump, segundo vídeo publicado por um participante.

O presidente também classificou os data centers como “o petróleo dos próximos 20, 25 anos” e relacionou a resistência à construção dessas estruturas à disputa tecnológica com a China.

Infraestrutura, regulação e mecanismos de emergência

A discussão sobre segurança acompanha a expansão da infraestrutura necessária para sustentar o crescimento da IA. A construção de data centers aumenta a demanda por eletricidade, água, chips, sistemas de refrigeração e capacidade das redes.

Durante a semana, ações de empresas ligadas à infraestrutura de IA recuaram em Wall Street em meio às preocupações sobre uma possível desaceleração dos investimentos. Entre elas estavam Nvidia, Micron, Intel, Marvell Technology, Applied Materials, Hewlett Packard Enterprise, Dell, Oracle e CoreWeave.

Ao mesmo tempo, empresas de cibersegurança registraram altas, em um movimento associado à expectativa de maior demanda por ferramentas para monitorar sistemas de IA e proteger organizações contra ataques.

Outro ponto do debate nos Estados Unidos é a possibilidade de criação de um mecanismo de emergência para reduzir a capacidade ou desligar sistemas de IA, conhecido como kill switch.

Uma proposta apresentada na Câmara dos Representantes daria ao Departamento de Segurança Interna autoridade emergencial para exigir a redução da capacidade ou o desligamento de determinados modelos.

Especialistas, porém, apontam dificuldades técnicas e operacionais. Data centers contam com sistemas redundantes, múltiplas máquinas e estruturas distribuídas, enquanto os modelos podem estar conectados a diferentes serviços e infraestruturas.

Mark Nitzberg, diretor-executivo do Center for Human-Compatible AI, da Universidade da Califórnia, em Berkeley, afirmou que a redundância precisaria ser considerada.

“Primeiro precisamos lidar com essa redundância. Nosso kill switch precisa desligar os sistemas principais e também os sistemas redundantes”, afirmou.

Tim Brown, ex-chefe de segurança da SolarWinds, destacou outro desafio: a coordenação entre diferentes empresas e sistemas.

“Não há uma única entidade para desligar. Existem milhares de entidades para desligar”, disse.

A Microsoft também criou mecanismos internos para lidar com os riscos associados à tecnologia. A divisão de IA da companhia publicou nesta segunda-feira (14) um código de conduta para seus modelos MAI, baseado no conceito de “Humanist AI”.

A proposta estabelece que os sistemas permaneçam sob controle humano e adota como princípio que “as pessoas importam mais do que a IA”.

Na China, o Ministério das Relações Exteriores criticou declarações de executivos americanos sobre os riscos da IA e afirmou que discursos baseados em medo e competição podem dificultar a construção de regras internacionais.

O porta-voz Guo Jiakun disse que a China defende o desenvolvimento aberto da tecnologia e o fortalecimento da cibersegurança.

“A IA é uma tecnologia consequente para o bem-estar de toda a humanidade. Todas as partes devem promover conjuntamente o desenvolvimento aberto e inclusivo para o bem e para todos”, afirmou.

O CEO da Palantir, Alex Karp, também defendeu diretrizes para os sistemas de IA. Em entrevista à CNBC, afirmou que empresas devem ser responsabilizadas pelos efeitos de suas tecnologias.

“É preciso encontrar um jeito de estabelecer diretrizes razoáveis que sejam cumpridas”, afirmou.

Karp também defendeu mecanismos de responsabilização civil e criminal para situações em que sistemas desenvolvidos por empresas causem danos graves.

“O primeiro passo deve ser, ok, você revelou isso, o que está fazendo a respeito? O segundo passo é dizer, se não está fazendo, não é responsável, teremos que envolver pessoas”, disse.