A inteligência artificial avançou rapidamente dentro dos grandes bancos e instituições financeiras nos últimos anos.
Apesar de ser uma ferramenta com alto avanço tecnológico, são levantados alertas sobre o uso dessa ferrramenta.
A pressão dos investidores por transparência e controle sobre as funcionalidades da I.A. tende a aumentar
Foto: Magnific
Como a falta de transparência dos sistemas de IA pode gerar riscos em grandes instituições financeiras?
A inteligência artificial avançou rapidamente dentro dos grandes bancos e instituições financeiras nos últimos anos. Hoje, empresas do setor usam sistemas de I.A. para negociações automáticas, análise de crédito, conformidade regulatória, prevenção à fraude e atendimento ao cliente. Apesar de ser uma ferramenta com alto avanço tecnológico, executivos do mercado financeiro começaram a levantar alertas sobre os riscos desse crescimento acelerado.
O debate ganhou força após declarações de Lloyd Blankfein, ex-CEO do Goldman Sachs. Segundo ele, o principal problema da I.A. não está em uma possível superinteligência, mas sim na dificuldade de verificar se os sistemas realmente tomam decisões corretas.
O setor financeiro depende de precisão, controle e supervisão constante. Por isso, a chamada “caixa-preta” da inteligência artificial preocupa reguladores e investidores. Em muitos modelos avançados de I.A. os próprios operadores não conseguem entender exatamente como o sistema chegou a determinada decisão.
Segundo Blankfein, isso cria um grande problema, já que instituições financeiras trabalham com operações em larga escala. Ele explicou que, no passado, operadores conseguiam identificar erros rapidamente. Agora, softwares conseguem executar até 70 mil transações automaticamente sem que humanos acompanhem cada etapa do processo.
“Não é porque ela é mais inteligente do que nós e vai nos transformar em animais de estimação, mas porque não temos a capacidade de testar se ela está certa ou não”, disse o ex-CEO durante uma entrevista ao The a16z Show.
Casos antigos envolvendo I.A.
O mercado financeiro já enfrentou episódios graves causados por automação, mesmo antes da atual geração de inteligência artificial. De acordo com a Fortune, em 2010, o chamado “flash crash” apagou quase US$ 1 trilhão (aproximadamente R$ 4,9 trilhões na cotação atual) em valor de mercado em poucos minutos após operações automatizadas acelerarem quedas nas bolsas.
Logo após isso, em 2012, a Knight Capital perdeu US$ 440 milhões (R$ 2,2 bilhões) em apenas 45 minutos após uma falha de software de negociação automática. O episódio praticamente destruiu a empresa.
Com isso, especialistas afirmam que os riscos ficaram ainda maiores com os novos sistemas de inteligência artificial que conseguem tomar decisões, encadear ações e operar em velocidade muito superior aos modelos antigos.
Uma análise da Deloitte realizada neste ano identificou mais de 350 riscos diferentes ligados ao uso de agentes autônomos no setor bancário. De acordo com o relatório, uma única falha pode provocar problemas em cadeia envolvendo pagamentos, custos de nuvem, transferências financeiras e sistemas internos.
Uso da I.A. mesmo em meio a preocupações
Apesar da existência de riscos, grandes bancos continuam ampliando o uso de inteligência artificial. O Goldman Sachs, instituição financeira, distribuiu seu assistente de I.A. para mais de 46 mil funcionários. O JP Morgan, por exemplo, já opera mais de 450 casos de uso ligados à tecnologia e cerca de 150 mil funcionários utilizam semanalmente as ferramentas.
Além disso, outras instituições de renome seguem utilizando a tecnologia. O Citi já permite o uso de ferramentas aprovadas pela empresa para mais de 70% de seus 182 mil funcionários. Ao mesmo tempo, executivos do setor reconhecem que a liderança ainda não acompanha a velocidade da implementação.
Uma pesquisa do MIT Technology Review Insights mostrou que 70% dos executivos bancários acreditam que as estruturas de controle continuam atrasadas em relação ao avanço dos sistemas autônomos. Além disso, um levantamento da Wakefield Research, realizado em janeiro deste ano, mostrou que apenas 16% dos diretores financeiros confiam plenamente na I.A. para produzir dados contábeis.
Apesar dos possíveis perigos, os bancos ao redor do mundo seguem investindo bilhões em inteligência artificial, já que enxergam ganhos de produtividade, uma vez que a tecnologia sempre está disponivel, além de velocidade e redução de custos.
Porém, o próprio mercado financeiro entende que a confiança nesses sistemas avançados ainda depende da supervisão humana constante. Esse cuidado sobre as decisões feitas por I.A. no sistema financeiro deve continuar crescendo entre as instituições financeiras.
Além disso, a pressão dos investidores por transparência e controle sobre as funcionalidades da I.A. tende a aumentar na mesma velocidade para evitar que falhas automatizadas provoquem crises ainda maiores no mercado global.
Este é o filme recordista de remakes que entrou para o Guinness Book; veja o alcance
Por Joyce Canelle
Como a Disney usa o esporte para conquistar uma nova geração de fãs; veja a estratégia
Por Joyce Canelle
Quer comprar um imóvel em 10 anos? Veja quanto guardar por mês para chegar a R$ 300 milQuer comprar um imóvel em 10 anos? Veja quanto guardar por mês para chegar a R$ 300 mil
Por André Amadeus
Bitcoin e criptos entram em fase mais madura; veja o que está mudando no setor
Por Nathalia Gimenes
OpenAI escolhe Singapura para seu primeiro laboratório de IA fora dos EUA; entenda o motivo
Por Naty Falla
📌 ONDE ASSISTIR AO MAIOR CANAL DE NEGÓCIOS DO MUNDO NO BRASIL:
🔷 Canal 562 ClaroTV+ | Canal 562 Sky | Canal 592 Vivo | Canal 187 Oi | Operadoras regionais
🔷 TV SINAL ABERTO: parabólicas canal 562
🔷 ONLINE: www.timesbrasil.com.br | YouTube
🔷 FAST Channels: Samsung TV Plus, LG Channels, TCL Channels, Pluto TV, Roku, Soul TV, Zapping | Novos Streamings
GM mira em nova química de baterias para impulsionar seus negócios de data centers com IA e armazenamento de energia 
