Startup afirma reduzir modelos de IA em até 15 vezes, permitindo execução local no iPhone.
Tecnologia pode tornar a Siri mais rápida, privada e menos dependente da nuvem.
Especialistas avaliam que avanço pode reduzir demanda por memória, mas não elimina necessidade de chips.
Imagem de um iPhone, da Apple.
A Apple está em negociações com uma pequena empresa do Vale do Silício que afirma ser capaz de reduzir modelos avançados de inteligência artificial a um tamanho suficiente para rodarem diretamente em um iPhone, disse o CEO da startup à CNBC.
A PrismML, startup apoiada pela Khosla Ventures e originada do Instituto de Tecnologia da Califórnia (Caltech), lançou publicamente nesta terça-feira versões comprimidas do modelo de código aberto Qwen, da Alibaba. A empresa afirmou ter reduzido o modelo de cerca de 54 GB para menos de 4 GB, permitindo que todos os seus 27 bilhões de parâmetros rodem em um iPhone 15 ou modelos mais recentes.
O CEO da PrismML, Babak Hassibi, disse à CNBC que a Apple e outras empresas vêm avaliando os modelos da startup, medindo velocidade, eficiência energética e desempenho em dispositivos.
“Eles estão realmente avaliando nossa tecnologia neste momento”, afirmou Hassibi sobre a Apple.
Ele classificou as conversas como bastante iniciais e disse que ainda não está claro onde elas poderão levar, mas acrescentou que “as coisas estão avançando bem”.
A Apple não respondeu imediatamente a um pedido de comentário.
O site The Information havia informado anteriormente sobre o avanço tecnológico da PrismML.
O lançamento ocorreu um dia após a Apple disponibilizar a versão beta pública do iOS 27, dando aos donos de iPhone o primeiro acesso amplo à aguardada reformulação da Siri. A empresa busca tornar a assistente mais competitiva frente às soluções da OpenAI e da Anthropic, mantendo mais informações pessoais e processamento de IA diretamente no aparelho.
A estratégia pode resolver uma das principais limitações da abordagem de IA da Apple. Os modelos mais avançados normalmente exigem memória e capacidade de processamento superiores às disponíveis em um smartphone.
A Apple pode encaminhar solicitações mais complexas para modelos hospedados na nuvem, mas executar mais IA diretamente no iPhone reduziria o atraso causado pelo envio de dados a servidores remotos, diminuiria os custos de computação em nuvem e reforçaria a estratégia de privacidade da empresa. Além disso, alguns recursos poderiam funcionar mesmo sem conexão com a internet.
Carolina Milanesi, presidente e principal analista da Creative Strategies, afirmou que modelos menores podem permitir que a Apple leve ao iPhone recursos mais exigentes, incluindo fotografia computacional, geração de vídeo e ferramentas de saúde e condicionamento físico baseadas em dados pessoais sensíveis.
“Quanto mais você puder fazer no dispositivo, melhor será”, disse, destacando informações de saúde e medicamentos que os usuários preferem manter privadas.
A PrismML afirmou que reduz os modelos de IA simplificando drasticamente a forma como as informações internas são armazenadas, reduzindo cada valor de 16 bits para apenas um ou três valores possíveis. Isso diminui significativamente a memória necessária para armazenar e operar o modelo.
Hassibi comparou a tecnologia à transição da indústria de chips da computação de oito bits para quatro bits, mas afirmou que a abordagem da empresa vai ainda mais longe.
A startup informou que os modelos comprimidos utilizam entre 10 e 15 vezes menos memória, geram respostas entre seis e oito vezes mais rápidas e consomem entre três e seis vezes menos energia do que versões convencionais executadas no hardware atual.
Hassibi reconheceu, porém, que existe um custo. Segundo ele, os modelos da PrismML normalmente perdem alguns pontos percentuais de desempenho geral, sendo a memória factual afetada antes de habilidades como raciocínio, matemática e programação.
A PrismML está disponibilizando gratuitamente duas versões comprimidas do modelo. Elas foram desenvolvidas para rodar em dispositivos comuns, incluindo iPhones, MacBooks e computadores equipados com chips da Nvidia.
A tecnologia surgiu do grupo de pesquisa liderado por Hassibi no Caltech. A universidade detém as patentes da tecnologia e as licencia com exclusividade para a PrismML. Em março, a empresa captou uma rodada seed de US$ 16,25 milhões (R$ 82,71 milhões) liderada pela Khosla Ventures e outros investidores.
Hassibi afirmou que o próximo modelo na fila será o Gemma, de código aberto, do Google, seguido por modelos muito maiores, incluindo aqueles desenvolvidos por laboratórios de ponta que hoje normalmente exigem infraestrutura de data centers.
Segundo a PrismML, a tecnologia poderá futuramente ir além de celulares e notebooks, chegando a robôs, sistemas autônomos e outros produtos que precisam tomar decisões rapidamente sem depender de conexão com a nuvem.
“É muito importante que a inteligência esteja localmente e possa funcionar rapidamente”, afirmou.
A Apple já executa parte de seu sistema de IA localmente, incluindo tradução, alguns recursos de resumo e funções ligadas a informações pessoais. Solicitações mais complexas são encaminhadas para a infraestrutura privada em nuvem da empresa ou para modelos externos.
Horace Dediu, fundador da Asymco, afirmou que a Apple provavelmente busca manter a maior parte das interações comuns com a Siri no próprio aparelho, deixando apenas as tarefas mais exigentes para a nuvem.
Segundo ele, a vantagem não está apenas em utilizar menos memória, mas em conseguir executar um modelo mais poderoso dentro das limitações físicas do dispositivo.
“Eles estão tentando descobrir qual o maior e mais inteligente modelo que conseguem colocar dentro do aparelho”, afirmou Dediu. Manter as solicitações mais comuns localmente proporciona menor latência, maior privacidade e, potencialmente, menores custos com licenciamento e computação em nuvem.
A Apple também pode ter vantagem por desenvolver simultaneamente os chips e o software do iPhone, obtendo maior controle sobre a execução da inteligência artificial no dispositivo.
Ainda assim, analistas alertam que as promessas da PrismML precisam ser comprovadas fora de demonstrações controladas.
Tarun Pathak, diretor de pesquisa da Counterpoint Research, afirmou que o desempenho com comandos longos, o consumo de bateria durante multitarefas e a confiabilidade diante de milhões de solicitações serão fatores decisivos.
“O teste definitivo envolverá milhões de consultas, milhares de combinações de dispositivos e testes robustos em larga escala”, disse Pathak.
Phil Solis, responsável pelas pesquisas sobre processadores para dispositivos da IDC, afirmou que o consumo de energia pode ser a maior incógnita. Segundo ele, um modelo suficientemente poderoso para ser usado com frequência – ou continuamente em segundo plano para tarefas semelhantes às de agentes de IA – ainda pode consumir rapidamente a bateria do aparelho, mesmo exigindo menos memória.
O que isso significa para a demanda por chips
O lançamento da PrismML também ocorre em meio ao intenso debate sobre se os avanços em eficiência da inteligência artificial poderão reduzir futuramente a demanda por chips de memória e por infraestrutura cara de data centers.
A memória tornou-se um dos maiores custos e gargalos tanto em eletrônicos de consumo quanto em servidores voltados para IA. O Morgan Stanley estima que o custo médio da memória DRAM por bit utilizada pela Apple poderá subir cerca de 190% no ano fiscal de 2027, enquanto os custos da memória NAND deverão aumentar aproximadamente 180%. A memória NAND é normalmente utilizada em pen drives e unidades de estado sólido (SSD).
O banco espera que a Apple eleve o preço inicial de modelos equivalentes do iPhone 18 em cerca de US$ 200 (R$ 1.018) para preservar suas margens.
A PrismML afirma que sua tecnologia poderá permitir que um modelo de IA em nuvem que normalmente exige oito GPUs funcione utilizando apenas uma, além de possibilitar que modelos antes restritos a servidores passem a operar em celulares e notebooks.
Isso poderá reduzir a quantidade de memória ou capacidade computacional necessária para determinadas tarefas de IA. Ainda assim, isso não significa necessariamente uma queda na demanda total por chips.
Gil Luria, analista da D.A. Davidson, afirmou que reduzir o tamanho dos modelos não elimina a necessidade de processadores ou memória. Segundo ele, parte dessa demanda pode simplesmente migrar dos data centers para celulares e outros dispositivos.
“Não significa que você deixará de precisar do chip. Ainda será necessário ter a GPU e também a memória”, afirmou Luria.
Ele acrescentou que executar IA em dispositivos individuais pode, inclusive, ser menos eficiente do que utilizar infraestrutura compartilhada de data centers, já que os chips presentes nos celulares permanecem ociosos boa parte do tempo.
Avanços em eficiência também podem levar ao aumento do uso, e não necessariamente à redução dos gastos, já que uma IA mais rápida e barata pode viabilizar novos produtos e incentivar consumidores a utilizarem os modelos com maior frequência.
Ainda assim, o mercado costuma reagir negativamente a qualquer sinal de que a inteligência artificial possa precisar de menos memória do que o esperado. As ações da Micron despencaram em março após o Google publicar o estudo TurboQuant, que descrevia uma forma de reduzir o uso de memória sem comprometer o desempenho dos modelos, embora o papel tenha posteriormente recuperado as perdas.
O lançamento público da PrismML permite agora que usuários e investidores testem se os ganhos prometidos realmente se confirmam fora do laboratório. Para a Apple, executar modelos mais avançados diretamente no iPhone pode ajudar a empresa a aprimorar a Siri sem abrir mão da privacidade e da integração entre hardware e software que diferenciam seus produtos.
“A combinação entre IA na nuvem e IA executada no dispositivo pode oferecer uma experiência mais completa, eficiente e centrada na privacidade. As tarefas complexas continuarão sendo enviadas para a nuvem, enquanto atividades sensíveis, que exigem baixa latência e envolvem privacidade, serão executadas diretamente no aparelho”, afirmou Pathak.
📌 ONDE ASSISTIR AO MAIOR CANAL DE NEGÓCIOS DO MUNDO NO BRASIL:
🔷 Canal 562 ClaroTV+ | Canal 562 Sky | Canal 592 Vivo | Canal 187 Oi | Operadoras regionais
🔷 TV SINAL ABERTO: parabólicas canal 562
🔷 ONLINE: www.timesbrasil.com.br | YouTube
🔷 FAST Channels: Samsung TV Plus, LG Channels, TCL Channels, Pluto TV, Roku, Soul TV, Zapping | Novos Streamings
Warsh promete que inflação será “coisa do passado” e cita benefícios do boom de investimentos em IA
