A TypeSafe lançou o Jev, uma IA criada para tomar decisões que podem ser usadas diretamente por softwares.
O modelo gera respostas estruturadas e pode classificar dados, encaminhar informações e escolher ações automaticamente.
Segundo a empresa, o Jev responde entre 70 e 500 milissegundos e foi desenvolvido para aplicações em tempo real.
Foto: unsplash
Jev: nova IA foi criada para decidir e agir dentro de softwares
A TypeSafe AI apresentou o Jev, seu primeiro modelo da linha chamada System One. A proposta é diferente da dos modelos de linguagem tradicionais, que produzem texto e precisam de etapas adicionais para que os softwares interpretem e validem as respostas.
Segundo a empresa, o Jev recebe informações não estruturadas e devolve decisões estruturadas, acompanhadas de probabilidades e indicadores de confiança.
Dessa forma, o modelo pode atuar diretamente em fluxos de software para classificar informações, encaminhar dados, pontuar resultados, extrair conteúdos ou escolher caminhos dentro de um sistema. O modelo entrou em acesso antecipado e representa a aposta da TypeSafe em uma inteligência artificial voltada para automação.
Jev toma decisões dentro de sistemas
A principal diferença está na forma como o modelo produz suas respostas. LLMs tradicionais geram texto de maneira sequencial, produzindo um token por vez. Já o Jev utiliza uma abordagem paralela para gerar as probabilidades relacionadas a uma decisão em uma única consulta.
A TypeSafe afirma que essa arquitetura permite respostas mais rápidas. Dessa forma, nos testes divulgados pela empresa, o tempo de resposta do serviço ficou entre 70 milissegundos e 500 milissegundos. A companhia também afirma que o Jev alcança níveis de inteligência semelhantes aos de modelos de linguagem existentes em tarefas específicas do System One, mas com maior velocidade e eficiência.
Outro diferencial está no formato da resposta. O Jev não gera strings, como textos convencionais. Em vez disso, entrega valores estruturados definidos previamente. Com isso, o software consegue utilizar o resultado sem precisar interpretar uma resposta textual.
Modelo busca reduzir alucinações
A TypeSafe também destaca a chamada segurança de tipo. Além disso, como o sistema define antecipadamente quais estruturas o modelo pode devolver, a empresa afirma que o Jev não produz erros de tipo.
O modelo ainda apresenta probabilidades e índices de confiança em suas decisões. Dessa forma, a proposta é indicar o nível de certeza associado a cada resultado, algo que a TypeSafe considera importante para aplicações automatizadas.
A empresa cita usos em fluxos de trabalho com inteligência artificial, análise de grandes volumes de dados e aplicações em tempo real. O Jev também pode verificar prompts, rastrear respostas de outros modelos e identificar possíveis falhas em sistemas que utilizam inteligência artificial.
Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.
O serviço custa US$ 0,042 por milhão de tokens de entrada. Segundo a empresa, as saídas não têm cobrança. Além disso, em sua página principal, a companhia afirma ter alcançado ganhos de até 193,6 vezes em velocidade e de 444,6 vezes em custo em determinados fluxos de trabalho.
Esses números, porém, vêm de avaliações realizadas pela própria TypeSafe. A empresa reconhece que os fluxos de teste foram criados por integrantes de sua equipe de desenvolvimento, o que pode introduzir algum viés nos resultados.
Além disso, a companhia também informa que utilizou modelos externos como referência para as comparações e que os testes não representam necessariamente todos os cenários de uso.
Jev também aparece em jogos
Para demonstrar a tecnologia, a TypeSafe apresentou aplicações como um bot para Doom e uma versão do Wikiracing. No Doom, o Jev recebe uma representação estruturada do estado do jogo e toma decisões em tempo real. Já no Wikiracing, o modelo escolhe entre os links disponíveis para avançar de uma página da Wikipédia até outra.
O Jev suporta até 255 opções em uma decisão. Para conjuntos maiores, a TypeSafe utiliza um sistema de duas etapas, que primeiro pontua as alternativas e depois seleciona uma delas. O modelo está em acesso antecipado. A TypeSafe afirma que pretende ampliar os testes com desenvolvedores para entender quais decisões podem ser automatizadas e identificar as limitações da tecnologia.
Rendimento do Treasury de 10 anos atinge maior nível desde 2002 com avanço da onda global de venda de títulos 
