Featherless lança Simple Jev em código aberto para acelerar tarefas de classificação com IA

A plataforma de inferência serverless Featherless lançou a Simple Jev, uma biblioteca de código aberto projetada para converter modelos de inteligência artificial abertos em motores de classificação zero-shot de alta velocidade. A ferramenta permite que sistemas analisem dados de entrada e tomem decisões binárias ou categóricas de forma direta, ignorando a geração de texto conversacional tradicional para reduzir a latência e diminuir a exigência de recursos de computação.

Classificação baseada em logits sem geração de texto

A Simple Jev se baseia no lançamento anterior da versão fechada do Jev pela TypeSafe, estendendo recursos de decisão estruturada a modelos open source. Em vez de gerar respostas em texto por meio de modelos proprietários de ponta com trilhões de parâmetros, a Simple Jev avalia os dados de entrada usando uma abordagem focada em prefill, que lê as pontuações de logits diretamente no ponto de seleção. Esse design gera probabilidades categóricas imediatamente, sem a necessidade de redigir respostas conversacionais completas.

Além do processamento de texto, a Featherless oferece endpoints hospedados da Simple Jev com suporte a visão multimodal. Atualmente compatíveis com os modelos Gemma e Qwen, esses endpoints permitem que desenvolvedores utilizem dados de imagem como contexto direto para fluxos de trabalho automatizados de classificação.

Modelos de preços e disponibilidade de endpoints

A Featherless disponibilizou a biblioteca Simple Jev como um repositório open source no GitHub, permitindo que equipes de engenharia implantem ou repliquem a estrutura do classificador. Para auxiliar na integração, a Featherless também oferece um fluxo de destilação de modelos que comprime prompts de decisão complexos de arquiteturas maiores em modelos abertos menores e dedicados.

Para fins de avaliação, a Featherless disponibiliza endpoints públicos gratuitos limitados a duas requisições por segundo e uma janela de contexto de 2.000 tokens, sem exigir login ou chaves de API. Para cargas de trabalho em produção, os preços da Simple Jev hospedada começam em uma taxa base de beta de US$ 0,03 por milhão de tokens de entrada, com tokens de saída gratuitos. As listagens da Featherless também exibem classificadores dedicados baseados em Qwen com preços entre US$ 0,28 e US$ 0,30 por milhão de tokens de entrada.

Ilustração editorial gerada por IA; não é uma fotografia documental.

Fonte: Why Featherless says you don’t need a tank to deliver a pizza