Step-3.5-Flash-int4: o novo rei dos LLMs locais para dispositivos com 128GB de RAM
O Step-3.5-Flash-Int4 da Stepfun AI permite rodar um modelo de 197B parâmetros localmente com 256k de contexto, oferecen...
#llama-cpp
Artigos sobre llama-cpp
3 artigos encontrados
Liquid AI lança LFM2.5-1.2B-Thinking: modelo de raciocínio com menos de 1GB que roda em qualquer celular
Liquid AI apresenta modelo de raciocínio com 1.2B de parâmetros que roda em 900MB de RAM. Arquitetura híbrida com convol...
Falcon H1 Tiny 90M: modelos de 90 milhões de parâmetros com arquitetura híbrida Transformer-Mamba que rodam em qualquer dispositivo
Nova família Falcon H1 Tiny traz modelos de 90M de parâmetros com arquitetura híbrida Transformer-Mamba, disponíveis em...
Fique por dentro das novidades
Receba as últimas notícias sobre AI Engineering diretamente no seu email. Sem spam, prometemos.
Ao se inscrever, você concorda com nossa política de privacidade .