LFM2.5-24B-A2B

Que é LFM2.5-24B-A2B

LFM2.5-24B-A2B publicado por LiquidAI é un modelo de linguaxe grande de código aberto de 24B parámetros baseado en Liquid Foundation Models, que admite tarefas eficientes de xeración de texto e inferencia.

Características clave

• Modelo de 24B parámetros que activa só 2B parámetros, que admite xeración de texto e inferencia eficientes
• Deseñado para axentes rápidos e privados no dispositivo, que destaca en tarefas axentes e de uso de ferramentas
• Sempre pensa antes de responder durante a inferencia, usando só 2B de parámetros activos por token
• Admite unha lonxitude de contexto de ata 131072 tokens
• Admite varios idiomas, incluíndo inglés, árabe, chinés, francés, alemán, xaponés e coreano

Para quen é

Desenvolvedores que necesitan executar axentes rápidos e privados no dispositivo, e escenarios de aplicación que requiren inferencia eficiente e capacidades de uso de ferramentas.

Como comezar

1. Visita https://huggingface.co/LiquidAI/LFM2.5-24B-A2B para descargar os pesos do modelo
2. Carga o modelo LFM2.5-24B-A2B con Hugging Face Transformers para inferencia

Compilado a partir de descricións públicas no sitio web oficial / README / páxina de lanzamento da ferramenta. Os prezos e números de usuarios non foron verificados; consulta o sitio web oficial. Algunhas seccións foron redactadas con axuda de IA. Escrito en chinés e inglés; outras linguaxes están traducidas por máquina.