Inici › Productivitat / altres › Llmspeed
Llmspeed
Show HN: Llmspeed – feel how fast a local LLM runs before you buy the hardware
Visita el lloc web / pàgina del projecte de Llmspeed →Discussió a HN
Què és Llmspeed
Llmspeed és una eina en línia que ajuda els usuaris a experimentar la velocitat real d'execució d'LLM locals mitjançant simulació abans de comprar maquinari.
Funcionalitats principals
- Simula la velocitat real d'execució d'un LLM local després de seleccionar el maquinari i el model
- Mostra les mètriques de tokens/seg i temps fins al primer token
- Simulació basada en dades de benchmarks validats de GPU, Mac i altres maquinaris
Per a qui és
Usuaris que planegen comprar maquinari per executar models de llenguatge grans locals, ajudant-los a entendre el rendiment del món real abans de comprar.
Com començar
- Visita https://llmspeed.dev/
- Selecciona el maquinari objectiu
- Selecciona el model per simular
- Visualitza els resultats simulats de tokens/seg i temps fins al primer token
Compilat a partir de descripcions públiques del lloc web oficial / README / pàgina de llançament de l'eina. Els preus i el nombre d'usuaris no s'han verificat; consulta el lloc web oficial. Algunes seccions s'han redactat amb ajuda d'IA. Escrit en xinès i anglès; altres idiomes són traduïts automàticament.
Alternatives similars (Productivitat / altres)
🏅 Obtén la insígnia “Featured on AI Hot List” · Envia una eina
← Tornar a “Productivitat / altres” · 🔥 Llista calenta completa · 📋 Llistes per cas d'ús
Butlletí
Un correu a la setmana
Un correu a la setmana: les 3 eines imprescindibles de la llista.
Gratuït. Sense spam. Cancel·la la subscripció en un clic.