Llmspeed

Hva er Llmspeed

Llmspeed er et nettverktøy som hjelper brukere med å oppleve den faktiske kjøretiden til lokale LLM-er gjennom simulering før de kjøper maskinvare.

Viktige funksjoner

• Simuler den faktiske kjøretiden til en lokal LLM etter valg av maskinvare og modell
• Viser tokens/sek og time-to-first-token-metrikk
• Simulering basert på validerte GPU-, Mac- og andre maskinvare-benchmarkdata

Hvem det er for

Brukere som planlegger å kjøpe maskinvare for å kjøre lokale store språkmodeller, og som får hjelp til å forstå ytelse i virkeligheten før kjøp.

Hvordan komme i gang

1. Gå til https://llmspeed.dev/
2. Velg målmaskinvare
3. Velg modellen som skal simuleres
4. Se de simulerte tokens/sek- og time-to-first-token-resultatene

Sammensatt fra offentlige beskrivelser på verktøyets offisielle nettsted / README / lanseringsside. Priser og brukertall er ikke verifisert; vennligst sjekk det offisielle nettstedet. Noen seksjoner ble utarbeidet med hjelp fra AI. Skrevet på kinesisk og engelsk; andre språk er maskinoversatt.