Halaman Utama › Produktiviti / lain-lain › Llmspeed

Llmspeed

Show HN: Llmspeed – feel how fast a local LLM runs before you buy the hardware

Produktiviti / lain-lain Sumber: Hacker NewsSkor 7.7· #4 dalam senarai panas302 mata· Pertama disenaraikan 17 Okt 2026

Lawati laman web / halaman projek Llmspeed →Perbincangan HN

Apakah Llmspeed

Llmspeed ialah alat dalam talian yang membantu pengguna mengalami kelajuan runtime sebenar LLM tempatan melalui simulasi sebelum membeli perkakasan.

Ciri utama

Simulasikan kelajuan runtime sebenar LLM tempatan selepas memilih perkakasan dan model
Memaparkan metrik token/saat dan masa-ke-token-pertama
Simulasi berdasarkan data penanda aras GPU, Mac dan perkakasan lain yang telah disahkan

Untuk siapa ia

Pengguna yang merancang untuk membeli perkakasan bagi menjalankan model bahasa besar tempatan, membantu mereka memahami prestasi dunia sebenar sebelum membeli.

Cara memulakan

Lawati https://llmspeed.dev/
Pilih perkakasan sasaran
Pilih model untuk disimulasikan
Lihat hasil token/saat dan masa-ke-token-pertama yang disimulasikan

Disusun daripada penerangan awam di laman web rasmi / README / halaman pelancaran alat. Harga dan bilangan pengguna belum disahkan; sila semak laman web rasmi. Beberapa bahagian disediakan dengan bantuan AI. Ditulis dalam Bahasa Cina dan Inggeris; bahasa lain adalah terjemahan mesin.