Hjem › Bruksområdelister › Verktøy for kjøring av lokale store modeller
🖥️ Verktøy for kjøring av lokale store modeller (5)
Kjør store modeller på din egen datamaskin eller server slik at data aldri forlater maskinen og det ikke er nettverksavhengighet. Denne listen filtrerer verktøy og modeller relatert til lokal kjøring, modellkvantisering og lokal inferens fra hot listen, sortert etter popularitet. Innholdet oppdateres automatisk med hot listen.
Data oppdatert 18. okt. 2026 · Priser er ikke verifisert; sjekk offisielle nettsteder
1. PolyStrata
PolyStrata er et verktøy for å kjøre store språkmodeller lokalt. Det støtter flere modeller inkludert Qwen3, GLM 5.3, DeepSeek V4, LFM2.5 og Gemma 4. Det kan installeres og kjøres med ett klikk på Windows og Linux, og tilbyr en lokal API som er kompatibel med OpenAI/Anthropic. Viktige funksjoner inkluderer: Støtter kjøring av flere store språkmodeller lokalt på en PC, inkludert Qwen3.8-Flash-Next, GLM 5.3 Flash, DeepSeek V4 Flash, LFM2.5, Qwen3.6 og Gemma 4; Tilbyr installasjon og kjøring med ett klikk på Windows- og Linux-plattformer; Innebygd lokal API-tjeneste som er kompatibel med OpenAI og Anthropic. Passer for utviklere, forskere og individuelle brukere som trenger å kjøre store språkmodeller privat på en lokal PC, utvikle applikasjoner med integrerte AI-funksjoner eller bruke en lokal API.
PolyStrata: full oversikt og alternativer → · Offisiell nettside / prosjektside
2. deepseek-local-guide-ru
Komplett russiskspråklig guide som detaljerer hvordan man installerer og kjører DeepSeek V4- og R1-modellene lokalt på PC, Mac og servere, med støtte for flere metoder inkludert Ollama, llama.cpp, LM Studio, vLLM, Open WebUI, API, RAG, Agent og finjustering. Viktige funksjoner inkluderer: Komplett russisk guide som detaljerer hvordan man installerer og kjører DeepSeek V4- og R1-modellene lokalt på PC, Mac og servere; Støtter ett-klikk-kjøring av DeepSeek-R1-distillerte modeller via Ollama; Støtter kjøring av DeepSeek V4-Flash-modellen ved hjelp av llama.cpp. Passer for russisktalende utviklere, forskere og entusiaster som ønsker å kjøre DeepSeek-modeller privat på lokale PC-er, Mac-er eller servere.
deepseek-local-guide-ru: full oversikt og alternativer → · Offisiell nettside / prosjektside
3. d3
vllm-sr/d3 er et åpen kildekode-modellrepositorium basert på vLLM-inferensmotoren, med fokus på effektiv distribusjon og inferens av store språkmodeller. Viktige funksjoner inkluderer: Støtter tekst- eller JSON-inndata og kan legge ved flere bilder og videoer samtidig; En enkelt kall kan håndtere flere beslutningstyper: flervalgsspørsmål, ja/nei, poengsetting, og returnerer sannsynligheten for hvert svar; Returnerer beslutningssannsynligheter direkte uten å generere tekst. Utviklere som trenger å utføre effektiv multimodal beslutningsinferens, egnet for bygging av utvelgelses-, vurderings- eller poengsettingsapplikasjoner.
d3: full oversikt og alternativer → · Offisiell nettside / prosjektside
4. Qwen3.8-Flash-Next-FP4-Local
NVIDIA-utgitt Qwen3.8B Flash Next FP4-kvantisert versjon, en lettvekts stor språkmodell for lokal kjøring. Viktige funksjoner inkluderer: FP4-kvantisert versjon av Qwen3.8B Flash Next, som støtter lokal kjøring; Kvantisert ved hjelp av Quantisation-Aware Distillation (QAD)-teknologi; Støtter visjonsenkoder, hybrid oppmerksomhet, MoE, gated residual streams og n-gram-innebygginger. Utviklere og forskere som trenger å deploye og kjøre lettvekts multimodale store språkmodeller på lokal NVIDIA-maskinvare (slik som RTX PRO 6000 Blackwell eller DGX Spark).
Qwen3.8-Flash-Next-FP4-Local: full oversikt og alternativer → · Offisiell nettside / prosjektside
5. Underdog-Saluki-27B-1.0
En 2-bit GGUF-kvantisert modell basert på Qwen3.8-27B, med en størrelse under 8 GB. Den fokuserer på å bevare tool-calling-evne og kan kjøres direkte med llama.cpp. Viktige funksjoner inkluderer: En 2-bit GGUF-kvantisert modell basert på Qwen3.8-27B, størrelse 7.89 GB; Fokuserer på å bevare tool-calling-evne og støtter parallelle tool calls; Støtter tekstgenerering og kan oppnå bildeforståelse via et valgfritt visjonstillegg. Brukere som trenger å kjøre verktøy-kalling og multimodale oppgaver på store modeller, men har begrensede maskinvareressurser. Passer for utviklere og forskere som deployer llama.cpp lokalt.
Underdog-Saluki-27B-1.0: full oversikt og alternativer → · Offisiell nettside / prosjektside
Ofte stilte spørsmål
Hvilke verktøy anbefales i «Verktøy for kjøring av lokale store modeller»?
Denne listen inkluderer 5 verktøy: PolyStrata, deepseek-local-guide-ru, d3, Qwen3.8-Flash-Next-FP4-Local, Underdog-Saluki-27B-1.0. Fra AI Hot List (oppdateres hvert 6. time): PolyStrata, deepseek-local-guide-ru, d3, Qwen3.8-Flash-Next-FP4-Local, Underdog-Saluki-27B-1.0.
Er disse verktøyene gratis?
Priser og gratisnivåer endres ofte, og dette nettstedet har ikke verifisert dem enkeltvis. Sjekk hvert verktøys offisielle nettsted. PolyStrata, deepseek-local-guide-ru, d3, Qwen3.8-Flash-Next-FP4-Local, Underdog-Saluki-27B-1.0 er publisert åpent på GitHub / Hugging Face; se prosjektsidene deres for lisens- og bruksdetaljer.
Hvor ofte oppdateres denne listen?
Den kuraterte delen vedlikeholdes av redaktørene våre; hot-list-delen oppdateres automatisk med AI Hot List hvert 6. time. Disse dataene ble sist oppdatert 18. okt. 2026.
Flere lister
🧩 Viktige AI-verktøy for produktledere🎮 AI-verktøy for indie-spillutvikling💻 AI-programmering / Vibe Coding-verktøy🎬 AI-videogenereringsverktøy✍️ AI-skriveverktøy🤖 Verktøy for bygging av AI-agenter🎙️ AI-møtenotater og transkripsjonsverktøy
Nyhetsbrev
Én e-post i uken
Én e-post i uken: de 3 verktøyene du bør se fra listen.
Gratis. Ingen spam. Avmeld med ett klikk.