//Novità3 min di lettura
Strata fa girare Qwen3.8-Flash-Next su un PC da 64 GB di RAM e lo espone come API locale

Strata è un motore di inferenza locale con una app desktop, e il suo mestiere è far stare su un PC modelli che normalmente chiedono server con centinaia di gigabyte di memoria. Non li comprime e basta: divide il lavoro tra scheda video, RAM e SSD. Il codice è in C++ ed è MIT, l'ha scritto Niko Veit e in poco più di sei settimane il repository ha superato le 42.000 stelle.
Il modello di punta è Qwen3.8-Flash-Next, la preview dell'architettura che reggerà Qwen4: 125 miliardi di parametri nel modello linguistico, 6 attivi per token, più 51 miliardi di embedding n-gram e 4 di MTP. Legge anche le immagini. Nei formati ISTA-DASLab occupa 37,6 GB tra RAM e VRAM nella variante Q2_0 e 54,8 nella IQ3_S.
Dove finisce ogni pezzo del modello
Il modello ha 512 esperti per layer, 24.576 in tutto, e ogni parola ne usa 10 più uno condiviso. La GPU si tiene attenzione, KV cache e gli esperti più richiesti, e impara quali sono mentre chatti: ogni gigabyte libero di VRAM ci mette circa 700 esperti. La RAM tiene tutti gli esperti, e la CPU calcola quelli che la scheda non ha, in parallelo invece che in attesa. L'SSD conserva una tabella n-gram da 28,8 GB e ne legge poche righe per token.
Sopra c'è un modello che fa da bozza: l'MTP propone fino a 3 token, il modello grande li verifica in un passaggio e tiene quelli giusti. Il progetto dichiara 1,6-1,8 volte più veloce con lo stesso output.
Quanto va su una macchina vera
Sono misure del progetto, non un benchmark indipendente. Su una RTX 5070 da 12 GB con 64 GB di RAM, con Q2_0 scrive 94 token al secondo in chat breve e 76 con 128K di contesto, e legge un prompt da 32K in circa 15 secondi. Con IQ3_S scende a 53 e 46. Su una RX 9070 XT da 16 GB con 47 GB di RAM va da 44 a 60.
Il contesto è il dato che cambia l'uso: 128K su un PC, contro gli 8K del percorso DeepSeek.
Il ponte verso i coding agent
strata connect stampa la configurazione per Claude Code, Codex CLI, OpenCode, oh-my-pi, pi, Hermes Agent e OpenClaw: il server locale parla le API di OpenAI e di Anthropic, quindi il tool non si accorge della differenza. Costo per token zero, nessun account, i file restano sulla macchina. In cambio i token al secondo sono quelli di casa.
DeepSeek, e il disco che diventa memoria
Strata fa girare anche DeepSeek V4.1 Flash 1017. Lì il calcolo cambia: serve una GPU da 12 GB, 46 GB di RAM e da 239 a 280 GB di disco, perché gli esperti che non stanno in memoria vengono letti dall'SSD. Il progetto misura 9-11 token al secondo su una RTX 3060 con 46 GB di RAM, 4-6 su una RTX 5070, 74-77 su quattro Radeon AI PRO R9700. Per chi vuole restare leggero c'è Qwen3.6-35B-A3B, tra 32 e 52 GB.
Chi c'è dietro
Niko1221 da solo ha 5.031 commit, il secondo contributor 35, e i contributor registrati sono 305: un progetto guidato da una persona con una community che aggiunge pezzi. Ci sono oltre 1.200 issue aperte e release ogni pochi giorni. La documentazione dichiara supporto per configurazioni che l'autore non ha ancora eseguito, per esempio le RTX 40 con DeepSeek. Il motore è MIT, i pesi di Qwen hanno la licenza qwen-community-1.0: due cose diverse, e conviene saperlo prima di scaricare 40 GB.
Si installa con un exe per Windows, un AppImage per Linux o un dmg per macOS arm64, oppure con lo script curl o irm; poi strata launch guida nella scelta e nello scaricamento del modello.
Su che macchina lo provereste, e per fare cosa: un agente che lavora in locale, o un modello da tenere aperto mentre scrivete?
Fonti:
- Niko1221/Strata - GitHub, README e release 0.2.13 del 2026-11-09
- Models: sizes and what fits - GitHub
- How does Strata work - GitHub
- Capabilities per hardware - GitHub
- Releases - GitHub
- Qwen3.8-Flash-Next - huggingface.co, Qwen
📌 Questo articolo riassume una discussione su r/vibecodingitalia. Leggi il post originale.

Scritto da
Michael Gasperini@TheStreamCode
Full Stack Developer
Creatore di Vibe Coding Italia, la community italiana sull’intelligenza artificiale. Progetta e sviluppa prodotti con l’AI e ne racconta l’applicazione pratica attraverso guide e articoli.
DeepSeek V4.1 Flash su Mistral: se arriva in Vibe Code, il piano Pro diventa l'offerta migliore
DeepSeek V4.1 Flash 1017 su Mistral costa 0,30 e 1,20 $ per milione di token: oggi è su API e Studio, non in Vibe Code. Se arriva, il piano Pro cambia.
Leggi articoloDeepSeek ha aperto dsh-superagent: il Super-agent che vive in un repo GitHub e parla solo quando serve
dsh-superagent è il prototipo del Super-agent di DeepSeek: ticket, mandati e sessioni per un repository GitHub, con i limiti dichiarati e i numeri del team.
Leggi articoloJev: il modello per decisioni che non scrive nemmeno una riga di testo
Jev di TypeSafe AI è il primo modello System One: decisioni strutturate con probabilità calibrate in 70-500 ms, per routing e guardrail degli agenti.
Leggi articolo



