DeepSeek V4 Preview: ridurre il costo del contesto da un milione di token

Una finestra da un milione di token serve solo se il costo di calcolo, memoria e prefill resta sostenibile. È da questa premessa che nascono DeepSeek-V4-Pro e DeepSeek-V4-Flash, annunciati il 24 aprile 2026.

I due modelli preview, entrambi open weight, supportano un milione di token sui servizi ufficiali. Il rapporto tecnico insiste però meno sulla dimensione della finestra che sulla riduzione del lavoro dell'attenzione e della memoria occupata dalla KV cache. V4 è quindi un rilascio architetturale e infrastrutturale, centrato sui costi dei prompt molto lunghi.

L'API espone deepseek-v4-pro e deepseek-v4-flash, utilizzabili in modalità Thinking e Non-Thinking. Gli alias precedenti deepseek-chat e deepseek-reasoner dovevano diventare inaccessibili dopo il 24 luglio 2026 alle 15:59 UTC. I pesi sono raccolti nella collezione DeepSeek V4 su Hugging Face.

La dicitura preview è rilevante. Quasi tutti i dati su prestazioni ed efficienza provengono da DeepSeek: descrivono il progetto e i risultati iniziali, non il comportamento già confermato in produzione da soggetti indipendenti.

Due modelli, una sola architettura

V4-Pro conta 1,6 bilioni di parametri totali e 49 miliardi attivi per token. V4-Flash ne ha 284 miliardi totali e 13 miliardi attivi. In entrambi i casi l'architettura è mixture-of-experts: per ogni token viene attivata solo una parte dei pesi. Il numero attivo aiuta a stimare il calcolo per token, mentre il checkpoint completo continua a determinare gli oneri di archiviazione e distribuzione.

Pro assegna più capacità a ragionamento complesso, programmazione, agenti e analisi di contesti estesi. Flash occupa il punto meno costoso della stessa famiglia. Non è una classifica assoluta: nei flussi frequenti e strutturati, protetti da validatori o revisione, Flash può essere sufficiente; Pro offre più margine quando il compito è difficile da verificare e un errore ha un costo elevato.

V4 conserva i livelli feed-forward DeepSeekMoE e la Multi-Token Prediction della famiglia V3. Le novità principali riguardano l'attenzione sul contesto lungo, il percorso del flusso residuo, l'ottimizzazione, la quantizzazione e la gestione della cache. Il perimetro pubblico è soprattutto testuale: la preview non viene proposta come rilascio multimodale.

L'attivazione sparsa non risolve ogni problema di deployment. Riduce i pesi attraversati da ciascun token, ma caricare o distribuire un checkpoint da 1,6 bilioni di parametri resta un compito infrastrutturale notevole. Il conteggio dei parametri attivi non coincide con l'occupazione totale del modello in memoria. Anche su un servizio gestito, prezzo e latenza dipendono da più fattori, soprattutto quando il prompt si avvicina al limite dichiarato.

Il costo della KV cache

Il contesto esteso ha due costi principali. Il prefill elabora l'intero prompt prima della generazione; durante la risposta, la KV cache conserva chiavi e valori dei token precedenti. A centinaia di migliaia di token questa cache può occupare gran parte della memoria dell'acceleratore. Le richieste con un prefisso comune rischiano inoltre di ripetere lo stesso prefill, se il sistema di serving non riutilizza il lavoro già svolto.

L'architettura combina tre percorsi di attenzione:

• Compressed Sparse Attention (CSA) comprime le voci della KV cache e seleziona i blocchi pertinenti.
• Heavily Compressed Attention (HCA) conserva la storia più lontana con una risoluzione inferiore.
• Un ramo a finestra scorrevole mantiene più dettagli per i token recenti.

La separazione riflette usi diversi della memoria. Istruzioni appena ricevute, codice corrente e ultimo output di uno strumento richiedono spesso un accesso preciso. Decisioni più vecchie o sezioni lontane di un documento possono tollerare una rappresentazione più grossolana, purché il modello sappia selezionare il blocco giusto. La compressione riduce memoria e calcolo, ma introduce anche un rischio: un dettaglio eliminato in precedenza potrebbe non essere recuperabile quando torna utile.

Il rapporto descrive inoltre il riutilizzo su disco delle voci compresse della KV cache. Prefissi stabili, come l'istantanea di un repository, una raccolta di documentazione o un corpus normativo, potrebbero così evitare prefill ripetuti. Non è un vantaggio automatico della finestra da un milione di token. Dipende dalla forma delle richieste, dalla percentuale di cache hit, dalle prestazioni dello storage e dal motore di inferenza.

Training e modalità di ragionamento

L'attenzione ibrida è accompagnata da modifiche in altre parti della rete. Le Manifold-Constrained Hyper-Connections (mHC) intervengono sulle connessioni residue per stabilizzare il flusso del segnale in profondità. DeepSeek usa l'ottimizzatore Muon per la maggior parte dei parametri e AdamW per alcuni moduli, tra cui embedding, output head, mHC e pesi RMSNorm. Il rapporto include anche il lavoro sul deployment FP4, coerente con l'obiettivo di ridurre il costo del serving.

L'azienda dichiara 32 bilioni di token di pre-training per Flash e 33 bilioni per Pro. La lunghezza delle sequenze cresce per fasi, da 16K a 64K fino a 1M, anziché restare al massimo per l'intero training.

Il post-training produce tre modalità: Non-Think per le risposte dirette, High per il ragionamento deliberato e Max per il budget maggiore. Queste impostazioni cambiano lunghezza dell'output, latenza e costo senza modificare il numero di parametri del modello.

Un confronto deve quindi indicare modello e livello di effort. V4-Pro Max in un benchmark e V4-Flash Non-Think dentro un prodotto API rappresentano punti molto diversi della curva tra costo e qualità. Anche lunghezza del contesto, budget di output, condizioni della cache e strumenti disponibili incidono sul risultato.

Come leggere i benchmark

I test sul contesto lungo sono quelli più legati alla tesi architetturale. DeepSeek riporta per Pro Max 83,5 su MRCR 1M e 62,0 su CorpusQA 1M, in entrambi i casi sopra Flash Max. Nel setup dichiarato, l'attenzione compressa mantiene dunque informazioni utili anche su input molto estesi. I risultati mostrano inoltre che il modello con più parametri attivi conserva un vantaggio nelle prove difficili di recupero e sintesi.

Le valutazioni agentiche restituiscono una distanza meno uniforme. Su Terminal Bench 2.0 il rapporto indica 67,9 per Pro Max e 56,9 per Flash Max. Su SWE Verified il divario si restringe a 80,6 contro 79,0. Questi punteggi non isolano l'architettura: budget di ragionamento, prompt, strumenti, scaffolding e regole della valutazione possono modificarli sensibilmente.

I benchmark dicono poco anche sulla continuità con cui un modello conserva informazioni durante una sessione lunga. Recuperare un passaggio inserito appositamente non garantisce che il sistema ricordi un vincolo, distingua due versioni di un file o attribuisca il peso corretto a una decisione lontana. Sono errori importanti proprio nei flussi documentali e agentici a cui si rivolge una finestra così ampia.

I confronti con i modelli di frontiera sono dichiarati dal fornitore e molti usano l'ambiente di valutazione di DeepSeek. Servono prove indipendenti e a parità di condizioni su accuratezza, latenza, memoria, risparmio della cache e costo complessivo. Il successo in un test sintetico da un milione di token non dimostra da solo un ragionamento affidabile su repository disordinati, archivi di log o collezioni di PDF.

Valutazione

V4 Preview propone un disegno coerente: compressione sparsa per la storia lontana, accesso ad alta risoluzione ai token recenti, KV cache ridotta, riuso dei prefissi e due taglie MoE. I dati più importanti sono le riduzioni dichiarate nei FLOP di inferenza e nella cache. Il limite da un milione di token deriva da questo sistema, ma non dimostra che convenga riempire sempre l'intera finestra.

La capacità massima non è un invito a inviare il prompt più grande possibile. Input più piccoli e selezionati restano meno costosi e più facili da controllare. Una finestra ampia è utile quando omettere informazioni comporta un rischio o quando un'attività in evoluzione richiede accesso diretto a una storia vasta.

L'architettura non rende superflui retrieval e riassunti. Una memoria esterna strutturata può migliorare la pertinenza e ridurre l'input. Né 13 o 49 miliardi di parametri attivi rendono piccoli i checkpoint: pesi totali, memoria a runtime e infrastruttura di serving restano vincoli seri per chi vuole ospitarli in proprio.

Per chi usa già l'API, l'intervento urgente è circoscritto: sostituire gli alias precedenti entro l'orario di dismissione indicato. L'adozione più ampia richiede misure su prompt e condizioni di serving rappresentativi. Occorre distinguere il valore di un insieme di lavoro più grande dal costo necessario per elaborarlo, e verificare che il riuso dei prefissi avvenga davvero nel traffico reale.

Se i risparmi dichiarati saranno confermati, Flash sarà l’opzione più rilevante per la produzione, mentre Pro offrirà più capacità nei compiti difficili in cui gli errori costano. Il rapporto propone un meccanismo plausibile e prime misure; test indipendenti dovranno verificare se i tagli a FLOP e cache resistono su carichi realistici senza perdite eccessive nel recupero delle informazioni.

Fonti: nota di rilascio DeepSeek, rapporto tecnico DeepSeek V4, collezione DeepSeek V4 su Hugging Face e discussione di supporto su YouTube.