RecursiveMAS: cosa succede quando gli agenti AI smettono di parlarsi in token

Ogni sistema multi-agente che hai mai usato è, in fondo, una chat di gruppo. Un paper firmato UIUC, Stanford, NVIDIA e MIT si fa la domanda che sembra ovvia solo dopo averla letta: perché costringiamo delle reti neurali a parlarsi in inglese?

Apri i log di un framework multi-agente qualsiasi e la scena è sempre quella. Il planner scrive tre paragrafi di prosa. Il critic li legge, ci pensa su, risponde con altri tre. Il solver si sorbisce tutto e tira fuori la risposta. A ogni passaggio, il sistema prende rappresentazioni interne densissime, le appiattisce in testo — e un istante dopo, dall'altra parte, le ricostruisce da zero. Due conversioni per ogni messaggio. Su ogni messaggio.

Il testo, però, è un formato pensato per noi. Per un language model è una strettoia: l'ultimo hidden state di un transformer è un vettore che trasporta molta più informazione del singolo token in cui viene schiacciato. Ogni volta che l'agente A verbalizza il proprio ragionamento per l'agente B, il conto arriva tre volte — il calcolo per decodificare, l'informazione persa nella compressione, la latenza mentre B aspetta che A finisca di generare.

Recursive Multi-Agent Systems — RecursiveMAS, uscito su arXiv ad aprile 2026 — taglia il problema alla radice: elimina la chat di gruppo. Gli agenti si passano direttamente gli stati latenti, attraverso un piccolo adattatore addestrato. Niente decodifica, niente rilettura, nessun token fino alla risposta finale. Il risultato, misurato su nove benchmark: +8,3% di accuratezza media, inferenza da 1,2 a 2,4 volte più veloce, dal 34,6% al 75,6% di token in meno rispetto allo stesso identico sistema che comunica in testo.

E non è solo un trucco per risparmiare. Il paper cambia la definizione stessa di sistema multi-agente: non più un comitato di modelli che si scambiano messaggi, ma un'unica computazione ricorsiva in cui ogni agente si comporta come uno strato attraversato dallo stato latente — un giro dopo l'altro, finché la risposta non è pronta.

Perché il testo è il collo di bottiglia

Dentro ogni messaggio tra due agenti testuali si nasconde un viaggio di andata e ritorno che nessuno ha mai messo in discussione. Il mittente esegue l'intero stack transformer, arriva a un hidden state h di dimensione d_h — e poi lo proietta su un vocabolario da |V| voci per sceglierne una sola. Un token. E ricomincia da capo, per ogni token del messaggio. Il destinatario, dal canto suo, tokenizza il testo e lo ri-codifica da zero.

Il paper mette in fila i costi. Generare m token di ragionamento costa m·|V|·d_h di sola decodifica nello spazio del vocabolario. Passare lo stesso ragionamento come vettori latenti costa m·d_h². E siccome la dimensione nascosta è ordini di grandezza più piccola del vocabolario — qualche migliaio contro oltre centomila — il trasferimento latente vince a tavolino (la Proposition 3.1 formalizza il divario di complessità end-to-end completo).

E il calcolo è solo metà del problema. La proiezione da hidden state a token è con perdita: un vettore che codifica sfumature, incertezza, struttura intermedia del ragionamento collassa in un simbolo discreto. Quello che non entra nel token scelto, sparisce. Moltiplica questa perdita per ogni token, ogni messaggio, ogni round di un dibattito multi-agente — e "agenti che collaborano in testo" inizia a somigliare a un gruppo di scienziati che collabora esclusivamente a colpi di tweet.

RecursiveLink: un piccolo ponte tra due menti

L'obiezione arriva subito: non puoi attaccare l'output di Llama all'input di Qwen e sperare che funzioni. Modelli diversi hanno dimensioni nascoste diverse, geometrie di embedding diverse, "lingue mentali" diverse. L'hidden state grezzo di un modello, per un altro, è rumore.

La risposta del paper si chiama RecursiveLink, ed è volutamente minuscola: due layer lineari con una GELU in mezzo, più una connessione residuale. Tutto qui.

Ne esistono due varianti:

• L'inner link vive dentro il singolo agente. Mentre il modello genera, l'hidden state dell'ultimo layer viene riportato nello spazio degli embedding di input e reimmesso nel forward pass successivo: R(h) = h + W₂ σ(W₁h). Invece di emettere un token, l'agente continua a "pensare" in vettori — il paper chiama ciascuno di questi passi un latent thought.
• L'outer link collega due agenti diversi. Un layer lineare in più, W₃, nel ramo residuale si occupa della differenza di dimensioni: R(h) = W₃h + W₂ σ(W₁h). È il pezzo che permette a un planner Gemma di consegnare il proprio ragionamento a un critic Llama, che lo passa a un solver Qwen. Direttamente, senza passare dal testo.

La connessione residuale è la scelta di design che vale il biglietto. Siccome l'input attraversa il modulo quasi intatto, il ramo addestrabile deve imparare soltanto lo scarto tra due distribuzioni — non un'intera proiezione da zero. L'ablation del paper lo conferma: il design residuale a due layer batte tutte le alternative (un layer, niente residual, due layer semplici) su ogni benchmark provato, con 88,0 su MATH500 contro l'85,6 dello stesso modulo senza residual.

Una catena di agenti, un solo loop

Con i link al loro posto, l'architettura si monta da sola. Il primo agente legge la domanda vera — token di input, quelli sì — e produce una sequenza di latent thoughts attraverso il suo inner link. L'outer link traduce quei pensieri nello spazio di embedding dell'agente successivo, dove diventano contesto accanto alle istruzioni sue proprie. E così via, lungo tutta la catena.

Poi c'è la parte ricorsiva, quella che dà il nome al paper. Quando l'ultimo agente finisce, il suo output latente — di fatto la bozza corrente della risposta — torna al primo. Il secondo round parte con tutto quello che il sistema ha concluso nel primo, ancora in forma vettoriale. Ogni agente rilegge il lavoro dell'intero sistema e affina il proprio contributo.

Il testo compare una volta sola: all'ultimo round, quando l'ultimo agente decodifica la risposta che leggerai tu.

Non è un'idea nata dal nulla: è l'estensione di un asse di scaling già noto. I modelli ricorsivi e looped — LoopLM, le tiny recursive networks, i transformer a profondità ricorrente — hanno già dimostrato che riusare gli stessi layer per più round approfondisce il ragionamento senza aggiungere parametri. RecursiveMAS porta la domanda un piano più su: se i layer possono ricorrere dentro un modello, perché gli agenti non possono ricorrere dentro un sistema? Per dichiarazione degli stessi autori, è il primo tentativo di portare lo scaling ricorsivo a livello di sistema.

Si addestra il sistema, non gli agenti

Ed eccoci alla parte che rende tutto questo praticabile nel mondo reale: nessun LLM viene fine-tunato. I pesi di ogni agente restano congelati dal primo all'ultimo minuto. Gli unici parametri che si addestrano sono quelli dei RecursiveLink: circa 13 milioni, contro i miliardi dei modelli che collegano.

Il training procede in due fasi:

1. Inner loop — ogni agente, in parallelo, prepara il proprio inner link. L'obiettivo: data la domanda di training, i latent thoughts prodotti attraverso il link devono allinearsi con l'embedding della risposta corretta. La loss è una regressione coseno, L = 1 − cos(R(H), Emb(y)). Alla fine di questa fase, ogni modello congelato sa generare latent thoughts che restano in-distribution, invece di degenerare in rumore.
2. Outer loop — l'intera catena viene srotolata per n round di ricorsione, l'agente finale decodifica una risposta in testo, e su quella risposta si calcola una normalissima cross-entropy che si propaga all'indietro attraverso tutta la computazione ricorsiva. Ogni outer link riceve la propria quota di credito in proporzione a quanto ha contribuito alla predizione finale. Il sistema viene ottimizzato come un organismo unico.

C'è anche una ragione teorica per cui funziona proprio così, e non con approcci più ingenui. Il Theorem 4.1 mostra che fare supervised fine-tuning testuale attraverso i round di ricorsione porta dritti al vanishing gradient: appena i token diventano confidenti, la norma del gradiente crolla verso zero e i round più lontani smettono di imparare. Il percorso latente attraverso i RecursiveLink, invece, mantiene la norma del gradiente vicina a uno lungo tutto il loop. La differenziabilità non è un dettaglio tecnico: è il motivo per cui l'intero sistema si può addestrare end-to-end.

I numeri

La valutazione copre nove benchmark tra matematica (MATH500, AIME2025, AIME2026), scienza (GPQA-Diamond), medicina (MedQA), generazione di codice (LiveCodeBench-v6, MBPP+) e QA con ricerca (HotpotQA, Bamboogle). Ma il confronto che conta davvero è uno: Recursive-TextMAS, cioè lo stesso identico sistema — stessi agenti, stessa struttura, stesso budget di ricorsione — con una sola differenza: gli agenti comunicano in testo invece che in stati latenti. Qualunque scarto tra i due è attribuibile al canale di comunicazione e a nient'altro.

E lo scarto si allarga man mano che la ricorsione va in profondità. A un round, la comunicazione latente guadagna 3,4 punti di accuratezza in media; a tre round, 7,2. Non solo: oltre il secondo round la ricorsione testuale su diversi benchmark addirittura peggiora — perfettamente in linea con l'analisi sul vanishing gradient — mentre il sistema latente continua a salire.

La parte controintuitiva è che l'efficienza si muove nella stessa direzione. Di norma più ricorsione significa pagare di più in cambio di più qualità. Qui invece il vantaggio relativo cresce con la profondità:

Il meccanismo è quasi banale: Recursive-TextMAS ri-decodifica e ri-legge il testo intermedio a ogni round, quindi il conto dei token si accumula a ogni giro. RecursiveMAS decodifica una volta sola, alla fine. Al terzo round, il sistema latente usa il 75,6% di token in meno e risponde 2,4 volte più in fretta.

Allargando il campo — singoli agenti fine-tunati, Mixture-of-Agents, TextGrad, LoopLM — il verdetto non cambia:

I margini più larghi arrivano esattamente dove il ragionamento multi-step pesa di più: +13,4 punti su AIME2025 e +10,0 su AIME2026 rispetto alla baseline più forte.

E in mezzo ai risultati si nasconde una vera scaling law. Addestrare con più round di ricorsione e inferire con più round di ricorsione migliorano le prestazioni ciascuno per conto proprio, e ancora di più insieme — la cella migliore è sempre l'angolo in cui entrambi sono al massimo:

Quattro pattern, modelli eterogenei

Se funzionasse solo su una pipeline calibrata al millimetro, sarebbe una curiosità da laboratorio. Il paper invece istanzia RecursiveMAS su quattro pattern di collaborazione tra i più diffusi, mescolando famiglie e taglie di modelli senza troppi riguardi:

I risultati tengono ovunque. In mixture style, il sistema ricorsivo supera del 6,2% in media il migliore specialista di dominio preso da solo — segno che la collaborazione latente compone davvero conoscenza tra domini, invece di limitarsi a scegliere l'esperto giusto. In distillation style, un learner piccolo recupera gran parte delle capacità di un expert più grande conservando un vantaggio di velocità di 1,5×. In deliberation style, la coordinazione latente migliora un agente tool-calling del 4,8%.

E l'eterogeneità è meno scontata di quanto sembri. È la proiezione W₃ dell'outer link ad allineare la geometria di embedding di un BioMistral con quella di un Qwen: due modelli mai pensati per lavorare insieme, usciti da laboratori diversi, che si scambiano pensieri attraverso un adattatore a due layer addestrato con una manciata di dollari. Ed è tutto pubblico: codice su GitHub con licenza MIT, checkpoint e dati di training su Hugging Face, playground demo sulla project page.

Limiti e domande aperte

Le avvertenze oneste — alcune stanno nel paper, altre le aggiungo io.

Perdi la trascrizione. I round intermedi sono vettori, non testo: non esiste un log di "cosa ha detto il critic al solver" da rileggere a posteriori. Volendo, qualunque stato latente intermedio si può decodificare on demand passando dalla language head del modello — ma a quel punto stai ripagando il costo di decodifica che volevi evitare, e la verbalizzazione approssimata di un latent thought non è il pensiero stesso. Per deployment regolamentati o safety-critical, un canale di comunicazione illeggibile tra agenti è un problema concreto; l'interpretabilità della comunicazione latente è ricerca aperta, non una nota a margine già risolta.

I link vanno addestrati, coppia per coppia. Ogni coppia di agenti nel loop richiede il proprio outer link, addestrato su dati del dominio target. Costa poco — dollari, non settimane di GPU — ma non è plug-and-play: non puoi sostituire al volo un modello nel sistema senza un passaggio di training, come invece fai nei framework testuali dove l'interfaccia sono soltanto i prompt.

La valutazione vive dove esiste una ground truth. Matematica, QA scientifico, codice: domini con risposte verificabili, che alla cross-entropy dell'outer loop servono come l'aria. Il lavoro collaborativo aperto — scrittura, design review, task agentici a lungo orizzonte con tool ed effetti collaterali — è un regime diverso, e il paper non lo rivendica. I risultati in deliberation style con un tool-caller sono incoraggianti, ma è presto.

I budget latenti saturano. L'ablation mostra l'accuratezza che sale concedendo agli agenti più latent thoughts per turno, e poi si appiattisce intorno agli 80 passi. È pochissimo — l'ennesimo indizio che gran parte del traffico di token tra gli agenti dei sistemi attuali è ridondante — ma dice anche un'altra cosa: i canali latenti non sono banda infinita gratis, sono una codifica più efficiente di una quantità comunque limitata di collaborazione.

Valutazione pratica

RecursiveMAS va letto per quello che è: una prova di esistenza con un'ingegneria insolitamente solida. La collaborazione multi-agente non ha bisogno del linguaggio naturale come protocollo interno — e toglierlo di mezzo rende i sistemi più economici, più veloci e più accurati allo stesso tempo, almeno sui benchmark in cui la correttezza si può verificare.

Se costruisci sistemi multi-agente oggi, niente di tutto questo ti cambierà lo stack domani mattina. I framework di orchestrazione danno per scontato il testo a ogni confine, e gran parte del valore in produzione dipende ancora da tracce che si possono ispezionare. Ma la direzione è segnata. Il testo tra agenti è il bus interno dei sistemi attuali, e questo paper dimostra che quel bus si può sostituire con qualcosa di un ordine di grandezza più efficiente, al prezzo di un caffè e una brioche di training. Al resto dell'argomentazione ci penserà l'economia.

Lo spostamento più profondo, però, è concettuale. Per due anni abbiamo trattato "più agenti" e "più token di ragionamento" come leve di scaling separate. RecursiveMAS le fonde in una sola: il sistema multi-agente come singolo modello ricorsivo i cui strati sono interi LLM, addestrato end-to-end attraverso una giuntura da 13 milioni di parametri. Che sia questa esatta architettura a vincere oppure no, da oggi la ricorsione a livello di sistema ha una scaling law, una ricetta di training e codice pubblico.

L'era dei token nella comunicazione tra agenti non è finita. Ma ha appena ricevuto il primo avviso di sfratto credibile.

Fonti: Recursive Multi-Agent Systems (arXiv 2604.25917), project page, repository GitHub ufficiale, checkpoint e dataset rilasciati su Hugging Face e linkati dagli stessi.