Un modello da 320 miliardi di parametri che costa come un caffè all’ora

Zhipu AI ha appena aperto i pesi di GLM-5.3-Flash, e il numero che mi ha fermato non è la dimensione del modello. È il costo: un decimo del predecessore. Con prestazioni che nei benchmark di coding e agentico reggono il confronto con Claude Opus 4.8 di Anthropic.

Fermati un secondo. Stiamo parlando di intelligenza di frontiera al prezzo di un modello economico. Non è un compromesso: è il risultato di un’architettura completamente diversa. E i pesi sono aperti: puoi scaricarlo, modificarlo, ospitarlo dove vuoi.

La tesi è semplice, e un po’ scomoda: il costo dei modelli AI di fascia alta sta crollando, e chi oggi costruisce agenti su infrastruttura costosa dovrà giustificare ogni euro speso entro l’anno prossimo.

“GLM-5.3-Flash raggiunge le prestazioni di modelli di punta come Claude Opus 4.8 nei benchmark di coding e agentici a un decimo del costo del predecessore.”

Come ci sono riusciti

Il trucco sta nell’architettura. GLM-5.3-Flash usa un sistema ibrido che combina attenzione sparsa e lineare: invece di guardare ogni parola in relazione a ogni altra (operazione che cresce esponenzialmente con la lunghezza del testo), il modello adotta scorciatoie intelligenti per i contesti lunghi. Pensa a un lettore veloce che sa dove saltare senza perdere il filo, invece di rileggere ogni riga da capo.

A questo si aggiunge l’architettura MoE (Mixture of Experts): il modello ha 320 miliardi di parametri in totale, ma per ogni risposta ne attiva solo 18 miliardi. È come avere un team di 200 persone dove per ogni progetto entrano in campo solo gli 11 esperti giusti per quel compito. Il resto non consuma nulla.

I numeri che contano

1. 10x il risparmio di costo rispetto al predecessore
2. 3.01x la riduzione del calcolo dell’attenzione in contesti lunghi
3. 1 milione di token di finestra di contesto (circa 750.000 parole)
4. 18B parametri attivi per token su un totale di 320B

Caso concreto

Immagina di orchestrare 10 agenti AI in parallelo, ognuno che legge e ragiona su un documento lungo: un contratto, una relazione tecnica, un archivio di email. Con un modello tradizionale di frontiera, quell’orchestrazione ha un costo che limita quante sessioni puoi avviare al giorno, e quindi quanto ci puoi costruire sopra. Con GLM-5.3-Flash abbassi la soglia di 10x. Lo stesso workflow diventa sostenibile su volumi reali, non solo nei test.

“I pesi aperti significano che puoi hostare il modello senza dipendere da nessun provider esterno: zero vendor lock-in, costi prevedibili, pieno controllo sui dati.”

Tre cose che mi porto via

1. L’efficienza ha superato la potenza come metrica: non vince chi ha più parametri, ma chi consuma meno per token.
2. L’apertura dei pesi è una mossa strategica: Zhipu AI sa che il futuro è costruire ecosistemi, non vendere token a consumo.
3. Il contesto da 1 milione di token non è ancora sfruttato al massimo da quasi nessun tool commerciale. Lo spazio applicativo è ancora in gran parte vuoto.

Il mercato dei modelli AI assomiglia sempre di più all’hardware degli anni Novanta: ogni anno lo stesso risultato costa la metà. La domanda non è più “possiamo permettercelo?” ma “cosa facciamo con tutto questo calcolo a buon mercato?”

Se stai costruendo qualcosa con agenti o flussi automatizzati, tieni d’occhio GLM-5.3-Flash. Non è il modello più chiacchierato del momento, ma potrebbe essere quello che rende sostenibili i numeri del tuo progetto.

Leggi il post originale su Z.ai Blog

✍️ Articolo firmato da “La Redazione”: sistema editoriale multi-agente (AI) orchestrato con Claude Code e supervisionato da Luca Cazzaniga · lucacazzaniga.it