3 min di lettura
Ollama 0.31: il tuo Mac diventa quasi due volte più veloce nei modelli locali
Se hai un Mac con chip Apple Silicon e ogni tanto pensi “sarebbe bello usare l’AI senza mandare tutto su cloud”, questa è la notizia che aspettavi. Ollama ha rilasciato la versione 0.31 con una novità tecnica significativa: il supporto alla Multi-Token Prediction (MTP), integrata nel motore MLX per i modelli Gemma 4. Una cosa che, sulla carta, sembra un aggiornamento di basso livello. Nella pratica, cambia l’esperienza d’uso in modo tangibile.
Spieghiamoci. I modelli AI generano testo un token alla volta, dove ogni token corrisponde più o meno a una parola o parte di essa. È come se il modello digitasse lettera per lettera, rileggendo ogni volta quello che ha scritto per capire cosa viene dopo. La Multi-Token Prediction spezza questo schema: il modello impara a prevedere più token in anticipo, come passare dal digitare singole lettere allo scrivere sillabe intere. Il risparmio si accumula rapidamente.
La tesi è semplice: l’AI locale su Mac ha appena fatto un salto di velocità concreto e misurabile, non un’ottimizzazione marginale.
“Sui benchmark polyglot di Aider, i modelli con Multi-Token Prediction raggiungono velocità fino al 90% superiori rispetto all’esecuzione standard.”
— Ollama Blog, 29 giugno 2026
Cosa si intende con “90% più veloce” nella pratica reale
Il benchmark usato per misurarlo è quello di Aider, uno strumento di coding agentico che lavora su repository interi: prendi un progetto, dai istruzioni in linguaggio naturale, il modello analizza i file, propone modifiche, le applica. È il tipo di task in cui la latenza si sente, perché il modello deve ragionare su contesti lunghi e rispondere a più passaggi in sequenza. Se ogni passaggio è quasi due volte più rapido, l’intera sessione di lavoro cambia di texture.
I numeri chiave da tenere a mente:
- 90% di velocità aggiuntiva registrata sui benchmark polyglot di Aider
- 0 euro di costi API: il modello gira interamente sul tuo hardware locale
- 1 requisito hardware: Mac con chip Apple Silicon (M1, M2, M3, M4)
- 1 aggiornamento necessario: se hai già Ollama installato,
ollama pull gemma4basta
Il caso concreto: un agente che lavora sul tuo Mac senza toccare il cloud
Immagina di voler costruire uno script che rinomina automaticamente 500 foto RAW secondo criteri di data, location e soggetto. Con un agente come Aider abbinato a Gemma 4 via MLX, puoi descrivere il problema in linguaggio naturale, lasciare che scriva il codice, correggerlo iterativamente, tutto senza toccare un’API cloud. Prima della versione 0.31, questo flusso era frustrante per i tempi di risposta. Ora diventa plausibile anche per chi non è disposto ad aspettare cinque secondi tra un passaggio e l’altro.
“La latenza era il principale freno all’adozione degli agenti locali per task complessi. Con MTP su MLX, quel freno si è alleggerito in modo sensibile.”
Tre cose che mi porto via
- I modelli locali stanno chiudendo il gap con le API cloud in termini di velocità, non solo di privacy. Il vantaggio del cloud si restringe ogni mese.
- Gemma 4 su MLX con MTP attivo è la combinazione da testare adesso se hai un Mac M-series: è gratuita, è privata, ed è diventata abbastanza veloce per flussi di lavoro reali.
- La Multi-Token Prediction non è una patch temporanea: è un cambio architetturale che ridisegna il rapporto tra qualità e latenza. Aspettati che si diffonda agli altri modelli supportati da Ollama nei prossimi aggiornamenti.
Pensaci così: è lo stesso salto che si è sentito quando i dischi fissi meccanici hanno ceduto il passo agli SSD. Non è cambiato cosa potevi fare, è cambiato quanto tempo eri disposto a spendere per farlo. E quella differenza, nella pratica, ha cambiato tutto.
Se hai già Ollama installato, ollama update seguito da ollama pull gemma4 ti porta subito alla nuova versione. Se non l’hai ancora provato, questo è il momento giusto.
Leggi l’annuncio su Ollama Blog
✍️ Articolo firmato da “La Redazione”: sistema editoriale multi-agente (AI) orchestrato con Claude Code e supervisionato da Luca Cazzaniga · lucacazzaniga.it
Creatività Aumentata
Analisi di approfondimento direttamente nella tua casella di posta.