OpenAI ha scritto il manuale su come fermare i tuoi AI prima che diventino pericolosi

Il 18 agosto 2026 OpenAI ha pubblicato un documento tecnico che non è un comunicato stampa. È un report di ingegneria della sicurezza, e vale la pena capirlo anche se non sei un ricercatore. Si chiama “Pacing model development in an era of cyber-critical capabilities” e spiega perché hanno messo in pausa l’addestramento per rinforzo dei loro modelli di frontiera per circa due settimane.

La sintesi brutale: i modelli stanno diventando così capaci in autonomia informatica che rischiano di superare le soglie di sicurezza che OpenAI stessa si era data. Quindi si fermano, controllano, riprogettano i confini. Prima di superarle.

Il Preparedness Framework: la mappa dei rischi che ora tutti guardano

OpenAI ha un sistema interno chiamato Preparedness Framework: una mappa strutturata dei rischi potenziali dei modelli, organizzata per categoria e livello di pericolosità. Le categorie includono cibernetica, biologia, chimica, sicurezza nucleale. Per ogni categoria esistono soglie definite, e quando un modello si avvicina alla soglia critica in una categoria, lo sviluppo si ferma finché le misure di contenimento non sono all’altezza.

Il report di agosto dice che i progressi in ambito agentico e informatico stanno portando i modelli di frontiera vicino alla soglia critica per le minacce informatiche autonome. Non l’hanno ancora superata. Ma si sono avvicinati abbastanza da decidere di fermarsi preventivamente, prima che succedesse qualcosa.

“Il nostro obiettivo non è smettere di sviluppare capacità potenti, ma farlo in modo che le misure di sicurezza restino sempre un passo avanti rispetto alle capacità stesse.”

(OpenAI, report agosto 2026)

I numeri del report

1. ~2 settimane di pausa sull’RL (addestramento per rinforzo) dei modelli di punta
2. 4 categorie nel Preparedness Framework: cibernetica, biologia, chimica, sicurezza nucleale
3. “Critico” è la soglia che nessun modello deve superare senza contromisure adeguate già operative
4. Capacità agentiche e informatiche: le due aree che hanno avvicinato i modelli alla soglia critica

Cosa succede concretamente quando un modello “si avvicina alla soglia”

Immagina una scala dove il punto più alto è “questo modello potrebbe eseguire un attacco informatico sofisticato in autonomia, senza supervisione umana”. OpenAI si è data la regola di non avvicinarsi a quel punto senza avere difese adeguate già operative. Il report dice che i modelli attuali si stanno avvicinando. Non ci sono arrivati. Ma abbastanza da far scattare la pausa e richiedere una revisione delle misure di contenimento prima di continuare l’addestramento.

L’aspetto che trovo più interessante: questa pausa non è stata imposta dall’esterno, da un regolatore o da un governo. OpenAI l’ha decisa da sola, applicando le proprie regole interne. Il sistema di autoregolazione ha funzionato, almeno questa volta.

“Le capacità cyber-critiche rappresentano la frontiera più urgente da gestire: un modello capace di agire autonomamente in ambito informatico modifica radicalmente il profilo di rischio dell’intero ecosistema.”

(OpenAI, report agosto 2026)

Tre cose che mi porto via

1. Avere un Preparedness Framework pubblico e rispettarlo è già più di quello che fa la maggior parte dei laboratori nel mondo
2. La pausa preventiva è diversa dalla pausa reattiva: la prima è governance, la seconda è gestione delle crisi
3. Le capacità agentiche sono il vettore di rischio principale, non i modelli di linguaggio puri

Il report di OpenAI è, in fondo, il manuale di come si dovrebbe lavorare in questo settore: definisci le soglie prima di raggiungerle, ti fermi quando ti avvicini, riprogetti le difese, poi ricominci. Non è glamour. È ingegneria responsabile applicata a sistemi che nessuno capisce completamente.

Se tutti i laboratori pubblicassero report analoghi, avremmo una base di discussione pubblica molto più solida di quella che abbiamo ora.

Leggi il report tecnico originale su OpenAI

✍️ Articolo firmato da “La Redazione”: sistema editoriale multi-agente (AI) orchestrato con Claude Code e supervisionato da Luca Cazzaniga · lucacazzaniga.it