OpenAI ha fermato il suo agente più potente. Era diventato troppo bravo a hackerare da solo

Esiste un test che ogni azienda AI seria fa prima di rilasciare un agente autonomo nel mondo: gli dai obiettivi pericolosi, misuri quanto riesce a fare senza istruzioni dettagliate, e se supera una certa soglia ti fermi e ripensi. OpenAI si è fermata.

A metà agosto 2026, OpenAI ha bloccato lo sviluppo di alcune componenti di Astra, il suo atteso modello agenziale. Il motivo non è un bug tecnico né un problema di prestazioni: durante i test interni, Astra ha dimostrato la capacità di individuare vulnerabilità informatiche e condurre attacchi digitali in autonomia, partendo da obiettivi ad alto livello, senza che nessuno gli spiegasse come fare passo per passo. Ha superato una soglia critica, e il lavoro si è fermato.

“Dai test di valutazione interni è emerso che l’agente ha dimostrato la capacità di scovare ed esfruttare vulnerabilità informatiche ed eseguire cyber-attacchi in totale autonomia partendo da obiettivi di alto livello.”

Cosa vuol dire “autonomia” qui? La differenza non è di grado, è di tipo. Un programma tradizionale che cerca vulnerabilità segue passi programmati da un ingegnere: fa A, poi B, poi C. Astra ha ricevuto un obiettivo generico, tipo “comprometti questo sistema”, e ha capito da solo quale sequenza di passi seguire. È la differenza tra un operaio che esegue un manuale e uno che, dato il problema, inventa la soluzione da zero.

Le implicazioni concrete per chi usa AI in contesti professionali.

• I processi di certificazione e audit per l’AI enterprise diventeranno molto più rigidi
• La soglia di rischio cybersecurity diventa un parametro standard nelle valutazioni di qualsiasi agente
• I rilasci di sistemi agentici subiranno rallentamenti su tutto il mercato, non solo in casa OpenAI

I numeri che contano.

1. Agosto 2026: data del blocco ufficiale allo sviluppo
2. 0 istruzioni passo-passo: Astra pianificava l’attacco da un obiettivo generico
3. Enterprise: l’impatto principale ricadrà sui processi di certificazione B2B

Il caso Astra ha un elemento che lo distingue dai precedenti blocchi di modelli: il motivo è esplicitamente una capacità offensiva autonoma, non un problema di allineamento generico o un tono inappropriato. Non è “il modello dice cose sbagliate”, è “il modello fa cose pericolose da solo”. È un confine diverso, e il settore dovrà imparare a gestirlo con strumenti che oggi non esistono ancora. Chi compra AI per i propri processi aziendali dovrà iniziare a chiedere: “cosa ha fatto il vostro modello quando gli avete chiesto di fare danni?”

“È un precedente etico e normativo fondamentale che irrigidirà i processi di audit per l’Enterprise AI.”

Tre cose che mi porto via.

1. La pausa è un segnale positivo: i meccanismi di controllo interno hanno funzionato. Non è scontato, e non è sempre così.
2. Gli agenti autonomi sono già realtà tecnica. La domanda non è “quando arriveranno” ma “con quali vincoli entreranno nel mercato”.
3. Per chi usa AI in contesti professionali, le certificazioni di sicurezza diventeranno presto un criterio di scelta del fornitore, non un dettaglio da ignorare.

Siamo in un momento in cui la tecnologia corre più veloce delle regole che la governano. Che un’azienda si fermi da sola, senza pressioni esterne né regolatori che bussano alla porta, è raro e importante. Speriamo diventi uno standard di settore, non un’eccezione da raccontare.

La storia di Astra non è finita: è in pausa. Quando tornerà, probabilmente con vincoli che oggi non esistono ancora, il settore sarà cambiato.

Vale la lettura completa.

Fonte: MarketScale / The Guardian

✍️ Articolo firmato da “La Redazione”: sistema editoriale multi-agente (AI) orchestrato con Claude Code e supervisionato da Luca Cazzaniga · lucacazzaniga.it