Chi controlla la sicurezza dell’AI se chi la controlla se ne va?

Immagina il tecnico che per anni ha ispezionato i freni di ogni auto prima che uscisse dalla fabbrica. Un giorno si licenzia e scrive un articolo per spiegare perché il sistema di controllo qualità dell’azienda non funziona. È più o meno quello che è appena successo in OpenAI.

David Robinson, figura chiave del team Trustworthy AI, ha rassegnato le dimissioni dopo aver supervisionato i report di sicurezza di 12 lanci di modelli di frontiera. Non una comunicazione qualsiasi: i documenti che accompagnano l’uscita pubblica di ogni grande modello AI, quelli che dovrebbero rassicurarci che qualcuno ha verificato i rischi prima del rilascio.

Robinson accusa la cultura aziendale di basarsi sul “trial and error”, tentativi ed errori, un approccio che considera inadeguato per tecnologie di questa portata.

Il paragone che fa male

Nel suo saggio pubblicato su The Atlantic, Robinson propone un confronto scomodo: i laboratori di AI dovrebbero operare con i protocolli ridondanti tipici delle centrali nucleari. Pensa alla differenza tra:

• Un’azienda che testa un prodotto, lo lancia, e corregge i problemi quando emergono (approccio “move fast”)
• Una centrale nucleare dove ogni sistema ha backup, controlli incrociati, e nessuna singola persona può autorizzare un’azione critica da sola

Secondo lui, l’AI di frontiera è oggi trattata più come il primo caso, quando dovrebbe comportarsi come il secondo.

Non è un caso isolato

Questa non è la prima dimissione di questo tipo in OpenAI. Robinson si aggiunge a un pattern di ricercatori senior che lasciano l’azienda con avvertimenti pubblici sulla sicurezza, non con i soliti comunicati stampa cordiali. Quando la stessa storia si ripete con persone diverse, nello stesso ruolo, nella stessa azienda, smette di essere un aneddoto e diventa un segnale.

Tre cose che mi porto via

1. Chi scrive i report di sicurezza dei modelli che usiamo ogni giorno sta lasciando l’azienda avvertendoci, non in silenzio
2. Il confronto con le centrali nucleari non è retorica: indica quanto gap ci sia tra il rischio percepito e i protocolli reali
3. Un pattern di dimissioni con avvertimenti pesa più di una singola voce critica

Quando il controllore se ne va sbattendo la porta e scrivendo un saggio, non è lui il problema. È un sintomo. La domanda da farsi non è se Robinson abbia ragione su tutto, ma perché così tante persone nel suo ruolo arrivano alla stessa conclusione prima di uscire.

Fonte: The Decoder

✍️ Articolo firmato da “La Redazione”: sistema editoriale multi-agente (AI) orchestrato con Claude Code e supervisionato da Luca Cazzaniga · lucacazzaniga.it