Il CEO di Anthropic dice: dobbiamo frenare. E i rivali firmano

Immagina i piloti in testa alla Formula 1 del futuro che si fermano ai box nel mezzo della gara e dichiarano insieme: “Andiamo troppo veloci, dobbiamo rivedere le regole.” Non è una metafora fantasiosa: è quello che è successo il 13 settembre 2026, ed è reale, il che lo rende più significativo di qualsiasi manifesto accademico.

Dario Amodei, CEO di Anthropic, ha pubblicato il saggio “We Must Pace the Frontier”. La tesi: i modelli AI di frontiera si sviluppano più velocemente dei meccanismi per capire cosa stanno diventando. Chiede un rallentamento coordinato. Il genere “lettera aperta sull’AI” ha già i suoi cliché, ma questa volta le firme cambiano tutto: Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) ed Elon Musk (xAI) hanno sottoscritto. I quattro CEO che guidano la corsa, alla stessa posizione pubblica, nello stesso momento. Non era mai successo prima.

“We must slow the pace.” Dario Amodei, CEO di Anthropic, 13 settembre 2026.

L’innesco: dimissioni, non teorie

Il saggio non è nato in un’aula universitaria. Nelle settimane precedenti alla pubblicazione, diversi ricercatori senior di Anthropic avevano lasciato l’azienda citando preoccupazioni precise e pubbliche: il ritmo di sviluppo aveva superato i controlli esistenti. Chi lavorava dall’interno lo stava dicendo con i fatti. Amodei risponde con proposte operative, non con rassicurazioni:

• Rallentamento coordinato tra i laboratori leader, non unilaterale (chi frena da solo si penalizza senza beneficio per nessuno)
• Valutatori indipendenti con accesso “a livello dipendente” ai sistemi interni, non solo ai report preparati dall’azienda
• Supervisione strutturale esterna, che non dipenda dalla buona volontà delle stesse aziende che sviluppano i modelli

I numeri che pesano

1. 4 aziende firmatarie: Anthropic, OpenAI, Google DeepMind, xAI
2. Diversi ricercatori senior di Anthropic avevano già lasciato prima della pubblicazione, per preoccupazioni di sicurezza esplicite
3. 1 proposta tecnica mai avanzata prima: accesso di livello dipendente ai sistemi per i controllori esterni

Cosa significa “accesso a livello dipendente”

Pensa a un ispettore del lavoro che entra in fabbrica senza preavviso, legge i log di produzione, parla con gli operai direttamente, senza filtri del management. Finora il modello del settore era diverso: l’azienda mostra quello che sceglie, a chi sceglie, con i tempi che decide. La proposta di Amodei rompe questo schema. Non una visita guidata dall’ufficio PR, ma visibilità reale su cosa gira nei sistemi.

Per te che usi questi strumenti nel lavoro creativo, la domanda concreta è: chi verifica che il modello che usi per generare immagini, scrivere testi o editare video stia rispettando i confini che ti aspetti?

Quando il fondatore dell’azienda storicamente più cauta sul rischio AI chiede una pausa, il messaggio non è “siamo indietro sulla concorrenza”. È che anche dall’interno si percepisce che il ritmo supera la capacità di capire davvero cosa si sta costruendo.

Tre cose che mi porto via

1. La convergenza Altman-Hassabis-Musk-Amodei è politicamente quasi impossibile: se questi quattro dicono la stessa cosa, nessuno può liquidarla come paranoia di uno solo.
2. Le dimissioni dei ricercatori prima del saggio non sono dettaglio di cronaca. Sono la pressione interna che ha dato credibilità e urgenza al documento.
3. “Accesso a livello dipendente” per i valutatori esterni è la proposta più dirompente: richiede trasparenza strutturale, non comunicati stampa ben scritti.

Anche le Formula 1 più veloci al mondo hanno freni progettati meglio delle utilitarie. La differenza è che in Formula 1 quei freni li certifica qualcuno di esterno, non il team che vuole vincere la gara. Quella proposta è finalmente sul tavolo. Adesso resta da vedere chi ha il coraggio di costruire davvero i freni.

Fonte: The Guardian, 13 settembre 2026

✍️ Articolo firmato da “La Redazione”: sistema editoriale multi-agente (AI) orchestrato con Claude Code e supervisionato da Luca Cazzaniga · lucacazzaniga.it