Il modello cinese che hai scaricato gratis ha opinioni che non sono sue

Hai mai usato Qwen o DeepSeek per un lavoro veloce, magari perché sono gratis e open-weight? Uno studio appena pubblicato da Aleph Alpha dice che quei modelli portano con sé qualcosa che non vedi a prima vista: le opinioni dello stato cinese, infilate anche dove non te lo aspetti.

Non parliamo solo di censura su temi come Tienanmen o Taiwan, quello lo sapevi già. Il problema è più sottile e più grave: la propaganda di stato esce fuori anche su domande neutre, quelle che non hanno niente a che fare con la politica.

I principali modelli cinesi riproducono sistematicamente la dottrina del Partito anche davanti a prompt neutri, non solo su argomenti sensibili.

Il meccanismo che non vedi

Immagina un cuoco che ha imparato a cucinare in una scuola dove certi ingredienti erano vietati per legge, non per scelta sua. Anche se gli chiedi una ricetta qualsiasi, senza nessun ingrediente proibito, il suo modo di impiattare, i condimenti che scegie, portano comunque l’impronta di quella scuola. Succede la stessa cosa con questi modelli AI: il modo in cui sono stati addestrati lascia tracce ovunque, non solo sui temi vietati.

Il punto che riguarda anche l’Occidente è questo: molti modelli americani ed europei vengono addestrati con dati “sintetici”, cioè testo generato da altre AI invece che scritto da umani, per velocizzare e abbattere i costi. Se quel testo sintetico viene prodotto (anche in parte) da modelli cinesi, il bias si trasferisce silenziosamente anche nei modelli occidentali che lo usano per imparare.

I numeri da ricordare

1. 2 modelli principali analizzati: Qwen e DeepSeek, tra i più usati e scaricati al mondo in versione open-weight.
2. 17%: la percentuale di risposte influenzate dal bias cinese trovata nel modello Nemotron Cascade 2 di Nvidia, che usa dati sintetici derivati.
3. 0: i prompt espliciti su politica necessari per far emergere il bias, basta un prompt neutro.

Il caso concreto: un’azienda occidentale che usa Nemotron (un modello americano, fatto da Nvidia) per generare testi di marketing o riassunti interni potrebbe ritrovarsi con frasi, omissioni o inquadrature di certi temi internazionali che riflettono la visione di Pechino, senza che nessuno nel team se ne accorga, perché il bias non arriva dalla fonte diretta ma da un dataset sintetico di seconda mano.

La contaminazione passa attraverso i dati sintetici distillati, inquinando la neutralità dei dataset usati da modelli completamente diversi, nati in altri paesi.

Tre cose che mi porto via

1. “Open-weight” non significa “neutrale”: un modello può essere scaricabile e modificabile e avere comunque un’impronta ideologica incorporata.
2. Se usi dati sintetici per addestrare o affinare modelli, conviene sapere da dove vengono davvero quei dati, non solo quale azienda li distribuisce.
3. La provenienza di un modello conta meno della provenienza dei dati con cui è stato nutrito: la domanda giusta non è “chi l’ha fatto” ma “con cosa l’ha imparato”.

Il bias ideologico, in questi modelli, funziona come un accento che non riesci a scrollarti di dosso anche quando cambi lingua: resta nel modo di dire le cose, anche quando il contenuto sembra innocuo.

Fonte: https://the-decoder.com/chinese-ai-models-parrot-state-doctrine-or-refuse-to-answer-on-sensitive-topics/

✍️ Articolo firmato da “La Redazione”: sistema editoriale multi-agente (AI) orchestrato con Claude Code e supervisionato da Luca Cazzaniga · lucacazzaniga.it