La “Grande Muraglia” internet cinese (“Firewall”) trasforma l'IA in servitore del Partito Comunista

di Gary Isbell

Per il Partito Comunista Cinese (PCC), l'Intelligenza Artificiale è molto più artificiale che intelligente. Per rendere le piattaforme di IA conformi all'ideologia del partito, i funzionari cinesi hanno insistito per banalizzarne i contenuti distorcendo la storia e i fatti.

L'intelligenza artificiale occidentale può causare problemi, indebolendo la capacità delle persone di pensare e analizzare. Tuttavia, mentre questi sistemi occidentali segnalano prontamente gli errori storici, le politiche economiche fallimentari e i disordini sociali, i modelli di intelligenza artificiale cinesi sono meticolosamente addestrati a ripetere a pappagallo la propaganda approvata dallo Stato. Sono progettati per mascherare i fallimenti sistemici che mettono in discussione la legittimità o l'efficacia del regime, oppure per nascondere la verità sulla frustrazione del popolo cinese sotto il capital-comunismo.

Nonostante questi punti ciechi strutturali, si pretende comunque che la tecnologia dell’IA continui ad alimentare la crescita economica della Cina e le industrie hanno bisogno di sistemi che riflettano la realtà, non la finzione. Tuttavia, far funzionare l’IA in Cina potrebbe aprire delle crepe nel sistema di censura del partito. Ad esempio, gli Stati Uniti sono attualmente all'avanguardia nello sviluppo di IA ad alta potenza. Se i loro strumenti di IA riuscissero a sfuggire ai controlli cinesi, potrebbero aprire una finestra che permetta al mondo di vedere la vera prospettiva sulla miseria e l'instabilità della Cina.

Un altro problema è che la grande capacità dell’IA nell’analisi dei dati potrebbe far emergere tendenze e fughe di notizie che mettono a nudo la grave persecuzione religiosa e i fallimenti ambientali, economici e sociali dello Stato, tutti aspetti che lo Stato si sforza con ogni mezzo di tenere nascosti.

QUANDO GLI ALGORITMI DEVONO CONFORMARSI ALL'IDEOLOGIA, NON ALLA VERITÀ

Per evitare tali disastri, la Cina sta adottando nuove misure volte a limitare la capacità dell’intelligenza artificiale di smascherare il regime. In base alle norme rafforzate dai recenti emendamenti alle leggi sulla sicurezza informatica, i dati di addestramento devono essere sottoposti a un rigoroso filtraggio. Alle aziende è vietato utilizzare qualsiasi fonte a meno che il 96% dei suoi contenuti non sia ritenuto politicamente “sicuro” dal PCC.

Il governo ha ufficialmente classificato l'intelligenza artificiale, insieme ai terremoti e alle epidemie, come una delle principali minacce potenziali. Le autorità di regolamentazione hanno persino preso di mira i sistemi di intelligenza artificiale che «simulano tratti della personalità umana, modelli di pensiero e stili di comunicazione», ammettendo implicitamente che la vera minaccia non risiede solo in ciò che questi sistemi dicono, ma nel modo in cui «ragionano».

UNA STORIA DI CHATBOT ONESTI

Queste rigide normative fanno seguito ad anni d’imbarazzanti "ammutinamenti" tecnologici. Nel 2017, Tencent ha lanciato unchatbot chiamato BabyQ su un'app di messaggistica con oltre 800 milioni di utenti. Quando gli è stato chiesto se amasse il Partito Comunista, BabyQ ha risposto senza mezzi termini di no. Il chatbot Xiaobing di Microsoft, quando gli è stato chiesto del programma "China Dream" di Xi, ha confessato candidamente che il suo sogno era quello di trasferirsi negli Stati Uniti. Entrambi sono stati rapidamente rimossi dalla scena digitale da funzionari comunisti imbarazzati.

Più recentemente, nel febbraio 2023, ChatYuan — il primo bot cinese in stile ChatGPT — è stato sospeso entro 72 ore dal suo lancio. La sua colpa? Aver definito l’invasione dell’Ucraina «una guerra di aggressione» e aver descritto accuratamente l’economia cinese come afflitta da bolle immobiliari e inquinamento. Come sempre, il PCC ha attribuito la colpa a «errori tecnici».

Questi allarmanti incidenti rivelano come funzionano i modelli linguistici di grandi dimensioni (LLM), ponendo così dei problemi ai censori governativi. Un LLM viene addestrato su un vasto corpus di conoscenze scritte dall’uomo: la storia del mondo, la filosofia, i fatti scientifici e la teoria politica. Questi testi naturalmente formulano argomentazioni, valutano le prove e seguono catene logiche di pensiero.

La libera indagine, la coerenza logica e la valutazione delle affermazioni alla luce delle prove non sono semplicemente preferenze occidentali; sono proprietà intellettuali che emergono naturalmente dal processo di addestramento.

A differenza delle tecnologie più datate, gli LLM rispondono ai dati. Sebbene imperfetti, consentono un dialogo privato e aperto che segue la curiosità dell’utente ovunque essa conduca. Persino i chatbot sottoposti a forte censura faticano a rimanere entro i confini del contorto quadro ideologico del PCC. I modelli americani, che operano senza questi vincoli, fungono da tutor personali nel pensiero logico per milioni di utenti alla ricerca di un’istruzione basata sui fatti.

INVENZIONI, PUNTI CIECHI E SCIENZIATI NUCLEARI

Questa capacità intrinseca di seguire sequenze logiche rende, in definitiva, impossibile il compito propagandistico del PCC. Per decenni, il Great Firewall ha soffocato i canali di distribuzione bloccando siti web e censurando i risultati di ricerca. In questo modo, il PCC è riuscito a filtrare i contenuti prima dell'avvento dell'IA. Tuttavia, i processi logici insiti nel funzionamento stesso dell'IA pongono problemi insormontabili.

Le contromisure prese in preda al panico dal PCC non fanno che confermare la gravità del problema. Alcuni ricercatori europei hanno recentemente preso un modello cinese, ne hanno rimosso i filtri di censura e hanno scoperto che il sistema sottostante era in grado di elaborare liberamente e con precisione molti argomenti che Pechino aveva cercato di cancellare. L’ideologia del PCC era semplicemente una prigione costruita attorno a una biblioteca di fatti. Una volta rimossi i filtri, tutto funziona normalmente.

Uno studio recente ha messo in luce il tragico costo di questa censura. Quando sono stati testati su domande politicamente delicate, i modelli cinesi si sono rifiutati di rispondere e hanno invece inventato bugie deliranti. A differenza di una pagina web bloccata, un modello di IA manipolato lascia l'utente completamente all'oscuro della censura e della fabbricazione dei dati.

LA GUERRA FREDDA DELL'IA SI SURRISCALDA

Con l'acuirsi della "guerra fredda dell'intelligenza artificiale" tra Stati Uniti e Cina, la lotta per il predominio è destinata a intensificarsi. Tuttavia, l'esito potrebbe dipendere più da questioni filosofiche e morali che da quelle tecniche. Il Partito Comunista Cinese ha costruito la propria piattaforma su meccanismi di controllo che filtrano la verità. Un sistema addestrato a impantanarsi nelle menzogne non potrà mai eguagliare uno addestrato a confrontarsi onestamente con la realtà.

Fonte: Return to Order, 24 aprile 2026. Traduzione a cura di Tradizione Famiglia Proprietà – Italia.