DeepSeek: Vantaggio Condiviso o Cavallo di Troia?

Un mese fa veniva lanciato DeepSeek, il primo LLM cinese, con l’effetto di un sasso nello stagno. Correggo subito: proprio stagno non è, considerando che parliamo di un settore, quello dell’AI, in cui le startup hanno raccolto 131 miliardi nel 2024, di cui il 74% negli USA (1,2 miliardi solo in Italia). Tanto meno un sassolino, visto che ha provocato il crollo in borsa di giganti come NVIDIA e non solo.

Ne hanno parlato tutti, lo hanno provato tutti. Sono già stati scritti una cinquantina di libri, di cui una decina in italiano, stando a una veloce ricerca su Amazon. Lo stanno usando in molti, nonostante il blocco dell’accesso dall’Italia a fine gennaio, grazie ai numerosi workaround.

Gli aspetti tecnologici sono certamente rilevanti e spiegano sia il successo sia lo sconcerto che ha generato. Qui, però, voglio soffermarmi sulle preoccupazioni legate alla tutela della privacy e, più in generale, sulla protezione dei cittadini che ne sono o ne saranno utenti, consapevoli o meno. Infatti, una volta integrato in architetture più complesse, l’uso di questi LLM può avvenire senza che gli utenti ne abbiano piena consapevolezza.

Le rilevazioni del Garante

Il Garante per la protezione dei dati ha adottato misure urgenti contro DeepSeek a causa di gravi preoccupazioni sulla trasparenza e sulla sicurezza dei dati. Le aziende cinesi sviluppatrici del chatbot non hanno chiarito come, da quali fonti e per quali finalità i dati vengano raccolti e conservati, alimentando il timore che siano trattati su server in Cina, dove la normativa sulla privacy è meno rigorosa rispetto al GDPR.

L’intervento, il primo del suo genere, rappresenta un ulteriore monito per le società extraeuropee e mette in luce le profonde divergenze tra il GDPR, che garantisce trasparenza e controllo, e la PIPL (Personal Information Protection Law), normativa cinese esplicitamente subordinata agli interessi statali.

Tuttavia, sebbene queste preoccupazioni siano ampiamente condivise dagli utenti, la storia insegna che spesso la curiosità e il desiderio di sfruttare uno strumento potenzialmente utile, spingono molti a correre il rischio, seppur con qualche cautela. Una protezione altrettanto essenziale, però, dovrebbe riguardare aspetti ancora più critici.

La Guerra Cognitiva Algoritmica

Nessuno si sorprende nel sentire che è in corso, da molti anni ormai, una guerra dell’informazione tra Cina, Russia e Occidente, condotta con modalità e strumenti sempre più sofisticati. Le infiltrazioni nei canali informativi di massa hanno già influenzato profondamente l’orientamento di una parte significativa della popolazione americana e di alcuni paesi europei particolarmente vulnerabili.

Non si tratta più di semplice propaganda, ma di strategie mirate a manipolare il processo decisionale, minando trasparenza e partecipazione civica, elementi fondamentali del tessuto democratico, fino a condizionare le libere elezioni.

Paolo Benanti aveva lanciato un allarme sulle pagine del Sole 24 Ore (“Software libero, l’open source e possibili usi a scopo militare”, 27 novembre 2024, e “Pechino e l’arma manipolatoria dell’algoritmo”, 11 dicembre 2024), denunciando come la Cina sfrutti algoritmi avanzati per plasmare le convinzioni del nemico attraverso messaggi mirati.

Per descrivere queste strategie, Benanti ha coniato un termine inequivocabile: “guerra cognitiva algoritmica”, causa ed effetto di un contesto geopolitico sempre più infuocato.

In questo scenario, diventa urgente — sostiene Benanti — sviluppare una “resistenza cognitiva attiva”: un vero e proprio elmetto mentale, capace di proteggere le comunità dalle subdole tecniche manipolatorie.

Un mese dopo, veniva lanciato DeepSeek, a questo punto considerato a tutti gli effetti una vera e propria “arma cognitiva”.

Cina, tra controllo di massa e disinformazione

D’altra parte, come non essere diffidenti nei confronti della Cina quando si parla dell’uso della tecnologia per il controllo di massa?

Da anni, numerose aziende cinesi sviluppano software basati su intelligenza artificiale per organizzare e analizzare i dati raccolti sui cittadini. Uno dei sistemi più noti, “one person, one file”, è in grado di apprendere autonomamente e ottimizzare la creazione di profili individuali man mano che aumenta il volume dei dati raccolti. Questi possono includere persino volti parzialmente coperti, mascherati o a bassa risoluzione.

Nel 2023, il Dipartimento di Stato americano ha pubblicato un rapporto intitolato How the People’s Republic of China Seeks to Reshape the Global Information Environment, nel quale accusa il governo cinese di utilizzare metodi “ingannevoli e coercitivi” per influenzare l’opinione pubblica mondiale.

Le strategie evidenziate includono l’acquisto di contenuti e partecipazioni in media esteri, la coercizione di organizzazioni internazionali e testate giornalistiche per silenziare le critiche, la creazione di false identità per diffondere disinformazione e la repressione sistematica degli account sui social media. Il termine utilizzato per descrivere questo fenomeno è “autoritarismo digitale”.

Anche altre app di proprietà cinese, come TikTok, hanno attirato l’attenzione dei governi occidentali per il rischio di diffusione di disinformazione e la mancanza di trasparenza nella gestione dei dati.

Dunque, DeepSeek non fa eccezione. Direttamente affiliata al Ministero dell’Industria e dell’Informazione Tecnologica cinese, nonché al Ministero della Pubblica Sicurezza (esplicitamente citati nei termini di servizio), non avrebbe mai potuto decidere autonomamente le politiche e le finalità della commercializzazione e distribuzione in Occidente, senza l’approvazione statale.

Il regalo avvelenato della Cina

Se “guerra cognitiva” vi sembra ancora un’espressione esagerata, basterebbe leggere alcune analisi che pesano lucidamente caratteristiche tecniche e di marketing.

DeepSeek è distribuito con licenza MIT, che ne consente la libera riproduzione, modifica e commercializzazione, a patto di attribuire il codice. Meraviglie dell’open source! Chiunque — anche con competenze minime e un investimento ridotto — può implementare un’AI avanzata, grazie alla sua elevata portabilità.

Non è difficile immaginare una proliferazione incontrollata di versioni personalizzate di DeepSeek, potenzialmente in ogni settore e indistinguibili dal modello originale. Che generoso regalo! Ma, come è stato ripetuto più volte, “se è gratuito, il prodotto sei tu”.

In questo caso, il prezzo sono le informazioni sensibili cedute dagli utenti e, cosa ancora più grave, le informazioni manipolate che il modello diffonde rispondendo alle domande.

Ecco il retrogusto amaro e sospetto. Il blocco degli accessi a DeepSeek o delle sue API serve a poco, se il modello è stato pre-addestrato nel regno di mezzo. Occorrerebbe fermare tutte le personalizzazioni e i servizi che lo utilizzano senza dichiararlo esplicitamente, ma non è semplice e forse nemmeno fattibile.

A questo punto, la diffusione di DeepSeek potrebbe trasformarsi in un’infiltrazione su larga scala, nei mercati e nelle società: un’arma che non si limita ai sistemi, ma colpisce direttamente le menti. Tutto questo, in un’epoca caratterizzata da un’agguerrita competizione globale, che, per effetto dell’AI, diventa sempre più strategica.

L’elmetto cognitivo

Per contenere, se non annullare questo pericolo, Benanti raccomanda di dare maggiore rilevanza agli studi sulle comunicazioni subliminali e sulle tecniche di manipolazione, diffondendo il più possibile le competenze necessarie a riconoscerle e contrastarle.

Per esempio, l’analisi delle forzature linguistiche, e dei relativi “esorcismi”, è uno strumento prezioso per riconoscere e contrastare le distorsioni dell’informazione, che influenzano sia il processo decisionale individuale sia la percezione collettiva.

Più in generale, è essenziale coltivare una capacità critica e resiliente — una vera e propria “resistenza cognitiva attiva” — per difendersi dalle strategie di persuasione occulta che minacciano la partecipazione informata e la democrazia

Ciò detto, concordo con l’avvertimento rilevato da alcuni, come ad esempio Luca Magni: l’uso manipolatorio del linguaggio si riconosce laddove un’attenta analisi semantica rivela tentativi di strappare un “consenso emotivo”. Il linguaggio militaresco proposto da Benanti, per quanto efficace come immagine, rischia di compromettere la condivisione della lucida analisi che lo sostiene.

Conclusione

Abbiamo analizzato il caso DeepSeek focalizzandoci sulle sue implicazioni per la tutela della privacy e l’affidabilità delle informazioni generate, andando oltre gli aspetti puramente tecnologici e finanziari. Questo ci ha portati a riflettere sul contesto geopolitico e sull’inclinazione della Cina ad usare la sorveglianza e manipolazione di massa per conservare il regime, attraverso strumenti di intelligenza artificiale avanzata.

Dunque DeepSeek, lungi dall’essere un episodio isolato, si inserisce in una strategia più ampia di influenza digitale, che supera la semplice propaganda (guerra dell’informazione) per entrare nel dominio della guerra cognitiva algoritmica. Non si tratta solo di diffondere narrazioni polarizzate, ma di condizionare il processo decisionale di individui e società, compromettendo il futuro delle democrazie.

In questo scenario, la necessità di sviluppare una resistenza cognitiva attiva diventa centrale. Non si tratta solo di proteggere i dati personali o di bloccare l’accesso a determinati strumenti, ma di formare cittadini in grado di decifrare le dinamiche di manipolazione, di riconoscere distorsioni e bias nei contenuti che consumano e di sviluppare una capacità critica nell’elaborazione delle informazioni.

Questa sfida diventa ancora più rilevante in un’epoca in cui anche alcune democrazie occidentali, stanno mostrando segnali di erosione della trasparenza e del pluralismo informativo, oltre che della difesa dei diritti e alla tutela delle minoranze.

Con l’intelligenza artificiale, i meccanismi di influenza sono diventati sempre più sofisticati e pervasivi. Sta a noi sviluppare gli strumenti culturali e cognitivi per garantire il diritto a pensare con la propria testa e difenderci da chi li usa per limitarlo.

Fonti

1. Pechino e l’arma manipolatoria dell’algoritmo, di Paolo Benanti (11/12/2024) Il Sole 24 Ore
2. Software libero, l’open source e possibili usi a scopo militare, di Paolo Benanti (27/11/2024) Il Sole 24 Ore
3. The Moral Duty to Unveil Subliminal Communications, di Luca Magni, (13/12/2024) Linkedin Pulse
4. Insight: China uses AI software to improve its surveillance capabilities, (8/8/2022) Reuters
5. China Uses ‘Deceptive’ Methods to Sow Disinformation, U.S. Says, (28/9/2023) The New York Times
6. DeepSeek and ChatGPT Answer Sensitive Questions About China Differently, Kanis Leung / AP, (2025) Associated Press
7. How DeepSeek users are forcing the AI to reveal the truth about Chinese executions, Anthony Cuthbertson, (2025) The Independent
8. Jailbreaking DeepSeek: Three Techniques, (2025) — Palo Alto Networks Unit42
9. Trump’s Efforts to Dismantle AI Protections, Explained, (2025) ACLU
10. Trump administration cuts environmental justice programs at EPA, DOJ, (2025) Reuters
11. What Cuts to the CFPB Could Mean For Consumers, (2025) Time
12. Tracking regulatory changes in the second Trump administration, (2025) Brookings Institution

#deepseek #informazione #propaganda #masscontrol #manipolazione #fakenews #democrazia