Prompting come Mediazione tra Due Epistemologie (1/2)
Indice:
1. L’epistemologia e la distinzione del vero dal falso
2. La progressiva nebulizzazione della verità
3. Il contributo dell’AI alla diffusione della conoscenza
3.1 Cosa vuol dire verità per l’AI
3.2 AI come strumento di indagine
4. Il prompting, ponte tra due epistemologie (qui)
Conclusione (qui)
— — —
Il nostro rapporto con l’acquisizione di informazioni per generare nuova conoscenza e decidere nuovi piani di azione, è andato trasformandosi nel tempo, e proprio negli ultimi decenni ha attraversato una vera e propria rivoluzione. L’argomento è molto complesso, ma tentiamo qui di collocare il prompting verso l’AI in un più ampio quadro storico, filosofico e culturale.
1. L’epistemologia e la distinzione del vero dal falso
Iniziamo con una definizione che tornerà utile. L’epistemologia è il ramo della filosofia che studia la natura, l’origine e i limiti della conoscenza. Si occupa di domande come: Come conosciamo qualcosa? Quali sono i criteri per distinguere il vero dal falso? Quali metodi garantiscono la conoscenza affidabile? Tutte domande ancora di estrema attualità. Diverse correnti filosofiche hanno risposto in modi differenti: da Platone (che distingue tra opinione e conoscenza certa) a Popper (che sosteneva la falsificabilità come criterio scientifico).
L’epistemologia (per noi umani) è basata su significati intenzionali, linguaggio naturale, contesto culturale, inferenze implicite. Comprendiamo le cose non solo per esperienza diretta, ma attraverso simboli, narrazioni e concetti astratti. Un ruolo chiave viene assunto dalla trasmissione e distribuzione della conoscenza, attraverso la comunicazione.
Fin dall’invenzione della stampa a caratteri mobili (Gutenberg, 1455), la trasmissione delle informazioni è diventata via via più accessibile e veloce, permettendo la nascita e lo sviluppo del giornalismo e della divulgazione scientifica. In entrambe queste forme di diffusione della conoscenza, la questione della verità dell’informazione condivisa è centrale, e affrontata con la massima attenzione.
2. La progressiva nebulizzazione della verità
Nel giornalismo le informazioni vengono verificate e analizzate dal giornalista, poi raccontate in modo da attirare l’attenzione e risultare chiare, e una volta trasferite, vengono comprese dal lettore e usate per muoversi meglio nel mondo. Grandi firme diventano una garanzia di attendibilità delle notizie, ma, fin dall’illuminismo, il destinatario viene messo nella condizione di potersi formare criticamente una propria opinione e regolarsi autonomamente.
Nel XIX e XX secolo, la radio, la televisione e, più recentemente, Internet e i social media, hanno ampliato le modalità di trasmissione delle informazioni. L’avvento del digitale, in particolare la pratica del blog, ha permesso a tutti di essere cronisti di qualsiasi cosa, trasformando così anche il giornalismo. La diffusione dell’informazione è diventata più pervasiva, interattiva e immediata. La rivoluzione dei social network ha accelerato queste trasformazioni radicali:
- Accessibilità diffusa e assenza di verifiche: Chiunque può pubblicare informazioni in tempo reale, senza filtri editoriali, rendendo più difficile la verifica dell’autenticità delle fonti. Questo ha compromesso l’autorevolezza delle informazioni e ha trasferito al lettore la responsabilità della verifica.
- Personalizzazione e bolle informative: Gli algoritmi dei social network selezionano i contenuti in base agli interessi e ai comportamenti degli utenti, creando ambienti informativi sempre più chiusi e autoreferenziali. Questo limita l’esposizione a punti di vista differenti, influenzando il modo in cui le idee si formano e si consolidano, soddisfacendo un bisogno diffuso di consenso e approvazione.
- Frammentazione e rapidità del consumo: La sintesi estrema dei contenuti e la velocità di trasmissione costringono gli utenti a valutare le informazioni in modo sempre più rapido, con un ridotto accesso a contesti di approfondimento. Ciò riduce la possibilità di analisi critica e di comprensione di temi complessi.
- Impoverimento delle relazioni sociali: Sebbene i social network abbiano facilitato la connessione tra le persone, la digitalizzazione delle interazioni ha ridotto la qualità del confronto. La mancanza di comunicazione non verbale e di contesto narrativo ha reso le interazioni meno empatiche e più superficiali.
- Polarizzazione e pensiero dicotomico: La semplificazione eccessiva dei messaggi e l’assenza di confronto critico hanno favorito una comunicazione polarizzata, basata su contrapposizioni nette piuttosto che su dialoghi costruttivi. Questo ha rafforzato la tendenza a posizioni estreme e conflittuali.
3. Il contributo dell’AI alla diffusione della conoscenza
L’AI generativa svolge un ruolo cruciale nella condivisione della conoscenza, rendendo accessibili grandi quantità di informazioni in modo rapido ed efficiente. E’ facile prevedere che l’AI sia destinata a diventare l’intermediario di riferimento per l’accesso a conoscenze e informazioni digitali. Ne consegue che l’AI ha reso ancora più critico il nodo della veridicità delle informazioni generate, per varie ragioni:
- Bias e qualità delle fonti: I contenuti vengono generati elaborando token in virtù di un addestramento con grandi basi di dati e informazioni, che possono contenere bias ed errori. I contenuti generati finiscono per rifletterli, e possono risultare compromessi (bias e allucinazioni).
- Filtri e azioni correttive: L’architettura in cui è inserito il LLM può prevedere l’applicazione di filtri e altre azioni correttive, in ingresso e in uscita. Da un lato, favoriscono una migliore contestualizzazione e maggiore precisione nelle risposte. Dall’altro, comportano il rischio di ulteriori bias e allucinazioni.
- Generazione stocastica di contenuti: La capacità di generare combinazioni di parole e concetti in modo stocastico, per molti aspetti utile e affascinante, pone seri dubbi sul senso e sulla veridicità del risultato.
- Diffusione rapida e ridotta verifica: La rapidità con cui i contenuti possono essere creati e diffusi riduce il tempo richiesto a verifiche attente, amplificando il rischio di disinformazione.
- Comunicazione priva di empatia: L’AI è in grado di assegnare artificialmente qualsiasi stile o tono alle risposte generate, ed eventualmente lasciarle neutre e fredde. Se da un lato questo può tradursi nell’assenza di toni polemici o di prevenzioni tra i dialoganti, e vero d’altra parte, che viene a mancare il prezioso scambio emotivo.
3.1. Cosa vuol dire verità per l’AI
L’AI non ha una verità “sua”, nel senso filosofico o scientifico. Piuttosto, riflette un’aggregazione probabilistica di informazioni, dipendente dai dati con cui è stata addestrata e dal modo in cui viene interrogata. Questo significa che non possiamo attribuirle una verità oggettiva, ma solo una capacità di generare risposte che sembrano vere nel loro contesto di riferimento.
Più che una verità assoluta, l’AI offre quindi una verità strumentale. Possiamo allora parlare di:
- Verità probabilistica: L’AI non conosce la verità nel senso umano, ma genera risposte basate su correlazioni statistiche tra parole nei dati di addestramento.
- Verità come coerenza interna: Un testo ben strutturato e plausibile non è necessariamente vero. L’AI può produrre risposte errate ma convincenti (allucinazioni).
- Verità contestuale: La formulazione del prompt condiziona l’output. L’AI adatta la risposta al contesto fornito senza una verifica autonoma dei fatti.
- Verità basata sulle fonti: L’affidabilità delle risposte dipende dai dati su cui l’AI è stata addestrata. Se le fonti sono autorevoli, aumenta la probabilità di risposte corrette, altrimenti la verità diventa instabile.
3.2. AI come strumento di indagine
E’ anche vero che l’AI candida essa stessa a strumento per governare e risolvere le criticità che introduce. La grande quantità di contenuti che ora vengono creati, ad un ritmo sempre più veloce, rende l’AI stessa uno strumento indispensabile per processarle altrettanto rapidamente. Se infatti l’AI è famosa per espandere testi in ingresso (prompt e altre informazioni), è altrettanto utile nel sintetizzarli, trasformarli e riprenderli in ulteriori elaborazioni.
Per questo, l’AI stessa può essere un prezioso strumento di verifica e di analisi semantica delle risposte generate. Pur non essendo in grado di decidere il significato e tanto meno la veridicità dei contenuti generati, l’AI può essere utilizzata per identificare e correggere informazioni prive di coerenza e riscontro, attraverso:
- La ricerca di riscontri processando una quantità di fonti soverchiante per un essere umano.
- La formulazione di diversi costrutti da diversi punti di partenza.
- L’analisi dello stile e del tono del testo, utile per individuare manipolazioni linguistiche, tentativi di disinformazione o contenuti generati automaticamente con intento ingannevole.
- Il rilevamento di bias e incoerenze interne, analizzando la presenza di contraddizioni all’interno dello stesso documento o confrontandolo con altre fonti affidabili.
- Il fact-checking automatizzato, incrociando le affermazioni presenti nel testo con database certificati, articoli accademici e documenti ufficiali.
- L’analisi della provenienza delle fonti, per determinare se un’informazione proviene da un contesto affidabile o se è stata amplificata da canali notoriamente poco attendibili.
- La verifica delle immagini e dei video associati ai testi, per identificare contenuti manipolati o fuori contesto tramite tecniche di deepfake detection e image forensics.
- L’analisi del contesto storico e culturale, che aiuta a valutare se un’informazione è coerente con il periodo e l’ambiente in cui è stata prodotta.
Può anche essere usata per fornire informazioni di contesto e sul processo generativo, portando in evidenza le fonti utilizzate e la natura delle informazioni elaborate (Explainable AI).
4) Il prompting, ponte tra due epistemologie
(Segue qui)
— — —
Fonti
- “Existential Risk Prevention as Global Priority”, di Nick Bostrom (2014)
Future of Humanity Institute, University of Oxford - “Technology and the Virtues: A Philosophical Guide to a Future Worth Wanting Get access Arrow”, di Shannon Vallor (2016), in “The Oxford Handbook of Artificial Intelligence”
Oxford University Press - “Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence”, di Kate Crawford (2021)
Amazon - “Pretrain Prompt Optimize: Exploring the Utility of Prompt Tuning for Large-Scale Models”, di Jason Wei e altri, (2022)
arXiv - “Etica dell’intelligenza artificiale”, di Luciano Floridi (2023)
Raffaello Cortina Editore - “Prompting Fundamentals and How to Apply them Effectively”, di Eugen Yan, Ziyou (2024)
Eugen Yan - “Learn Prompting — Prompt Engineering Guide”, Learn Prompting (2024)
Learn Prompting - “Prompt Engineering Survey”, di Sander Schulhoff, Michael Ilie e altri (2024)
GitHub - “Incoscienza artificiale”, di Massimo Chiriatti (2024)
LUISS University Press
#epistemologia #conoscenza #interrogazioni #prompting #llm #ArtificialIntelligence #knowledge #verità
