Demenza artificiale, New Media ed etica pubblica

di Enzo Varricchio

“L’intelligenza artificiale è il più grande rischio cui la nostra civilizzazione si trova a far fronte”
Elon Musk, fondatore di SpaceX, Tesla Motors e Neuralink.

Ignoranza umana + Intelligenza artificiale = demenza artificiale.

Sì, dall’incontro tra analfabetismo di ritorno,  inconsapevolezza dei meccanismi informatico-cibernetici da parte delle masse e sofisticatezza di questi ultimi, non può nascere che la demenza artificiale, un pernicioso malanno collettivo dal quale occorre difendersi.

La demenza artificiale è simile alla “negligenza artificiale” di cui racconta Lorenzo Trigiani (creativo, futurista) nell’articolo “Nemo. 20 Gennaio 2035”, sempre in questo numero. Anch’essa viene indotta nelle reti neuronali dei cittadini per devitalizzarne la capacità di apprendimento ma non serve a ridurre il rischio di crash e di malattie somatiche, bensì a depotenziare la carica emozionale e culturale della gente e impedirle di comprendere ciò che sta realmente accadendo: una mai vista separazione tra i pochi detentori delle chiavi del sistema delle I.C.T. (Information and Communication Technologies) e i molti che ne sono gli impreparati utilizzatori/utilizzati.

Sulle potenzialità e sui rischi di tutto ciò in termini scientifici e anche economico-occupazionali, è meglio che io rinvii alla panoramica dello psichiatra Giuseppe Verrastro (“A.I. tra passato e futuro”) pubblicata in questo numero.

Mi soffermerò su alcuni fenomeni nel mondo dell’informazione derivanti dalla “disintermediazione”,

cioè dal crollo dei sistemi intermedi (giornalismo professionale e media tradizionali che prima verificavano le notizie) a causa dell’avvento di Internet, dei New Digital Media e dei Social Network:

– Misinformation e disinformazione dolosa a scopi commerciali, diffusione di “false conoscenze” e di una “falsa cultura” fondata su Wikipedia e i Social Network;

– Fake news idonee a determinare ascese e cadute di personaggi pubblici e politici, di infangare e idolatrare, perché il popolo internautico non possiede gli strumenti culturali per selezionare, comprendere, valutare e scegliere;

– Inefficacia dei sistemi di fact-checking e debunking (confutazione scientifica di affermazioni false, esagerate, antiscientifiche) a risolvere il problema della diffusione di informazioni errate o false su Internet;

– Conseguente violabilità dei diritti della persona utente, non preparata a difendersi dai meccanismi del web (identità false, furto di dati, frodi informatiche, violazioni della privacy, diritto all’oblio, etc.);

– Polarizzazione del dibattito sui vari temi di interesse, cioè la tendenza a schierarsi automaticamente pro o contro qualcuno o qualcosa;

– Filter Bubble di Pariser (bolla di filtraggio), personalizzazione dei risultati di ricerche su siti che registrano la storia del comportamento dell’utente come posizione, click precedenti, ricerche passate per scegliere selettivamente tra tutte le risposte quelle che vorrà vedere l’utente stesso.

L’effetto è di isolare nella sua bolla l’utente da informazioni che sono in contrasto con il suo punto di vista culturale o ideologico

(es.: ricerca personalizzata di Google e notizie personalizzate di Facebook);
– Echo Chambers, situazione in cui informazioni, idee o credenze più o meno veritiere vengono amplificate da una ripetitiva trasmissione e ritrasmissione all’interno di un ambito omogeneo e chiuso, in cui visioni e interpretazioni divergenti finiscono per non trovare più considerazione;
– Confirmation bias, ovvero la tendenza ad acquisire informazioni coerenti con la propria visione del mondo da parte degli utenti dei New Media, con le medesime nefaste conseguenze di isolamento già citate.

Tali fenomeni determinano implicazioni negative da un punto di vista civico, nel senso di ridurre lo spirito critico e autocritico delle masse (cd. “scepsi”, cioè esercizio del dubbio nella prassi conoscitiva) per mezzo di strumenti manipolatori.

Le informazioni sui comportamenti degli utenti costituiscono dei Big Data che vengono studiati con algoritmi dalla “Computational social science” per comprendere – e indirizzare – i sistemi sociali applicando il metodo della fisica.
L’opinione pubblica è fortemente condizionata dalle informazioni acquisite sul Web e le istituzioni preposte a formare una cultura critica nei cittadini (famiglia, scuola, università, media tradizionali, sindacati e partiti) sembrano totalmente inadeguate ad affrontare questo importante problema della modernità.

La questione così diventa di etica pubblica, perché riguarda direttamente le scelte comportamentali che la collettività è chiamata a compiere, il controllo e i giudizi che essa è chiamata a esprimere sui comportamenti degli attori e decisori pubblici.
Per non frenare la possibilità di espressione che il Web per altri versi rappresenta, piuttosto che ulteriori fattispecie penali e vincoli normativi, sarebbe opportuno introdurre vademecum etici, codici deontologici e prassi di controllo reciproco fra gli utenti, peraltro già utilizzati dalle multinazionali informatiche.

Si può invertire la manipolazione e renderla virtuosa per veicolare valori di giustizia e rispetto dei diritti, pace sociale, pluralismo delle opinioni, etc.
I Social da pericolo possono trasformarsi in opportunità di apertura culturale, come è avvenuto e avviene in materia di parità di genere, di tutela degli animali e dell’ambiente, a patto di trovare un linguaggio relazionale in grado di parlare a tutti, basato su correttezza, veridicità e comprensibilità, i tre requisiti di base per un discorso etico.

Ph. su WIRED.