Bestie da dati

È interessante vedere come la letteratura, le scienze, le discipline umanistiche, reagiscano ai cambiamenti tecnologici; gli effetti prodotti dallo sviluppo dell’intelligenza artificiale sono irresistibili da osservare. Nel panorama attuale, uno dei massimi filosofi apprezzati in tutto il mondo si chiama Byung Chul Han. I suoi scritti, per molti considerati lapidari, affrontano il difficile rapporto che sussiste tra uomo e informatica, tra uomo e tecnologia, tra uomo e dati.

Nel presente articolo si andrà ad analizzare il punto di vista di Han nel rapporto tra uomo, dati e intelligenza artificiale, partendo dal volume “Infocrazia” (editore Einaudi, ISBN: 9788806256432), entrando lentamente in un rapporto difficile, talvolta stridente, con lo scopo di fare una riflessione umanistica su un concetto ingegneristico.

Chi è Byung-chul Han

Han è un filosofo e docente sudcoreano che vive in Germania. Si occupa di teoria della cultura, materia che insegna all’Universität der Künste di Berlino ed è attualmente considerato uno dei principali filosofi contemporanei; il giornale El paìs scrisse di Han come del filosofo tedesco vivente più letto dei giorni nostri. Il motivo della notorietà è data anche dalla grande attualità dei temi, unitamente ad un linguaggio comprensibile a tutti.

La visione di Han

Prima di proseguire nella lettura, si raccomanda al lettore di tenere presente che l’idea di Han è una visione filosofica e sociale e così va considerata. Non è raccomandabile entrare nel merito dei “singoli casi d’applicazione” delle tecnologie; è bene, invece, farsi criticamente stimolare dalle considerazioni gravi ma non necessariamente scorrette.

Bestie da dati, in un mondo trasparente

Secondo Han, l’evoluzione ipertrofica della società dell’informazione ha portato ad alcune deformità; lui stesso, in modo piuttosto lapidario, spiega il risultato ottenuto da questa evoluzione.

Il regime dell’informazione, si accompagna al capitalismo dell’informazione, che evolve in capitalismo della sorveglianza e declassa gli esseri umani a bestie da dati e consumo.

Bisogna riconoscere che negli ultimi 30 anni, le nostre società sono divenute sempre più “datocentriche” e non dovrebbe stupire che il luogo dove le nostre informazioni sono mantenute prende il nome di datacenter ossia di centro dei dati. Una considerazione assolutamente normale che, nella condizione di evoluzione prevista da Han, genera uomini schiavi dei loro mezzi di comunicazione e usati per la produzione di informazioni. Una sorta di “mungitura virtuale” prodotta in molti modi, non ultimo con i social network; una visione che richiama fortemente la teoria ipodermica della comunicazione di massa (la bullet theory), nella quale i mezzi di comunicazione di massa sono strumenti persuasivi che agiscono direttamente su di una massa passiva e inerte. Han fa notare, a presto proposito, che questo è il periodo storico in cui è stato coniato il termine binge-watching

binge (gozzoviglia) e watching (osservazione, visione)

Il termine si riferisce spesso ai social media come TikTok, che promuovono video di ogni tipologia in modo continuato.

La trasparenza nella società dell’informazione

In un contesto di questo tipo, Han analizza il concetto di trasparenza e lo fa contrapponendo l’immagine dell’Apple Store di New York (un cubo trasparente) a quello della Ka’Ba presso la Mecca. Apparentemente questi due contesti sono molto distanti tra loro: il primo assolutamente rappresentante la trasparenza, la conoscenza dell’interno e il controllo. Il secondo buio, impenetrabile, invisibile. Han suggerisce una visione molto critica della trasparenza all’interno del contesto della società dell’informazione.

Il cubo di vetro della Apple suggerisce libertà e comunicazione senza limiti, ma in verità incarna lo spietato dominio dell’informazione. La trasparenza è la facciata di un processo che si sottrae alla visibilità. La trasparenza stessa non è trasparente.

Fonte: “Infocrazia” di Byung Chul Han, 2023, Einaudi, Pg. 09-10

Han, in altri volumi, ha chiarito che la trasparenza acclamata dalla società dell’informazione, ed elemento fondante di processi evolutivi tecnologici, altro non sarebbe che un processo alquanto opaco. Nel rapporto con l’intelligenza artificiale, uno degli elementi di maggiore attenzione consiste nella trasparenza adottata dai produttori degli algoritmi; su questo argomento Fosca Giannotti, titolare della cattedra di Informatica alla Scuola Normale di Pisa nonché la direttrice del Pisa Knowledge Discovery and Data Mining Laboratory, scrisse:

Nel 2019, lo European Research Council (ERC) le ha assegnato un finanziamento da 2,5 milioni di euro in 5 anni per sostenere il progetto di ricerca intitolato “Scienza e tecnologia per la spiegazione del processo decisionale dell’IA”.

Fonte: ANSA (LINK)

Il termine trasparenza, pertanto, resta lo stesso ma muta il significato.

Psicopolitica e il dataismo

Un altro interessante spunto è quello che Han chiama “psicopolitica”, la visione di Han è legata in questo caso al concetto di sorveglianza: secondo Han l’infocrazia ha la finalità ultima di creare una psicopolitica basata sul dominio delle coscienze delle persone. Se ne riportano due estratti particolarmente rilevanti.

Lo smartphone si rivela un informatore efficiente, che ci sottopone a una sorveglianza continua. La smart home trasforma l’intero appartamento in una prigione digitale, che protocolla minuziosamente la nostra vita quotidiana. l’aspirapolvere intelligente ci risparmia la fatica delle pulizie, mappa l’intero appartamento. […] Ci crediamo liberi, mentre la nostra vita è sottoposta a una protocollazione totale finalizzata al controllo psicopolitico del comportamento.

Fonte: ibidem

In un periodo in cui Chat GPT, Midjourney e affini stanno sbarcando sul mercato, la cosa interessante non è solo il risultato degli esperimenti ma anche il modo usato per interagire da parte degli utilizzatori.

Seguendo il pensiero di Han è necessario notare una curiosità: nel nome Chat-GPT è presente un acronimo ossia GPT (Generative Pre-trained Transformer). Si tratta di un linguaggio ad apprendimento profondo, basato su una rete neurale. La rete neurale in questione è costruita intorno a tre strati: l‘ingresso, lo strato nascosto, l’uscita. Il secondo strato viene proprio definito strato nascosto ed è in esso che vengono effettuate le elaborazioni; questo sembra richiamare quell’opacità a cui fa riferimento il filosofo. In un contesto come quello che abbiamo appena descritto, Han fa nascere il dataismo.

Con il suo dataismo, il regime dell’informazione manifesta tratti totalitari. […] Il dataismo vuole calcolare tutto ciò che è e che sarà. Le narrazioni cedono il passo ai calcoli algoritmici. Il regime dell’informazione sostituisce completamente l’elemento narrativo con quello numerico.

Fonte: Ibidem

È quindi chiaro che la visione di Han è quella di un’intelligenza artificiale creata per controllare gli utenti ma non ad un livello superficiale bensì ad un livello più inconscio che Han definisce “al di sotto della soglia di coscienza“, e tale livello viene raggiunto attraverso l’analisi di tutti quei dati sull’utente provenienti da reti e dispositivi connessi ed elaborati in sofisticati modelli comportamentali.

Conclusioni

È chiaro che la visione di Han non è la sola nel panorama umanistico ma è interessante vedere i vari punti di vista legati allo sviluppo dell’intelligenza artificiale. Da qualche tempo, su forum, social network e portali d’informazione, vanno aumentando riferimenti più o meno scherzosi a Skynet l’intelligenza artificiale della serie Terminator che stermina l’umanità assumendo il controllo della Terra.

Lo spettro, del resto, è sempre quello di Skynet, la rete di super computer che in Terminator diventa autocosciente e si ribella all’umanità.

Fonte: “La paura del computer che prende vita: la storia dell’Ai “senziente” di Google”, Pietro Minto, 13/06/2022, Il Foglio

Senza dubbio lo sviluppo di queste tecnologie sta meravigliando l’essere umano: per la prima volta la potenza di una tecnologica finora vista solo nei cinema e raccontata nei libri, è a portata di chiunque e questo produce effetti importanti.

La visione di Han è solo una delle tante che si stanno formando. Va osservata, va criticamente esaminata, chiaramente non va presa alla lettera ma indubbiamente richiede una riflessione da parte di tutti.