Ormai è cosa nota che l’intelligenza artificiale esponga a rischi e rappresenti un potenziale pericolo per la società. I principali imprenditori internazionali, soprattutto quelli operanti nel campo dell’apprendimento automatico, hanno espresso forti preoccupazioni in merito.
In tal senso il Center for AI Safety ha riportato alcuni ambiti in cui l’impiego della IA rischia di essere più pericoloso.
Armi
La possibilità di adottare la I.A. in contesti offensivi è una eventualità estremamente concreta e seria. Il Centro fa alcuni esempi quali: combattimento aereo, costruzione di armi chimiche. In tal senso sono citati diversi studi. All’interno del testo vi è una frase particolarmente rilevante.
Come per le armi nucleari e biologiche, un solo attore irrazionale o malevolo è sufficiente per causare danni su vasta scala. A differenza delle armi precedenti, i sistemi di intelligenza artificiale con capacità pericolose potrebbero essere facilmente diffusi attraverso mezzi digitali.
Fonte: Center of IA Safety
La velocità computazionale, unita alla grande complessità dei processi, rende questo rischio particolarmente pericoloso.
Disinformazione
L’intelligenza artificiale è stata utilizzata per la costruzione di testi ed immagini riportanti informazioni false. Parliamo di casi che si sono già verificati e che, su scala nazionale, potrebbero avere conseguenze rilevanti. Un esempio per tutti è il caso di Amnesty International che ha pubblicato immagini false delle proteste del 2021 in Colombia. La foto, seppur dichiaratamente realizzata con l’intelligenza artificiale, è stata scambiata per autentica.
Indebolimento
Questo punto è particolarmente interessante: si tratta della consapevolezza che l’assegnazione di task alla I.A. produrrà un progressivo “indebolimento” dell’essere umano fino al rischio che alcune competenze si perdano definitivamente. La differenza sostanziale è che le facoltà di cui si parla in questo caso sono concettuali: capacità elaborative affidate alla macchina, sottratte all’uomo. Bisogna comprendere che questo processo (in parte fisiologico nella storia dell’uomo) è stato adottato con maggiore gradualità in passato e, soprattutto, con rischi inferiori a quelli legati all’intelligenza artificiale.
Rischi reali
Anche se questi timori possono sembrare lontani dalla percezione comune, essi trovano molto fondamento; le applicazioni come ChatGPT o similari sono solo una delle tante declinazioni della I.A. e ve ne sono molte altre a cui non si ha un diretto accesso e di cui non si conosce il potenziale effettivo. Il fatto che le principali aziende operanti in questo settore chiedano una regolamentazione forte e stringente è indicativo: certamente non si può escludere l’eventualità che, attraverso tale regolamentazione, vi sia l’interesse a creare uno sbarramento che permetta a poche aziende di controllarne molte.
Siamo ad un capitolo di svolta per la tecnologia e per la storia dell’intera umanità, per la prima volta l’uomo si trova ad avere un potenziale avversario che, nella sua massima evoluzione, non sarà assoggettata ai comandi ma godrà di autonomia cognitiva e di una serie di capacità computazionali ben superiori a quelle del suo creatore.
La I.A. come questione di geopolitica
La preoccupazione espressa nei confronti della geopolitica è elevata: l’intelligenza artificiale è un elemento di prosperità ma anche di potenziale dominazione politica e sociale. In tal senso, come sappiamo, una parte delle aziende americane ha richiesto l’intervento del Presidente degli Stati Uniti per regolamentare correttamente l’evoluzione della I.A. ma dall’altra parte del mondo c’è preoccupazione piuttosto accentuata per la Cina che, per valori sociali e storici, attua politiche differenti rispetto all’occidente. Sappiamo che tra Stati Uniti e Cina c’è un dialogo particolarmente difficile che ha origini antiche: da un’inimicizia profonda, nacque un periodo di dialogo che Kevin Rudd (ex primo ministro australiano) colloca nel 1979.
A una normalizzazione diplomatica tra Cina e Stati Uniti si giunse solo nel 1979, sette vorticosi anni dopo i negoziati del Comunicato di Shanghai nel 1972.
Fonte: “Breve storia delle relazioni USA-Cina”, Kevin Rudd, Rizzoli Editore (2023)
Ad ogni modo, nonostante gli sforzi, i rapporti sono rimasti in costante tensione a causa di incidenti e strategie commerciali.
Considerazioni sulla Cina
L’aspetto più interessante del dibattito sulla I.A. e sui rischi connessi, riguarda il fatto che culture differenti (profondamente differenti) sono sedute allo stesso tavolo e devono fare i conti con una tecnologia che può compromettere economie e strutture sociali. Prima ancora di una possibile “dominazione” del paese meno tecnologico, vi è il rischio di corrompere quei legami economici senza i quali i paesi non si sostengono. Il tessuto delle transazioni finanziarie, gli import/export effettuati quotidianamente, sono garanti dello sviluppo sociale ed economico; non esiste un paese, per quanto stabile sia, che non dipenda dalle esportazioni e dai buoni rapporti con le altre nazioni. Tuttavia a rendere difficile il dialogo su questi temi è proprio la cultura di origine che mette agli antipodi gli interlocutori.
Viene quindi logico domandarsi come mai la Cina sia sotto i riflettori, ben più degli Stati Uniti o di altri paesi. Gli Stati Uniti hanno un comparto normativo che garantisce l’esercizio ma anche la difesa della democrazia: alcune volte queste condizioni falliscono, altre volte riescono addirittura a garantire la libertà d’incriminazione di uno dei suoi ex-presidenti. In sostanza è previsto che la legge si applichi indistintamente verso il cittadino e qualsiasi altro membro dell’apparato statale, sia esso un dirigente o il presidente degli Stati Uniti d’America. Non è un sistema infallibile ma è un sistema che pone tutti al di sotto della legge e questo è molto importante.
Nella Cina che conosciamo, lo Stato assume l’elemento di coordinamento della popolazione. I cittadini cinesi, in un certo senso, hanno barattato la loro libertà e il loro diritto alla privacy, con regole e restrizioni che garantiscono convivenza sicura e “armoniosa”. Lo Stato è quindi il polo intorno al quale ruota tutto: non solo la politica, ma anche il modo di pensare e di agire e senza lo Stato i cittadini si sentono perduti.
Negli ultimi anni la Cina ha avuto grandi difficoltà in tal senso. La stessa Limes scrisse un articolo dal titolo emblematico “Pechino non sa più come prendere il mondo“, nel quale si legge:
La Repubblica Popolare sta pagando l’incapacità di riconoscere i limiti del proprio successo. I passi falsi sul Covid-19 e sulla guerra d’Ucraina. Dallo storico principio dell’unità del centro alla tattica dell’attendismo. Una guerra per Taiwan è troppo rischiosa.
Fonte: “Pechino non sa più come prendere il mondo”, Limes (LINK)
È quindi questo a preoccupare: le condizioni di governo della Cina, da sempre strettamente rigide e che che hanno guidato per millenni la Cina, ora stanno lentamente entrando in crisi. Lo dimostrano le rivolte interne a seguito del COVID-19, unitamente al difficile dialogo tra la Cina e l’occidente nella questione bellica tra Russia e Ucraina. La macchina di stato cinese si pone come elemento principale di decisore in molti aspetti della cultura quotidiana e tale centralità la si ritrova, in primis, nell’ideogramma della parola Cina.
La parola CINA deriva dal nome degli esploratori che connotavano il continente come “Terra di Qin”, la prima dinastia imperiale. Ma il vero significato dell’ideogramma è Terra di mezzo proprio perché la popolazione si è considerata al centro del mondo per importanza e capacità di conquista. L’ideogramma rappresenta il mondo diviso a metà ed è uno dei 5 punti cardinali.
2021-Rilascio del “Codice etico dell’intelligenza artificiale di nuova generazione”
Il 26 settembre 2021 il “Ministero della Scienza e della Tecnologia della Repubblica Popolare Cinese” ha pubblicato il “Codice etico dell’intelligenza artificiale di nuova generazione“. Si tratta di un documento importante il cui scopo, come si legge nell’articolo uno, è:
integrare l’etica nell’intero ciclo di vita dell’intelligenza artificiale, promuovere l’equità, la giustizia, l’armonia e la sicurezza ed evitare problemi come pregiudizi, discriminazione, privacy e fuga di informazioni.
È da tenere presente l’importanza del termine “armonia” che non è semplicemente una parola ma, nella cultura cinese, rappresenta un qualcosa di più importante e di cui si scriverà più avanti. Gli intenti di questo codice sono riassumibili nell’art.3 di cui si riporta uno stralcio.
Varie attività dell’intelligenza artificiale devono seguire le seguenti norme etiche di base. Migliorare il benessere umano. Aderire alle persone orientate, seguire i valori comuni dell’umanità, rispettare i diritti umani e gli interessi fondamentali dell’umanità e rispettare l’etica nazionale o regionale. Aderire alla priorità degli interessi pubblici, promuovere l’armonia e l’amicizia tra uomo e macchina, migliorare il sostentamento delle persone, aumentare il senso di guadagno e felicità, promuovere uno sviluppo economico, sociale ed ecologico sostenibile e costruire insieme una comunità di futuro condiviso per l’umanità. Promuovere l’equità e la giustizia. Aderire all’inclusività, proteggere efficacemente i diritti e gli interessi legittimi di tutti i soggetti interessati, promuovere l’equa condivisione dei benefici apportati dall’intelligenza artificiale nella società e promuovere l’equità sociale, la giustizia e le pari opportunità.
Principi interessanti e condivisibili ma onestamente abbastanza generici senza che si capisca bene in che modo la Cina vorrà garantire questo punto.
2022-Rilascio del “Position Paper of the People’s Republic of China on Strenghening Ethical Governance of Artificial Intelligence (AI)”
Nel 2022 la Cina ha rilasciato un altro documento, il “Position Paper of the People’s Republic of China on Strengthening Ethical Governance of Artificial Intelligence (AI)“. Il documento è breve e consta di 4 articoli di cui l’ultimo è proprio quello più interessante intitolato “Cooperazione internazionale”.
I governi dovrebbero incoraggiare gli scambi e la cooperazione transnazionali, interdisciplinari e interculturali, garantire che i benefici delle tecnologie dell’IA siano condivisi da tutti i paesi, promuovere la partecipazione congiunta dei paesi alle discussioni internazionali e all’elaborazione di norme sulle principali questioni riguardanti l’etica dell’IA e opporsi al costruzione di gruppi esclusivi e ostruzione dolosa dello sviluppo tecnologico di altri paesi. I governi dovrebbero rafforzare la regolamentazione dell’etica dell’I.A. per le attività di ricerca cooperativa internazionale. Le attività scientifiche e tecnologiche pertinenti dovrebbero essere conformi ai requisiti della gestione etica dell’IA nei paesi in cui si trovano le parti che collaborano e superare la revisione etica dell’IA di conseguenza. La Cina invita la comunità internazionale a raggiungere un accordo internazionale sulla questione dell’etica dell’IA sulla base di un’ampia partecipazione e a lavorare per formulare un quadro, standard e norme internazionali di governance dell’I.A. ampiamente accettati, nel pieno rispetto dei principi e delle pratiche della governance dell’I.A. di diversi paesi.
In un’ottica di cooperazione internazionale e di equilibri economici e politici, la IA può rappresentare un elemento dirompente in grado di spezzare questi bilanciamenti e compromettere i rapporti internazionali. C’è un articolo de “Il Manifesto” intitolato “La Cina e la sottile differenza tra armonia e stabilità” che riporta una differenza sul quale vale la pena riflettere:
Se dal punto di vista economico Pechino non mette limiti alla cooperazione, da un punto di vista politico Xi sembra avere ormai tracciato una linea invalicabile; Usa, Ue e Cina sono diversi politicamente, nella propria considerazione dei diritti e nel modo di governare, ma questo non significa che ci sia qualcuno superiore all’altro. Per la Cina questa diversità non è un impedimento a fare affari insieme, ma è un punto fermo della sua politica estera, vale a dire la richiesta di essere considerato un partner di pari diritto e non un paese «dalla parte sbagliata della storia».
Il fattore “armonia”
Confucio fu un pensatore (Zou, Shandong, 551 a. C. circa – Qufu 479 a. C.) che affiancò la classe aristocratica Cinese influenzandola fortemente. Secondo la visione di Confucio, il mondo ideale è quello in cui vi è una costante “armonia nella diversità” (和而不同hé ér bùtóng); il concetto è pertanto quello di una società nella quale più realtà sociali e politiche sono coesistenti in rapporti per l’appunto “armoniosi“. Per raggiungere lo stato di armonia, tuttavia, Pechino ha esercitato negli anni uno stato di controllo che permea, a tutti i livelli, la vita sociale: controllo fiscale, controllo politico, videosorveglianza di massa, etc… C’è un interessante editoriale di Limes, la celebre rivista di geopolitica, che riporta un paragrafo molto interessante.
Basato su una capillare raccolta dati su individui, imprese ed enti governativi e un meccanismo di premi e sanzioni, il complesso sistema di valutazione comportamentale ha due obiettivi. Il primo è istituzionalizzare e digitalizzare le forme di controllo già esistenti. Basti pensare al vincolo tra diritti sociali, luogo di nascita e monitoraggio della popolazione derivante dall’hukou, il sistema di residenza lanciato da Mao Zedong negli anni Cinquanta e oggi in fase di riforma. Oppure ai danwei, le unità di lavoro attraverso cui il Partito monitorava i comportamenti dei cittadini. Dalla prospettiva di Pechino, è necessario anteporre la confuciana armonia collettiva alla sfera individuale e impedire che la sovranità del Pcc sia messa a rischio dall’impatto sociale di dossier spinosi: rallentamento dell’economia, divario di ricchezza tra città e campagna e tra regioni costiere e interne, alti livelli d’inquinamento, aumento del tasso di urbanizzazione e d’invecchiamento.
Fonte: “Armonia e controllo: cos’è il sistema di credito sociale di Pechino”, LIMES (Link)
Il punto è che, se da una parte l’armonia nella diversità è uno degli obiettivi del pensiero cinese, le sue modalità di raggiungimento sembrano essere ampiamente discutibili sul piano etico oltre che politico e sociale.
Un esempio: Jiuzhang 2.1 e il principio di autosufficienza ma non solo
Nel 2021 Xi presentò pubblicamente il New Development Concept, il piano di sviluppo cinese per il futuro. Uno dei pilastri del piano era l’autosufficienza e, di conseguenza, l’indipendenza da altri paesi in ogni aspetto essenziale.
Questo concetto ha spinto la Cina a sviluppare e potenziare sempre più tecnologie come il computer quantistico Jiuzhang che è arrivato alla versione 2.1 ed è attualmente considerato il computer quantistico più veloce al mondo.
Non è un aspetto principalmente tecnologico, bensì culturale e, come tale, deve essere analizzato. Nel 2015 la Cina realizzò il suo piano di sviluppo “Made in China 2025” in cui erano elencate categorie tecnologiche nelle quali era richiesta l’autosufficienza e lo sviluppo. Nel 2017 tra queste categorie venne introdotta l’intelligenza artificiale. Nel 2019 il 48% di tutte le startup di IA a livello globale sono state classificate come cinesi, mentre il 38% come americane e 14% come di altri paesi [fonte: “Usa-Cina. Una guerra che dobbiamo evitare“, K. Rudd, Rizzoli (2023), Pg.161].
Gli Stati Uniti e la richiesta di regolamentazione
Nelle scorse settimane le principali aziende americane coinvolte nello sviluppo tecnologico della IA, hanno chiesto alla Casa Bianca di regolamentare il mercato e la crescita di questa tecnologia. Tuttavia, ci sono stati alcuni accadimenti che andrebbero osservati con attenzione.
Microsoft ha licenziato il team di lavoro dedicato all’analisi etica della .IA.; la notizia è stata data da molte riviste tra cui The Platformer. Nell’articolo si legge un passaggio abbastanza eloquente:
One employee says the move leaves a foundational gap on the user experience and holistic design of AI products. “The worst thing is we’ve exposed the business to risk and human beings to risk in doing this,” they explained.
Un dipendente afferma che la mossa lascia un vuoto fondamentale nell’esperienza dell’utente e nella progettazione olistica dei prodotti AI. “La cosa peggiore è che abbiamo esposto l’azienda al rischio e gli esseri umani a rischiare nel farlo”, hanno spiegato.
Anche OpenAI ha assunto comportamenti differenti rispetto al passato: ha scelto, infatti, di non rivelare alcuna informazione in merito all’ultima versione di GPT-4. Nel MIT Technology Review del 14/03/2023 si legge:
“OpenAI is now a fully closed company with scientific communication akin to press releases for products”
“OpenAI è ora un’azienda completamente chiusa con una comunicazione scientifica simile ai comunicati stampa per i prodotti”
La newsletter “Guerre di Rete” di Carola Frediani, riporta un’altra testimonianza interessante:
La mancanza di trasparenza è lamentata da molti ricercatori. Ad esempio per Irina Raicu, direttrice del Programma di internet ethics presso il Markkula Center for Applied Ethics dell’Università di Santa Clara, è fondamentale che i colleghi ricercatori abbiano accesso al set di dati di addestramento del chatbot: “Sapere cosa c’è nel set di dati consente ai ricercatori di evidenziare ciò che manca”, afferma (sulla testata Fast Company).
Fonte: “Guerre di Rete”, Carola Frediani, newsletter del 18/03/2023
Conclusioni
Il 12 marzo 2023 il New York Times scriveva un articolo a firma di Ezra Klein in cui vi è un passaggio importante, che riassume la condizione attuale nella quale ci troviamo.
If we had eons to adjust, perhaps we could do so cleanly. But we do not. The major tech companies are in a race for A.I. dominance. The U.S. and China are in a race for A.I. dominance. Money is gushing toward companies with A.I. expertise. To suggest we go slower, or even stop entirely, has come to seem childish. If one company slows down, another will speed up. If one country hits pause, the others will push harder. Fatalism becomes the handmaiden of inevitability, and inevitability becomes the justification for acceleration.
Se avessimo eoni per adattarci, forse potremmo farlo in modo pulito. Ma non li abbiamo. Le principali aziende tecnologiche sono in corsa per il dominio dell’I.A.. Gli Stati Uniti e la Cina sono in corsa per il dominio dell’I.A.. Il denaro sta confluendo verso le aziende con competenze sulla I.A.. Suggerire di andare più piano, o addirittura di fermarci del tutto, risulta infantile. Se un’azienda rallenta, un’altra accelera. Se un paese mette in pausa, gli altri spingeranno più forte. Il fatalismo diventa l’ancella dell’inevitabilità e l’inevitabilità diventa la giustificazione dell’accelerazione.
L’intelligenza artificiale si sta sviluppando, tra criticità e dubbi, in modo molto simile ma non paritetico tra Stati Uniti e Cina. Se da una parte le opportunità d’impiego sembrano davvero infinite, dall’altra l’umanità si trova davanti ad una sfida che non è solo tecnologica ma anche e soprattutto sociale e politica.
