5 dicembre 2023

UNA INTELLIGENZA ARTIFICIALE PER COMPETERE CON DIO O PER AUMENTARE LE CAPACITÀ DELLA COMUNITÀ?

Riflessioni indispensabil

Nel mese di novembre Google DeepMind si è inserita nel vasto chiacchericcio di questi mesi sulla intelligenza artificiale generale pubblicando un articolo “Levels of AGI: Operationalizing Progress on.

The Path to AGI” che illustra le cinque tappe del percorso verso la completa sostituzione dell’uomo con la macchina: l’Ai come strumento,  come consulente, come collaboratrice, come esperta, come agente. Di questi livelli Google definisce avanzamento della capacità del sistema, della sua autonomia, dei fattori di rischio.

Google DeepMind: Classificazione degli avanzamenti delle capacità dell’intelligenza artificiale generale (AGI)

nostra rielaborazione

Riguardo all’AGI attualmente siamo al primo stadio (AI Emergente) in una situazioni in cui è prevalente il livello “No AI” .

Quest’ultimo è caratterizzato dall’uso tradizionale del computer, che sta provocando: una forte discriminazione sociale fra chi il computer può permettersi e chi no (come è apparso evidente con l’epidemia), atteggiamenti impositori da parte delle lobbies politico-finanziarie, con l’obbligo forzato dei depositi e delle transazioni bancarie supportate da app, la diffusione di strumenti di sorveglianza e di controllo informatici dal livello individuale alla scala urbana (come ben illustrato da Sushana Zaboff in “La società della sorveglianza”).

Di pari passo è andata l’incapacità, o la non volontà dei nostri amministratori pubblici di offrire adeguati servizi telematici. Una incapacità testimoniata soprattutto dalla inefficiente gestione del sistema sanitario (dalle liste di attesa fino all’inesistente uso pubblico dell’AI, con conseguente perdita di controllo sociale dell’uso delle informazioni sensibili dei cittadini, a favore dei privati).

Il primo livello dell’Intelligenza artificiale generale, è diventato popolare nell’ultimo anno con il rilascio pubblico gratuito dei codici  di ChatGPT

da parte di OpenAI (con lo scompiglio che ne è seguito con la corsa per accaparrarsi gli innovatori – per meglio controllarli? – e l’azione tutta femminile  della trentaquattrenne Mira Murati per  contenere i danni della schizofrenia maschile), rendendo evidenti gli effetti immediatamente dirompenti di questa tecnologia, in termini di mutamenti profondi nell’evoluzione tecnologica, sia dei settori industriali che dei servizi, con falcidia dell’assetto occupazionale, specie per i lavori meno qualificati, di routine e standardizzati.

La questione ha sollevato la curiosità dei nostri governanti, che hanno istituito o rinnovato Commissioni sull’intelligenza artificiale e sugli algoritmi, e un Comitato documentazione della Camera, che si è scapicollato in ‘viaggi di  documentazione’ a Seattle e S. Francisco per incontrare, in stile delegazia sovietica, Microsoft ed Amazon, ignorando l’esistenza di internet, web e meet. La presidenza della Commissione ‘algoritmi’ è andata al sempiterno Giuliano Amato, il quale, ottantaquattrenne, probabilmente si è sentito attirato dalle voci che sostengono l’AI avvicini a Dio, e, quindi, alla vita eterna.  Infatti ChatGPT viene venduta come un qualcosa in grado di rispondere a chiunque su qualsiasi argomento, un qualcosa in effetti di carattere divino.

La questione è tremendamente seria e fra le analisi più profonde, è rilevante quella del filosofo e storico  Yuval Noah Harari (1), il quale sostiene che l’attuale IA è appena emersa dalla zuppa organica come i primi organismi quattro miliardi di anni fa. Quanto tempo le ci vorrà per raggiungere il Tyrannosaurus Rex, o l’Homo sapiens? Non miliardi di anni, potrebbero essere solo 40 anni. E’ l’evoluzione digitale; si sta muovendo su scala temporale completamente diversa dall’evoluzione organica.

In effetti i tempi lunghi  previsti per l’evoluzione delle prime fasi dell’Ai si sono ridotti a un paio di decenni. Quotidianamente la usiamo nei nostri ‘schiavi elettronici’, dai robot domestici fino allo smart phone; l’anno prossimo entrerà in commercio, per l’abbordabile cifra di 600 dollari, l’AI Pin (2). E’ un micro aggeggio che attaccheremo al risvolto delle nostre giacche, proietterà immagini ologrammatiche in 3D e comporrà in qualsiasi lingua e con la nostra voce le nostre parole in frasi.

Ribadisce Harari, “l’AI ci sta sottraendo il nostro sistema operativo, ossia la capacità esclusivamente umana di manipolare e generare parole, immagini o suoni. A un livello che supera l’abilità umana media e grazie a tale padronanza è in grado di aprire le porte di tutte le istituzioni, dalle banche ai templi, perché la lingua è lo strumento che usiamo per dare istruzioni alla nostra banca e anche per ispirare visioni celesti nelle nostre menti”.

Ciò di cui stiamo parlando è niente di meno che potenzialmente la fine della Storia dominata dall’umano, generata  dall’interazione tra biologia e cultura, che è l’interazione tra i nostri bisogni biologici, i desideri di cose come il cibo e il sesso e le nostre creazioni culturali, come le religioni e le leggi.

Cosa accadrà quando l’IA prenderà il sopravvento sulla cultura entro pochi anni? L’IA potrebbe divorare l’intera cultura umana.

Tutto quello che è stato prodotto per migliaia e migliaia di anni sta per essere mangiato e digerito, per iniziare a sgorgare un diluvio di nuove creazioni e artefatti culturali.

Conclude Harari: “Ma se farà qualcosa di sbagliato dovremmo semplicemente staccare la spina, ma nessuno saprà più come staccarla”.

Passando dal livello filosofico a quello tecnologico, Greg Brockman (presidente di OpenAI)  in una conferenza dell’aprile scorso (3) afferma che la progettazione di ChatGTP, arrivata oggi  al primo stadio dell’intelligenza artificiale generale, si è  ispirata allo storico articolo “Can machine think” del 1950 dove Alan Turing   sostiene che non si dovrebbe mai programmare una risposta, ma si dovrebbe insegnare alla macchina a  imparare. Di conseguenza si dovrebbe costruire una macchina come un bambino umano, ed insegnarle tramite feedback.

Sulla scia di questo principio Brockman propone una visione dell’AI generale che arriva fino al terzo stadio della scala proposta da Google, quello dell’”Ai esperta”, in cui l’uomo cura lo sviluppo del bambino/macchina fornendogli input e coordinamento interattivo: “progetteremo  il modo in cui  esseri umani e macchine  lavoreranno insieme per risolvere un problema e per creare macchine sempre più affidabili, assicurandoci che gli esseri umani forniscano la gestione, la supervisione, il feedback e che le macchine siano ispezionabili e affidabili. Penso che col tempo, se riusciremo a gestire correttamente questo processo, saremo in grado di risolvere problemi impossibili”.

Ma, come succede per la gran parte dei bambini, anche nel caso del bambino/macchina è successo l’imprevedibile: man mano che  ChatGPT si ingrandisce ed esamina un numero incredibile di parti di testo, la macchina va imparando cose che l’umano non sarebbe stato in grado di apprendere, facendo emergere risposte sorprendenti.

Quello che è divenuto chiaro è che queste macchine non sono macchine di previsione (benché siano perlopiù descritte così), ma la loro caratteristica chiave è quella dell’emergenza: quando valuti più cose, all’improvviso emergono cose inaspettate, diverse. Ma, come ricordava Harari: se questa emergenza è qualcosa di sbagliato dovremmo staccare la spina, ma nessuno saprà come staccarla.

Questa tecnologia si è manifestata assolutamente diversa da qualsiasi cosa gli scienziati e la gente si aspettassero:  quello che manca alla gente è la simmetria con l’incredibilmente potente emergenza. Con l’enorme rischio che emerga qualcosa di veramente terribile. Da questo deriva la grande paura verso l’AGI.

Brockman pensa che questa sia una questione di livello, di scala e di tempistica, per cui OpenAI ritiene di rilasciare periodicamente i codici operativi dell’AI: per testare l’implementazione dei sistemi in modo incrementale. OpenAI in questo momento ritiene importante fornire feedback di altissima qualità, e attivare un ampio processo di alfabetizzazione, che coinvolga gli uomini e le macchine, ritenendo che sia una responsabilità collettiva insegnare a questa macchina/bambino ad usare saggiamente e  responsabilmente gli strumenti e  attrezzare le barriere perché non ci abbatta tutti.

Passando dal livello tecnologico a quello economico, la visione ‘riflessiva’ di OpenAi, come noto, ha riscosso un enorme successo di mercato pari alla diffidenza (e radicali contromisure) delle parti socio-economiche che con estrema decisione puntano ad arrivare rapidamente allo stadio ultimo dell’ADI, quello del sovraumano, in cui la macchina sostituisce completamente l’uomo.

Ma chi sono  questi soggetti, e qual’è il loro scopo?

L’MIT Teck Review (4) affida la risposta a Timnit Gebru, fondatrice del Distributed AI Research Institute, la quale sostiene che l’intera impresa dell’AGI è strana. Storicamente i progetti tecnologici hanno obiettivi ben definiti; la missione di costruire l’AGI no. Anche se le definizioni di Google DeepMind consentono un’AGI indefinitamente ampia e intelligente.

In un discorso di aprile su  “la falsa (anche pericolosa) promessa di utopia attraverso l’AGI”, Timnit Gebru (5) ha osservato che l’ipotetica tecnologia “appare un sistema senza scopo con l’obiettivo apparente di provare a fare tutto per tutti in qualsiasi ambiente”. In sostanza un surrogato dei poteri divini.

Timnit Gebru imputa la motivazione per costruire “AGI”  alla seconda ondata degli eugenetici, la cui tradizione risale ad una parte dell’ambiente anglo-americano del XX^o secolo. Il loro obiettivo generale è potenziare il “ceppo umano” usando l’ingegneria genetica e le biotecnologie.

A questa ideologia aderisce una schiera di miliardari quali Elon Musk, Peter Thiel, Jaan Tallinn, Dustin Moskovits, Sam Altman, Vitalik Buterin, Sam Bankman-Fried,…, che si propongono di sviluppare l’AGI al fine di modificare radicalmente il rapporto uomo macchina nella direzione della Singolarità, del Transumanesimo, del Razionalismo, di una Visione Cosmica e a Lungo termine.

In particolare Raymond Kurzweil, cooptato in Google attraverso Larry Page, sostiene che la fusione uomo-macchina registrerà una esplosione dell’intelligenza che ci permetterà di trascendere i nostri fragili corpi e le loro limitazioni, grazie al rinnovo del concetto di  “singolarità”. Esso si riferisce a un ipotetico punto futuro in cui la crescita tecnologica diventerà incontrollabile e irreversibile, determinando cambiamenti imprevedibili nella civiltà umana a causa dell’avvento della superintelligenza artificiale.

Ritorniamo alla notazione di Harari: se questi cambiamenti saranno sbagliati dovremo staccare la spina, ma nessuno saprà come staccarla.

L’invito della Gebru è di “non tentare di sostituirsi a Dio”, e si riconnette in qualche modo alla filosofia di OpenAI, invitando a cercare scopi condivisi e trasparenti procedure di controllo.

Nella stessa direzione è molto incisivo  l’invito di Joi Ito (6), già direttore del MediaLab: “dovremmo prestare attenzione all’avvertimento del matematico e filosofo del MIT Norbert Wiener, che più di 60 anni fa ci ha avvertito che “quando gli atomi dell’uomo sono sfruttati da organizzazioni il cui fine non è lo sviluppo responsabile dell’essere umano, ma lo considerano come un insieme di ingranaggi, leve e aste,  importa loro poco che la materia prima sia carne e sangue. “

Per concludere (provvisoriamente). E’ la prima volta dall’inizio della rivoluzione industriale, e forse ancor prima, dalla rivoluzione agraria, che il sistema lombardo, non considera proattivamente opportunità e contrasti di eventi etico-tecnologici di portata epocale come quelli indotti dall’AGI.

Che  non è una tecnica computazionale oggettiva, universale o neutra.  E’ progettata per discriminare, amplificare le gerarchie e codificare classificazioni ristrette. Quando applicata in contesti sociali come la polizia, il sistema giudiziario, l’assistenza sanitaria e l’istruzione, può riprodurre, ottimizzare e amplificare le disuguaglianze strutturali esistenti. Il torpore culturale e amministrativo del nostro ambito metropolitano rispetto a questi temi sta forse anticipando  il collasso dell’intera nazione?

Abbiamo sul tavolo una imponente opportunità di rigenerazione tecnologica offerta dalle riforme auspicate dall’UE. Non è forse questa, se esistono nuove forze agenti, l’occasione per coalizzare gli  innovatori, per condividere ed avviare un serio programma di metropoli a capacità aumentate per il bene comune, in grado di coinvolgere l’intero paese e tutte  le popolazioni con cui siamo  quotidianamente in contatto?

Riferimenti

1. Yuval Noah Harari, “AI&future of humanity”, in TED: https://www.youtube.com/watch?v=LWiM-LuRe6w
2. Imran Chaudhri, “The disappearing computer”, in TED: www.ted.com/talks/imran_chaudhri_the_disappearing_computer_and_a_world_where_you_can_take_ai_everywhere

3. Greg Brockman, “The inside story of ChatGPT’s astonishing potential”, in TED – Aprile 2023: https://www.youtube.com/watch?v=C_78DM8fG6E

4.        Will Douglas, Google DeepMind: definizione dell’intelligenza artificiale generale,

in: MIT Tech Review gennaio 2024   

https://www.technologyreview.com/2023/11/16/1083498/google-deepmind-what-is-artificial-general-intelligence-agi/

5. Timnit Gebru, “La falsa (anche pericolosa) promessa di utopia attraverso l’AGI”, Febbraio 2023, in: https://www.youtube.com/watch?v=P7XT4TWLzJw
6. Joi Ito, “Resisting Reduction: a manifesto”, in: Journal of Design and Science, 13 ott 2017