2 maggio 2023
UN ALFABETO PER L’INTELLIGENZA ARTIFICIALE
Istruzioni essenziali
Nelle ultime settimane ha suscitato un gran clamore l’Intelligenza Artificiale (IA) generativa (come ChatGPT4), una sorta di “pappagallo stocastico” che, utilizzando testi, immagini, audio o video, genera risposte a domande nello stesso formato con cui è stata addestrata.
Come nel caso della pandemia, gli esperti sono germogliati come funghi, dissertando sulla qualità delle risposte, che, ovviamente, dipendendo dalla qualità dei dati, degli algoritmi, e dal modo in cui sono poste le domande, possono essere molto accurate o “allucinanti”, generando effetti virtuosi o devastanti, con nessuna o poca capacità di correzione da parte dell’uomo, a causa della velocità e pervasività di tale processo tecnologico.
Un vero esperto, Norbert Wiener, padre della cibernetica, già negli anni ‘50 avvertì della portata dirompente delle nuove tecnologie e scrisse che per evitare le conseguenze negative di tali processi, il loro progresso e la comprensione del loro funzionamento dovevano essere simultanei.
Wiener intuisce che la gestione dell’ecosistema apparato tecnologico – istruzione – governance deve essere sincrona e anticipativa, perché la cibernetica allora e l’intelligenza artificiale oggi non permettono ex post il controllo umano del sistema (e tale gestione dell’ecosistema è il cuore delle riforme di struttura che l’Italia si è impegnata a portare a termine nell’ambito del PNRR).
Una parte consistente degli scienziati, fra cui i Premi Nobel, arriva a pensare che l’assenza di questi requisiti potrebbe portare all’estinzione della specie umana (questione fondamentale per capire gli effetti potenziali della guerra in corso e la responsabilità di chi chiede continuamente l’estensione del ricorso alle armi).
E’ evidente l’urgenza di aumentare la conoscenza dei processi di intelligenza artificiale presso la popolazione (e il tempestivo adeguamento del sistema dell’istruzione e della governance) per contenere la dilagante disinformazione, per diminuire i pregiudizi nelle decisioni e per tutelare diritti e privacy dei cittadini.
A questo fine questo articolo assume la forma di primo sillabario elementare per una cittadinanza consapevole nell’era dell’intelligenza artificiale.
Nasce la cibernetica.
La cibernetica nasce con il secondo conflitto mondiale e impone al mondo civile il computer, l’informazione come materia prima, gli ecosistemi sostituiscono le funzioni, il feed back sostituisce le scelte lineari.
Montagnini, Information versus Matter&Energy (1)
Nel 1950 Norbert Weiner pubblica il testo fondamentale di sensibilizzazione per l’uso ‘umano’ della cibernetica: Introduzione alla cibernetica: l’uso umano degli esseri umani (2)
La mente umana si macchinizza.
Prima con la memoria, poi con la rete si estendono le capacità dell’uomo grazie al computer divenuto “Architectural Machine”. Si completa così il processo della macchinizzazione dell’uomo iniziato con la prima rivoluzione industriale.
Giuseppe Longhi, Dalla computer graphic alla nascita della progettazione contemporanea (3)
La macchina si umanizza?
Nel 1956 ha inizio il percorso di studio dell’intelligenza artificiale. John McCarthy, Marvin Minsky, Nat Rochester e Claude Shannon scrivono: “Lo studio deve procedere sulla base della congettura che ogni aspetto dell’apprendimento o qualsiasi altra caratteristica dell’intelligenza possa, in linea di principio, essere descritto e che si può costruire una macchina per simularlo. Sarà fatto un tentativo per scoprire come far usare alle macchine il linguaggio, formare astrazioni e concetti, risolvere tipi di problemi ora riservati agli umani e migliorare se stesse”.
Dopo mezzo secolo, con l’AI generativa e con le piattaforme come ChatGPT, si sono raggiunti risultati notevoli in matematica e nell’apprendimento automatico. Ma queste piattaforme non sono intelligenti e non sono in grado di conoscere il mondo nei modi in cui lo possono fare gli umani.
Sostengono il filosofo Luciano Floridi e la neuroscienziata cognitiva Anna Nobre : “con un classico esempio, il nostro cellulare può battere quasi chiunque a scacchi, pur essendo intelligente come un tostapane…..In altre parole, l’IA è il clamoroso divorzio tra la capacità di risolvere i problemi in vista di un obiettivo e la necessità di essere intelligenti nel farlo. ….Ma più viviamo nell’infosfera e nella vita, più condividiamo le nostre realtà quotidiane con forme di agenzia ingegnerizzate e più l’IA può affrontare un numero crescente di problemi e compiti….Abbiamo bisogno di coordinarci (non di intralciarci a vicenda), collaborare (ciascuno di noi faccia la propria parte) e cooperare (lavoriamo insieme) di più, meglio e a livello internazionale. L’intelligenza artificiale può consentirci di fornire queste 3C in modo più efficiente (più risultati con meno risorse), in modo efficace (risultati migliori) e in modo innovativo (nuovi risultati).
La pandemia ha chiarito che la posta in gioco non è tanto l’innovazione digitale, quanto il buon governo del digitale”.
Will Douglas Heaven, Intelligenza artificiale generale: siamo vicini?, ha senso provarci? (4)
Klaus Æ. Mogensen, L’intelligenza artificiale è un mito? (5)
Luciano Floridi e Anna C. Nobre, AI forza positiva (6)
La piattaforma tra interesse privato e bene pubblico
La piattaforma diventa la morfologia dominante delle relazioni e della costruzione sociale e sulla sua declinazione di bene comune piuttosto che privato si gioca il futuro della nostra società.
Sostiene Paolo Benanti: la piattaforma, come ogni artefatto tecnologico è una forma d’ordine, è una struttura di potere. Allora approcciare il tema della dimensione etica della tecnologia significa chiedersi in che misura nella fattispecie le piattaforme sono forme d’ordine, sono strutture di potere.
……Ma il problema è più generale: in breve, stiamo scaricando i nostri evoluti processi di ricerca di informazioni sugli algoritmi, ma questi algoritmi sono in genere progettati per massimizzare la redditività, sono strumenti di creazione di valore, con incentivi spesso insufficienti a promuovere una società informata giusta, sana e sostenibile.
Paol Benanti, Piattaforme, Festival della filosofia, Modena 2021(7)
Chat GTP: questa è l’ultima guerra combattuta con uomini
La guerra, come costrutto puramente umano, che ha fatto parte dell’umanità sin dal suo inizio, cambierà, non dall’oggi al domani, ma cambierà, sostiene Ben Zweibelson, Director for the U.S. Space Command’s (USSPACECOM) Strategic Innovation Group.
Si realizzeranno strumenti di guerra in grado di pensare da soli e gli umani passeranno dall’essere abili padroni di strumenti sempre più sofisticati a gestori meno intelligenti, meno capaci e insufficienti rispetto ad una capacità armata sempre superiore, che potrà elevare, trasformare o rendere schiavo l’Homo sapiens.
Ma questa evoluzione non è accompagnata da un adeguato discorso critico nella società civile.
Ha rilevato Albert Einstein a proposito della bomba atomica “Quando il pensiero critico è in ritardo rispetto alle nuove tecnologie, i risultati possono essere catastrofici”
Ben Zweibelson, Considerazioni sul teaming uomo-macchina, sull’IA e sul cambiamento della guerra (8)
ChatGTP e l’era della sorveglianza
L’informazione che serve per controllare la macchina è anche uno strumento fantastico per controllare le interazioni tra le persone. Ha il potere, grazie ai loop cibernetici, di usare grazie alla circolarità dell’informazione come un meccanismo di controllo sociale.
Shoshana Zuboff, Il capitalismo della sorveglianza (9)
ChatGTP e l’evoluzione dell’economia
Si chiede Katya Klinova, che sta lavorando ad un rapporto che delinea i potenziali impatti sul lavoro dell’IA generativa: “Chi ne trarrà beneficio e chi resterà indietro?”
La risposta ottimistica: si rivelerà uno strumento potente per molti lavoratori, migliorando le loro capacità e competenze, fornendo al contempo una spinta all’economia in generale.
Quella pessimista: le aziende la useranno semplicemente per distruggere quelli che una volta sembravano lavori a prova di automazione, lavori ben pagati che richiedono capacità creative e ragionamento logico; alcune società high-tech ed élite tecnologiche diventeranno ancora più ricche, ma ciò farà poco per la crescita economica complessiva.
David Rotmann, ChatGTP sta per rivoluzionare l’economia. Dobbiamo decidere il suo ruolo (10)
ChatGTP e la responsabilità legale
Un sistema di intelligenza artificiale considerato senziente che viola la legge dovrebbe essere perseguito? In tal caso, il sistema di intelligenza artificiale dovrebbe essere legalmente rappresentato da un altro sistema di IA a ciò abilitato?
Come per qualsiasi tecnologia emergente, come la ricerca sulle cellule STEM, i governi devono imporre alcune regole di base per l’IA in tutti gli aspetti che influenzano la vita umana.
Avi Loeb, I futuri sistemi di AI in futuro saranno legalmente responsabili? (11)
Melissa Heikkila, Una guida rapida alla più importante legge sull’IA (12)
Conclusione (provvisoria)
L’IA pone problemi fondativi alla nostra civiltà, la qualità delle risposte dipenderà dalla governance che sapremo offrire.
L’IA chiede una democrazia anticipatrice, ma come ricorda Habermas, come la stampa ha reso ognuno un potenziale lettore, oggi la digitalizzazione sta trasformando tutti in un potenziale autore, in un potenziale cittadino deliberante. Ma quanto tempo c’è voluto prima che tutti fossero in grado di leggere (e ancora, di comprendere quello che leggono)?
Una percezione politicamente appropriata del superamento del cittadino consumatore nella direzione della cittadinanza collaborativa e deliberante ci mette di fronte alla consapevolezza dei nostri deficit di conoscenza. Anche il ruolo di cittadino attivo deve essere appreso, concentrandoci meno sulle meraviglie della macchina e più sui limiti della nostra “intelligenza naturale”. E la sfera pubblica deve essere decisiva nel plasmare una discussione pubblica capace di coniugare inclusione e deliberazione.
Giuseppe Longhi
Download
- Montagnini, Information versus Matter&Energy, in: http://www.bibliotecheoggi.it/rivista/article/view/375)
- Norbert Weiner, Introduzione alla cibernetica: l’uso umano degli esseri umani, Bollati e Boringhieri, 2012
- Giuseppe Longhi, Dalla computer graphic alla nascita della progettazione contemporanea. in: https://www.dropbox.com/s/c4oxqdmfc2cif9y/ComputerGraphic_sintesi.pdf?dl=0
- Will Douglas Heaven, Intelligenza artificiale generale: siamo vicini?, ha senso provarci?, in: https://www.dropbox.com/s/ieupgkw9fz5rg4c/4-AGI%20-%20AI%20generale.pdf?dl=0
- Klaus Æ. Mogensen, L’intelligenza artificiale è un mito?, in:
https://www.dropbox.com/s/ya61ldor1c2c7cb/5-AI%20Myth1.pdf?dl=0
- Luciano Floridi e Anna Nombre, AI forza positiva, in:
https://www.dropbox.com/s/r4f0r7yblpbe57y/6-AI%20forza%20positiva.pdf?dl=0
- Paol Benanti, Piattaforme, Festival della filosofia, Modena 2021, in: https://www.dropbox.com/s/aczxisgyjy738ff/Benanti%20%20Piattaforme.pdf?dl=0
- Ben Zweibelson, Considerazioni sul teaming uomo-macchina, sull’IA e sul cambiamento della guerra, in MEDIUM: https://benzweibelson.medium.com/thoughts-on-human-machine-teaming-ai-and-changing-warfare-part-iii-ce09ad7c5b30
- Shoshana Zuboff, L’alta tecnologia della sorveglianza, in: https://www.dropbox.com/s/01qup864m967i9c/9-Zuboff-Tech%20ci%20sta%20sorvegliando.pdf?dl=0
- David Rotmann, ChatGTP sta per rivoluzionare l’economia. Dobbiamo decidere il suo ruolo, in: https://www.dropbox.com/s/udalyq47mac7zzc/Chat%20GTP%20pu%C3%B2%20rivoluzionare%20economia.pdf?dl=0
- Avi Loeb, I futuri sistemi di AI in futuro saranno legalmente responsabili?, in:
https://www.dropbox.com/s/jv9th9ve93otxew/11-I%20futuri%20sistemi%20di%20AI%20in%20futuro%20saranno%20legalmente%20responsabili.pdf?dl=0
- Melissa Heikkila, Una guida rapida alla più importante legge sull’IA, in:
https://www.dropbox.com/s/wxfbywxb6egfcmz/Legge%20UE%20su%20AI%20copia.pdf?dl=0
Crediti: devo a Paolo Benanti “L’uomo si meccanizza, la macchina si umanizza”
Condividi
Sullo stesso tema
