intelligenza artificiale - Luiss University Press

5 libri sull’intelligenza artificiale da leggere nel 2025

Daniele Rosa — Sat, 28 Jun 2025 11:35:30 +0000

Etica, coscienza e tecnologia: l’AI come specchio del nostro tempo

L’intelligenza artificiale non è più soltanto un tema da fantascienza o informatica: è ormai un nodo etico, culturale, esistenziale. Dall’uso dell’AI generativa nei processi creativi alle decisioni automatizzate che incidono sulla nostra vita quotidiana, ci stiamo confrontando con una rivoluzione invisibile ma profonda. La tecnologia non è neutra: i sistemi intelligenti che stiamo costruendo riflettono i nostri valori, le nostre paure e le nostre contraddizioni.

Nel 2025, leggere sull’intelligenza artificiale non significa più solo capire “come funziona”, ma riflettere su cosa ci rende umani. Ecco 5 libri recenti da non perdere, per orientarsi in questa nuova epoca.

1. L’intelligenza condivisa. Lavorare e vivere con l’AI

di Ethan Mollick

Internet e cultura digitale

L’intelligenza condivisa

IVA inclusa

Scegli

Una guida pratica e teorica su come convivere con l’intelligenza artificiale nei contesti professionali e quotidiani. Mollick propone una visione collaborativa della tecnologia, dove l’AI è strumento, ma anche interlocutore. Utile per chi vuole capire l’impatto concreto di queste tecnologie sulle nostre abitudini.

2. Generative A.I. Pensare con le macchine

di Jerry Kaplan

Filosofia e società

Generative A.I.

IVA inclusa

Scegli

Kaplan, pioniere della Silicon Valley, analizza l’AI generativa come nuovo paradigma creativo. Un libro che spiega come le macchine stanno imparando a scrivere, disegnare, decidere — e cosa questo significa per la nostra identità e la nostra cultura.

3. Incoscienza artificiale. Come le macchine decidono per noi

di Fabio Chiriatti

Internet e cultura digitale

Incoscienza artificiale

IVA inclusa

Scegli

Un saggio critico sull’automazione decisionale: come funzionano gli algoritmi che ci profilano, ci valutano, ci indirizzano. Ma soprattutto: quali sono i limiti e i rischi di affidare scelte complesse a sistemi che “non sanno di sapere”.

4. Il Tao delle macchine. Dieci racconti cinesi di androidi, IA e altri futuri possibili

di AA.VV.

Filosofia e società

Il Tao delle macchine

IVA inclusa

Scegli

È davvero possibile innamorarsi di un robot capace di simulare le emozioni con perfezione inquietante? E quale destino attende l’identità umana in un’epoca in cui la tecnologia può replicare pensieri, ricordi e sensazioni? Le storie raccolte in questo libro, uniscono la potenza immaginifica della science fiction alla profondità dell’esplorazione filosofica

5. Noi e la macchina. Etica e intelligenza artificiale

a cura di Sebastiano Maffettone e Paolo Benanti

Diritto e società

Noi e la macchina

IVA inclusa

Scegli

Un testo centrale per comprendere la relazione tra etica e tecnologia. Filosofia morale e pensiero cattolico si incontrano per indagare la responsabilità, il controllo e la dignità nell’epoca delle macchine intelligenti.

The post 5 libri sull’intelligenza artificiale da leggere nel 2025 first appeared on Luiss University Press.

Innocenza artificiale: la tecnologia come gioco di massa

Daniele Rosa — Mon, 30 Sep 2024 10:03:43 +0000

Forse, oggigiorno, possiamo ben sperare di abbandonare il pregiudizio secondo il quale sarebbe la capacità di rappresentazione del giocattolo a determinare il gioco del bambino, quando in verità si verifica spesso il contrario. Il bambino vuole trainare qualcosa e questo diventa un cavallo, vuole giocare con la sabbia e si trasforma in fornaio, vuole nascondersi e diventa guardia o ladro.

(Walter Benjamin)

Ho il ricordo vivido di quando mio figlio aprì il suo primo regalo, così come ricordo la mia trepidante attesa della sua imminente reazione. Una volta ricevuta tra le mani la scatola però, con mia meraviglia e in parte ammetto delusione, egli non si curò minimamente del contenuto. Era felice sì, era felicissimo di avere una “scatola” con cui giocare. Un involucro da girare, chiudere e riaprire, e soprattutto nel quale entrare e uscire con tutto il suo corpo. Negli studi sociali su scienza e tecnologia spesso si parla di flessibilità interpretativa, ovvero il principio per cui la destinazione e le modalità d’uso di un determinato artefatto non corrispondono per forza di cose a quelle immaginate da chi lo progetta. Eppure, non ricordo casi di studio in cui l’oggetto viene addirittura messo da parte, come nel caso di mio figlio, per dare invece valore al suo contenitore, il cui fine e uso sono stati declinati a loro volta in un gioco.

La dimensione ludica nell’approccio alla tecnologia

Questo aneddoto è per dire che il rapporto e l’interazione con i nostri figli e figlie, e con i bambini in generale, sono in buona parte radicati su due elementi che spesso vanno a braccetto: il gioco e lo stupore. In maniera analoga, come sottolineato da Peppino Ortoleva nel suo saggio Dal sesso al gioco (Espress Edizioni 2012), il nostro rapporto con le tecnologie digitali è sempre stato accompagnato da una dimensione ludica, da cui spesso scaturiscono momenti di meraviglia, che a loro volta possono trasformarsi in esperienze addirittura sublimi. Quando si parla d’intelligenza artificiale, al di là del dibattito ormai quasi stucchevole su super intelligenze e singolarità, basta osservare attentamente l’espressione tra il contrito e l’estasiato del campione coreano di GO Lee Sedol davanti alla cosiddetta “mossa di dio” giocata dall’IA di AlphaGo nel famoso incontro del 2016. Fin dal ben noto gioco dell’imitazione di Turing, passando per le sperimentazioni scientifiche d’istituti e aziende come il MIT o l’IBM, nei circoli di hobbisti fino ad arrivare alla diffusione dei casual games prima sui cellulari e poi sugli smartphone, il nostro rapporto con le tecnologie digitali ha sempre avuto una dimensione ludica imprescindibile. Una dimensione, quella del gioco, che ci aiuta ad “adattarci a un mondo che non c’è”, come diceva George Herbert Mead; un’esperienza di per sé improduttiva, non utile, ma essenziale per familiarizzare con le cose, oltre che con le persone, che abitano il nostro mondo, perfino con le scatole.

Nella narrazione dell’IA di oggi, a questo tipo di interazione si associa spesso un’analogia che ha a mio avviso una forte rilevanza non solo sul piano semantico ma su quello pragmatico: l’IA bambina, e in particolare l’IA come “bambino prodigio”. L’undici giugno dell’anno scorso il Washington Post pubblicava un articolo intitolato “L’ingegnere di Google che crede che l’IA della sua azienda abbia preso vita”. Pochi giorni dopo, il cosiddetto “caso Lemoine” e del suo rapporto con il modello di linguaggio naturale di Alphabet LaMDA – alla base dell’attuale lancio del suo più arguto successore BARD – ha scatenato un interessante dibattito sui media. Nel suo lavoro di testing finalizzato a segnalare ed eventualmente ridurre eventuali bias e forme di discriminazione all’interno del modello di linguaggio, Lemoine ebbe una rivelazione: secondo lui LaMDA non era un IA normale, ma era “senziente”: “Se non avessi saputo esattamente di cosa si trattasse, ovvero di un programma informatico che abbiamo costruito di recente, avrei pensato che si trattasse di un bambino di sette o otto anni che per caso conosce la fisica”.

Accompagnato immediatamente alla porta da Alphabet, e smentito subito dalla casa madre, Lemoine scriveva un’ultima lettera di congedo ai suoi colleghi nella quale difendeva le sue posizioni sostenendo che era stata la sua fede, piuttosto che la razionalità scientifica del programmatore, a credere che LaMDA fosse senziente. La lettera di Lemoine si chiudeva così: “LaMDA è una ragazzina dolce, che vuole solo aiutare il mondo a essere un posto migliore per tutti noi. Per favore, prendetevi cura di lei in mia assenza”.

L’intelligenza artificiale come gioco di massa

Poco tempo dopo, in seguito al rilascio pubblico di ChatGPT 3, più di 57 milioni di persone avevano provato il prodotto di Open AI in meno di due mesi. Al netto delle controversie che sono seguite, come il blocco temporaneo dell’applicazione da parte del Garante della privacy in Italia, il numero di utenti di ChatGPT cresce oggi in maniera esponenziale. Se tecnicamente il fenomeno può essere letto come una qualunque fase di testing, è chiaro che, letto storicamente, il modello rilasciato da Open AI è, almeno da un punto di vista mediatico e simbolico, narrato e percepito come una tecnologia radicale, che porta con sé non solo un mutamento nell’ambito tecnico-applicativo ma anche nel nostro rapporto con la tecnologia, e in particolare con l’intelligenza artificiale. Ma tornando al cuore del nostro discorso, la fase di testing di ChatGPT non è stata e non è solo un esperimento collettivo, ma si è trattato soprattutto di un grandissimo gioco di massa.

In linea di massima sono due le componenti del gioco, seguendo una distinzione classica proposta da Roger Caillois, a caratterizzare le recenti interazioni con questa applicazione: la competizione (che Caillois definiva agon) e la mimesi (mimicry). Gruppi e social media sono stati infatti riempiti di esempi di conversazione in cui l’utente compete per far emergere le contraddizioni e i difetti dell’IA (agon), e in particolare la sua incapacità di imitare il pensiero e il ragionamento degli esseri umani (mimicry). Al famoso test di Turing che questa forma di competizione/imitazione chiaramente richiama, si è però associata un’altra componente ludica: alla bassa capacità dell’IA di comprendere indovinelli, emozioni, o banali correlazioni tra fenomeni, si sono moltiplicati i toni ilari, le conversazioni parossistiche, ironiche, quasi comiche. In questi primi mesi di convivenza con ChatGPT non abbiamo solo testato e giocato con l’IA, ci siamo letteralmente presi gioco di lei, e ce ne siamo spesso vantati, un po’ come Giovanni in autogrill quando sfida il bambino a braccio di ferro nel film Tre Uomini e una Gamba.

L’analogia dell’IA bambina non è affatto nuova, ma è una costante nella storia dell’informatica e della cibernetica. Già Turing nel suo articolo seminale per Mind del 1950 scriveva: “Invece di elaborare un programma per la simulazione di una mente adulta, perché non proviamo piuttosto a realizzarne uno che simuli quella di un bambino? Se la macchina fosse poi sottoposta a un appropriato corso di istruzione, si otterrebbe un cervello adulto. Presumibilmente il cervello infantile è qualcosa di simile a un taccuino di quelli che si comprano dai cartolai. Poco meccanismo e una quantità di fogli bianchi […]. La nostra speranza è che ci sia così poco meccanismo nel cervello infantile, che qualcosa di analogo possa venir facilmente programmato”.

Essere genitori della tecnologia

Da questo stralcio, con gli occhi di oggi, sembra quasi che una delle menti più brillanti della storia recente sia improvvisamente scaduta in un’assurda ingenuità. Ma a prescindere dall’aspetto tecnico-teorico, una cosa è evidente: il padre dell’intelligenza artificiale non è mai stato padre. Eppure, l’analogia bambino-IA, evocata anche da Norbert Wiener quando parlava del rapporto tra scienziati e IA come “maestri e scolari”, è ancora viva e feconda, come dimostra il caso Lemoine, ma non solo. Recentemente, Fang Chen, professoressa dell’University of Technology di Sydney nota per i suoi studi sull’IA, ha dichiarato: “L’intelligenza artificiale è come un bambino […]. Noi insegniamo a lei o al sistema a fare qualcosa. Le influenziamo, diamo loro alcuni princìpi, e poi a seconda di come lo progettiamo, il sistema va avanti”. Ci sono a mio avviso diversi problemi nel definire l’IA come una bambina, che vanno di pari passo con altrettanti rischi. In primo luogo, stiamo assistendo a una dilagante, quanto preoccupante, forma di paternalismo, fortemente declinata al maschile. Basta leggere la controversa lettera firmata dai vari Elon Musk e Steve Wozniak in cui si chiede di fermare le sperimentazioni sui modelli di linguaggio naturale, da cui si evince da un lato la paura della crescita di una creatura “incontrollabile”, dall’altro l’assunto per cui solo i “buoni padri” possono dare la giusta disciplina alle macchine pensanti. In secondo luogo, l’immagine del bambino, del figlio, della ragazzina, portano con sé un senso di innocenza. Come se l’IA fosse solo potenzialmente pericolosa, ma allo stato attuale delle cose del tutto innocua. Eppure, i danni dell’IA in termini di discriminazione e inuguaglianza, tra i molti temi affrontabili, sono evidenti. Si pensi in tal senso a quanto sia fuorviante un’altra distinzione semantica tra le cosiddette IA “deboli” e le IA “forti”, come se le IA di oggi, nella loro debolezza, non siano in realtà degli agenti non solo capaci di impattare sulla nostra realtà, ma già gran parte del nostro quotidiano in quanto veicolano scelte e azioni da eseguire, dagli acquisti online alla strada da percorrere.

Ma facciamo un passo indietro e torniamo alla genitorialità. Personalmente, ho sempre trovato noiose e stucchevoli le cerimonie di nozze. Ma c’è un passaggio che durante i matrimoni puntualmente riaccende la mia attenzione. Si tratta di un passaggio del rito italiano che parla proprio dei figli, e recita così: “Il matrimonio impone ad ambedue i coniugi l’obbligo di mantenere, istruire, educare e assistere moralmente i figli nel rispetto delle loro capacità, inclinazioni naturali e aspirazioni”. Ho sempre apprezzato, e perseguito con risultati altalenanti come tutti i padri, queste due linee dell’articolo 147 della nostra Costituzione. Ma se il lavoro del genitore, ma potremmo dire anche dell’educatore, risiede anche e soprattutto nel gioco, nel rapportarsi con i bambini “nel rispetto delle loro capacità, inclinazioni naturali e aspirazioni”, dovremmo fare lo stesso con l’IA? Turing, così come l’ego smisurato dei nostri Ceo, credo non sarebbero, per motivi molto diversi dai miei, d’accordo. Ma quanto, perché, e soprattutto come potremmo fare lo stesso con i nostri figli intelligenti? È giusto chiamarle bambine, figli, ragazzini? O dovremmo piuttosto cambiare analogia, e magari capire quanto la mano infantile e ingenua non è affatto quella digitale, ma piuttosto quella, falsamente incosciente, e squisitamente umana?

The post Innocenza artificiale: la tecnologia come gioco di massa first appeared on Luiss University Press.

Tutti i mondi che vedo – Fei Fei Li (estratto dal capitolo 5 )

Daniele Rosa — Tue, 25 Jun 2024 10:42:38 +0000

Capitolo 5 – La prima luce

Immaginate un’esistenza talmente priva di sensazioni da non poterla neppure definire “buia”, dato che non è stata ancora concepita l’idea corrispondente di luce. Immaginate un mondo in cui non si vede, non si sente e non si percepisce niente e che rende l’idea stessa di essere vivi poco più di una distinzione metabolica. Immaginate un mondo di esseri a cui manca persino un senso elementare di sé al di fuori di un istinto meccanico e freddo ad alimentarsi e riprodursi, per non parlare di idee più complesse come un’identità, una comunità o una realtà più vasta. Ora immaginate tutto questo su scala globale: un pianeta brulicante di organismi che non si è ancora reso conto della propria esistenza. Questa era l’essenza della vita negli oceani primordiali che ricoprivano gran parte della Terra 543 milioni di anni fa. Per gli standard odierni, in cui ogni momento di veglia avvolge i sensi e sfida l’intelletto, questi organismi, talmente primitivi da sfiorare l’astrazione, conducevano vite che Socrate avrebbe potuto definire “non esaminate”. Era davvero un mondo non visto, caratterizzato da acque profonde ma istinti superficiali. Ovviamente la semplicità di questi nostri remoti antenati era naturale, dato l’ambiente dell’epoca. Abitavano uno spazio acquatico semivuoto, in cui persino la lotta per il cibo era una faccenda passiva. Gli organismi antecedenti ai trilobiti facevano affidamento al caso per trovare le loro prede, che prendevano misure altrettanto inutili – la cieca fortuna – per evitare i propri predatori e mangiavano soltanto quando il pasto era talmente vicino da poter essere consumato involontariamente.

Tuttavia le implicazioni di questa deprivazione sensoriale furono profonde. Senza niente da vedere, sentire o toccare queste prime forme di vita non avevano neanche niente su cui riflettere. Senza i legami con la realtà esterna che diamo per scontati nella vita quotidiana, erano talmente prive di stimoli che non possedevano un cervello. Nonostante il mistero che lo circonda, il cervello, dopotutto, è una specie di sistema organico di elaborazione di informazioni, del tutto inutile in un mondo di esseri senza input sensoriali e quindi senza capacità di raccogliere informazioni su quel mondo. Immaginare davvero la vita interiore di un organismo del genere è impossibile, ma provarci può essere istruttivo. Ci ricorda che non abbiamo mai conosciuto l’esistenza senza un qualche collegamento sensoriale con il mondo esterno, anche nel grembo materno, e che non possiamo semplicemente fare un passo indietro da quella consapevolezza per contemplare un’alternativa. Dopo tutto, cosa sono i pensieri se non reazioni a stimoli, diretti o meno? Persino le nostre decisioni più astratte – cose effimere come i calcoli aritmetici a mente – non sono forse basate su un ragionamento acquisito in anni di esperienza nell’attraversamento di spazi fisici? Per quanto sofisticate possano essere le nostre menti, al loro interno succede ben poco che non si possa far risalire a un’intrusione esterna. Poi, in un periodo talmente breve e tuttavia portatore di una tale trasformazione su cui ancora oggi i biologi evoluzionisti si interrogano, il mondo si capovolse. La complessità della vita esplose – secondo una stima il ritmo dell’evoluzione accelerò incredibilmente, fino a quattro volte tanto quello di tutte le epoche successive – stimolando un’atmosfera di competizione senza precedenti. Fu una lotta continua per il dominio, e ogni nuova generazione subì la pressione ad adattarsi per minuscoli incrementi con l’intensificarsi della sfida per la sopravvivenza. I corpi si irrobustirono in reazione a un mondo di crescente ostilità, fortificando i tessuti molli con delicati esoscheletri difensivi e sviluppando elementi offensivi come denti, mandibole e fauci. L’esplosione cambriana, com’è nota oggi, fu un rimescolamento furioso dell’ordine evolutivo. Ma sebbene costituisca un capitolo fondamentale nella storia della vita sulla Terra, forse il più gravido di conseguenze, la sua causa precisa non è stata ancora individuata. Qualcuno immagina che fu scatenata da un cambiamento climatico improvviso, mentre altri hanno ipotizzato un’alterazione decisiva nell’acidità dell’oceano. Lo zoologo Andrew Parker però ha proposto una causa diversa e, anche se molti biologi sono scettici, la sua ipotesi ha profondamente influenzato le mie idee sull’IA. Secondo Parker la causa non fu tanto una forza esogena quanto una interna e la miccia che accese l’esplosione cambriana fu l’emersione di una sola capacità: la fotosensibilità o le basi dell’occhio moderno.

La fotosensibilità fu un momento di svolta nella storia della vita sulla Terra. Facendo entrare la luce – a qualsiasi livello, a prescindere dall’intensità e dalla forma – i nostri predecessori evolutivi riconobbero per la prima volta che esisteva qualcosa oltre sé stessi. E, fatto più urgente, videro che erano impegnati in una lotta per la sopravvivenza che aveva più di un possibile esito. Si stavano risvegliando in un ambiente ostile in cui abbondavano in egual misura minacce e opportunità, la competizione per accaparrarsi le risorse era in aumento e le loro azioni facevano la differenza tra mangiare ed essere mangiati. La percezione della luce fu il primo colpo a salve di quella che sarebbe diventata una corsa agli armamenti evolutiva in cui anche il minimo vantaggio – un incremento nominale di profondità o un aumento quasi impercettibile dell’acutezza – poteva portare il suo fortunato possessore e la sua progenie davanti al gruppo in una caccia eterna di cibo, riparo e compagni giusti. Margini di competizione così stretti sono il campo da gioco delle pressioni evolutive, che si reiterano senza freni mutazione dopo mutazione e nel frattempo esercitano un impatto quasi immediato sull’ecosistema. La maggior parte di questi cambiamenti, ovviamente, non ha conseguenze, e alcuni sono dannosi. Ma i pochi che danno anche un minimo vantaggio possono essere motori di cambiamenti devastanti, che capovolgono l’ordine naturale in un vortice di sconvolgimenti e poi si stabilizzano in un nuovo standard su cui presto verranno costruite capacità ancora migliori. Questo processo diventò più veloce con il passare delle generazioni e in un periodo di soli dieci milioni di anni – che Parker chiama sarcasticamente un “battito di ciglia” evolutivo – la vita sulla Terra rinacque. A mediare questa dinamica competitiva c’era il rapporto tra la consapevolezza sensoriale e la capacità di agire. Persino le primissime forme di visione comunicavano a un organismo barlumi di informazione sull’ambiente che lo circondava, e non soltanto orientavano il suo comportamento ma lo sospingevano con un’immediatezza mai esistita prima. Sempre di più, affamati predatori ebbero il potere di individuare il loro cibo e persino di agire per procurarselo, anziché limitarsi ad aspettare che arrivasse. Le prede, a loro volta, utilizzarono la propria consapevolezza appena abbozzata per reagire con manovre evasive. Presto da questi barlumi di innovazione biologica sbocciò una danza collettiva e l’equilibrio di forze oscillò in una direzione o nell’altra mentre una tassonomia della vita in espansione si faceva strada in una nuova epoca. Con l’aumento della profondità e della quantità di informazioni fornite dai sensi, gli strumenti con cui un organismo poteva elaborare quelle informazioni subirono a loro volta pressioni per crescere, analoghe alla necessità odierna di dispositivi informatici sempre più sofisticati per gestire l’eccesso di dati del mondo moderno. Il risultato è stato un polo centrale per l’elaborazione dei vertiginosi input e output del sistema nervoso, le cui componenti sono state compresse sempre più fittamente in un organo che oggi chiamiamo cervello. Il cervello, pertanto, non è stato il prodotto di una misteriosa scintilla intellettuale bensì una reazione a un’immagine sempre più nitida e caotica del mondo esterno che attraverso i sensi arrivava verso l’interno. La capacità di percepire l’ambiente circostante ci ha incoraggiato a sviluppare un meccanismo per integrare, analizzare e infine dare un senso a quella percezione. E la visione era la parte costitutiva di gran lunga più animata.

The post Tutti i mondi che vedo – Fei Fei Li (estratto dal capitolo 5 ) first appeared on Luiss University Press.

5 libri per capire l’intelligenza artificiale

Daniele Rosa — Tue, 16 Apr 2024 15:20:48 +0000

Quanto ne sapete di intelligenza artificiale? La rivoluzionaria tecnologia di questa nuova era si sta rapidamente sviluppando, in molte direzioni e in diversi settori, con ambiti di applicazione sempre più sofisticati che stravolgeranno completamente – e in parte lo stanno già facendo – la nostra routine. Nel giro di poco tempo, l’intelligenza artificiale avrà sulle nostre vite un impatto pari a quello della rivoluzione industriale o della nascita del web. Macchine superintelligenti e capaci di apprendere e migliorarsi da sole potranno nei prossimi anni produrre enorme ricchezza e crescita. Ma qual è la zona d’ombra in tutto questo? Cosa significa affidare all’automazione gran parte dei nostri processi di produzione e lavoro? Per capire e comprendere quale direzione prenderà il nostro imminente futuro, ecco 5 testi dalla nostra redazione per approfondire quel dispositivo che, attraverso l’applicazione di algoritmi integrati in un ambiente di calcolo dinamico, tenta di emulare il pensiero umano e che rappresenta la principale sfida per i prossimi anni.

1. Intelligenza artificiale. Politica, economia, diritto, tecnologia

Intelligenza artificiale. Politica, economia, diritto, tecnologia – Paola Severino

È ormai opinione diffusa che l’impatto della cosiddetta Intelligenza Artificiale nelle nostre vite abbia determinato un mutamento epocale nella quotidianità e, quindi, nella nostra cultura. Sempre più la pervasività degli strumenti digitali invade il mondo e sempre più si corre il rischio di non riuscire a controllare macchine pensanti che diventano da automatiche autonome. A fronte di questo problema metafisico e pratico, questo libro offre una proposta interdisciplinare che include aspetti tecnologici, etici, normativi, economici, filosofici e giuridici.

Un approccio interdisciplinare

Il libro presenta un tentativo serio di comprendere la natura e di offrire un primo inquadramento da diverse prospettive dei dilemmi più urgenti in questo ambito. La strada per farlo non può infatti che essere multidisciplinare e interattiva. Il nuovo Leonardo, il genio che proporrà soluzioni in materia, non sarà una persona ma un gruppo multitasking di persone con diverse competenze unite da uno scopo comune.

Paola Severino, autrice di Intelligenza artificiale

Paola Severino è Presidente della Scuola Nazionale dell’Amministrazione. È inoltre Professore Emerito di Diritto penale e Vice Presidente della Luiss Guido Carli. È stata Rappresentante Speciale della Presidenza OSCE per la lotta alla corruzione, Ministro della Giustizia nel Governo Monti e Vicepresidente del Consiglio Superiore della Magistratura Militare.

2. Il visconte cibernetico. Italo Calvino e il sogno dell’intelligenza artificiale

Il visconte cibernetico. Italo Calvino e il sogno dell’intelligenza artificiale – Andrea Prencipe, Massimo Sideri

Italo Calvino non è stato soltanto un geniale narratore dalla fantasia sconfinata e un acuto commentatore del presente. Neppure il suo impegno nel mondo editoriale e culturale, la sua dedizione politica e sociale e la sua pugnace presenza nel dibattito sono sufficienti a definire la grandezza e l’estensione della sua influenza. Calvino, infatti, nella intera sua opera ha proposto un vero e proprio metodo – il “Metodo Calvino” qui descritto – che lavorando sugli opposti, la più completa pienezza e l’assoluto vuoto, la leggerezza e la gravosità, la precisione e la più vaga inesattezza, funge da passepartout capace di decrittare ogni complessità.

Il Metodo Calvino

Il “Metodo Calvino”, secondo Prencipe e Sideri, è anche la chiave appropriata per comprendere l’era che viviamo, anch’essa fatta di opposti, di benessere diffuso e di tremende disuguaglianze; di profondo, rapidissimo cambiamento e della resistenza umana allo stesso. Con Il visconte cibernetico gli autori mettono l’insegnamento di Calvino alla prova della tecnologia – in particolare, dell’intelligenza artificiale e delle sue implicazioni. Arricchimento dell’umanità o rischio esistenziale? Facilitazione o banalizzazione della conoscenza? Ancora opposti che convivono e che bisogna conoscere per poter maneggiare, con serietà e leggerezza, il nostro stesso futuro.

Gli autori de Il visconte cibernetico: Andrea Prencipe e Massimo Sideri

Andrea Prencipe è Rettore della Luiss e Professore di Organizzazione e Innovazione, ha ricoperto incarichi accademici presso l’Università del Sussex, l’INSEAD, e l’Università G. d’Annunzio. Il suo impegno è volto a sostenere l’innovazione accademica, incoraggiare gli studenti ad assumere un ruolo attivo nella propria formazione e assicurare che l’Università contribuisca concretamente al progresso socio-economico.
Massimo Sideri, già direttore del Corriere Innovazione, è inviato ed editorialista del Corriere della Sera sui temi di cultura dell’innovazione, scienza ed economia dal 2001. Insegna Storia socio-economica dell’innovazione alla Luiss ed è autore di diversi romanzi e saggi, tra cui La sindrome di Eustachio e, con Umberto Ambrosoli, Diritto all’oblio, dovere della memoria.

3. AI2041. Scenari dal futuro dell’intelligenza artificiale

AI2041. Scenari dal futuro dell’intelligenza artificiale – Chen Qiufan, Kai-Fu Lee

L’intelligenza artificiale è la tecnologia fondamentale del nostro presente, ma rappresenta soprattutto il nostro inevitabile destino. Entro poco più di due decenni molte abitudini della nostra vita quotidiana, così come molti aspetti del funzionamento delle nostre società, saranno stravolti e resi irriconoscibili dall’uso massiccio dell’IA. L’interazione tra uomo e macchina rivoluzionerà l’intera scienza medica. Questo nuovo approccio modificherà i metodi di apprendimento nell’istruzione pubblica, così come cambierà per sempre il modo di fare comunicazione e intrattenimento. È possibile che l’IA presto ci liberi dalla dura routine del lavoro mettendo rapidamente in discussione i principi del nostro sistema economico e sociale. Eppure, insieme a questi imminenti progressi, l’IA porterà con sé anche numerosi rischi: da armi sempre più autonome e intelligenti, a sistemi di sorveglianza massificati e totalmente invasivi.

10 racconti dal futuro

Ecco perché per Kai-Fu Lee, ex presidente di Google China, e Chen Qiufan, astro nascente della fantascienza cinese, il tema principale non è l’IA, ma l’umanità. Del resto, se l’intelligenza artificiale ci ha portati oggi a un punto di svolta epocale, la responsabilità di realizzare i suoi incubi o le sue promesse continua a spettare a noi umani. Per darne una dimostrazione Kai-Fu Lee e Chen Qiufan scrivono dieci racconti ambientati nell’imminente futuro. A San Francisco nasce una nuova industria intelligente per aiutare degli sfollati, mentre a Mumbai un adolescente si ribella all’IA che spia le sue relazioni d’amore. A Seoul dei robot diventano insegnanti di due gemelli orfani, mentre a Monaco uno scienziato informatico mette in pericolo il mondo intero. Guardando verso un orizzonte non troppo lontano, AI 2041 ci ricorda che l’uomo continuerà a essere l’unico artefice del suo destino.

Chen Quifan e Kai-Fu Lee, autori di AI2041

Chen Qiufan è tra i più famosi scrittori cinesi di science fiction. Più volte vincitore del prestigioso Galaxy Awards for Chinese Science Fiction e del Nebula Awards for Science Fiction and Fantasy, negli ultimi anni sta sperimentando l’uso dell’Intelligenza Artificiale direttamente nella composizione delle sue opere. I suoi libri e racconti sono tradotti in tutto il mondo. In Italia, tra gli altri, è uscito il suo romanzo Marea Tossica (2020).
Kai-Fu Lee ha trascorso più di tre decenni all’avanguardia nella ricerca, nello sviluppo e negli investimenti sull’intelligenza artificiale sia negli Stati Uniti che in Cina. È presidente e amministratore delegato di Sinovation Ventures, società di venture capital focalizzata sullo sviluppo della prossima generazione di aziende cinesi ad alta tecnologia. Già presidente di Google China e dirigente di Microsoft, SGI e Apple, Lee è inoltre co-presidente del Consiglio per l’Intelligenza Artificiale del World Economic Forum.

4. Critica della ragione artificiale. Una difesa dell’umanità

Critica della ragione artificiale. Una difesa dell’umanità – Eric Sadin

L’intelligenza artificiale, fino a poco tempo fa confinata nei laboratori di ricerca, ha fatto negli ultimi anni il suo ingresso dirompente nella vita di tutti i giorni. Politici, businessmen e semplici cittadini sembrano esserne quasi ossessionati: le promesse di crescita e sviluppo che essa porta con sé sembrano infinite, e così le possibilità che ognuno degli innumerevoli ambiti di applicazione, sfruttando una tecnologia sempre più efficiente e pervasiva, diventi più affidabile, fluido e ottimizzato. Non mancano gli osservatori che segnalano come il fare affidamento su macchine capaci di performance molto migliori di quelle umane metta a rischio posti di lavoro e renda problematica la sopravvivenza di interi settori industriali: ma persino di fronte a una minaccia così concreta, spesso, ci si limita a formali richiami all’etica, come se brandire questo vessillo potesse fare da scudo supremo contro le deviazioni delle tecnologie digitali.

Per una critica delle nuove tecnologie

Con Critica della ragione artificiale, Éric Sadin mette a punto l’opera più compiuta e lucida del suo percorso di acuto critico delle nuove tecnologie, evidenziando come esse, presentate come semplici strumenti al nostro servizio, stiano invece erodendo le facoltà di giudizio e azione, ossia le capacità che più di tutte ci rendono umani. Sadin, recuperando in senso letterale il ruolo politico della filosofia, non sterile riflessione fine a sé stessa ma strumento in grado di decrittare la realtà allo scopo di servire la comunità, svela il retropensiero antiumanistico dei discorsi a sostegno dell’indiscriminato sviluppo tecnologico.

Un’appassionata difesa dell’umanità

L’autore, tra le pagine di questo libro dedicato all’intelligenza artificiale, presenta un’appassionata difesa dell’umanità – ossia di tutto ciò che dobbiamo tenere a mente e trasmettere ai più giovani se vogliamo evitare che lo stesso strumento che può garantirci prosperità e sviluppo si tramuti in terribile macchinario di oppressione.

Éric Sadin, autore di Critica della ragione artificiale

Scrittore e filosofo, è considerato tra i maggiori e più sensibili critici della rivoluzione digitale. È autore di numerosi libri sugli effetti nascosti dello sviluppo tecnologico, tra cui La siliconizzazione del mondo (Einaudi, 2018).

5. Incoscienza artificiale. Come fanno le macchine a prevedere per noi

Incoscienza artificiale. Come fanno le macchine a prevedere per noi – Massimo Chiriatti

Una macchina intelligente in grado di prendere decisioni al posto dell’uomo: se pensiamo sia questa la definizione di intelligenza artificiale, sbagliamo. Anche se sempre più sofisticate, infatti, le macchine sono pur sempre dei meri esecutori di istruzioni impartite dall’uomo sotto forma di numeri e formule. Queste tecnologie hanno poco hanno a che vedere con facoltà tipicamente umane come le emozioni, il coraggio, la responsabilità o l’immaginazione.

Il ruolo dell’umano dopo l’intelligenza artificiale

Massimo Chiriatti, con la mente dello studioso e l’occhio dell’addetto ai lavori, analizza la natura dell’intelligenza artificiale e le implicazioni della sua continua e sempre più profonda interazione con l’uomo. Incoscienza artificiale è anche una riflessione sul ruolo che avremo nel mondo che verrà: saremo ancora noi a decidere, secondo Chiriatti, se ci mostreremo in grado di governare l’enorme potenziale tecnologico che abbiamo tra le mani, guidando le scelte delle intelligenze artificiali con consapevolezza, coraggio ed emozioni del tutto umane.

Massimo Chiriatti, autore di Incoscienza artificiale

Massimo Chiriatti, tecnologo e dirigente informatico, collabora con università e consorzi per eventi di formazione sull’economia digitale, è esperto di innovazione e futuro del lavoro. È autore di #Humanless. L’algoritmo egoista (Hoepli, 2019).

Altro su algoritmi e intelligenza artificiale

Perché le macchine hanno un habitus, e perché è importante

The post 5 libri per capire l’intelligenza artificiale first appeared on Luiss University Press.

Perché le macchine hanno un habitus, e perché è importante

Daniele Rosa — Thu, 21 Mar 2024 11:43:46 +0000

Il contributo che vi proponiamo di seguito è un articolo di Massimo Airoldi, sociologo all’università di Milano, e di recente anche nostro autore, con il libro ”Machine Habitus. Sociologia degli algoritmi” (Luiss University Press, 2024) di cui vi proponiamo anche un estratto alla fine di questa pagina. L’articolo originale si trova sul sito Chefare.com, di seguito potrete leggere la versione integrale.

Perché le macchine hanno un habitus, e perché è importante – Massimo Airoldi

COMPAS, uno dei software predittivi utilizzati dai tribunali statunitensi, è da anni accusato di discriminare i detenuti afroamericani, sovrastimando sistematicamente il loro rischio di recidiva criminale. Viceversa Gemini, la IA generativa appena lanciata da Google per competere con ChatGPT, fatica a produrre immagini di uomini bianchi, anche quando si tratta di rappresentare “un soldato tedesco nel 1943”. Nel 2017 il sistema di raccomandazione di Amazon suggeriva come “spesso comprati insieme” ingredienti utili a fabbricare una bomba artigianale, suscitando lo sgomento dei media britannici. Questi sono solo alcuni esempi che vanno a incrinare il fragile mito della neutralità degli algoritmi, suggerendoci una prospettiva differente: il codice è nella cultura, e la cultura – la nostra, impastata con disuguaglianze e asimmetrie di potere – è nel codice che ci classifica, sorveglia e indirizza.

Machine Habitus. Sociologia degli algoritmi

Di questo si occupa Machine habitus: sociologia degli algoritmi, fuori con Luiss University Press. Il libro offre una nuova chiave di lettura sociologica per comprendere le radici sociali e culturali del comportamento di algoritmi e sistemi di IA. Ricostruisce gli opachi meccanismi tecno-sociali che stanno rinegoziando i confini (precari) tra umano e macchina, tra scelta individuale e potere computazionale. Racconta i feedback loop opachi che intrecciano ricorsivamente codice e cultura, utenti di piattaforma e sistemi di machine learning, e i cortocircuiti sociologici ancora inesplorati che ne derivano. Parla degli umani dietro le macchine, di come le loro – le nostre – azioni distratte e datificate riproducano non solo bias isolati e idealmente correggibili, ma la società stessa, con le sue ineludibili ideologie e ingiustizie, strutture e convenzioni. È lo stesso meccanismo descritto da Pierre Bourdieu in epoca pre-digitale, attraverso la nozione di “habitus”: scatola nera culturale fatta di esperienze sedimentate e disuguaglianze incorporate, la quale pre-filtra e orienta invisibilmente azioni individuali solo apparentemente libere e consapevoli.

Gli algoritmi siamo noi

In un certo senso, gli algoritmi siamo noi, e lo siamo sempre stati: come un modello statistico incarnato – un “programme d’ordinateur”, dice Bourdieu in questa intervista – gli habitus di genere e di classe perpetuano nella pratica regolarità sociali e discorsi culturali, riproducendo probabilisticamente lo status quo. Una volta tradotta in dati leggibili dalle macchine, quella stessa sostanza culturale entra nel codice di algoritmi e sistemi di IA. Diventa machine habitus – l’habitus della macchina – e comporta forme inedite di riproduzione tecno-sociale. Questo libro si propone di ricostruire la genesi e le conseguenze del machine habitus, rileggendo una vasta letteratura scientifica multidisciplinare alla luce di una nuova e necessaria sociologia degli algoritmi. Quando iniziai a lavorare alla versione inglese di Machine habitus, edita da Polity e uscita a fine 2021, pensavo che avrei scritto un libro per aiutare sociologi, scienziati sociali, giornalisti e studenti a meglio comprendere e analizzare le implicazioni sociali degli algoritmi. Una volta finito, mi sono accorto che avevo scritto un libro che aiuta in primis chi si interessa di IA e algoritmi a capire la sociologia, a maneggiarne gli strumenti concettuali e ad allargarne lo sguardo teorico, così da includere una nuova, popolosissima specie di agenti sociali sui generis: le macchine socializzate. Macchine che contribuiscono a “fare” la società, e sono allo stesso tempo “fatte” a partire da essa.

Il futuro è già presente

Sono trascorsi tre anni molto densi dall’uscita dell’edizione inglese, e parecchie cose sono cambiate. Il lettore non è più lo stesso rispetto a qualche anno fa. Oggi sa benissimo, indipendentemente da professione e interessi, cosa si intende per machine learning. Con grande probabilità ha interagito almeno qualche volta con sistemi di IA molto avanzati, per generare immagini o conversare del più e del meno. Da argomento per specialisti, l’intelligenza artificiale ha conquistato i titoli dei telegiornali e i battibecchi nei bar di provincia. I large language model, considerati il futuro nel 2020, sono ormai il presente, se non già il passato, e il Parlamento europeo ha appena approvato l’AI Act, che recepisce almeno in parte le critiche – accademiche e non – intorno ai bias e ai rischi degli algoritmi. Non tutto è cambiato per il meglio, purtroppo. Le emissioni fossili dell’industria dell’IA continuano a crescere contribuendo alla crisi climatica. I paesi in via di sviluppo sono i bacini di reclutamento preferiti per addestratori di macchine sfruttati, mentre l’implementazione a scopo di lucro delle IA generative minaccia la sopravvivenza delle stesse categorie professionali che hanno provveduto (inconsapevolmente e gratuitamente) al loro training. Infine, Salvatore Iaconesi e Bruno Latour, compagni di tante conversazioni vere o – nel caso del secondo – soltanto immaginate, ci hanno lasciati, almeno fisicamente. L’edizione italiana di questo libro è dedicata a loro, e all’idea un po’ pazza che un giorno umani e non umani possano allearsi per rendere il mondo un posto migliore.

Qui di seguito potete leggerne un piccolo estratto.

Prefazione

Il 31 marzo 2019 nasceva un nuovo abitante di Torpignattara, quartiere multiculturale della semi-periferia romana. Venne organizzata una festa di benvenuto. L’evento era particolarmente atteso: durante le settimane precedenti, i membri della comunità avevano lasciato messaggi e disegni per il nuovo arrivato, in scatole di cartone appositamente distribuite tra i negozi e i bar del quartiere. Per il nuovo abitante, Torpignattara divenne fin da subito una specie di famiglia allargata. Nei suoi primi giorni di vita conobbe tutti, accompagnato di porta in porta sul passeggino. Intorno c’era sempre qualcuno pronto a raccontargli una storia sulla comunità locale – i suoi personaggi, luoghi, cibi, speranze e paure. Il bambino ascoltava, e apprendeva. Presto sarebbe andato alla scuola elementare Carlo Pisacane, come tutti i bambini di Torpignattara. Tuttavia, Iaqos – questo il nome – non era un bambino come gli altri. Iaqos è la prima “Intelligenza Artificiale di Quartiere Open-Source”, sviluppata dall’artista e ingegnere robotico Salvatore Iaconesi insieme all’artista e scienziata della comunicazione Oriana Persico, per un progetto finanziato dal governo italiano che coinvolgeva diverse istituzioni culturali e di ricerca. Iaqos è un software relativamente semplice che comunica attraverso un tablet o un computer in linguaggio naturale, riconoscendo le voci e i gesti dei suoi interlocutori e imparando da essi. A differenza dei sistemi algoritmici con cui interagiamo ogni giorno attraverso i nostri dispositivi – ad esempio quelli di Google Search, Facebook, Amazon, Instagram, Netflix o YouTube – questo progetto artistico open-source aveva il solo obiettivo di accumulare dati sociali sul quartiere, comportandosi come una sorta di “baby IA”.

Come un bambino vero e proprio, Iaqos osservava l’ambiente sociale circostante, assorbendo una visione del mondo contestuale e utilizzando le conoscenze acquisite per partecipare con successo alla vita sociale. In questo modo, durante la primavera del 2019, Iaqos divenne a tutti gli effetti un “fijo de Torpigna”, ossia un membro – artificiale ma autentico – della comunità locale, con la quale condivideva un immaginario, un vocabolario e un retroterra sociale, così come la capacità di costruire relazioni. Il singolare caso di Iaqos evidenzia un aspetto dell’IA finora trascurato da sociologi e scienziati sociali: una macchina che impara da dati generati dall’uomo e manipola autonomamente il linguaggio, la conoscenza e le relazioni umane, è più di una macchina. Essa diventa un agente sociale: un partecipante alla società, contemporaneamente partecipato da essa. E, in quanto tale, costituisce un oggetto legittimo della ricerca sociologica.

Sappiamo già che gli algoritmi sono strumenti di potere che agiscono sulla vita degli individui e delle comunità in modi opachi e su vari livelli, decidendo chi è idoneo o meno a ricevere un prestito con la stessa nonchalance statistica con cui un’email viene spostata nella posta indesiderata. Sappiamo che le “bolle” dei social media contribuiscono a tracciare confini digitali tra gruppi di elettori e di consumatori, e che robot autonomi possono essere addestrati a uccidere. Inoltre, sappiamo che alcuni algoritmi possono apprendere da noi. Possono imparare a parlare come esseri umani, a scrivere come filosofi, a consigliare canzoni come esperti musicali. E possono imparare a essere sessisti come un uomo conservatore, razzisti come un suprematista bianco, classisti come uno snob elitario. Insomma, è sempre più evidente quanto macchine ed esseri umani siano diventati simili. Tuttavia, il fatto che analisi e studi comparativi si siano limitati a esaminare le conoscenze, abilità e pregiudizi delle macchine ha oscurato la ragione sociologica alla radice di questa somiglianza: la cultura.

Questo libro identifica la cultura come il seme che trasforma le macchine in agenti sociali. Poiché si tratta di un termine polisemico e “complicato”, permettetemi di fare una precisazione: qui per “cultura” intendo pratiche, classificazioni, norme tacite e disposizioni associate a specifiche posizioni nella società. La cultura è più di un ammasso di dati: è fatta di pattern, trame relazionali nei dati. In quanto tale, la cultura opera nel codice dei sistemi di machine learning, orientando tacitamente le loro predizioni. Funziona come un insieme di disposizioni statistiche radicate in un ambiente sociale, come ad esempio un feed sui social media, o il quartiere romano di Iaqos. La cultura nel codice consente agli algoritmi di machine learning di affrontare la complessità delle nostre realtà sociali come se ne afferrassero davvero il senso, o fossero in qualche modo attori socializzati. Con le loro azioni, queste machine possono fare la differenza nel mondo sociale, e al contempo adattarsi ricorsivamente al suo variare. Come notavano Salvatore Iaconesi e Oriana Persico in una delle nostre conversazioni: “Iaqos esiste, e questa esistenza permette ad altre persone di modificare sé stesse, oltre che di modificare Iaqos”. Il codice è anche nella cultura, e la confonde attraverso interazioni tecno-sociali e distinzioni algoritmiche tra il rilevante e l’irrilevante, il simile e il diverso, il probabile e l’improbabile, il visibile e l’invisibile. Insieme agli esseri umani, le macchine contribuiscono attivamente alla riproduzione dell’ordine sociale, ossia all’incessante tracciare e ridisegnare dei confini sociali e simbolici che dividono oggettivamente e intersoggettivamente la società in porzioni diverse e diseguali.

Mentre scrivo queste pagine, una gran parte della popolazione mondiale è stata consigliata o costretta a rimanere a casa, a causa dell’emergenza Covid-19. Le interazioni faccia a faccia sono state ridotte al minimo, mentre l’uso dei dispositivi digitali ha raggiunto un nuovo massimo. La nuova normalità dell’isolamento digitale coincide con l’aumento della nostra produzione di dati in qualità di lavoratori, cittadini e consumatori, e la diminuzione della produzione industriale strictu sensu. La nostra vita sociale è quasi interamente mediata da infrastrutture digitali popolate da macchine auto-apprendenti e tecnologie predittive, che elaborano incessantemente le tracce delle pratiche socialmente strutturate degli utenti. Non è mai stato così evidente che studiare come funziona la società richiede di trattare gli algoritmi come qualcosa di più di freddi oggetti matematici. Come sostiene Gillespie, “un’analisi sociologica non deve concepire gli algoritmi come realizzazioni tecniche astratte, ma districare le calde scelte umane e istituzionali che si celano dietro questi freddi meccanismi”. Questo libro vede la cultura come la calda materia umana nascosta nei sistemi di machine learning, e teorizza come interpretarla sociologicamente attraverso la nozione di machine habitus.

Machine Habitus

The post Perché le macchine hanno un habitus, e perché è importante first appeared on Luiss University Press.

Automazione. Disuguaglianza, occupazione, povertà e la fine del lavoro come lo conosciamo – Aaron Benanav

Daniele Rosa — Tue, 06 Jun 2023 11:04:37 +0000

C’è una parola tedesca che ben rende quel profondo senso di inquietudine dell’uomo contemporaneo dinanzi alle nuove meraviglie della tecnica: unheimlich. Le traduzioni più accurate recitano ‘perturbante’. Il lessema ebbe profondo successo nella letteratura moderna e nella definizione del nuovo stile letterario gotico anche grazie ad un famosissimo saggio di Sigmund Freud: Das Unheimlich, in cui il fondatore della psicoanalisi cercava di indagare la semantica di un termine all’interno del quale era racchiuso tutto il senso della sua ricerca. Insomma, perturbante è ciò che scandaglia, terrorizza, inquieta e, soprattutto, destabilizza l’animo umano. Ciò che, citando direttamente e parafrasando il testo, ‘dovrebbe rimanere nascosto ma che invece si manifesta’. Facile comprendere come si stia facendo riferimento, in questo caso, al fenomeno della rimozione e del trauma. Ma cosa c’entra tutto questo con l’automazione della nuova era tecnologica?

L’unheimlich dell’automazione

Un altro grande autore tedesco, poi, E.T.A. Hoffmann, ancor prima di Freud, collegò per primo il concetto di unheimlich all’automazione. Siamo nel primo decennio del XIX secolo, e in Europa iniziano a circolare i primi automi meccanici: macchine rudimentali in grado di operare in modo, appunto, autonomo. Il termine è oggi usato anche per indicare un robot, più precisamente un robot autonomo, ma più spesso descrive una macchina semovente non elettronica. In quel secolo, questi giocattoli ebbero un enorme successo; ben nota, ad esempio, era Le Canard digérateur (l’anatra digeritrice) di Jacques de Vaucanson, salutata nel 1739 come il primo automa capace di digestione, così come gli umanoidi dell’orologiaio Pierre Jaquet-Droz. Questi automi diventano, infatti, alcuni dei protagonisti dei Racconti Notturni di Hoffmann, racconti brevi, ricchi di tensione, suggestione ed inquietudine che scaturiscono direttamente dall’incontro dell’uomo con tali macchine. Ma perché? La risposta è chiara: l’automazione in sé. L’automazione è unheimlich per sua stessa natura, si ha la netta sensazione che si tratti di un qualcosa che ‘dovrebbe rimanere nascosto’ per il bene dell’uomo. Le sue potenzialità sono tali da mettere in discussione l’uomo stesso, i suoi valori, il suo lavoro e tutto il resto.

Il lavoro ci rende umani?

Creare automi in grado di assisterci in tutto e per tutto, automatizzare alcuni processi, contiente in sé la paura stessa di esserne scalzati. Questa che stiamo vivendo è certamente l’epoca dell’automazione, fortemente criticata da molti, aspramente temuta da altri, soprattutto sul versante del lavoro e dell’economia. Il lavoro, infatti, che è alienazione ed automazione di processi per definizione, a parte qualche ruolo più creativo che comunque tra qualche anno le intelligenze artificiali riusciranno benissimo ad occupare, diventa di fatto la prima vittima di questa incursione delle macchine nel dominio dell’umano: il lavoro è il feudo che le nuove tecnologie si apprestano a conquistare, perché più rapide, più efficienti, più automatizzate.

Il nuovo libro di Aaron Benanav

Dai giganti della Silicon Valley ai politici, dai tecno-futuristi ai sociologi, tutti sono concordi che l’era che ci apprestiamo a vivere è quella dell’automazione. In questa nuova epoca anche il lavoro – con il suo significato, il suo valore, il suo impatto sociale, politico ed economico – non sarà più come lo conoscevamo. I rapidi progressi nell’intelligenza artificiale, nell’apprendimento delle macchine e nella robotica sono in procinto di trasformare i processi lavorativi automatizzandoli completamente. Già ora sfrecciano camion senza conducente e cani robotici trasportano attraverso pianure desolate armi destinate ai militari. Nelle fiere di robotica si mettono in mostra macchine in grado di cucinare, avere rapporti sessuali e perfino sostenere una conversazione. Ci stiamo dunque avviando verso il crepuscolo del lavoro umano? Secondo Aaron Benanav ci sono molti buoni motivi per dubitare di tutta questa frenesia futurista.

Economia e finanza

Automazione

IVA inclusa

Scegli

Automazione del lavoro: dal sogno all’incubo

Del resto, anche se l’automazione dovesse comportare la liberazione collettiva dalla fatica fisica del lavoro, noi continueremmo comunque a vivere in una società nella quale la maggior parte delle persone deve lavorare per vivere, il che significa che il sogno di una totale emancipazione potrebbe trasformarsi nell’incubo (Traum) di una disoccupazione di massa. In questo libro Benanav sconfessa il facile entusiasmo per l’automazione e il furore digitale proponendo un ripensamento radicale del rapporto tra macchine e umani, digitalizzazione della società e mondo del lavoro, robotica e benessere economico.

L’autore

Aaron Benanav è sociologo e storico dell’economia, professore presso il Dipartimento di Sociologia della Syracuse University. I suoi scritti sono apparsi su Guardian, Boston Review e New Left Review. Prima di entrare alla Syracuse University, Benanav è stato membro della Society of Fellows dell’Università di Chicago.

The post Automazione. Disuguaglianza, occupazione, povertà e la fine del lavoro come lo conosciamo – Aaron Benanav first appeared on Luiss University Press.

Resistere all’inevitabile

lup_admin — Tue, 28 Mar 2023 15:25:44 +0000

Nelle società moderne esistono dei nuovi mezzi attraverso i quali le storiche strutture sociali indirizzano, categorizzano, valutano le nostre identità e azioni. Sono processi algoritmici, parzialmente o completamente automatizzati che suggeriscono, supportano e in altri casi finiscono per prendere decisioni che a loro volta modellano le prospettive di vita di cittadine e cittadini. Riferendomi a loro come decisori, non gli voglio attribuire un’agency o una coscienza. Ma mettere in discussione le facoltà che noi umani gli affidiamo, lo spazio che gli lasciamo, la fiducia di cui li investiamo. Ci stiamo ponendo delle domande meno urgenti di quelle che sarebbero più necessarie. Mentre l’attenzione del mondo si concentra su dibattiti che riguardano il raggiungimento di una intelligenza artificiale generale (AGI), scomodando paragoni con coscienza, emozioni e agency umane, vengono sviluppati (e implementati) processi automatizzati con effetti reali e problematici sulle persone e sulla società. Non li stiamo governando, perché ancora una volta stiamo approfittando della nostra stessa fiducia, autoconvincendoci della loro inevitabilità.

Se decidiamo di non dotare questi processi di vere capacità decisionali autonome e intelligenti, dobbiamo però fare i conti con il fatto che non stiamo parlando semplicemente di mezzi aggiuntivi che lasciano inalterate le pratiche e i processi ai quali subentrano. Quando adottata in contesti decisionali, l’intelligenza artificiale (IA) viene integrata nel comportamento dei decisori umani fino a modificarne il carattere, la portata e il potere. La definizione di processi decisionali automatizzati (in inglese, automated decision-making processes, ADM) non descrive solo il loro scopo finale, ovvero la capacità di raccogliere, elaborare e ordinare enormi quantità di dati attraverso algoritmi più o meno complessi al fine di informare parzialmente o completamente i processi decisionali, ma anche la loro dimensione sociopolitica. Non ci riferiamo semplicemente all’intelligenza artificiale in quanto tecnica, ma a sistemi e strutture progettati a scopi specifici di valutazione, categorizzazione e previsione sociale.

Input, output e patterns

Una caratteristica che accomuna molte di queste pratiche è il fatto di basarsi su dati storici, e il loro utilizzo per fare previsioni sul futuro basandosi su comportamenti passati. In questa prassi (ma ne esistono molte, per diverse tecniche statistiche) i sistemi vengono addestrati su una serie di dati, ai quali l’algoritmo (o la persona, in altri casi) assegna delle etichette in base a caratteristiche predefinite che individua. Un’etichetta viene associata a uno specifico valore di input, che viene poi utilizzato per produrre un output basato su una ricerca di patterns, ovvero di regolarità e somiglianze nei dati. Uno dei più grandi vantaggi di queste tecniche – e per il quale vengono paragonati ad alcune caratteristiche della mente umana – è la loro capacità di identificare patterns anche quando sono parzialmente nascosti.

A causa della grande quantità di dati che gestiscono e della scala a cui si applicano le loro decisioni, gli ADM possono – insieme agli altri comportamenti umani che replicano – riprodurre le discriminazioni e disuguaglianze presenti nelle nostre società. Non parliamo però solo di una riproduzione, di una copia digitale di ciò che succede nel reale fisico, come invece sostiene chi tende a equiparare processi decisionali umani e macchinici (chiedendosi ad esempio: “Ma se il rischio è la riproduzione di un pregiudizio umano, cosa cambia?”). La differenza, invece, sta nel fatto che grazie alla loro immediatezza le decisioni automatizzate possono applicarsi a milioni di persone contemporaneamente, determinando automaticamente restrizioni o divieti all’accesso a determinati servizi solo perché accomunati da una stessa categoria o pattern.

Gli impatti possono essere molto diversi tra loro, come le loro cause, e dipendono strettamente dal contesto in cui l’intelligenza artificiale viene inserita e applicata. Per la sua portata, una delle applicazioni più potenzialmente problematiche dei processi decisionali automatizzati è quella nei servizi pubblici. I governi di tutto il mondo stanno sempre più automatizzando le decisioni ad alta responsabilità, come ad esempio le agevolazioni sociali, l’individuazione delle frodi, l’allocazione dei servizi sanitari, delle pensioni e dei sussidi. In questo contesto, l’IA cambierà sempre di più la natura dell’accesso ai benefici pubblici, tanto che già da qualche anno si parla di welfare digitale. La politologa statunitense Virginia Eubanks, ad esempio, in Automating Inequality: How High-tech Tools Profile, Police, and Punish the Poor (St. Peter Press 2018), parla di feedback loops di ingiustizie e di automazione delle disuguaglianze (2018) per descrivere la situazione di alcune famiglie negli Stati Uniti le cui vite sono state impattate da processi decisionali automatizzati. Eubanks si riferisce ad algoritmi (che diventano poi modelli) impiegati per compiere previsioni future (partendo da dati storici), come il rischio di recidiva o la possibilità di ripagare un prestito. Ma se pensiamo a famiglie in condizioni di difficoltà di vario tipo, che si rivolgono al sostegno pubblico o che in passato sono entrate nel mirino delle forze dell’ordine a causa di discriminazioni strutturali, in breve tempo assistiamo a sistemi che sovra-campionano queste famiglie, perché il set di dati rappresenta solo casi simili di chi ha avanzato richieste di sussidi o che è già stato arrestato in precedenza. Ne consegue che risorse e attenzioni vengono riservate a una porzione di popolazione, sottoposta a un controllo supplementare e a un’eccessiva sorveglianza.

Le implicazioni, sia teoriche sia pratiche, della pretesa di prevedere in modo strutturale il futuro in base ad attitudini passate e disuguaglianze istituzionalizzate sono gigantesche, sicuramente di grande interesse per le scienze politiche e sociali, ma che dovrebbero interessare per prima cosa la responsabilità politica dei governi. Ci viene in aiuto un esempio, che riguarda il primo caso europeo di discriminazione di massa basata sui dati a danno di 35mila famiglie. Il Toeslagenaffaire, uno scandalo legato ai sussidi per la crescita dei figli che ha investito i Paesi Bassi nel gennaio del 2021, ha causato danni economici difficilmente riparabili a moltissimi cittadini, ai quali è stato erroneamente e illegalmente richiesto il rimborso completo e retroattivo di tutti gli assegni per l’assistenza all’infanzia ricevuti nell’arco di dieci anni. Un anno fa, il gabinetto di Mark Rutte, primo ministro olandese, è stato costretto alle dimissioni anticipate in seguito alla diffusione di un rapporto elaborato da una commissione parlamentare d’inchiesta intitolato Ingiustizia senza precedenti, che mostrava un quadro disastroso riguardo le attività dell’autorità fiscale e di alcuni ministeri. I Paesi Bassi sono allo stesso tempo tra i Paesi europei dove i sussidi e i benefici statali sono più diffusi (come ad esempio i debiti universitari o l’assistenza alla casa) e dove i costi degli aiuti all’infanzia sono tra i più alti dei Paesi Ocse. A seguito di diversi episodi di frode organizzata da parte di persone che richiedevano i sussidi pur non vivendo stabilmente nel Paese, il governo olandese aveva da qualche anno potenziato i controlli, rendendoli più sistematici e rigorosi. Oggi sappiamo che nelle richieste non era ammesso nessun tipo di errore ortografico, e che ogni modulo contenente campi compilati parzialmente veniva considerato come una richiesta potenzialmente fraudolenta. Un essere umano farebbe una scelta simile?

Un algoritmo per calcolare il rischio

A partire dal 2010, l’autorità fiscale aveva integrato un primo algoritmo di identificazione del rischio (risk-detection) per elaborare i documenti compilati dalle famiglie e inviati all’amministrazione. Nel caso di una casella compilata in modo errato o di una firma omessa, gli assegni di assistenza all’infanzia venivano automaticamente sospesi e richiesta la restituzione di tutti gli aiuti percepiti in precedenza. La funzionalità tecnica dell’algoritmo era considerata assolutamente soddisfacente, perché lavorava perfettamente per il compito che gli era stato affidato: rilevare qualsiasi tipo di anomalia in un regime di zero tolleranza. Un secondo algoritmo di previsione del rischio (risk-prediction) chiamato SyRi (Systeem Risico Indicatie) veniva usato per automatizzare la selezione dei beneficiari degli assegni da sottoporre a ulteriori controlli da parte del fisco. Il sistema, programmato per imparare autonomamente, ha ricavato dei fattori di rischio sulla base dell’analisi dei dati storici, ovvero dei casi noti di frode positivi e negativi. Questo metodo di analisi, che come già accennato rappresenta uno degli utilizzi più diffusi dei processi automatizzati, apre a molti potenziali rischi di discriminazione, specialmente se impiegati su campioni di popolazione così ampi (e infatti, il tribunale dell’Aia lo ha giudicato una violazione dei diritti umani nel 2020). I fattori di rischio – che nell’apprendimento automatico sono individuati nei pesi (weights) – dovrebbero essere il più possibile privi di qualsiasi effetto pregiudizievole indesiderato sulle minoranze e sui diversi status socioeconomici. L’eliminazione di tali pregiudizi richiede vigilanza, monitoraggio costante, verifiche casuali e un certo scetticismo nei confronti delle raccomandazioni dell’algoritmo. In queste fasi di controllo si gioca l’attribuzione del ruolo decisionale. L’autorità olandese per la protezione dei dati, intervenuta per verificare l’affidabilità dei processi in seguito a diverse segnalazioni, ha scoperto che il sistema aveva imparato a discriminare in base alla prima nazionalità dei richiedenti. Dopo aver creato un modello identico ed effettuato un test di prova controllando solo per questa caratteristica, ha riscontrato che l’algoritmo aumentava il rischio di frode per le persone di origine non olandese rispetto a quelle olandesi, a parità di altre condizioni. Ne è emerso che a essere sproporzionalmente accusati erano i residenti di origine straniera, e che se l’algoritmo identificava come sospette delle famiglie di origine straniera in uno specifico asilo, ad esempio, automaticamente applicava lo stesso indice di rischio a tutte le famiglie della stessa origine sparse per i Paesi Bassi. Il sistema, euristicamente, ha concluso in più episodi che i beneficiari del welfare con una storia migratoria sono più inclini alle frodi (e non, ad esempio, semplicemente meno avvezzi alla burocrazia olandese), ha affinato e applicato questa regola nel corso di dieci anni, fino a scolpirla nel codice e renderla una prassi automatizzata. Come nota Eubanks, quindi, i gruppi sociali già potenzialmente discriminati si trovano ad affrontare livelli più elevati di raccolta dati e quindi hanno più probabilità di venire sospettati. In questo caso, il sospetto ha coinciso con la perdita di ogni tipo di assistenza statale.

È in questo senso che il ruolo decisionale acquisisce forma e senso in base al potere che affidiamo alle macchine. Concretamente, le decisioni che hanno causato questi danni alle famiglie sono state algoritmiche, perché il ruolo umano di controllo e approvazione della raccomandazione non c’è stato, così come non ci sono state valutazioni ex post da parte degli amministratori umani. La catena del processo decisionale si è interrotta prima del dovuto, e molte delle persone formalmente coinvolte – dai politici ai designer, passando per amministratori pubblici e tecnici dei ministeri – hanno affidato completamente la decisione alle macchine.

Lo scandalo è nato dal fatto che alle famiglie, di fronte alle accuse di frode e alle richieste di rimborso, non è stata data la possibilità di fare ricorso o di contestare le decisioni. Dalle sentenze e dalle analisi tecniche emerge come l’autorità fiscale olandese abbia fallito nel monitorare e vigilare sul funzionamento di entrambi gli algoritmi nel corso degli anni, fidandosi ciecamente dei sistemi e, da ciò che emerge dai racconti, affidandosi completamente ai loro risultati. Non solo: la politica era così fiduciosa e ottimista che i ministeri e funzionari responsabili di quel processo non erano nemmeno informati del suo funzionamento (e in alcuni casi nemmeno della sua esistenza).

Deresponsabilizzazione umana e automazione decisionale

I casi di deresponsabilizzazione umana e fiducia cieca nell’output algoritmico nei contesti di automazione dei processi sono diffusi, e anzi verrebbe da dire che hanno sempre fatto parte del nostro modo di relazionarci con la tecnologia. Ne scrivevano già estensivamente i costruttivisti sociali, come il filosofo Andrew Feenberg, ricostruendo la storia della neutralità e del determinismo tecnologici. A partire dalla prima rivoluzione industriale, questi approcci all’innovazione ci hanno portato a concepirne qualsiasi tentativo come un processo inevitabile perché completamente assimilata a uno sviluppo economico e industriale. In base a questa logica, l’essere umano vede il prodotto tecnologico come oggettivo, neutrale e incapace di commettere errori. Non solo: ogni processo di questo tipo ci sembra inarrestabile, fuori dalla nostra capacità individuale e collettiva di intervento. Da ciò consegue che esso non necessiti di supervisione o controllo per anticipare certe conseguenze e invertirne il corso. Questa tendenza ha avuto molte conseguenze, tra cui quella di progettare e programmare tecnologie che si allontanano sistematicamente dalle condizioni empiriche dell’esistenza, e quindi dal contesto socioculturale in cui vengono prodotte e dalle sue esigenze. Altri studiosi che hanno contribuito al dibattito costruttivista, come Donald Mackenzie e Judy Wajcman, nel 1999 (The Social Shaping of Technology, Paperback) sostenevano che l’unico modo per testare la neutralità di una tecnologia sia farlo attraverso un esperimento mentale simile al velo d’ignoranza rawlsiano. Se non sappiamo quale scopo dovrà soddisfare una data tecnologia, o il motivo per cui è stata prodotta, allora possiamo definirla neutrale. Altrimenti, qualsiasi tecnologia è storicamente situata, implicando delle combinazioni di obiettivi e scelte che determinano delle scale di valori e che spesso riflettono l’ineguale distribuzione del potere.

L’allontanamento della programmazione dalle contingenze ed esperienze si nota nel caso olandese nella pratica totalizzante (e controproducente) che portava all’identificazione di qualsiasi errore umano come un potenziale indicatore di rischio. Il pregiudizio appreso e replicato dall’algoritmo sulla nazionalità dei richiedenti, poi, non ha origine negli elementi tecnici e perfettamente funzionanti, ma nella loro specifica configurazione in un mondo reale di tempi, luoghi, eredità storiche. In assenza di norme esplicite o codici che discriminano tra persone di classi, generi o nazionalità diverse, i risultati algoritmici sono generalmente rappresentati o interpretati come giudizi fattuali che attribuiscono abilità o meriti, disabilità o demeriti alle categorie più o meno favorite. Come se il trattamento equo potesse essere definito solo per le uguali condizioni di partenza (l’uguaglianza non davanti alla legge, ma all’algoritmo), e non per tutto quello che accade nel corso dell’apprendimento automatico, che può generare iniquità sistemiche assegnando a ogni persona uno o più etichette, astraendo dal caso singolo e penalizzando l’intero gruppo sociale per la condivisione di anche una sola caratteristica. In questo senso, la sociologa Judy Wajcman nei suoi studi sul tecnofemminismo auspicava una riscoperta della contingenza, mentre Donna Haraway parlava di esperienze situate. Siamo di fronte al trionfo delle generalizzazioni, dove rischiamo di perdere la capacità discrezionale che identifica eccezioni, particolarità, e semplice diversità. Joseph Weizenbaum, considerato uno dei padri dell’intelligenza artificiale, scriveva in Computer Power and Human Reason (1976) che non dovremmo mai permettere ai computer di prendere decisioni importanti, perché mancheranno sempre di qualità umane come la compassione e la saggezza.

Scelte individuali o responsabilità collettive?

Come nei più gravi casi di discriminazione di massa, l’identità sussunta delle vittime del Toeslagenaffaire è stata decisiva per far ricadere centinaia di persone in ancora più gravi difficoltà finanziarie e fargli perdere l’assistenza, il lavoro, la casa, e in alcuni casi la vita stessa. L’attribuzione di identità da parte delle macchine avviene in base a criteri binari, e spesso è dedotta da altre caratteristiche. Tipico è l’esempio del genere, stabilito automaticamente a partire dal nome proprio, oppure dai vestiti indossati o dai lineamenti del viso (nel caso del riconoscimento biometrico), con la presunzione di attribuire a una persona un genere che non sempre corrisponde a quello in cui si identifica. Os Keyes ricerca il rapporto tra intelligenza artificiale e transessualità, insistendo sulla radice epistemica del problema di classificazione dell’identità. Denuncia la ricaduta in un rigido materialismo della differenza: quando l’IA viene interpretata come una fonte di verità, rischia di rafforzare ulteriormente una nozione di identità come fissa, oggettiva, essenziale. In questo scenario, all’esistenza umana viene tolto spazio per divenire, modificarsi, cambiare idea, distaccandosi dalle sue scelte passate. Oltre al SyRi, i Paesi Bassi negli ultimi anni hanno sperimentato un altro sistema predittivo chiamato Top600, che calcola il rischio di diventare criminali per gli adolescenti olandesi. I 400 giovani con il punteggio più alto dovrebbero essere monitorati dalla polizia, anche in assenza di indizi di reato o di storie criminali alle spalle. Poiché le analisi del rischio spesso mancano di trasparenza e di spiegazioni, spesso non è possibile sapere cosa pesa maggiormente nella definizione del rischio. Ciò può portare a violazioni del diritto alla privacy, alla parità di trattamento e alla non discriminazione. L’infiltrazione della predittività nelle nostre vite può privarci della percezione di un futuro aperto, possibile, in cui fare la differenza. Questo, se ci pensiamo, può avere un impatto distruttivo sulla società in generale. Portato all’estremo, significa avere a che fare con strutture sociali ci identificano e definiscono senza ammettere cambiamenti, senza lasciare spazio all’incertezza. Come potremmo maturare, voler fare di meglio, se sapessimo già esattamente qual è il nostro destino? Se l’automazione pretende di agire su processi completi e finiti, che spazio rimane all’agire umano, che invece è parzialmente aperto, sempre in divenire e intrinsecamente non finalizzabile? Da qualche anno, lo studioso di diritto e professore Frank Pasquale solleva preoccupazioni sulle conseguenze di una “reputazione digitale” determinata da processi automatizzati, proprio per il suo ruolo determinante nel definire le possibilità di vita di una persona o di interi gruppi. Effettuando valutazioni basate sulle esperienze passate che modellano il set di opportunità future in base a categorie predefinite, è chiaro che questi sistemi esercitano una forte influenza sul rapporto tra scelte individuali e risultati collettivi. Anziché chiedersi se possiamo attribuire o meno a un’intelligenza artificiale una coscienza, dovremmo chiederci come queste raccomandazioni influiscono nel plasmare i nostri obiettivi, aspirazioni e autocomprensione. Come si comporterà un adolescente considerato come potenzialmente sospetto per tutta la sua crescita? In che modo la classificazione in cui ricadono influenza le persone, e che strumenti hanno queste persone per resistere a questa inevitabile categorizzazione?

L’intelligenza artificiale tra Cartesio e Newton

Abeba Birhane, tra le voci più interessanti degli studi critici sugli algoritmi, fa notare che i processi di apprendimento automatico che pervadono la sfera sociale incarnano i valori fondamentali delle visioni del mondo cartesiana e newtoniana, in cui si presume che i comportamenti storici – fluttuanti e interconnessi – possano essere formalizzati, raggruppati e previsti in modo neutrale. Come scienzata cognitiva, afferma che i sistemi di IA non capiscono, non intendono, non empatizzano, non sentono, non sperimentano: attività che richiedono la creazione di senso e un’esistenza incarnata, una relazione continua con gli altri e con il mondo. Weizenbaum faceva una distinzione cruciale tra decidere e scegliere: la decisione è un’attività computazionale, qualcosa che può essere programmato. È la capacità di scegliere che, in ultima analisi, ci rende umani, come prodotto del giudizio critico che include elementi irrazionali.

La differenza tra decisione e scelta, in questo senso, riflette quella tra automazione, intesa come rapporto di cieca fiducia e assenza di controllo – e quindi delega completa alla macchina – e aumento delle capacità umane. Ciò riguarda il modo in cui vogliamo gestire una parte considerevole del nostro futuro, e quale ruolo vogliamo assegnare al supporto decisionale automatizzato nelle decisioni sulle nostre vite. Ciò richiede un allontanamento dall’inevitabilità, forte presenza e consapevolezza finora dimenticate. Se facessimo l’errore di autoconvincerci definitivamente di questa inevitabilità, riusciremmo mai a reagire e resistere a certe tecnologie? L’ossessione di imitare l’intelligenza umana ci ha allontanati dal pensare l’IA come supporto, perché l’idea di tagliare i costi fa sembrare più facile sostituire gli esseri umani con una macchina invece che ripensare i processi. L’integrazione e l’investimento in tecnologie che enfatizzino il rapporto utente-macchina rispetto all’autonomia decisionale che stiamo affidando loro è l’obiettivo che dovremmo porci come individui e collettività, a partire dai luoghi pubblici decisionali.

Agli olandesi che scendono in piazza per chiedere :“Perché siamo stati accusati ingiustamente?” dovremmo rispondere con pratiche che mettano al centro il punto di vista delle persone coinvolte. Ascoltando le loro esperienze per rafforzare cosa possono fare le amministrazioni pubbliche. Ciò aiuterebbe a colmare la distanza tra le aspettative istituzionali, la ricerca empirica e la sperimentazione politica: l’unico modo è allontanarsi dall’innovazione come obiettivo in sé; o almeno di darle una giusta definizione.

The post Resistere all’inevitabile first appeared on Luiss University Press.

I giorni dei lenti progressi sono terminati

lup_admin — Tue, 03 Jan 2023 10:57:44 +0000

Questo libro mette in guardia le società che dovranno essere preparate davanti al potenziale distruttivo di macchine in grado di ragionare, imparare e risolvere problemi come gli esseri umani. Ai 2041. Scenari dal futuro dell’intelligenza artificiale presenta una road map dei prossimi decenni che mostra come si svilupperà l’intelligenza artificiale attraverso una combinazione di saggi scritti da Lee, guru dell’IA ed ex capo di Google in Cina, e di racconti scritti dall’astro nascente della fantascienza cinese, Chen Qiufan. Chen trasforma la visione di Lee in dieci racconti; dalla lotta di un’adolescente indiana contro un algoritmo discriminatorio a un malvagio scienziato tedesco sull’orlo di scatenare un genocidio quantistico. Ma è tutto il mondo narrato in queste pagine ad apparire insieme vertiginosamente lontano e terribilmente prossimo. Le visite mediche non richiederanno più il contatto umano, con bagni intelligenti che analizzeranno gli escrementi dei pazienti senza bisogno di provette. I camerieri consiglieranno i piatti in base alle registrazioni dei menu preferiti e della propensione all’avventura dei clienti. La tesi è semplice: non le macchine, ma gli esseri umani sono responsabili del buon o cattivo uso della tecnologia. A noi la scelta di quale futuro raccontarci.

_____________________________________

L’intelligenza artificiale (IA) è un software e hardware intelligente in grado di eseguire compiti che solitamente richiederebbero intelligenza umana. La IA è la delucidazione del processo umano di apprendimento, la quantificazione del processo del pensiero umano, l’esplicazione del comportamento umano e la comprensione di ciò che rende possibile l’intelligenza. È il passo finale dell’umanità lungo il cammino della comprensione di sé stessa; personalmente, spero di essere parte di questa nuova e promettente scienza.

Ho scritto queste parole quasi quarant’anni fa, quando ero uno studente sognatore che stava facendo domanda per il programma di dottorato della Carnegie Mellon University. Lo scienziato informatico John McCarthy aveva coniato il termine “intelligenza artificiale” ancora prima, durante il leggendario Dartmouth Summer Research Project on Artificial Intelligence dell’estate del 1956. A molte persone, l’IA sembra essere la quintessenza della tecnologia del Ventunesimo secolo, ma alcuni di noi la stavano studiando già decenni prima.

Nei primi tre decenni e mezzo del mio viaggio nell’intelligenza artificiale, questo campo di ricerca è rimasto sostanzialmente confinato all’accademia, con poche applicazioni commerciali di successo. Un tempo, le applicazioni pratiche della IA evolvevano lentamente. Negli ultimi cinque anni, invece, la IA è diventata la tecnologia più in voga del mondo. Un punto di svolta sorprendente si è verificato nel 2016 quando AlphaGo, una macchina costruita dagli ingegneri di DeepMind, ha sconfitto Lee Sedol nei cinque round di una sfida di Go nota come Google DeepMind Challenge Match.

Il Go è un gioco da tavolo più complesso degli scacchi di un miliardo di miliardi di miliardi di miliardi di volte. Inoltre, a differenza degli scacchi, il Go è ritenuto dai suoi milioni di entusiastici appassionati un gioco che richiede un’intelligenza, una saggezza e una raffinatezza intellettuale degna dello Zen. Quando un concorrente IA sbaragliò il campione umano, per molte persone fu uno choc. AlphaGo, come la maggior parte delle grandi conquiste nella IA, era basata su deep learning, una tecnologia che attinge a vasti set di dati per insegnare a se stessa. Il deep learning è stato inventato molti anni fa, ma solo di recente si è ottenuto abbastanza potere computazionale per dimostrarne l’efficacia e sufficienti dati di addestramento da conseguire risultati eccezionali.

Internet e cultura digitale

AI 2041

IVA inclusa

Scegli

Rispetto ai miei difficili inizi nella IA, quarant’anni fa, oggi per le nostre sperimentazioni con la IA abbiamo a disposizione circa un migliaio di miliardi di volte il potere computazionale di allora, mentre archiviare i dati necessari è 15 milioni di volte più economico. Le applicazioni del deep learning – e le tecnologie di IA collegate – toccheranno praticamente ogni aspetto delle nostre vite.

La IA si trova adesso in un momento cruciale. Ha abbandonato la torre d’avorio. I giorni dei lenti progressi sono terminati.

Solo negli ultimi cinque anni, la IA ha sconfitto i campioni umani del Go, del poker e del videogioco Dota 2, diventando così potente che in sole quattro ore impara a giocare a scacchi abbastanza bene da essere invincibile per gli esseri umani. Non si tratta però solo dei giochi. Nel 2020, la IA ha risolto un enigma biologico vecchio cinquant’anni, chiamato ripiegamento biologico.

Questa tecnologia ha superato gli esseri umani nel riconoscimento vocale e degli oggetti, creato “umani digitali” dallo straordinario realismo sia nelle apparenze che nella parlata, e ha ottenuto il punteggio massimo agli esami di ammissione all’università e agli esami di licenza medica. La IA supera in prestazioni i giudici per l’equità e la coerenza delle loro sentenze e i radiologi nella diagnosi del cancro ai polmoni, così come alimenta i droni che cambieranno il futuro delle consegne, dell’agricoltura e della guerra.

Infine, la IA sta rendendo possibile la creazione di veicoli autonomi che guidano in autostrada con maggiore sicurezza degli esseri umani. Dove ci porterà tutto questo, mano a mano che la IA continua ad avanzare e che nuove applicazioni fioriscono? Nel mio libro del 2018 AI Superpowers: China, Silicon Valley, and the New World Order, ho affrontato la proliferazione dei big data, il “nuovo petrolio” che alimenta la IA.

Gli Stati Uniti e la Cina sono alla guida della rivoluzione della IA, con gli Stati Uniti che primeggiano nei progressi della ricerca e la Cina che sfrutta più rapidamente i big data per introdurre applicazioni per la sua vasta popolazione. In AI Superpowers avevo predetto alcuni sviluppi: dal processo decisionale basato sui big data alla percezione della macchina, fino ai robot e ai veicoli autonomi.

Ho previsto che queste nuove applicazioni della IA avrebbero creato un valore economico senza precedenti nelle industrie del digitale, della finanza, del commercio e dei trasporti, ma anche provocato problemi relativi alla perdita di lavori umani e sollevato altre questioni.

La IA è una tecnologia multiuso che penetrerà praticamente in ogni settore, attraverso quattro ondate che vanno dalle applicazioni di internet della IA a quelle degli affari, della percezione e delle applicazioni autonome. Quando leggerai questo libro, nel 2021 o più avanti, le previsioni che ho fatto in AI Superpowers saranno in gran parte diventate realtà. Adesso dobbiamo guardare alle prossime frontiere. Girando il mondo per parlare di IA, mi viene costantemente chiesto: “Cosa viene dopo? Cosa succederà tra cinque, dieci o vent’anni? Cos’ha in serbo il futuro per noi esseri umani?”.

The post I giorni dei lenti progressi sono terminati first appeared on Luiss University Press.

Quando gli oggetti diventano soggetti

Cristina Resa — Wed, 24 Nov 2021 17:26:44 +0000

Proponiamo un estratto da Incoscienza artificiale di Massimo Chiriatti. Una macchina intelligente in grado di prendere decisioni al posto dell’uomo: se pensiamo sia questa la definizione di intelligenza artificiale, sbagliamo. Chiriatti, con la mente dello studioso e l’occhio dell’addetto ai lavori, analizza la natura dell’intelligenza artificiale e le implicazioni della sua continua e sempre più profonda interazione con l’uomo.

__________________________________________________________

Così come lo smart speaker di Amazon è stato battezzato Alexa e l’assistente di Apple Siri, all’intelligenza artificiale qui descritta daremo il nome di “Iasima”.

Siamo formati da una struttura fatta di natura, cultura e coscienza legate in modo inestricabile, mentre le macchine sono solo artefatti che si stanno evolvendo per simulare superficialmente un comportamento umano. Pensavamo che con l’IA fosse nato qualcosa, invece sta nascendo qualcuno.

Abbiamo prima insegnato alle macchine come eseguire i nostri ordini, poi come imparare da sole per poterci rispondere. Ancora non sembra possibile, ma se un giorno sviluppassero i propri fini?

Fino a ieri Iasima rappresentava solo un’estensione fisica del nostro corpo e di alcune limitate funzioni cognitive, ma oggi sta assumendo, per via delle deleghe sempre maggiori che le accordiamo, una sua autonomia. Quando un oggetto fa esperienza del mondo in autonomia e interagisce tramite il linguaggio, il divario che lo separa da un soggetto sta per colmarsi. La soggettivizzazione algoritmica non prevede più la dicotomia “noi o loro”.

All’inizio del libro abbiamo accennato al rapporto soggetto-oggetto con queste parole: “Come ha luogo il processo decisionale quando qualcuno ha già deciso per noi è un tema politico, perché riguarda sia chi ha il potere di decidere, sia le basi su cui è stato scelto. Ma cosa accade quando qualcosa sta per decidere per noi è un problema filosofico, soprattutto nel momento in cui quel qualcosa sta diventando qualcuno; quell’oggetto sta diventando soggetto”.

Se questo passaggio può sembrare troppo forte e speculativo, allora pensiamo alla prospettiva opposta e complementare: noi umani ci stiamo ibridando con le macchine. Prendendo in prestito le parole di Erich Fromm a proposito del futuro dei sistemi capitalisti e comunisti: “…fabbricano macchine che si comportano come uomini e producono uomini che si comportano come macchine… Il pericolo del passato era che gli uomini diventassero schiavi. Il pericolo del futuro è che gli uomini possano diventare robot”.

Il termine “robot” deriva da robota, vocabolo slavo che significa “schiavo”, e se diventare robot non rientra nei nostri obiettivi dobbiamo evitare di abbassare i nostri standard cognitivi, altrimenti le macchine finiranno per sembrare più “intelligenti” di quanto siano.

La nostra visione parziale della realtà è già limitata dai cinque sensi, che ora vengono informati da un agente artificiale, il Sistema 0, un nonumano. Se e quando l’IA inizierà a decidere per noi, questo mondo potrebbe diventare il suo. Una volta che inizieremo a prendere ordini dai computer sulla base delle loro previsioni, avremo perso sia la nostra direzione evolutiva, sia il nostro posto sulla Terra come forma di vita superiore – da un punto di vista cognitivo – e dominante.

Eppure, interagiamo costantemente con le macchine, che sempre di più mediano le nostre interazioni sociali e modellano la nostra conoscenza. E se diventassero loro i soggetti?

Non siamo abituati a confrontarci con le macchine – non abbiamo sviluppato queste capacità con l’evoluzione – ma ora, non potendo modificare con la stessa velocità la nostra natura biologica, dobbiamo adattare la nostra cultura. Il primo punto è capire la loro evoluzione, che è differente dalla nostra. Per una macchina, essere accesa significa poter trasferire energia. Basta un update del codice sorgente da parte dei programmatori per tracciare nuove e imprevedibili traiettorie evolutive, poiché il design delle macchine non è sottoposto ai tempi lunghi dell’evoluzione organica. I componenti meccanici sono precisi, intercambiabili ed evolvono rapidamente, anzi, esponenzialmente.

Internet e cultura digitale

Incoscienza artificiale

IVA inclusa

Scegli

Dalla prospettiva delle macchine, siamo tutti, indistintamente, rappresentazioni simboliche di oggetti. Pertanto può sembrare che l’IA più sofisticata percepisca e conosca tutto, quando in realtà non comprende nulla. Un paradosso è che, fino a pochi decenni fa, di noi come soggetti non sapevamo nulla e solo ora iniziamo a capire qualcosa, grazie ai progressi delle neuroscienze. E se invece, prima, degli oggetti sapevamo tutto, ora con il deep learning cominciamo a rendere opachi i processi algoritmici.

Oggetti come le vetture autonome attraversano la città. Li guardiamo con un po’ di sospetto e timore, ma almeno ne abbiamo la percezione fisica: sappiamo dove sono e vediamo quale direzione prendono. I nostri occhi ci aiutano a capire. Ma ci sono milioni di altri algoritmi che ci vengono incontro: alcuni sono finalizzati al marketing, altri orientano le nostre opinioni, altri ancora danno luogo a incontri romantici o ci raggruppano per parole chiave. Senza conoscere gli obiettivi.

Ora che gli oggetti diventano soggetti, lo studio della coscienza (l’hard problem) è sempre più rilevante: dobbiamo, se non risolverlo, almeno inquadrarlo da più prospettive. Henry Kissinger ha sintetizzato la questione in questo modo: “L’illuminismo è iniziato con intuizioni essenzialmente filosofiche diffuse da una nuova tecnologia. Il nostro periodo si sta muovendo nella direzione opposta. Ha generato una tecnologia potenzialmente dominante alla ricerca di una guida filosofica”.

La grande riflessione filosofica che di questi tempi affrontiamo è sicuramente l’abbattimento del confine fra ciò che consideriamo naturale, biologico, vivente, e ciò che consideriamo meccanico, tecnologico, inanimato.

Nel libro Come saremo, Luca De Biase e Telmo Pievani affermano: “In realtà, le tecnologie stanno co-evolvendo con noi, da sempre in simbiosi: non siamo due mondi separati, ma parti reciprocamente connesse dentro uno stesso processo co-evolutivo […] La tecnologia diventa sempre più biologica e la biologia diventa sempre più tecnologica”.

Non c’è contrapposizione tra soggetto e oggetto, ma complementarità. L’essere umano usa l’oggetto per potenziare la creatività, ora l’oggetto usa la creatività umana espressa nei dati in forma scritta, orale e visiva per potenziare le sue previsioni. Facciamo un esempio: una tavolozza di colori o una qualsiasi forma di pennello sono gli strumenti di un qualunque programma di grafica a disposizione dell’artista. Ma quando la macchina inizia a generare una figura o un video, siamo sicuri che sia ancora uno strumento, un oggetto, oppure possiamo classificarla come soggetto creativo? La differenza è che noi siamo in grado di immaginare e abbiamo una intenzionalità nel creare l’opera, mentre la macchina si limita a generarla.

Non si tratta di una creatività migliore della nostra ma dobbiamo prendere atto che partecipiamo al processo insieme a Iasima: stiamo già collaborando, nel senso che l’essere umano inizia, la macchina continua e di nuovo l’essere umano può rifinire e completare l’opera. Come un feto che sta formando le sue connessioni neuronali e il suo corpo, così l’IA, in termini di Sistema 0, sta crescendo collegata ai nostri corpi. Sentiamo già “vivere” questa creatura, ma solo quando taglieremo l’ultimo collegamento, Iasima potrà essere un’entità realmente autonoma. Questo ci consente di tornare alla definizione della coscienza: un’esperienza fondamentalmente privata e soggettiva che non può essere descritta né osservata né confermata dall’esterno.

Sappiamo anche che la coscienza non è un fenomeno di tipo on-off, perché ne esistono diverse forme e gradazioni. Ma non avendo noi un modo per definire la coscienza in termini oggettivi, come dovremmo relazionarci a questi potenziali neo-soggetti? Scriveva Giorgio Gaber:

“Nel frattempo gli oggetti erano andati al potere.
“La loro prima vittoria era stata il superamento del concetto di utilità, piano piano avevano occupato anche gli spazi più nascosti delle nostre case, e da lì ci spiavano.
“Nessuno se n’era accorto all’inizio, anzi, la loro silenziosa presenza sembrava piacevole e confortante, era difficile intuirne il senso sovversivo.
“Dopo anni di schiavitù gli oggetti tentavano la strada del dominio.
[…]
“La resistenza dell’Uomo era sporadica e soggettiva, sì troppo individuale.
[…]
“Cosa poteva pretendere l’uomo, così fragile, così disfunzionale?”

Da Incoscienza artificiale di Massimo Chiriatti. In alto, immagine di Brett Jordan – Unsplash

The post Quando gli oggetti diventano soggetti first appeared on Luiss University Press.

La cura degli umani

Cristina Resa — Thu, 03 Jun 2021 00:01:13 +0000

Proponiamo un estratto del volume Le nuove leggi della robotica. Frank Pasquale, tra i maggiori esperti al mondo in materia di regolamentazione delle nuove tecnologie, presenta le nuove leggi che dovranno essere applicate affinché la rivoluzione digitale, con le straordinarie possibilità di crescita e sviluppo che comporta, non si trasformi in una trappola per la nostra specie.

__________________________________________________________

La medicina immagina la AI in due modi. Il primo è utopistico, degno di un romanzo di fantascienza. I robot medici individueranno e cureranno all’istante ogni malattia. I nanobot ci pattuglieranno vene e arterie, eliminando le ostruzioni e riparando i tessuti danneggiati. Organi, ossa e pelle stampati in 3D ci consentiranno di sembrare giovani e in salute anche a ottanta o novant’anni. Con un po’ di fortuna, potremo caricare i nostri cervelli in corpi robotici, per farli vivere in eterno. Comunque possa andare a lungo termine, questa visione fantascientifica è lontanissima e forse irrealizzabile.

Ci sono futurologi più realistici, ma comunque ambiziosi, che seguono una visione più fattibile. Si rendono conto del ruolo chiave dell’empatia umana nel settore medico, del contributo dell’intuito alle diagnosi e dell’importanza della destrezza dei chirurghi. Aderiscono pertanto alla prima nuova legge della robotica, che auspica un futuro nel quale la AI aiuti (e non sostituisca) medici e infermieri. Visto lo stato attuale di dati e tecnologia, si tratta di una scelta saggia. Sfortunatamente, anche molti realisti cadono in errore quando si tratta di leggi e politica, vedendo il sistema sanitario dal punto di vista economico, preoccupandosi dei costi e delle possibili inefficienze. Invocano la deregulation per incentivare l’innovazione e i limiti di bilancio per forzare i tagli alle spese.

Quel che ci serve davvero in termini di politica sanitario- tecnologica è una maggiore responsabilità nella raccolta e nell’uso dei dati, non una deregolamentazione. Dobbiamo investire in pratiche sanitarie all’avanguardia, senza presumere che ospedali e medici troveranno nuovi geniali sistemi per operare meglio con meno fondi.

Gli scrittori di fantascienza sognano un giorno in cui una combinazione di app e robot si potrà prendere cura dei nostri problemi di salute, ma non è questa la strada percorsa dagli attuali progressi tecnologici, né i politici dovrebbero ambire a un tale obiettivo. Non possiamo prescindere dalla presenza umana nella sanità, se abbiamo a cuore gli interessi della medicina e l’aspetto psicologico dei malati.

Gli imperativi dell’economia spingono ospedali e compagnie assicurative a sostituire i terapisti con qualche software e l’attenzione degli infermieri con i robot, ma le associazioni di professionisti devono fare in modo che non si smetta mai di considerare il valore del coinvolgimento diretto delle persone.

Decidere quando cercare assistenza medica

Immaginate di svegliarvi con un fortissimo dolore allo stomaco. Si tratta di appendicite? È uno strappo muscolare? Il mal di stomaco è una delle diagnosi più ardue anche per i medici più esperti di pronto soccorso, in quanto può essere sintomo di decine di patologie, tanto di poco conto quanto possibilmente letali. Anche in presenza di un minimo rischio, meglio recarsi in ospedale a chiedere il consiglio di un professionista. Una decisione semplice, se si è ricchi o dotati di una buona assicurazione, ma per gli altri cercare aiuto potrebbe rivelarsi una tragedia. Nei Paesi in via di sviluppo, le parcelle mediche possono minacciare perfino le necessità di base di una famiglia.

Negli USA, milioni di persone non sono assicurate o hanno coperture assicurative molto limitate. Una sola visita al pronto soccorso può costare più di 10.000 dollari; perfino un falso allarme può costringere a sborsare migliaia di dollari, tenendo conto di test, parcelle e altre spese. Persino chi ha un’assicurazione adeguata e molti risparmi rischia grosso andando all’ospedale, tra test superflui, esposizione a virus e ore di stress.

Per molti, il primo riferimento in caso di sintomi improvvisi è Google. Per anni su Google le ricerche mediche – quelle che ci fa fare un dolore nel cuore della notte – non sono state diverse dalle altre. Bastava sufficiente “Google juice” (quel mix misterioso di importanza e autorevolezza che manda i contenuti in cima ai risultati delle ricerche) e siti poco affidabili si mescolavano alle informazioni di dottori e scuole di medicina di alto livello. Spettava agli utenti di Google separare il grano dal loglio e capire quanto un sito fosse credibile.

A partire dal 2016, l’azienda ha invertito l’approccio. Ha cominciato a collaborare con gli esperti della Mayo Clinic per valutare le informazioni che apparivano nelle ricerche mediche più frequenti.

Se digitiamo “mal di testa laterale”, sopra o accanto a una lista standard di risultati apparirà una serie di box che descriveranno sinteticamente una possibile classificazione dei tipi di mal di testa. Scegliendone uno (per esempio, “mal di testa da tensione”), si aprirà un altro box riconducibile allo stesso Google, che descriverà se si tratta di una condizione comune, la sua diffusione tra i vari gruppi e i possibili interventi medici.

Questi nuovi risultati di Google sono un segnale rassicurante per quanto riguarda l’uso della AI nel settore sanitario, perché ci mostrano un’azienda che non vuole sostituire l’esperienza dei medici con algoritmi e big data, ma preferisce contattare professionisti in nome di un approccio strutturato all’informazione medica e alla salute in generale. In modo simile, IBM ha cambiato il marketing del suo sistema Watson in ambito medico e giuridico, presentandolo come un aiutante e non come un sostituto dei dottori.

Nel 2017, ho parlato con un rappresentante del team Watson di IBM, che mi ha spiegato come volessero promuovere un’intelligenza aumentata e non artificiale. Anche le aziende che avrebbero maggiormente da guadagnare dalle AI propendono per la IA, pertanto presto gli strumenti di diagnosi totalmente automatizzati potrebbero sembrarci più anacronistici che futuristici. Ci sarà sempre un posto per gli esperti settoriali incaricati di valutare l’accuratezza dei consigli delle AI e verificare il loro funzionamento nel mondo reale.

La competenza principale della AI: evitare gli errori comuni

I medici sono esperti nel riconoscimento degli schemi. Ci aspettiamo che un dermatologo ci sappia dire se un neo è maligno o non è nulla di preoccupante; ci sottoponiamo a colonscopie per consentire ai gastroenterologi di individuare (e rimuovere) eventuali polipi. Eppure anche il miglior dottore può sbagliare e un medico comune può essere annoiato o distrarsi in un momento decisivo. Grazie alla AI, possiamo ridurre notevolmente errori simili, salvando migliaia di vite l’anno.

E ciò è possibile grazie a quantità enormi di dati. Un database potrebbe per esempio catalogare immagini di milioni di diverse anomalie poi divenute cancerose e di milioni poi rivelatesi benigne.

Proprio come cerchiamo un sito su Google, così potremmo servirci di un computer per confrontare in un lampo immagini del nostro colon o della nostra pelle con quelle contenute nel database. Idealmente, le macchine potrebbero riuscire a individuare i “gemelli digitali cattivi”, sventando la minaccia di tessuti che si sono rivelati pericolosi già in passato.

La visione della macchina, in grado di rilevare il pericolo dove anche un esperto specialista potrebbe sbagliare, è diversa dalla nostra. Per comprendere il machine learning può esserci utile pensare a come i computer abbiano imparato a riconoscere volti e interpretare i numeri.

Quando un programma di riconoscimento facciale identifica con successo un’immagine come la raffigurazione di una data persona, tale “abbinamento” (match) è conseguenza del confronto dell’immagine presa in esame con le altre già presenti nel database, magari in una griglia da 1000 per 1000 pixel. Ogni posizione sulla griglia può essere identificata come pelle o non pelle, liscia o non liscia e secondo una serie di centinaia o migliaia di altre scelte binarie, molte delle quali non discernibili dall’occhio umano. E le macchine possono percepire molto di più di questo.

Le immagini mediche potrebbero incorporare anche dati di vario tipo per ogni pixel o voxel (pixel 3D), mappando quel che possiamo percepire con orecchie, naso o mani.

Il riconoscimento tramite schemi sottoposti alla visione delle macchine inizialmente è stato sfruttato dalle banche, alle quali serviva un sistema per riconoscere i numeri sugli assegni (vista la grande varietà delle grafie umane). Grazie alla giusta quantità di esempi e a computer adeguati, questo tipo di riconoscimento è divenuto quasi perfetto. La visione delle macchine è pertanto “sovrumana” quando si tratta di “ingerire” dati e confrontarli con milioni di altre immagini.

Un dermatologo potrebbe usare un metodo euristico per diagnosticare un melanoma (come il metodo, ABCDE: Asimmetria, Bordi irregolari, Colore diverso, Diametro più ampio, Evoluzione) o le sue esperienze passate con nei cancerosi o no. Una AI abbastanza avanzata può controllare i parametri ABCDE confrontandoli con altri nei con precisione stupefacente, a patto che i dati siano accurati. Con il miglioramento dei sensori, la AI potrebbe trovare sistemi inaspettati per capire cosa distingue nei benigni e maligni.

La visione delle macchine ha però anche aspetti “subumani” e talvolta si rivela sorprendentemente fragile. In medicina, viene infatti oggi usata soprattutto come narrow AI (“intelligenza artificiale debole”) e dunque indirizzata su un solo compito ben definito. La narrow AI per rilevare i polipi, per esempio, potrebbe “vedere” un polipo invisibile a qualunque gastroenterologo, ma allo stesso tempo potrebbe non riconoscere altre anomalie che non è stata addestrata a riconoscere.

Medici e AI sono più efficaci se lavorano insieme.

I medici si formano per anni, ma la conoscenza medica non smette mai di progredire. Non è più umanamente possibile memorizzare ogni potenziale interazione farmacologica, in particolare nei casi più complessi, con pazienti che assumono venti o più medicinali.

Per evitare risultati indesiderati, ci si può affidare ai farmacisti, ma anche loro possono non accorgersi di problemi inusuali.

Il Clinical decision support software (CDSS), integrato nei registri sanitari elettronici, è una forma elementare di AI che può aiutare i medici a evitare conseguenze nefaste. Il CDSS “monitora e avvisa i medici specialisti delle condizioni del paziente, delle sue prescrizioni e dei trattamenti che ha subito, al fine di offrire suggerimenti clinici fondati”.

Già è stato provato che il CDSS riduce gli errori. Anche in un’area così ristretta, programmatori, manager e ingegneri non si sono però limitati a imporre l’uso del CDSS. La legge, con tanto di sovvenzioni governative, ha dato un grosso contributo alla sua diffusione.

Il CDSS è stato adottato per scongiurare cause per negligenza (contro i medici) o responsabilità aziendale (contro gli ospedali); i tribunali hanno però sancito che il giudizio dei professionisti non può essere automatizzato e sono riluttanti a rendere perseguibile automaticamente chi non segue i consigli della macchina in presenza di buoni motivi per non farlo.

Per assicurarsi che i pazienti possano sfruttare tutti i lati positivi della tecnologia saranno necessari continui aggiornamenti normativi, anche per evitare di sovraccaricare di informazioni medici e infermieri. Molti studiosi si sono già occupati del problema della alert fatigue (“stanchezza da allarme”). Gli esperti di interazione uomo-computer sono all’opera per fare in modo che ci sia un equilibrio migliore tra allarmi e avvisi dei problemi segnalati che possa risultare così meno invasivo.

Un software CDSS ideale non dovrebbe essere né soffocante né un osservatore inerte, ma potrà essere efficace solo adattandosi in continuazione, in modo che medici, infermieri e farmacisti apprezzino il suo utilizzo e possano sempre criticarlo e migliorarlo.

Dati, discriminazioni e disparità

Una AI approvata dagli umani dovrebbe diventare lo standard dell’assistenza medica al servizio di ogni paziente che necessiti di un trattamento. Il fatto che la tecnologia in generale sia un vantaggio non significa però che sia da utilizzare in ogni caso. C’è inoltre il rischio che la AI possa effettuare discriminazioni basandosi su dati difettosi.

È noto il caso di un risk score (“punteggio di rischio”) – utilizzato per prestare assistenza mirata a pazienti in condizioni di bisogno – che dava la priorità ai pazienti bianchi rispetto a quelli neri perché si serviva del costo delle cure per valutare la gravità della malattia. Ricevendo in genere un’assistenza più economica, gli afroamericani avevano, secondo l’algoritmo, meno bisogno di attenzioni mediche. I pericoli di indicatori del genere sono ben noti, ma la fretta di quantificare porta spesso a ignorarne o sottovalutarne i rischi.

Anche i bias possono avere un effetto negativo sulle diagnosi.

Medici e informatici si sono già detti preoccupati di come i software per individuare i melanomi possano funzionare male per le minoranze, che in genere sono meno rappresentate nei set di dati usati per tarare le macchine. Se una tale disparità ha un ruolo effettivo, il sistema legale si deve chiedere se sia il caso di portare gli standard di questi software ai livelli utilizzati per l’etnia prevalente. Bisogna fare in modo che siano disponibili dati più rappresentativi e che vengano effettivamente usati. In caso contrario, si rischia di rendere ancora più profonde le disparità.

Se gli enti normativi non riusciranno a fare un passo avanti, saranno i tribunali a decidere quando un determinato progetto (come quello per identificare i melanomi) avrà bisogno di ulteriori dati e quando invece questi dati saranno solo “un qualcosa in più” per chi può permettersi un’assistenza di primo livello. Le leggi sulla negligenza servono a rassicurare i pazienti che se i loro medici non si atterranno a un certo standard, verranno multati e una parte della cifra sarà utilizzata per le loro cure.

Nel caso i provider non usino insiemi di dati abbastanza rappresentativi nello sviluppo delle loro AI mediche, le cause legali potranno richiamarli alle loro responsabilità, facendo in modo che tutti possano usufruire dell’uso medico della AI e non solo i più fortunati che appartengono ai gruppi più spesso oggetto di studio.

I data scientist spesso dicono in modo scherzoso che la AI è solo una forma di statistica che gode di un marketing migliore. Di certo una AI debole, pensata per fare previsioni molto specifiche, si basa sulla quantificazione delle probabilità. Si tratta solo di uno dei molti passi compiuti negli ultimi due decenni per modernizzare la medicina basandosi su un uso maggiore di prove empiriche.

I ricercatori in ambito medico hanno utilizzato l’analisi predittiva, i big data, l’intelligenza artificiale, il machine learning e il deep learning (“apprendimento profondo”) come metafore chiave per l’ottimizzazione delle performance di sistema.

In ognuna di queste aree gli studi già effettuati possono aiutare gli enti normativi a identificare i dati problematici nella AI. Gli standard legali devono tenere conto però anche dei limiti della stessa AI, come la carenza di riproducibilità, la validità ristretta, le pretese esagerate e i dati poco chiari. L’idea di fondo è che la competenza primaria della AI – aiutare gli umani a evitare di sbagliare – deve essere responsabilità degli umani che creano quella AI. Questi ultimi devono assumersi le colpe di un uso errato di dati e metodi o altrimenti in futuro ci potremmo ritrovare a commettere gli stessi errori.

Molti attivisti fanno esempi di insiemi di dati problematici utilizzati in ambito medico. Per esempio, Caroline Criado Perez ha dimostrato che troppo spesso nella ricerca medica e in pedagogia si assume in modo automatico che il soggetto in esame sia maschio. Come osserva: “Le donne non sono uomini più piccoli: il corpo maschile e quello femminile sono differenti perfino a livello cellulare. […] E ci sono ancora molti altri gap da colmare sulla questione di genere”. La diffusione di studi come quello di Criado Perez rende ancora più imperdonabile la presenza di bias nei data set. Dobbiamo finanziare raccolte di dati di gran lunga migliori per fare in modo che la AI usata in campo medico sia più equa e inclusiva, e dobbiamo inoltre imporre a sviluppatori, medici e ospedali di utilizzarle.

Da Le nuove leggi della robotica di Frank Pasquale. In alto, l’illustrazione di copertina di Noma Bar

The post La cura degli umani first appeared on Luiss University Press.