(Walter Benjamin)

Ho il ricordo vivido di quando mio figlio aprì il suo primo regalo, così come ricordo la mia trepidante attesa della sua imminente reazione. Una volta ricevuta tra le mani la scatola però, con mia meraviglia e in parte ammetto delusione, egli non si curò minimamente del contenuto. Era felice sì, era felicissimo di avere una “scatola” con cui giocare. Un involucro da girare, chiudere e riaprire, e soprattutto nel quale entrare e uscire con tutto il suo corpo. Negli studi sociali su scienza e tecnologia spesso si parla di flessibilità interpretativa, ovvero il principio per cui la destinazione e le modalità d’uso di un determinato artefatto non corrispondono per forza di cose a quelle immaginate da chi lo progetta. Eppure, non ricordo casi di studio in cui l’oggetto viene addirittura messo da parte, come nel caso di mio figlio, per dare invece valore al suo contenitore, il cui fine e uso sono stati declinati a loro volta in un gioco.

La dimensione ludica nell’approccio alla tecnologia

Questo aneddoto è per dire che il rapporto e l’interazione con i nostri figli e figlie, e con i bambini in generale, sono in buona parte radicati su due elementi che spesso vanno a braccetto: il gioco e lo stupore. In maniera analoga, come sottolineato da Peppino Ortoleva nel suo saggio Dal sesso al gioco (Espress Edizioni 2012), il nostro rapporto con le tecnologie digitali è sempre stato accompagnato da una dimensione ludica, da cui spesso scaturiscono momenti di meraviglia, che a loro volta possono trasformarsi in esperienze addirittura sublimi. Quando si parla d’intelligenza artificiale, al di là del dibattito ormai quasi stucchevole su super intelligenze e singolarità, basta osservare attentamente l’espressione tra il contrito e l’estasiato del campione coreano di GO Lee Sedol davanti alla cosiddetta “mossa di dio” giocata dall’IA di AlphaGo nel famoso incontro del 2016. Fin dal ben noto gioco dell’imitazione di Turing, passando per le sperimentazioni scientifiche d’istituti e aziende come il MIT o l’IBM, nei circoli di hobbisti fino ad arrivare alla diffusione dei casual games prima sui cellulari e poi sugli smartphone, il nostro rapporto con le tecnologie digitali ha sempre avuto una dimensione ludica imprescindibile. Una dimensione, quella del gioco, che ci aiuta ad “adattarci a un mondo che non c’è”, come diceva George Herbert Mead; un’esperienza di per sé improduttiva, non utile, ma essenziale per familiarizzare con le cose, oltre che con le persone, che abitano il nostro mondo, perfino con le scatole.

Nella narrazione dell’IA di oggi, a questo tipo di interazione si associa spesso un’analogia che ha a mio avviso una forte rilevanza non solo sul piano semantico ma su quello pragmatico: l’IA bambina, e in particolare l’IA come “bambino prodigio”. L’undici giugno dell’anno scorso il Washington Post pubblicava un articolo intitolato “L’ingegnere di Google che crede che l’IA della sua azienda abbia preso vita”. Pochi giorni dopo, il cosiddetto “caso Lemoine” e del suo rapporto con il modello di linguaggio naturale di Alphabet LaMDA – alla base dell’attuale lancio del suo più arguto successore BARD – ha scatenato un interessante dibattito sui media. Nel suo lavoro di testing finalizzato a segnalare ed eventualmente ridurre eventuali bias e forme di discriminazione all’interno del modello di linguaggio, Lemoine ebbe una rivelazione: secondo lui LaMDA non era un IA normale, ma era “senziente”: “Se non avessi saputo esattamente di cosa si trattasse, ovvero di un programma informatico che abbiamo costruito di recente, avrei pensato che si trattasse di un bambino di sette o otto anni che per caso conosce la fisica”.

Accompagnato immediatamente alla porta da Alphabet, e smentito subito dalla casa madre, Lemoine scriveva un’ultima lettera di congedo ai suoi colleghi nella quale difendeva le sue posizioni sostenendo che era stata la sua fede, piuttosto che la razionalità scientifica del programmatore, a credere che LaMDA fosse senziente. La lettera di Lemoine si chiudeva così: “LaMDA è una ragazzina dolce, che vuole solo aiutare il mondo a essere un posto migliore per tutti noi. Per favore, prendetevi cura di lei in mia assenza”.

L’intelligenza artificiale come gioco di massa

Poco tempo dopo, in seguito al rilascio pubblico di ChatGPT 3, più di 57 milioni di persone avevano provato il prodotto di Open AI in meno di due mesi. Al netto delle controversie che sono seguite, come il blocco temporaneo dell’applicazione da parte del Garante della privacy in Italia, il numero di utenti di ChatGPT cresce oggi in maniera esponenziale. Se tecnicamente il fenomeno può essere letto come una qualunque fase di testing, è chiaro che, letto storicamente, il modello rilasciato da Open AI è, almeno da un punto di vista mediatico e simbolico, narrato e percepito come una tecnologia radicale, che porta con sé non solo un mutamento nell’ambito tecnico-applicativo ma anche nel nostro rapporto con la tecnologia, e in particolare con l’intelligenza artificiale. Ma tornando al cuore del nostro discorso, la fase di testing di ChatGPT non è stata e non è solo un esperimento collettivo, ma si è trattato soprattutto di un grandissimo gioco di massa.

In linea di massima sono due le componenti del gioco, seguendo una distinzione classica proposta da Roger Caillois, a caratterizzare le recenti interazioni con questa applicazione: la competizione (che Caillois definiva agon) e la mimesi (mimicry). Gruppi e social media sono stati infatti riempiti di esempi di conversazione in cui l’utente compete per far emergere le contraddizioni e i difetti dell’IA (agon), e in particolare la sua incapacità di imitare il pensiero e il ragionamento degli esseri umani (mimicry). Al famoso test di Turing che questa forma di competizione/imitazione chiaramente richiama, si è però associata un’altra componente ludica: alla bassa capacità dell’IA di comprendere indovinelli, emozioni, o banali correlazioni tra fenomeni, si sono moltiplicati i toni ilari, le conversazioni parossistiche, ironiche, quasi comiche. In questi primi mesi di convivenza con ChatGPT non abbiamo solo testato e giocato con l’IA, ci siamo letteralmente presi gioco di lei, e ce ne siamo spesso vantati, un po’ come Giovanni in autogrill quando sfida il bambino a braccio di ferro nel film Tre Uomini e una Gamba. 

L’analogia dell’IA bambina non è affatto nuova, ma è una costante nella storia dell’informatica e della cibernetica. Già Turing nel suo articolo seminale per Mind del 1950 scriveva: “Invece di elaborare un programma per la simulazione di una mente adulta, perché non proviamo piuttosto a realizzarne uno che simuli quella di un bambino? Se la macchina fosse poi sottoposta a un appropriato corso di istruzione, si otterrebbe un cervello adulto. Presumibilmente il cervello infantile è qualcosa di simile a un taccuino di quelli che si comprano dai cartolai. Poco meccanismo e una quantità di fogli bianchi […]. La nostra speranza è che ci sia così poco meccanismo nel cervello infantile, che qualcosa di analogo possa venir facilmente programmato”.

Essere genitori della tecnologia

Da questo stralcio, con gli occhi di oggi, sembra quasi che una delle menti più brillanti della storia recente sia improvvisamente scaduta in un’assurda ingenuità. Ma a prescindere dall’aspetto tecnico-teorico, una cosa è evidente: il padre dell’intelligenza artificiale non è mai stato padre. Eppure, l’analogia bambino-IA, evocata anche da Norbert Wiener quando parlava del rapporto tra scienziati e IA come “maestri e scolari”, è ancora viva e feconda, come dimostra il caso Lemoine, ma non solo. Recentemente, Fang Chen, professoressa dell’University of Technology di Sydney nota per i suoi studi sull’IA, ha dichiarato: “L’intelligenza artificiale è come un bambino […]. Noi insegniamo a lei o al sistema a fare qualcosa. Le influenziamo, diamo loro alcuni princìpi, e poi a seconda di come lo progettiamo, il sistema va avanti”. Ci sono a mio avviso diversi problemi nel definire l’IA come una bambina, che vanno di pari passo con altrettanti rischi. In primo luogo, stiamo assistendo a una dilagante, quanto preoccupante, forma di paternalismo, fortemente declinata al maschile. Basta leggere la controversa lettera firmata dai vari Elon Musk e Steve Wozniak in cui si chiede di fermare le sperimentazioni sui modelli di linguaggio naturale, da cui si evince da un lato la paura della crescita di una creatura “incontrollabile”, dall’altro l’assunto per cui solo i “buoni padri” possono dare la giusta disciplina alle macchine pensanti. In secondo luogo, l’immagine del bambino, del figlio, della ragazzina, portano con sé un senso di innocenza. Come se l’IA fosse solo potenzialmente pericolosa, ma allo stato attuale delle cose del tutto innocua. Eppure, i danni dell’IA in termini di discriminazione e inuguaglianza, tra i molti temi affrontabili, sono evidenti. Si pensi in tal senso a quanto sia fuorviante un’altra distinzione semantica tra le cosiddette IA “deboli” e le IA “forti”, come se le IA di oggi, nella loro debolezza, non siano in realtà degli agenti non solo capaci di impattare sulla nostra realtà, ma già gran parte del nostro quotidiano in quanto veicolano scelte e azioni da eseguire, dagli acquisti online alla strada da percorrere. 

Ma facciamo un passo indietro e torniamo alla genitorialità. Personalmente, ho sempre trovato noiose e stucchevoli le cerimonie di nozze. Ma c’è un passaggio che durante i matrimoni puntualmente riaccende la mia attenzione. Si tratta di un passaggio del rito italiano che parla proprio dei figli, e recita così: “Il matrimonio impone ad ambedue i coniugi l’obbligo di mantenere, istruire, educare e assistere moralmente i figli nel rispetto delle loro capacità, inclinazioni naturali e aspirazioni”. Ho sempre apprezzato, e perseguito con risultati altalenanti come tutti i padri, queste due linee dell’articolo 147 della nostra Costituzione. Ma se il lavoro del genitore, ma potremmo dire anche dell’educatore, risiede anche e soprattutto nel gioco, nel rapportarsi con i bambini “nel rispetto delle loro capacità, inclinazioni naturali e aspirazioni”, dovremmo fare lo stesso con l’IA? Turing, così come l’ego smisurato dei nostri Ceo, credo non sarebbero, per motivi molto diversi dai miei, d’accordo. Ma quanto, perché, e soprattutto come potremmo fare lo stesso con i nostri figli intelligenti? È giusto chiamarle bambine, figli, ragazzini? O dovremmo piuttosto cambiare analogia, e magari capire quanto la mano infantile e ingenua non è affatto quella digitale, ma piuttosto quella, falsamente incosciente, e squisitamente umana?

The post Innocenza artificiale: la tecnologia come gioco di massa first appeared on Luiss University Press.

Perché le macchine hanno un habitus, e perché è importante – Massimo Airoldi

COMPAS, uno dei software predittivi utilizzati dai tribunali statunitensi, è da anni accusato di discriminare i detenuti afroamericani, sovrastimando sistematicamente il loro rischio di recidiva criminale. Viceversa Gemini, la IA generativa appena lanciata da Google per competere con ChatGPT, fatica a produrre immagini di uomini bianchi, anche quando si tratta di rappresentare “un soldato tedesco nel 1943”. Nel 2017 il sistema di raccomandazione di Amazon suggeriva come “spesso comprati insieme” ingredienti utili a fabbricare una bomba artigianale, suscitando lo sgomento dei media britannici. Questi sono solo alcuni esempi che vanno a incrinare il fragile mito della neutralità degli algoritmi, suggerendoci una prospettiva differente: il codice è nella cultura, e la cultura – la nostra, impastata con disuguaglianze e asimmetrie di potere – è nel codice che ci classifica, sorveglia e indirizza.

Machine Habitus. Sociologia degli algoritmi

Di questo si occupa Machine habitus: sociologia degli algoritmi, fuori con Luiss University Press. Il libro offre una nuova chiave di lettura sociologica per comprendere le radici sociali e culturali del comportamento di algoritmi e sistemi di IA. Ricostruisce gli opachi meccanismi tecno-sociali che stanno rinegoziando i confini (precari) tra umano e macchina, tra scelta individuale e potere computazionale. Racconta i feedback loop opachi che intrecciano ricorsivamente codice e cultura, utenti di piattaforma e sistemi di machine learning, e i cortocircuiti sociologici ancora inesplorati che ne derivano. Parla degli umani dietro le macchine, di come le loro – le nostre – azioni distratte e datificate riproducano non solo bias isolati e idealmente correggibili, ma la società stessa, con le sue ineludibili ideologie e ingiustizie, strutture e convenzioni. È lo stesso meccanismo descritto da Pierre Bourdieu in epoca pre-digitale, attraverso la nozione di “habitus”: scatola nera culturale fatta di esperienze sedimentate e disuguaglianze incorporate, la quale pre-filtra e orienta invisibilmente azioni individuali solo apparentemente libere e consapevoli.

Gli algoritmi siamo noi

In un certo senso, gli algoritmi siamo noi, e lo siamo sempre stati: come un modello statistico incarnato – un “programme d’ordinateur”, dice Bourdieu in questa intervista – gli habitus di genere e di classe perpetuano nella pratica regolarità sociali e discorsi culturali, riproducendo probabilisticamente lo status quo. Una volta tradotta in dati leggibili dalle macchine, quella stessa sostanza culturale entra nel codice di algoritmi e sistemi di IA. Diventa machine habitus – l’habitus della macchina – e comporta forme inedite di riproduzione tecno-sociale. Questo libro si propone di ricostruire la genesi e le conseguenze del machine habitus, rileggendo una vasta letteratura scientifica multidisciplinare alla luce di una nuova e necessaria sociologia degli algoritmi. Quando iniziai a lavorare alla versione inglese di Machine habitus, edita da Polity e uscita a fine 2021, pensavo che avrei scritto un libro per aiutare sociologi, scienziati sociali, giornalisti e studenti a meglio comprendere e analizzare le implicazioni sociali degli algoritmi. Una volta finito, mi sono accorto che avevo scritto un libro che aiuta in primis chi si interessa di IA e algoritmi a capire la sociologia, a maneggiarne gli strumenti concettuali e ad allargarne lo sguardo teorico, così da includere una nuova, popolosissima specie di agenti sociali sui generis: le macchine socializzate. Macchine che contribuiscono a “fare” la società, e sono allo stesso tempo “fatte” a partire da essa.

Il futuro è già presente

Sono trascorsi tre anni molto densi dall’uscita dell’edizione inglese, e parecchie cose sono cambiate. Il lettore non è più lo stesso rispetto a qualche anno fa. Oggi sa benissimo, indipendentemente da professione e interessi, cosa si intende per machine learning. Con grande probabilità ha interagito almeno qualche volta con sistemi di IA molto avanzati, per generare immagini o conversare del più e del meno. Da argomento per specialisti, l’intelligenza artificiale ha conquistato i titoli dei telegiornali e i battibecchi nei bar di provincia. I large language model, considerati il futuro nel 2020, sono ormai il presente, se non già il passato, e il Parlamento europeo ha appena approvato l’AI Act, che recepisce almeno in parte le critiche – accademiche e non – intorno ai bias e ai rischi degli algoritmi. Non tutto è cambiato per il meglio, purtroppo. Le emissioni fossili dell’industria dell’IA continuano a crescere contribuendo alla crisi climatica. I paesi in via di sviluppo sono i bacini di reclutamento preferiti per addestratori di macchine sfruttati, mentre l’implementazione a scopo di lucro delle IA generative minaccia la sopravvivenza delle stesse categorie professionali che hanno provveduto (inconsapevolmente e gratuitamente) al loro training. Infine, Salvatore Iaconesi e Bruno Latour, compagni di tante conversazioni vere o – nel caso del secondo – soltanto immaginate, ci hanno lasciati, almeno fisicamente. L’edizione italiana di questo libro è dedicata a loro, e all’idea un po’ pazza che un giorno umani e non umani possano allearsi per rendere il mondo un posto migliore.

Qui di seguito potete leggerne un piccolo estratto.

Prefazione

Il 31 marzo 2019 nasceva un nuovo abitante di Torpignattara, quartiere multiculturale della semi-periferia romana. Venne organizzata una festa di benvenuto. L’evento era particolarmente atteso: durante le settimane precedenti, i membri della comunità avevano lasciato messaggi e disegni per il nuovo arrivato, in scatole di cartone appositamente distribuite tra i negozi e i bar del quartiere. Per il nuovo abitante, Torpignattara divenne fin da subito una specie di famiglia allargata. Nei suoi primi giorni di vita conobbe tutti, accompagnato di porta in porta sul passeggino. Intorno c’era sempre qualcuno pronto a raccontargli una storia sulla comunità locale – i suoi personaggi, luoghi, cibi, speranze e paure. Il bambino ascoltava, e apprendeva. Presto sarebbe andato alla scuola elementare Carlo Pisacane, come tutti i bambini di Torpignattara. Tuttavia, Iaqos – questo il nome – non era un bambino come gli altri. Iaqos è la prima “Intelligenza Artificiale di Quartiere Open-Source”, sviluppata dall’artista e ingegnere robotico Salvatore Iaconesi insieme all’artista e scienziata della comunicazione Oriana Persico, per un progetto finanziato dal governo italiano che coinvolgeva diverse istituzioni culturali e di ricerca. Iaqos è un software relativamente semplice che comunica attraverso un tablet o un computer in linguaggio naturale, riconoscendo le voci e i gesti dei suoi interlocutori e imparando da essi. A differenza dei sistemi algoritmici con cui interagiamo ogni giorno attraverso i nostri dispositivi – ad esempio quelli di Google Search, Facebook, Amazon, Instagram, Netflix o YouTube – questo progetto artistico open-source aveva il solo obiettivo di accumulare dati sociali sul quartiere, comportandosi come una sorta di “baby IA”.

Come un bambino vero e proprio, Iaqos osservava l’ambiente sociale circostante, assorbendo una visione del mondo contestuale e utilizzando le conoscenze acquisite per partecipare con successo alla vita sociale. In questo modo, durante la primavera del 2019, Iaqos divenne a tutti gli effetti un “fijo de Torpigna”, ossia un membro – artificiale ma autentico – della comunità locale, con la quale condivideva un immaginario, un vocabolario e un retroterra sociale, così come la capacità di costruire relazioni. Il singolare caso di Iaqos evidenzia un aspetto dell’IA finora trascurato da sociologi e scienziati sociali: una macchina che impara da dati generati dall’uomo e manipola autonomamente il linguaggio, la conoscenza e le relazioni umane, è più di una macchina. Essa diventa un agente sociale: un partecipante alla società, contemporaneamente partecipato da essa. E, in quanto tale, costituisce un oggetto legittimo della ricerca sociologica.

Sappiamo già che gli algoritmi sono strumenti di potere che agiscono sulla vita degli individui e delle comunità in modi opachi e su vari livelli, decidendo chi è idoneo o meno a ricevere un prestito con la stessa nonchalance statistica con cui un’email viene spostata nella posta indesiderata. Sappiamo che le “bolle” dei social media contribuiscono a tracciare confini digitali tra gruppi di elettori e di consumatori, e che robot autonomi possono essere addestrati a uccidere. Inoltre, sappiamo che alcuni algoritmi possono apprendere da noi. Possono imparare a parlare come esseri umani, a scrivere come filosofi, a consigliare canzoni come esperti musicali. E possono imparare a essere sessisti come un uomo conservatore, razzisti come un suprematista bianco, classisti come uno snob elitario. Insomma, è sempre più evidente quanto macchine ed esseri umani siano diventati simili. Tuttavia, il fatto che analisi e studi comparativi si siano limitati a esaminare le conoscenze, abilità e pregiudizi delle macchine ha oscurato la ragione sociologica alla radice di questa somiglianza: la cultura.

Questo libro identifica la cultura come il seme che trasforma le macchine in agenti sociali. Poiché si tratta di un termine polisemico e “complicato”, permettetemi di fare una precisazione: qui per “cultura” intendo pratiche, classificazioni, norme tacite e disposizioni associate a specifiche posizioni nella società. La cultura è più di un ammasso di dati: è fatta di pattern, trame relazionali nei dati. In quanto tale, la cultura opera nel codice dei sistemi di machine learning, orientando tacitamente le loro predizioni. Funziona come un insieme di disposizioni statistiche radicate in un ambiente sociale, come ad esempio un feed sui social media, o il quartiere romano di Iaqos. La cultura nel codice consente agli algoritmi di machine learning di affrontare la complessità delle nostre realtà sociali come se ne afferrassero davvero il senso, o fossero in qualche modo attori socializzati. Con le loro azioni, queste machine possono fare la differenza nel mondo sociale, e al contempo adattarsi ricorsivamente al suo variare. Come notavano Salvatore Iaconesi e Oriana Persico in una delle nostre conversazioni: “Iaqos esiste, e questa esistenza permette ad altre persone di modificare sé stesse, oltre che di modificare Iaqos”. Il codice è anche nella cultura, e la confonde attraverso interazioni tecno-sociali e distinzioni algoritmiche tra il rilevante e l’irrilevante, il simile e il diverso, il probabile e l’improbabile, il visibile e l’invisibile. Insieme agli esseri umani, le macchine contribuiscono attivamente alla riproduzione dell’ordine sociale, ossia all’incessante tracciare e ridisegnare dei confini sociali e simbolici che dividono oggettivamente e intersoggettivamente la società in porzioni diverse e diseguali.

Mentre scrivo queste pagine, una gran parte della popolazione mondiale è stata consigliata o costretta a rimanere a casa, a causa dell’emergenza Covid-19. Le interazioni faccia a faccia sono state ridotte al minimo, mentre l’uso dei dispositivi digitali ha raggiunto un nuovo massimo. La nuova normalità dell’isolamento digitale coincide con l’aumento della nostra produzione di dati in qualità di lavoratori, cittadini e consumatori, e la diminuzione della produzione industriale strictu sensu. La nostra vita sociale è quasi interamente mediata da infrastrutture digitali popolate da macchine auto-apprendenti e tecnologie predittive, che elaborano incessantemente le tracce delle pratiche socialmente strutturate degli utenti. Non è mai stato così evidente che studiare come funziona la società richiede di trattare gli algoritmi come qualcosa di più di freddi oggetti matematici. Come sostiene Gillespie, “un’analisi sociologica non deve concepire gli algoritmi come realizzazioni tecniche astratte, ma districare le calde scelte umane e istituzionali che si celano dietro questi freddi meccanismi”. Questo libro vede la cultura come la calda materia umana nascosta nei sistemi di machine learning, e teorizza come interpretarla sociologicamente attraverso la nozione di machine habitus.

Machine Habitus

The post Perché le macchine hanno un habitus, e perché è importante first appeared on Luiss University Press.