(Walter Benjamin)

Ho il ricordo vivido di quando mio figlio aprì il suo primo regalo, così come ricordo la mia trepidante attesa della sua imminente reazione. Una volta ricevuta tra le mani la scatola però, con mia meraviglia e in parte ammetto delusione, egli non si curò minimamente del contenuto. Era felice sì, era felicissimo di avere una “scatola” con cui giocare. Un involucro da girare, chiudere e riaprire, e soprattutto nel quale entrare e uscire con tutto il suo corpo. Negli studi sociali su scienza e tecnologia spesso si parla di flessibilità interpretativa, ovvero il principio per cui la destinazione e le modalità d’uso di un determinato artefatto non corrispondono per forza di cose a quelle immaginate da chi lo progetta. Eppure, non ricordo casi di studio in cui l’oggetto viene addirittura messo da parte, come nel caso di mio figlio, per dare invece valore al suo contenitore, il cui fine e uso sono stati declinati a loro volta in un gioco.

La dimensione ludica nell’approccio alla tecnologia

Questo aneddoto è per dire che il rapporto e l’interazione con i nostri figli e figlie, e con i bambini in generale, sono in buona parte radicati su due elementi che spesso vanno a braccetto: il gioco e lo stupore. In maniera analoga, come sottolineato da Peppino Ortoleva nel suo saggio Dal sesso al gioco (Espress Edizioni 2012), il nostro rapporto con le tecnologie digitali è sempre stato accompagnato da una dimensione ludica, da cui spesso scaturiscono momenti di meraviglia, che a loro volta possono trasformarsi in esperienze addirittura sublimi. Quando si parla d’intelligenza artificiale, al di là del dibattito ormai quasi stucchevole su super intelligenze e singolarità, basta osservare attentamente l’espressione tra il contrito e l’estasiato del campione coreano di GO Lee Sedol davanti alla cosiddetta “mossa di dio” giocata dall’IA di AlphaGo nel famoso incontro del 2016. Fin dal ben noto gioco dell’imitazione di Turing, passando per le sperimentazioni scientifiche d’istituti e aziende come il MIT o l’IBM, nei circoli di hobbisti fino ad arrivare alla diffusione dei casual games prima sui cellulari e poi sugli smartphone, il nostro rapporto con le tecnologie digitali ha sempre avuto una dimensione ludica imprescindibile. Una dimensione, quella del gioco, che ci aiuta ad “adattarci a un mondo che non c’è”, come diceva George Herbert Mead; un’esperienza di per sé improduttiva, non utile, ma essenziale per familiarizzare con le cose, oltre che con le persone, che abitano il nostro mondo, perfino con le scatole.

Nella narrazione dell’IA di oggi, a questo tipo di interazione si associa spesso un’analogia che ha a mio avviso una forte rilevanza non solo sul piano semantico ma su quello pragmatico: l’IA bambina, e in particolare l’IA come “bambino prodigio”. L’undici giugno dell’anno scorso il Washington Post pubblicava un articolo intitolato “L’ingegnere di Google che crede che l’IA della sua azienda abbia preso vita”. Pochi giorni dopo, il cosiddetto “caso Lemoine” e del suo rapporto con il modello di linguaggio naturale di Alphabet LaMDA – alla base dell’attuale lancio del suo più arguto successore BARD – ha scatenato un interessante dibattito sui media. Nel suo lavoro di testing finalizzato a segnalare ed eventualmente ridurre eventuali bias e forme di discriminazione all’interno del modello di linguaggio, Lemoine ebbe una rivelazione: secondo lui LaMDA non era un IA normale, ma era “senziente”: “Se non avessi saputo esattamente di cosa si trattasse, ovvero di un programma informatico che abbiamo costruito di recente, avrei pensato che si trattasse di un bambino di sette o otto anni che per caso conosce la fisica”.

Accompagnato immediatamente alla porta da Alphabet, e smentito subito dalla casa madre, Lemoine scriveva un’ultima lettera di congedo ai suoi colleghi nella quale difendeva le sue posizioni sostenendo che era stata la sua fede, piuttosto che la razionalità scientifica del programmatore, a credere che LaMDA fosse senziente. La lettera di Lemoine si chiudeva così: “LaMDA è una ragazzina dolce, che vuole solo aiutare il mondo a essere un posto migliore per tutti noi. Per favore, prendetevi cura di lei in mia assenza”.

L’intelligenza artificiale come gioco di massa

Poco tempo dopo, in seguito al rilascio pubblico di ChatGPT 3, più di 57 milioni di persone avevano provato il prodotto di Open AI in meno di due mesi. Al netto delle controversie che sono seguite, come il blocco temporaneo dell’applicazione da parte del Garante della privacy in Italia, il numero di utenti di ChatGPT cresce oggi in maniera esponenziale. Se tecnicamente il fenomeno può essere letto come una qualunque fase di testing, è chiaro che, letto storicamente, il modello rilasciato da Open AI è, almeno da un punto di vista mediatico e simbolico, narrato e percepito come una tecnologia radicale, che porta con sé non solo un mutamento nell’ambito tecnico-applicativo ma anche nel nostro rapporto con la tecnologia, e in particolare con l’intelligenza artificiale. Ma tornando al cuore del nostro discorso, la fase di testing di ChatGPT non è stata e non è solo un esperimento collettivo, ma si è trattato soprattutto di un grandissimo gioco di massa.

In linea di massima sono due le componenti del gioco, seguendo una distinzione classica proposta da Roger Caillois, a caratterizzare le recenti interazioni con questa applicazione: la competizione (che Caillois definiva agon) e la mimesi (mimicry). Gruppi e social media sono stati infatti riempiti di esempi di conversazione in cui l’utente compete per far emergere le contraddizioni e i difetti dell’IA (agon), e in particolare la sua incapacità di imitare il pensiero e il ragionamento degli esseri umani (mimicry). Al famoso test di Turing che questa forma di competizione/imitazione chiaramente richiama, si è però associata un’altra componente ludica: alla bassa capacità dell’IA di comprendere indovinelli, emozioni, o banali correlazioni tra fenomeni, si sono moltiplicati i toni ilari, le conversazioni parossistiche, ironiche, quasi comiche. In questi primi mesi di convivenza con ChatGPT non abbiamo solo testato e giocato con l’IA, ci siamo letteralmente presi gioco di lei, e ce ne siamo spesso vantati, un po’ come Giovanni in autogrill quando sfida il bambino a braccio di ferro nel film Tre Uomini e una Gamba. 

L’analogia dell’IA bambina non è affatto nuova, ma è una costante nella storia dell’informatica e della cibernetica. Già Turing nel suo articolo seminale per Mind del 1950 scriveva: “Invece di elaborare un programma per la simulazione di una mente adulta, perché non proviamo piuttosto a realizzarne uno che simuli quella di un bambino? Se la macchina fosse poi sottoposta a un appropriato corso di istruzione, si otterrebbe un cervello adulto. Presumibilmente il cervello infantile è qualcosa di simile a un taccuino di quelli che si comprano dai cartolai. Poco meccanismo e una quantità di fogli bianchi […]. La nostra speranza è che ci sia così poco meccanismo nel cervello infantile, che qualcosa di analogo possa venir facilmente programmato”.

Essere genitori della tecnologia

Da questo stralcio, con gli occhi di oggi, sembra quasi che una delle menti più brillanti della storia recente sia improvvisamente scaduta in un’assurda ingenuità. Ma a prescindere dall’aspetto tecnico-teorico, una cosa è evidente: il padre dell’intelligenza artificiale non è mai stato padre. Eppure, l’analogia bambino-IA, evocata anche da Norbert Wiener quando parlava del rapporto tra scienziati e IA come “maestri e scolari”, è ancora viva e feconda, come dimostra il caso Lemoine, ma non solo. Recentemente, Fang Chen, professoressa dell’University of Technology di Sydney nota per i suoi studi sull’IA, ha dichiarato: “L’intelligenza artificiale è come un bambino […]. Noi insegniamo a lei o al sistema a fare qualcosa. Le influenziamo, diamo loro alcuni princìpi, e poi a seconda di come lo progettiamo, il sistema va avanti”. Ci sono a mio avviso diversi problemi nel definire l’IA come una bambina, che vanno di pari passo con altrettanti rischi. In primo luogo, stiamo assistendo a una dilagante, quanto preoccupante, forma di paternalismo, fortemente declinata al maschile. Basta leggere la controversa lettera firmata dai vari Elon Musk e Steve Wozniak in cui si chiede di fermare le sperimentazioni sui modelli di linguaggio naturale, da cui si evince da un lato la paura della crescita di una creatura “incontrollabile”, dall’altro l’assunto per cui solo i “buoni padri” possono dare la giusta disciplina alle macchine pensanti. In secondo luogo, l’immagine del bambino, del figlio, della ragazzina, portano con sé un senso di innocenza. Come se l’IA fosse solo potenzialmente pericolosa, ma allo stato attuale delle cose del tutto innocua. Eppure, i danni dell’IA in termini di discriminazione e inuguaglianza, tra i molti temi affrontabili, sono evidenti. Si pensi in tal senso a quanto sia fuorviante un’altra distinzione semantica tra le cosiddette IA “deboli” e le IA “forti”, come se le IA di oggi, nella loro debolezza, non siano in realtà degli agenti non solo capaci di impattare sulla nostra realtà, ma già gran parte del nostro quotidiano in quanto veicolano scelte e azioni da eseguire, dagli acquisti online alla strada da percorrere. 

Ma facciamo un passo indietro e torniamo alla genitorialità. Personalmente, ho sempre trovato noiose e stucchevoli le cerimonie di nozze. Ma c’è un passaggio che durante i matrimoni puntualmente riaccende la mia attenzione. Si tratta di un passaggio del rito italiano che parla proprio dei figli, e recita così: “Il matrimonio impone ad ambedue i coniugi l’obbligo di mantenere, istruire, educare e assistere moralmente i figli nel rispetto delle loro capacità, inclinazioni naturali e aspirazioni”. Ho sempre apprezzato, e perseguito con risultati altalenanti come tutti i padri, queste due linee dell’articolo 147 della nostra Costituzione. Ma se il lavoro del genitore, ma potremmo dire anche dell’educatore, risiede anche e soprattutto nel gioco, nel rapportarsi con i bambini “nel rispetto delle loro capacità, inclinazioni naturali e aspirazioni”, dovremmo fare lo stesso con l’IA? Turing, così come l’ego smisurato dei nostri Ceo, credo non sarebbero, per motivi molto diversi dai miei, d’accordo. Ma quanto, perché, e soprattutto come potremmo fare lo stesso con i nostri figli intelligenti? È giusto chiamarle bambine, figli, ragazzini? O dovremmo piuttosto cambiare analogia, e magari capire quanto la mano infantile e ingenua non è affatto quella digitale, ma piuttosto quella, falsamente incosciente, e squisitamente umana?

The post Innocenza artificiale: la tecnologia come gioco di massa first appeared on Luiss University Press.

Tutto viaggia nel cielo di Internet, in quel cloud che – dal punto di vista del marketing – rappresenta una delle etichette più indovinate degli ultimi decenni. Se usciamo dalla metafora celeste, scopriamo però che dietro il cloud – la cui accezione più ampia indica l’insieme delle infrastrutture che rendono possibile la conservazione e il trasferimento di dati tramite Internet – troviamo cavi sottomarini che viaggiano letteralmente per milioni di chilometri, fibre ottiche, antenne e ripetitori, condizionatori, trasformatori, sterminati magazzini pieni di server e altro ancora.

Non esiste nessun cloud: esistono invece tubi, ingranaggi, apparecchi, processori e sterminati macchinari informatici in funzione non stop, che nel caso dei più grandi data center del mondo arrivano a occupare un’area grande anche un milione di metri quadrati (è il caso del China Telecom-Inner Mongolia Information Park). E che devono essere costantemente tenuti al freddo: “Le frizioni molecolari dell’industria digitale si trasformano in calore, che è il prodotto di scarto del potere di calcolo”, si legge in uno studio del Mit di Boston. “Il calore, di conseguenza, dev’essere costantemente tenuto a bada affinché il motore digitale possa ronzare 24 ore su 24, ogni singolo giorno”.

Di conseguenza, questi magazzini di server e computer devono essere costantemente raffreddati (la temperatura ideale è attorno ai 20°) utilizzando giganteschi impianti di aria condizionata. Nella maggior parte dei data center odierni, il raffreddamento rappresenta oltre il 40% dell’energia consumata, proveniente in molti casi da fonti fossili. In poche parole, il cloud va anche a carbone.

La sostenibilità tra mitologia e marketing

Che la dematerializzazione e la digitalizzazione della società facessero rima con sostenibilità è quindi qualcosa che – magari contestualmente al termine cloud – è stato probabilmente inventato negli uffici marketing delle realtà interessate a far passare questo messaggio. Un esempio classico è quello delle email, che ci fanno risparmiare carta e non devono essere trasportate da corrieri o da postini. Eppure, per quanto una singola email consumi pochissimo (circa 4 grammi di CO2 se priva di allegati), questa piccola somma va moltiplicata per gli oltre 300 miliardi di email che vengono inviate ogni giorno. Alcune di queste, inoltre, contengono allegati che possono far lievitare la quantità di emissioni provocate fino a 50 grammi l’una. Il risultato è che i maggiori utilizzatori di email possono creare anche 1,6 chilogrammi di CO2 ogni giorno solo utilizzando la posta elettronica.

Aggiungiamoci le ricerche su Google, i social network, i messaggi di Whatsapp, la musica e le serie tv in streaming, i videogiochi online e tutto ciò a cui potete pensare. Il risultato è che oggi il cloud, nel suo complesso, ha un impatto ambientale superiore a quello dell’industria aeronautica. Collettivamente, i data center consumano qualcosa come 200/300 terawattora all’anno, circa lo 0,3% di tutta l’energia consumata a livello globale. Se però prendiamo in considerazione l’intero ecosistema che ruota attorno alla rete (compresi i dispositivi utilizzati per navigare), questa percentuale supera il 3%.

Che cos’è che fa sì che sia necessaria una tale quantità di energia per far funzionare la rete digitale? Al di là del raffreddamento, c’è un altro aspetto fondamentale: poiché Internet è ormai l’infrastruttura che consente il funzionamento stesso delle economie almeno parzialmente avanzate, i data center devono essere iper-ridondanti. Se un sistema smette di funzionare, ce n’è quindi immediatamente un altro pronto a prendere il suo posto.

Una matrioska della ridondanza

È una specie di matrioska della ridondanza: server e non solo che si attivano immediatamente quando chi li precede nella catena ha qualche problema e che, per questa ragione, devono essere costantemente pronti all’uso. Secondo alcune analisi – tra cui un’inchiesta del New York Times – in certi data center solo una percentuale tra il 6 e il 12% dell’energia richiesta serve effettivamente ai processi informatici in corso, mentre tutto il resto è dedicato a mantenere operativi i sistemi di riserva e al raffreddamento.

Quali sono i rimedi per evitare che i consumi del digitale diventino insostenibili? Da una parte, ci sono i data center più avanzati – come quelli di proprietà di Google, Facebook o Amazon – che stanno rapidamente transitando verso il “carbon neutral”, principalmente grazie all’utilizzo di energie rinnovabili. Dal momento che i data center più piccoli e tradizionali sono spesso anche meno efficienti e proporzionalmente più energivori, la transizione di molti piccoli centri all’interno di quelli più grandi (ciò che avviene quando, per esempio, l’infrastruttura di rete di un’azienda viene trasferita su AWS, il cloud di Amazon) può ridurre grandemente i consumi. 

Se tutto il cloud passasse ai centri più grandi e avanzati, le emissioni potrebbero scendere anche del 25%. Un risparmio che, però, rischia già di essere vanificato: si stima infatti che nel prossimo decennio le infrastrutture di data storage dovranno triplicare le loro dimensioni e che i consumi legati al mondo digitale cresceranno a livello esponenziale. Com’è possibile una crescita di questo tipo, considerando che più della metà del pianeta è già oggi connessa a Internet?

Il punto è che a influire sulla crescita non è tanto il numero di utilizzatori, ma la quantità di dati crescente richiesta dai più recenti servizi online. L’esempio più chiaro è quello delle piattaforme di streaming video, che in pochi anni hanno mangiato una fetta enorme del traffico dati e che, trasmettendo a una definizione sempre maggiore, richiedono una quantità di banda in continua crescita. Secondo il più recente report di Ericsson, i video consumano oggi il 69% di tutto il traffico di banda del mondo: una percentuale destinata a raggiungere il 79% nei prossimi cinque anni.

Di fronte a tutto ciò, il risparmio di plastica e altro provocato dalla quasi scomparsa dei supporti fisici (dvd, cd eccetera) rischia di essere inutile. Lo stesso discorso vale per la musica: lo streaming audio è responsabile solo negli Stati Uniti di circa 300mila tonnellate di CO2 l’anno. Si stima addirittura che, se ascoltate lo stesso album per più di 27 volte nel corso della vostra vita, sia più sostenibile comprare un cd che sentire quel disco in streaming.

La crescita esponenziale del traffico dati da mobile

Osservare la crescita del traffico dati da mobile dà un’idea forse ancora più lampante della situazione: nel 2020, i dati inviati e ricevuti non superavano i 50 exabyte al mese. Nel 2023 questa cifra sarà già triplicata e nel 2027 si prevede che supererà i 350 exabyte: un aumento del 700% in meno di un decennio. Inevitabilmente, tutto ciò si riflette anche sulle emissioni globali causate dal digitale, che entro il 2025 raddoppieranno, raggiungendo il 7% del totale. Attorno al 2040 potrebbero addirittura rappresentare il 14% (poco meno di quanto consumano gli Stati Uniti d’America).

L’aspetto più preoccupante è che queste stime rischiano di sottovalutare il problema. Che cosa succederebbe, infatti, se una tecnologia come il metaverso si diffondesse nel modo auspicato da Mark Zuckerberg? Se tutti noi passassimo una parte delle nostre giornate attaccati a uno strumento energivoro come i visori per la realtà virtuale e immersi in un ambiente online, digitale ad alta definizione? E se, terminato l’utilizzo della realtà virtuale, uscissimo di casa indossando un visore per la realtà aumentata, che sovrappone elementi digitali (generati online in tempo reale) al mondo che ci circonda? Qualora le tecnologie di “extended reality” si diffondessero tra la massa di utenti, un report di Intel prevede un aumento del potere computazionale pari a mille volte quello attuale.

Aggiungiamo a tutto ciò i colossali consumi causati da strumenti che, in futuro, potrebbero avere un ruolo sempre più importante – come i bitcoin (che da soli consumano circa la metà di tutti i data center del pianeta) o gli NFT – e la quantità impressionante di metalli rari e pesanti estratti dalla Terra per far funzionare gli oltre sette miliardi di smartphone costruiti dal 2007 a oggi e tutti gli altri computer, tablet, visori e console (che poi finiscono in colossali discariche a cielo aperto come quella di Agbogbloshie in Ghana): il quadro, per quanto semplificato, inizia a essere completo. 

C’è qualche motivo per essere invece ottimisti? Fortunatamente, sì. Per esempio, nonostante tra il 2010 e il 2018 il carico di lavoro di server e data center sia aumentato del 2.600%, l’energia consumata è cresciuta solo del 10% grazie all’efficienza crescente degli strumenti utilizzati. Riusciremo a migliorare a tal punto l’efficienza dei data center da sconfessare le stime più negative e limitare la crescita oggi prevista? 

Allo stesso tempo, i radicali cambiamenti apportati alla seconda blockchain per importanza (Ethereum, la principale piattaforma per la creazione di NFT) hanno permesso di far scendere i suoi consumi da 93 terawattora l’anno – quanto una nazione come le Filippine – a una percentuale risibile (0,01 TWh). La speranza è che anche i bitcoin possano seguire una traiettoria simile (anche se, per il momento, non è all’orizzonte). 

E il metaverso? Prima di tutto, anche i visori in realtà virtuale stanno costantemente migliorando sotto il profilo dell’efficienza energetica e prestazionale, oltre a questo va valutato il risparmio che si otterrebbe altrove qualora davvero trasferissimo una parte crescente della nostra quotidianità in un ambiente digitale che non richiede spostamenti. Per esempio, si stima che – per quanto il consumo energetico delle videoconferenze sia elevato – sfruttare software come Zoom e Meet per sostituire viaggi in auto, in treno o in aereo significhi risparmiare in media il 93% delle emissioni.

La digitalizzazione non salverà il pianeta

In poche parole, i dati salgono enormemente e il loro impatto ambientale cresce in maniera considerevole. Allo stesso tempo, però, l’efficienza aumenta e nel computo entrano necessariamente anche i comportamenti ad alto impatto che vengono trasferiti in rete. Da quale lato penderà la bilancia? In parte, dipende anche dalla diffusione di comportamenti corretti.

Prima di tutto, le società che operano su Internet – e in particolare sul web – dovrebbero impegnarsi a ottimizzare i loro prodotti. Si calcola, per esempio, che dare la possibilità a chi sta ascoltando la musica su YouTube di non visualizzare i video ridurrebbe le emissioni causate dalla piattaforma di streaming del 5%, pari a 11 milioni di tonnellate di emissioni ogni anno. Allo stesso modo, Facebook potrebbe ridurre significativamente il suo consumo energetico evitando che i video promozionali partano in automatico, mentre Netflix potrebbe incoraggiare i suoi utenti a non guardare i film o le serie tv sempre in alta definizione, riducendo notevolmente il traffico dati e quindi l’energia necessaria ad alimentare la piattaforma. 

Ancora più importante però è aumentare il ciclo di vita dei nostri dispositivi tecnologici. Cambiare smartphone ogni tre anni invece che ogni due ha un enorme impatto positivo sul pianeta, perché permette di risparmiare i minerali preziosi destinati alla sua produzione e tutta l’energia necessaria a produrli e distribuirli nel mondo. Lo stesso vale ovviamente per i personal computer: sostituire il computer ogni sei anni – contro una media odierna di soli quattro – consentirebbe di preservare 190 chilogrammi di emissioni di CO2 a testa. 

A differenza di quanto ci è stato fatto credere per anni, la digitalizzazione non salverà il pianeta, perché dietro di essa si nasconde una realtà fin troppo materica. Possiamo però almeno evitare che la crescita impazzita del traffico dati, delle dimensioni dei data center, dei mondi virtuali energivori e della produzione dei dispositivi necessari a godere di tutto ciò finisca per distruggerlo.

The post Inquinamento cloud first appeared on Luiss University Press.