Alla Fondazione Prada di Milano fino a febbraio 2020 è in corso una mostra molto interessante dal titolo Training Humans concepita e realizzata da due figure impegnate a decifrare e a comprendere alcuni fenomeni chiave del nostro tempo. Kate Crawford, professoressa e ricercatrice, è molto attenta all’impatto sociale della gestione dati, dell’apprendimento automatico e dell’intelligenza artificiale ed è direttrice e confondatrice dell’AI Now Institute alla New York University. Trevor Paglen è artista, geografo, autore e giornalista investigativo americano e si occupa di sorveglianza di massa e raccolta dati. Insieme hanno dato vita a una mostra dedicata a immagini di training: repertori di fotografie utilizzate dagli scienziati per insegnare ai sistemi di intelligenza artificiale come vedere e classificare il mondo.
I due autori raccontano la storia delle immagini utilizzate per il riconoscimento di esseri umani nel settore della computer vision e dei sistemi di intelligenza artificiale analizzando due tematiche centrali. La prima riguarda la rappresentazione, l’interpretazione e la codificazione degli esseri umani attraverso dataset di training e le modalità con cui i sistemi tecnologici raccolgono, etichettano e utilizzano questi materiali. La seconda si concentra sui sistemi di classificazione basati sugli affetti e le emozioni supportati dalle teorie di Paul Ekman. Secondo lo psicologo la varietà dei sentimenti umani può essere ridotta a sei stati emotivi universali: paura, rabbia, tristezza, gioia, sorpresa e disgusto.
Come è possibile? Stando ai risultati delle sue ricerche le modalità di espressione facciale delle emozioni non sono determinate dalla cultura di un luogo o dalle tradizioni ma sono universali perché di origine biologica. Capite anche voi quale rischio corriamo se dipendiamo e veniamo etichettati da una macchina secondo questi sei stati emotivi. La mostra non si limita a raccontare ma si pone domande di tipo etico e morale indagando quali sono nel campo dell’IA i confini tra scienza, storia, politica, pregiudizio e ideologia e chi ha il potere di costruire questi sistemi traendone i relativi benefici.
Ancora una volta, guardando al prossimo futuro, vediamo su quale terreno paludoso ci muoviamo e iniziative come questa sono preziose per capire e creare consapevolezza. Ci rendiamo conto, ad esempio, di quale impatto sull’ambiente hanno l’IA e la raccolta dati? Ben Tarnoff qualche giorno fa sul «Guardian» diceva che la cosa migliore per comprendere la correlazione tra dati e clima è iniziare dall’apprendimento automatico. L’apprendimento automatico impara esercitandosi su un enorme quantitativo di dati, significa che per decifrare un volto deve prima guardare e immagazzinare un milione di immagini di facce umane.
Questo enorme processo di acquisizione dati avviene all’interno di enormi data center consumando moltissima elettricità e bruciando grandi quantità di combustibile fossile. Una recente ricerca dell’Università del Massachusetts ha rilevato che l’esercizio per l’apprendimento del linguaggio naturale – pensiamo agli assistenti virtuali come Alexa – produce una quantità di diossido di carbonio pari a 125 voli, andata e ritorno, New York - Pechino.
Soltanto Google conta 19 data center sparsi in tutto il mondo ed è proprio di questi giorni la buona notizia che l’azienda investirà 2 miliardi in energia rinnovabile in un’iniziativa che prevede 18 accordi separati per fornire a Google elettricità da progetti eolici e solari in tutto il mondo. Pensate che il più grande data center in assoluto è quello di Switch in Nevada che occupa 3,5 milioni di piedi quadrati più o meno 60 campi di football americano. Fate i conti e stupitevi dell’impatto del digitale sull’ambiente. Di certo, se non saremo intelligenti abbastanza, la digitalizzazione ci fagociterà. Più grande diventerà il mondo dei dati più piccolo sarà il nostro spazio vitale. La digitalizzazione è una minaccia per l’ambiente e il nostro spazio vitale.
