La mostra Training Humans presso l’Osservatorio Fondazione Prada

Training Humans: la mostra all’Osservatorio Fondazione Prada

Osservatorio Fondazione Prada ospita, fino al 24 febbraio, Training Humans, mostra concepita dalla studiosa Kate Crawford e dall’artista Trevor Paglen che riunisce repertori di fotografie utilizzate dagli scienziati per insegnare ai sistemi di intelligenza artificiale (IA) come “vedere” e classificare il mondo. Dagli anni Sessanta a oggi, l’esposizione segue un percorso cronologico che prende il via con le immagini utilizzate nei primi esperimenti in laboratorio di riconoscimento facciale computerizzato, finanziati dal 1963 dal Central Intelligence Agency (CIA) negli Stati Uniti, per arrivare all’avvento di Internet, che ha reso disponibili migliaia di immagini, spesso sfruttate all’insaputa dei loro autori o delle persone ritratte.

Training Humans: il lato oscuro dell’IA

Lavorare sulle modalità di training delle intelligenze artificiali è stato come scoperchiare un vaso di Pandora, hanno dichiarato Crawford e Paglen, il cui intento è mostrare come gli attuali sistemi continuino pratiche di classificazione sociale, sorveglianza e segmentazione che riecheggiano teorie quali l’eugenetica e la frenologia, dottrina ottocentesca secondo la quale, osservando la morfologia del cranio di una persona si potrebbe determinare la sua personalità. Tante le zone d’ombra evidenziate dagli autori, tanti gli interrogativi suscitati da Training Humans: negli ultimi sessant’anni la classificazione degli esseri umani attraverso l’intelligenza artificiale è divenuta, infatti, sempre più complessa e invasiva. Inevitabilmente – come ha ricordato Trevor Paglen – la descrizione delle persone si è trasformata in giudizio, con pericolose implicazioni sociali e politiche. Come si può, da una semplice immagine, valutare la personalità di un individuo, la sua salute mentale, la sua propensione a commettere crimini? Quali sono i confini tra scienza e ideologia nell’intelligenza artificiale? Chi ha il potere di costruire questi sistemi e trarne beneficio?

Training Humans: tra scienza e ideologia

Ha sottolineato Kate Crawford: «Così come ci sono categorie quali “dottore”, “politico”, “cheerleader”, ci sono anche categorie quali “alcolista”, “cleptomane”, “mentitore”, “perdente”… E si inizia a vedere la rottura tra ciò che le intelligenze artificiali dichiarano di saper fare e le zone d’ombra presenti all’interno del sistema. E questo è uno dei motivi che ci ha spinti a realizzare questa mostra: dare alle persone la possibilità di vedere qual è la logica che davvero sta dietro a questi sistemi e di comprendere che non c’è nulla di oggettivo, di neutrale. Molte categorie sono sbagliate, molte categorie non possono nemmeno essere visualizzate. C’è la fotografia di un uomo che è stato classificato come daltonico, ma che aspetto ha un daltonico? La nostra speranza è che le persone comincino a fare domande più pressanti circa i fondamenti su cui poggiano le intelligenze artificiali».

Info:
Osservatorio Fondazione Prada
Galleria Vittorio Emanuele II, Milano
www.fondazioneprada.org