Intelligenza Artificiale e pregiudizi. Il documentario di Shalini Kantayya sulla sorveglianza digitale

0
587

Dal 5 aprile il documentario “Coded Bias”, presentato alla Milano Digital Week lo scorso marzo, è disponibile in tutto il mondo su Netflix. E offre una panoramica sulle conseguenze e sulle derive della sorveglianza digitale, a partire dai bias razziali.

Il film documentario diretto e prodotto da Shalini Kantayya è il racconto di una verità scomoda ed esistenziale: il problema dei dati. Realizzato nel 2020, vincitore del Sundance Film Festival nello stesso anno, è oggi disponibile su Netflix. Presentato a marzo alla Milano Digital Week, Coded Bias ha riscontrato un elevato interesse non solo per il tema trattato, ma anche per la scelta della personalità di rilievo che vi intervengono.

IL PROGETTO ASPIRE MIRROR DI JOY BUOLAMWINI

Un cast quasi esclusivamente femminile racconta di come la sorveglianza dei dati colpisca quelle che ancora oggi possiamo chiamare minoranze, quei gruppi non quantitativamente inferiori, quanto culturalmente indesiderati. Nuovamente donne e neri diventano soggetto di un racconto di soprusi, che ha origine da un progetto artistico, quello di Joy Buolamwini. L’informatica attivista digitale ghanese, naturalizzata statunitense, progettò nel 2015 Aspire Mirror, un dispositivo in grado di mostrare allo specchio le aspirazioni e le speranze del soggetto riflesso. Buolamwini non ebbe nemmeno il tempo di conoscere quali suggestioni l’apparecchio avesse ricevuto dal suo volto, perché questo non venne mai riconosciuto dal sistema da lei creato.

PREGIUDIZI ALGORITMICI E BIAS RAZZIALI

Così comincia Coded Bias: una maschera bianca sopra il volto di una donna nera. Potrebbe sembrare un revival del primo saggio di Frantz Fanon Black Skin, White Masks e forse lo è davvero, ma nell’era digitale. L’oggetto di studio è cambiato, eppure il processo è il medesimo, si tratta nuovamente di una colonizzazione, ma di dati, che non permettono allo specchio di Buolamwini di riconoscere la sua faccia.
Coded Bias è il primo documentario che, in maniera molto dettagliata, spiega quali sono le conseguenze legate all’automazione delle nostre pratiche quotidiane. In un’ora e mezza Shalini Kantayya è riuscita a illustrare i pregiudizi algoritmici, i bias razziali e la relazione tra Intelligenza Artificiale e potere. Oltre dieci testimonianze fanno riflettere su due questioni fondamentali: cosa comporta il fatto che l’Intelligenza Artificiale abbia sempre più controllo sulle nostre libertà, ma soprattutto quali sono i suoi pregiudizi?

Vittoria Mascellaro

Iscriviti alla nostra newsletter
CONDIVIDI