L’etica di Google e quell’ “atto di ritorsione” contro Timnit Gebru
In una realtà meritocratica il nome di Timnit Gebru sarebbe presente tra le pagine dei giornali per omaggiarne i meriti ed i riconoscimenti ottenuti. Invece, la scienziata e ricercatrice informatica laureatasi alla Stanford University, è oggi al centro dell’attenzione mediatica per essere stata licenziata da Google. Il motivo? Secondo quanto affermato dalla stessa Gebru, l’aver criticato l’approccio dell’azienda alle assunzioni di minoranze e il bias dei sistemi di intelligenza artificiale. Google, però, ha risposto all’accusa affermando che la ricercatrice si sarebbe dimessa.
A quanto pare, il manager del mio manager ha mandato una email dicendo di accettare le mie dimissioni. Io non ho presentato nessuna dimissione. Ho semplicemente richiesto una semplice condizione e comunicato poi che avrei risposto al ritorno dalle mie vacanze. Ma suppongo che abbia deciso lei per me:) che parli l’avvocato.
-Timnit Gebru su Twitter, 3 dicembre 2020
La controversia che ha causato la definitiva rottura dei rapporti tra Gebru e Google sarebbe stata la richiesta da parte di un manager senior di cancellare la sua firma da un documento di ricerca di cui Timnit Gebru è stata coautrice.
Il documento presentava un’aspra critica verso le questioni etiche e la potenziale pericolosità dei recenti progressi dell’intelligenza artificiale, tra cui i costi ambientali ed i rischi legati ai sistemi informatici che analizzano database di linguaggio umano. Ambito che lo stesso Google ritiene di assoluta importanza per il futuro del business. Timnit Gebru si è rifiutata di togliere il suo nome dal documento.
La ricercatrice, il cui nome è ben noto tra i dipendenti di Mountain View, non è nuova a ricerche di questo tipo. Co-leader del team etico dell’intelligenza artificiale di Google, ha sempre mostrato la sua eccezionale competenza, in particolare nei bias di data mining.
Ritratto di una ricercatrice di talento
Timnit Gebru ha iniziato la sua carriera con un dottorato di ricerca in computer vision presso lo Stanford Artificial Intelligence Laboratory . Si è subito fatta notare dagli esperti del settore, contribuendo anche allo sviluppo dell’algoritmo utilizzato dalla Apple nel primo IPad. Nel 2017 ha vinto un premio alla Capital Vision Summit competition. Ha collaborato con il gruppo di ricerca Gender Shades del Massachussets Insitute of Technology. E nel 2019 ha vinto l’ AI Innovations Award nella categoria AI for Good per una ricerca in cui ha portato alla luce i pregiudizi razziali e di genere presenti nei software di riconoscimento facciale. Una specializzazione nelle discipline scientifico-tecnologiche dedicata all’approccio etico delle AI. Una carriera promettente che le ha permesso di guadagnarsi collaborazioni, fra gli altri, con Apple, Microsoft Research e Google.
A capo del team etico di Google, il compito principale della ricercatrice era quello di evitare che i sistemi di intelligenza artificiale, applicati al linguaggio automatico, racchiudessero modalità discriminatorie verso una determinata sfera socio-culturale. Per questo appare così ingiusto che il motivo che ha permesso a Gebru di operare nel team Google sia stato alla fine la sua condanna ad esserne esclusa.
Lettera aperta dei ricercatori contro Google
A sostegno della scienziata, una lettera aperta da più di 1200 ricercatori e accademici. Molti di essi appartenenti alla stessa società di Mountain View che, secondo i firmatari, avrebbe condotto una censura alla ricerca senza precedenti. Un vero e proprio “atto di ritorsione” contro Timnit Gebru che non fa onore ad una potenza mondiale come Google.
Lo ha sostenuto anche Joy Buolamwini, ricercatrice del Massachusetts Institute of Technology che ha collaborato con Gebru allo studio sul riconoscimento facciale del 2018.
Espellerla per aver avuto l’audacia di difendere l’integrità della sua ricerca compromette gravemente la credibilità di Google nel campo dell’etica dell’IA e l’auditing algoritmico.
I meccanismi celati dietro a questa storia non riusciremo mai a conoscerli del tutto. Ma forse l’unica verità su cui possiamo riflettere sta proprio nel concetto di integrità.
Da un lato, la scienziata Timnit Gebru che sulla trasparenza scientifica ha fondato la sua identità professionale. Dall’altro, una delle maggiori potenze mondiali in cui il rispetto etico viene continuamente monitorato, a patto che non incida sul fatturato.
Carola Varano
