Gli algoritmi usati dai social network possono discriminare. Dopo il caso del 2018 quando tre studiosi hanno dimostrato che su Instagram erano discriminate le donne per numero di like sulle foto e condivisioni, ora esplode un atro caso che coinvolge Twitter. Un ricercatore dell’università tecnica svizzera EPFL, Bogdan Kulynych, ha scoperto che un algoritmo chiave di Twitter favorisce i volti più chiari e giovani.
L’AI impara dall’uomo
Gli studi dimostrano come gli algoritmi non siano affatto neutrali, bensì ereditano i pregiudizi impliciti nei dati scelti per allenarli. Un fatto preoccupante che deve essere controllato perché gli algoritmi nei social network influenzano il nostro comportamento nel medio-lungo periodo.
L’Intelligenza artificiale impara dal mondo reale, pregi e difetti. I chatbot affinano ad esempio il loro vocabolario e linguaggio apprendendolo dall’interazione continua con gli esseri umani. Ebbene, dal mondo reale le macchine apprendono anche i pregiudizi. Quindi discernere e avere obiettività nell’AI è molto difficile.
Twitter sponsorizza il concorso
Occorre segnalare – per dovere di cronaca – che la scoperta del giovane studente è avvenuta in seguito a un concorso sponsorizzato dallo stesso Twitter per trovare problemi nell’algoritmo di “salienza” usato per ritagliare le foto sulla timeline. Il ragazzo ha ricevuto un premio di 3.500 dollari per aver scoperto questa discriminazione.
Già all’inizio dell’anno, Twitter stesso ha confermato che il suo sistema AI ha mostrato dei pregiudizi quando l’algoritmo di ritaglio ha favorito le immagini di persone bianche rispetto alle persone di colore. Ma il giovane Kulynych ha trovato altri problemi.
Le parole dello studente
Il modello di destinazione è orientato a ritenere più salienti le rappresentazioni di persone che appaiono snelle, giovani. Favorisce poi persone con la pelle chiara o calda, con una struttura più liscia e con tratti facciali più femminili, ha detto Kulynych commentando i suoi studi. Questo pregiudizio potrebbe portare all’esclusione di popolazioni minoritarie e alla perpetuazione di standard di bellezza stereotipati in migliaia di immagini.
Perpetuare uno stereotipo per n. volte
La parola “perpetuazione” associata a “stereotipati” fa particolarmente paura: considerando che c’è un totale di 1.3 miliardi di account Twitter e 330 milioni di utenti attivi mensili; e nell’immenso popolo di Twitter, il 63% di tutti gli utenti ha tra i 35 e i 65 anni: l’età media dell’utente italiano su Twitter è di 32 anni. Giovane, se pensiamo allo stereotipo che può perpetrare ai suoi figli e ai suoi nipoti. Come ci ritroviamo tra un decennio? Di fronte a una popolazione che predilige la pelle bianca e giovane? Razzismo e integrazione sono già questioni difficili da affrontare anche senza un algoritmo che privilegia le persone con la pelle più chiara.
Lo studio
Il sistema di Kulynych ha confrontato la salienza di una foto originale di un volto umano con una serie di variazioni generate dall’AI. Ha trovato che i punteggi di salienza spesso aumentavano quando i volti apparivano più giovani e più sottili. L’algoritmo ha anche emesso punteggi più alti per la pelle che risultava più liscia e con tonalità più calde.
La questione dei filtri
La quesione dei fltri di bellezza è collegata. Oggi, come ha precisato lo stesso social network, gli utenti utilizzano app di editing che applicano filtri di bellezza prima di condividere le foto con gli amici o sui social media. Questo modifica le aspettative, senza contare la continua ricerca (impossibile) della perfezione, soprattutto da parte dei più giovani.
Viste le conseguenze negative che possono avere questi “ritocchi”, molte aziende, tra cui Google, si stanno attivano per disabilitare alcuni comandi automatici nelle app.
Marta Fresolone