Insulti, minacce, “hate speech”: il volto pericoloso del World Wide Web. Siamo in mezzo ad un campo di battaglia, intenti a combattere una guerra virtuale. Le armi? Semplici tastiere. Ed è qui che entra in gioco Perspective.
Ultima creazione di Google, Perspective ha la funzione di ostacolare bufale ed odio online. Si tratta di una serie di librerie mirate alla censura delle offese sul Web. Ciò avviene tramite una rete neurale dall’apprendimento autonomo.
Il programma non si affida alle classiche black list. Esso è in grado di identificare termini offensivi o violenti, nonché il carattere di determinati post. È proprio questa la sua caratteristica più innovativa. Infatti, individuare singoli insulti è – relativamente – semplice. Rilevare il contesto in cui avvengono certe discussioni è, invece, ben più complesso.
Perspective è stato ideato da Jigsaw, compagnia di Google (precedentemente, Google Ideas). Il fondatore e presidente Jared Cohen sta avendo il suo bel daffare nel contrastare gli inevitabili dissensi. Alcuni, infatti, sostengono che Perspective non sarà mai in grado di cogliere le varie sfumature di una discussione. In poche parole, esso non avrà mai le funzioni di un moderatore in carne ed ossa.
Si teme che il programma possa diventare inflessibile nella sua opera di censura. In fondo, un moderatore umano è perfettamente in grado di capire quando, ad esempio, una parolaccia è detta con toni scherzosi. Una censura automatica è senza dubbio più pratica, ma c’è il rischio di arrivare ad una sorta di dittatura.
Gli “hate speech” devono essere fermati, e su questo siamo tutti d’accordo. Ma cosa ne sarà del “free speech”? È giusto dare alle discussioni sul Web un’impostazione più corretta e rispettosa, ma insieme al linguaggio offensivo potrebbe essere soppressa anche la libertà di parola.
Perspective, senza ombra di dubbio, gioverà all’opposizione alle bufale, altra piaga del Web. Per quanto riguarda la censura di insulti e minacce, staremo a vedere. Come al solito, il modo migliore per valutare l’utilità di qualcosa è sperimentare.
Veronica Suaria
