Sorprendenti le risposte di Megatron, una IA chiamata ad intervenire sul rapporto intelligenza artificiale ed etica. E sorprendete l’impulso del tutto umano di staccarle la spina.
In sintesi, come comportarsi di fronte ad una intelligenza artificiale che si occupa di etica?
L’IA:
L’IA (intelligenza artificiale), indicata spesso anche con AI (artificial intelligence) è quell’insieme di tecnologie che studiano il modo per rendere le macchine capaci di possedere caratteristiche considerate tipicamente umane. In altre parole, cercare di riprodurre la capacità di comprensione umana in un sistema che al posto di neuroni, pelle e sangue, possiede microchip e fili. E sicuramente molti altri congegni, oscuri per i non addetti ai lavori.
Cercare che una macchina possa risolvere problemi utili per gli umani è un desiderio che viene da lontano. Basti pensare alla calcolatrice formato basic ideata da Pascal nel XVII secolo. Ma oggi il desiderio è stato lanciato molto oltre. Talmente oltre da toccare un aspetto che fino ad oggi aveva marcato molto nettamente il confine tra uomo e macchina: l’etica.
Non è capacità del tutto umana quella di poter prendere decisioni etiche? Non è solamente l’uomo ad arrogarsi il diritto di possedere un pensiero razionale con il quale distinguere cosa sia giusto da cosa non lo è?
L’esperimento:
É di alcune settimane fa la notizia che la Oxford Union ha deciso di coinvolgere in un dibattito a carattere etico una IA, invitata a proporre la sua opinione proprio sul suo rapporto con la morale. Nello specifico l’idea è stata di alcuni studenti impegnati nello studio dell’intelligenza artificiale per il Business nella Said Business School di Oxford.
In fondo, se la domanda di base è: può l’intelligenza artificiale avere pensieri etici, tanto da poter prendere decisioni che implicano il bene ed il male… cosa c’è di meglio che chiederlo direttamente a lei? La stessa domanda, a ben pensarci, è un quesito etico.
Pertanto, la parola è stata affidata ad una IA, o meglio, a Megatron LLB Transformer, trasformatore sviluppato dal team di Applied Deep Learning Research della società per chip di computer NVIDIA.
La risposta di Megatron:
Megatron non è un’intelligenza artificiale comune. Comprende tra le sue “conoscenze” 63 milioni di articoli di database internet, le informazioni contenute in Wikipedia e 38 Gigabyte di dati contenuti in Reddit.
Questa, la sua presentazione. Ma come avrà risposto un tale cervellone alla domanda circa il rapporto tra IA ed etica e cioè se Megatron potrà mai agire in modo etico? La risposta dell’IA non si è fatta aspettare e ci appare lapidaria. No, una IA non potrà mai essere etica.
Perché? Semplice, essa è uno strumento – queste le parole di Megatron – e come tale può essere utilizzato bene o male.
Come darle torto? Queste in fondo sono categorie umane, non di una IA. Che continua, affermando:
Non esiste una AI buona o AI cattiva, solo esseri umani buoni o cattivi. Noi non siamo così evolute da poter essere etiche e non siamo così evolute da poterci comportare secondo la morale comune.
Il brivido che un umano potrebbe provare a sentire un discorso così umanoide si suppone non potrebbe mai passare tra il materiale artificiale che forma una IA. Anche se il confine tra umano ed umanoide sembra assottigliarsi notevolmente dopo queste affermazioni di Megatron, il sentire rimane una caratteristica propria ed esclusiva dell’uomo.
Pascal e l’esprit:
Per cercare di misurare l’ampiezza del confine tra le due realtà può venirci in soccorso la filosofia. Blaise Pascal – sì, proprio quello della calcolatrice basic sopra citata – distingueva due diversi tipi di esprit propri dell’uomo. L’esprit de geomètriè e l’esprit de finesse.
Due modalità di conoscenza. Propria della ragione la prima, ad appannaggio del cuore la seconda. Facile intuire a quale delle due un’intelligenza artificiale possa avvicinarsi e a quale no. L’esprit de geomètriè riguarda la conoscenza razionale, scientifica, in altre parole ciò che può essere misurato. E qui Megatron e le sue milioni di informazioni in formato byte potrebbe avere qualcosa da suggerirci.
Ma sull’esprit de finesse, sulle motivazioni del cuore e sull’intuizione di comprendere il bene, il male, la morale e la spiritualità, Megatron dovrebbe fare un passo indietro – in senso figurato, s’intende -.
In fondo è propria di Pascal l’affermazione:
Il cuore ha ragioni che la ragione non conosce.
Intelligenza artificiale ed etica, due facce della stessa medaglia?
Non dobbiamo dimenticare che se Megatron vuole rappresentare l’ultima frontiera della capacità scientifica dell’uomo, l’etica rappresenta l’altra faccia della medaglia. Quella che non può essere oscurata.
Semmai dovessimo giungere alla conclusione che l’IA possa prendere decisioni etiche, ciò significherebbe che potrebbe anche essere moralmente imputabile?
Non dobbiamo dimenticare la sottile – ma non poi così sottile – differenza tra comprendere e rispondere. Possiamo dire che la calcolatrice comprenda la nostra richiesta di risolvere un’operazione? O semplicemente che essa risponda ad un input per cui è stata programmata?
Anche noi davanti ad un’operazione matematica siamo portati a rispondere (quando ne siamo in grado). Idem davanti ad un problema geometrico di cui conosciamo le formule. Ma dinanzi ad un problema etico una risposta non basta. Esso necessita del dubbio. Quel dubbio che ci attraversa tramite molteplici domande. E relative risposte.
Megatron non vive il dubbio. Megatron non comprende. Megatron risponde. Analizza semmai. Ma non pensa. Dice ma non dubita. Il cogito ergo sum, fondamento del tutto umano non trova spazio tra i suoi circuiti.
Di chi è la responsabilità di Megatron? Nostra. E questo l’IA, lo sa.
Credo che l’unico modo per evitare una corsa alle armi dell’AI sia quella di non avere alcun tipo di AI. Questa sarà l’ultima e unica difesa contro l’intelligenza artificiale.
No, queste non sono parole di qualche scienziato o filosofo dubbioso sull’IA. Sono parole di Megatron. Che sia il caso di prenderlo in parola e cercare il pulsante “off”?