Uno dei problemi presentati dal diffondersi dell’intelligenza artificiale nei luoghi di lavoro è quello di un’armonica e proficua convivenza con i lavoratori, specie se questi utenti che dovrebbero giovarsi dell’assistenza dei sistemi intelligenti non sono molto esperti in materia. La soluzione ovviamente non può essere fare un corso avanzato su come “pensa” un sistema di IA a ogni lavoratore, ma dovrà necessariamente essere la tecnologia a diventare più amichevole, interessante quindi la notizia che arriva dal Georgia Institute of Technology dove è stato realizzato un agente di intelligenza artificiale che si spiega a parole motivando in tempo reale le azioni che ha intrapreso.
Upol Ehsan un dottorando della Scuola di interactive computing definisce democratizzazione dell’intelligenza artificiale questo intento di renderla accessibile a chiunque a prescindere dalle sue abilità tecniche.
La ricerca che è stata finanziata dall’Office of Naval Research (l’ente governativo di ricerca della marina e del corpo dei marines) è stata presentata lo scorso mese alla conferenza dell’Association for Computing Machinery’s Intelligent User Interfaces.
I ricercatori hanno condotto due studi congiunti in cui il focus della ricerca erano proprio le reazioni degli utenti, il primo studio analizzava la plausibilità delle “rationales” (motivazioni) e la percezione di esse degli utenti, il secondo analizza le preferenze degli utenti tra vari tipi di queste rationales espresse dall’intelligenza artificiale. Il risultato è stato che gli utenti preferiscono rationales più dettagliati perché permettono loro di farsi un solido modello mentale di come la IA prende le sue decisioni.
In particolare gli utenti hanno apprezzato la spiegazione dettagliata che forniva tutto il quadro generale del “ragionamento” della IA nel caso di errori o comportamento aberrante perché capire dove si è generato l’errore o il comportamento inaspettato permette all’agente umano di aiutare a sua volta la IA a migliorare e non sbagliare di nuovo e restituisce meglio l’idea che il processo sia a guida umana.
L’articolo che dettaglia la ricerca sarà presentato dallo stesso Ehsan alla conferenza Emerging Perspectives in Human-Centered Machine Learning workshop che si terrà a Glasgow dal 4 al 9 maggio prossimi.
Roberto Todini
