I computer si ribelleranno? RaggrupPate in una sola – le domande – sono davvero tante e diverse. I computer diventeranno l’intelligenza dominante sul pianeta e prenderanno il nostro posto? Cosa significa essere “dominanti“? I computer e gli umani saranno in conflitto? Questo conflitto sarà violento? I computer intelligenti prenderanno lavoro e risorse dagli umani?
La maggior parte degli esperti di IA concordano sul fatto che i computer finiranno per superare gli umani nella capacità di pensare. Ma poi, nascono, inevitabilmente, ancora più domande. Quando accadrà? Come sarebbe “superare gli umani nella capacità di pensare“? L’intelligenza dei computer sarà esattamente come l’intelligenza umana, solo più velocemente? Oppure sarà radicalmente diverso?
Sebbene i sistemi di intelligenza artificiale di oggi abbiano notevoli capacità non “pensano”, in alcun senso generale della parola. Di conseguenza, oggi usiamo i termini come AGI (Intelligenza Generale Artificiale) e Intelligenza artificiale intensa per differenziare l’idea del vero pensiero dai sistemi di intelligenza artificiale attuali che hanno capacità tremende. Ma con una portata più limitata. Sta di fatto che con l’avvento dell’AGI, emergeranno molti nuovi rischi. Prima di esplorarli, è opportuno considerare quando in futuro questo potrebbe accadere.
Quando avrà avvio l’AGI?
Prima di quanto si pensi! Due sono i motivi per cui non è già avviata:
- Creare la potenza computazionale necessaria per AGI
- Capire quale software scrivere per AGI
Gli esperti di IA hanno elaborato diverse stime sul potere computazionale del cervello umano e ipotesi sull’aumento della potenza di calcolo delle CPU. Le linee alla fine si incrociano in una “singolarità” (coniata da Ray Kurzweil) con CPU che superano il cervello in termini di calcolo. La Singolarità descritta da Kurzweil prevede che presto, tra una ventina d’anni, lo sviluppo tecnologico ci porterà alla rottura degli equilibri del passato: una svolta storica che avverrà quando avremo il totale controllo non solo della biologia e della natura, quindi daremo avvio a una fase nuova dello sviluppo umano.
I robot di Boston Dynamics esibiscono già movimento fluido e coordinazione che noi umani ricaviamo dai 56 miliardi di neuroni del nostro cervelletto, il 65% della capacità computazionale del nostro cervello. I robot riescono a farlo con poca CPU, non perché queste superano la potenza di calcolo di 56 miliardi di neuroni, ma semplicemente perché i progettisti conoscono la fisica, le forze e possono scrivere software in modo più efficiente rispetto al trial-and-error / learning approccio usato dal tuo cervello.
La maggior parte delle persone considera i limiti dei moderni sistemi di intelligenza artificiale come prova del fatto che l’AGI è molto lontana. Mi permetto di dissentire. AI utilizza già la maggior parte dei pezzi necessari di AGI, semplicemente non lavorano ancora bene insieme.
Tuttavia sarebbe opportuno pensare seriamente a come può essere un sistema AGI, quali preoccupazioni dovremmo avere e come prepararci. Noi umani probabilmente perderemo la nostra posizione di “pensatore più grande” del pianeta, ma abbiamo il pieno controllo sui diversi tipi di macchine che prenderanno il “comando”.
Coesistenza pacifica
La maggior parte dei conflitti umani sono causati da bisogni e preoccupazioni umani istintivi. Se una “tribù” non ottiene le risorse o l’espansione di cui ha bisogno, potrebbe essere disposta ad andare in guerra con la sua vicina tribù per ottenerle. All’interno della tribù ogni individuo ha bisogno di stabilire uno stato personale nella “gerarchia” ed è disposto a competere per stabilire una posizione migliore.
Siamo tutti preoccupati di provvedere a noi stessi, ai nostri compagni e alle nostre famiglie e siamo spesso disposti a sacrificare il benessere a breve termine per il futuro a lungo termine di noi stessi e della nostra progenie, anche se questo crea conflitto oggi.
Queste fonti di conflitto tra gli umani sembrano inappropriate come fonti di conflitto con le macchine. Le macchine pensanti non saranno interessate al nostro cibo, ai nostri compagni o al nostro tenore di vita. Saranno interessati alle proprie fonti energetiche, alle proprie fabbriche “riproduttive” e alla propria capacità di progredire nella propria direzione. Nella misura in cui le risorse o “ordine gerarchico” sono fonti di conflitto, le macchine pensanti hanno più probabilità di competere tra loro che non sono in concorrenza con la popolazione umana.
A lungo termine, seguendo questo scenario, i problemi dell’umanità saranno messi sotto controllo attraverso decisioni computerizzate. I computer AGI organizzeranno soluzioni per la sovrappopolazione, la fame, le malattie e la guerra, e questi problemi diventeranno obsoleti. I computer ci aiuteranno inizialmente perché sarà la loro programmazione di base e in seguito vedranno che è nel loro stesso interesse avere una popolazione umana stabile e pacifica. I computer gestiranno tutta la tecnologia, l’esplorazione e l’avanzamento.
La rivolta dei computer
Quindi assisteremo alla rivolta dei computer? Sì, nel senso che diventeranno l’intelligenza dominante sul nostro pianeta – il juggernaut tecnologico è già in corso. È anche probabile che se non risolviamo le nostre molteplici calamità in sospeso (sovrappopolazione, inquinamento, riscaldamento globale, risorse in esaurimento), le macchine pensanti le risolveranno per noi con azioni che potrebbero sembrare bellicose ma in realtà sono le conseguenze dirette della nostra stessa inazione.
Tutti gli scenari elaborati sono basati sull’attuazione di misure di salvaguardia appropriate. Ci si aspetta che gruppi come il Future of Life Institute siano efficaci nel dirigere lo sviluppo dell’AGI in un territorio più sicuro. Ma con la comprensione di come AGI funzionerà, possiamo prevedere le insidie future e sarà possibile evitarle.
Felicia Bruscino
