Nell’elaborare e trasmettere i dati fanno meglio di noi, ma usano un sistema di incentivi positivi e negativi e sono privi di una coscienza

Le tecnologie aiutano. In casa, in cucina, sul lavoro. Solo i computer però pensano a modo loro e comunicano in rete con altri computer. È la tecnologia che è progredita in modo più rapido. Le altre - case, automobili, elettrodomestici - si sono evolute proprio incorporando intelligenze artificiali. Il progresso dell’intelligenza artificiale ha permesso l’interazione con macchine pensanti ma ha anche cambiato il nostro punto di vista sul funzionamento della mente umana.
Nel 1671, Wilhelm Leibnitz inventa un sistema che fa le quattro operazioni con due soli numeri e realizza la prima macchina calcolatrice che riesce a sommare, sottrarre, moltiplicare e dividere. La capacità di calcolo per Leibnitz è la manifestazione più alta della Ragione.
Nel 1769, su suggerimento dell’imperatrice Maria Teresa d’Austria, Wolfgang von Kempelen costruisce il primo falso-automa, mostrandolo capace di giocare a scacchi, attività considerata il pinnacolo della razionalità. In realtà si tratta di un manichino vestito come un turco, da cui il nome di «Turco meccanico». Dentro è nascosto un uomo magro, abile giocatore. L’aspetto esotico e le sue presunte capacità, esibiti in tutte le capitali, facevano colpo e rappresentavano il mito del progresso. Negli Stati Uniti Edgar Allan Poe, che pur ne svela il trucco, lo definisce «la più meravigliosa invenzione dell’Uomo».
Nel 1836, Charles Babbage, matematico e inventore, presenta a una giovane, Ada Lovelace, la sua macchina in grado di eseguire calcoli complessi. Funziona con un software vero e proprio, registrato su schede perforate, con unità separate per la memoria e per il calcolo. Babbage, nella scia di Leibnitz, sognava una Ragione calcolante sovraumana. Ada Lovelace intuì invece per prima che «la macchina avrebbe potuto agire su altri oggetti oltre ai numeri … la macchina potrebbe comporre pezzi musicali elaborati in maniera scientifica, di ogni grado complessità e di lunghezza».
Nel 1944, Alan Turing e i suoi collaboratori costruiscono la prima macchina che non cerca di imitare la Razionalità umana dato che lo scopo è decifrare il codice bellico dei tedeschi. Si serve di un modello probabilistico che sfrutta, tra l’altro, la differenza di frequenze. In un messaggio criptato la probabilità che due lettere si trovino allo stesso posto è di circa il 2% mentre nella lingua tedesca è del 5%. Il computer non imita il pensiero umano e non capisce quel che fa. Deve far saltare i codici, cambiati ogni giorno. E ci riesce. Da allora lo sviluppo delle intelligenze artificiali sarà vertiginoso, anche grazie a internet. Di qui la minaccia presente nel libro di Bostrom, il timore che le macchine riescano a sopraffare gli uomini. A questo punto va fatta una distinzione. I computer, intesi come strumenti per l’elaborazione di masse enormi di dati e per la loro trasmissione, già fanno molto meglio di noi e hanno cambiato il panorama dell’economia, della finanza e persino la quotidianità di molti, per lo più giovani. Una volta iniziato, è difficile cambiare stile di vita. Le macchine possono anche imparare cose nuove, se adeguatamente alimentate. Utilizzano però un sistema primitivo basato su incentivi positivi e negativi, una procedura studiata dallo psicologo Burrhus Skinner a metà del secolo scorso. E tuttavia c’è un’altra capacità di cui i computer sono privi, come dichiara lo stesso Bostrom. Si tratta della coscienza, e cioè della possibilità di costruire modelli della mente al lavoro e modelli dei modelli altrui. Senza auto-riflessione, senza coscienze incrociate, niente libero arbitrio, intenzioni, scherzi, ironie, emozioni condivise.
Nella fantascienza le super intelligenze che funzionano sono cattive, come HAL 9000 in 2001 Odissea nello spazio, il film di Stanley Kubrick del 1968. Se invece ce ne innamoriamo, come in Her di Spike Jonze (2013), casca il palco. Come essere turbati, gelosi, trepidanti, avendo a che fare con una mente inconsapevole di sé? Lunghissima è la strada da fare per sostituire non dico una segretaria-angelo custode di cui innamorarsi (anche soltanto una voce premurosa come in Her), ma soltanto un cortese cameriere. Più semplice eliminare i lavori simili a quelli dei ragionieri o dei campioni di scacchi, eredi della Ragione calcolante di Leibnitz.
Una volta fui incaricato di selezionare i candidati alla scuola superiore Sant’Anna di Pisa. Tutti bravissimi, studenti di liceo eccezionali. Andavano quindi filtrati con compiti difficilissimi che inventai insieme a Johnson-Laird e Girotto. Gli errori di ragionamento avevano delle tendenze sistematiche ma non erano sempre uguali. Immaginate di progettare un computer capace di interagire con ciascuno di questi studenti. Prima dovrebbe imparare le caratteristiche intellettuali di ogni studente e le sue fluttuanti emozioni. Her, per esempio, non capisce né la gelosia né il desiderio. Sulla rivista Science (21-4-2000) mostrammo come l’intelligenza artificiale sia più lineare e semplice della nostra stupidità naturale.
Nick Bostrom, Superintelligenza. Tendenze, pericoli, strategie , Bollati Boringhieri, Torino
Paolo Legrenzi - IlSole24Ore