Isaac Asimov e l'AI: spauracchio o etica per i robot?

Lo scrittore Isaac Asimov critica il fondamento morale alle tre leggi della robotica, proponendo un superamento della rigida divisione tra intelligenza umana ed artificiale. Le sue storie ci catturano a partire dagli occasionali malfunzionamenti di queste leggi, che riflettono la nostra ansia attuale riguardo al futuro dell’umanità alle prese con il progresso dell’intelligenza artificiale. Il principale timore riguarda la possibilità che l’AI rimpiazzi gli esseri umani e che l’umanità divenga schiava della propria creazione. La tematica dell’AI è significativa perché consente di riflettere sul proprio significato esistenziale per gli esseri umani.

di Alessandro Pizzo

Introduzione

Il presente scritto intende prendere spunto da alcuni racconti di Asimov i quali, pur con le dovute cautele, ci consentono di dare una risposta, sia pure provvisoria, alle inquietudini che l’attuale transizione digitale suscita in tutti noi. In modo particolare, lo scrittore indica lo stretto adito attraverso il quale provare a superare gli attuali sentimenti emotivi esperibili davanti all’emersione dell’intelligenza artificiale la quale, dal canto suo, mostra sempre più la capacità autonoma di apprendere e di decidere, il tutto senza la necessità di intervento da parte di agenti umani. Da qui la tendenza, più che comprensibile, a formulare un set di “principi morali” che i robot prima, e le AI adesso, dovrebbero nativamente seguire al fine di tutelare gli esseri umani. Ma il problema, a dire il vero, non è mettere a punto una vera e propria etica per le AI, quanto, e piuttosto, trovare un senso per gli uomini chiamati ad interagire con sistemi di AI. Nel presente scritto proverò a formulare un senso novellato per le intelligenze biologiche umane quando entrano in relazione con le intelligenze artificiali.

Le leggi della robotica

Nella raccolta antologica Io, robot, Asimov introduce le famose leggi della robotica[1], che riporto di seguito:

1) Un robot non può arrecare danno a un essere umano, né permettere che, a causa della propria negligenza, un essere umano patisca un danno;

2) Un robot deve sempre obbedire agli ordini degli esseri umani, a meno che contrastino con la Prima Legge;

3) Un robot deve proteggere la propria esistenza, purché questo non contrasti con la Prima o con la Seconda Legge.

È sicuramente vero che nella novellistica di Asimov gli agenti destinatari delle tre leggi sono dei robot dotati di un cervello positronico, ma è sicuramente accettabile considerare questi ultimi come delle metafore che anticipano i nostri attuali modelli di AI. Nel proseguo questa analogia verrà ripresa.

Peraltro, trattandosi di letteratura, i robot di Asimov sono anche espressione di modelli sostanzialmente antropomorfi, che simulano, entro certi limiti, il comportamento intelligente delle attuali AI.

Le tre leggi, però, assumono specificatamente le movenze di un codice morale, in ogni caso finalizzato alla tutela degli esseri umani.

Commentiamo quindi le tre le leggi. La seconda e la terza legge descrivono delle possibilità ulteriori rispetto al divieto assoluto formulato dalla prima legge. Infatti, mentre la prima stabilisce la gerarchia tra intelligenza biologica ed intelligenza artificiale nel senso di una subordinazione di quest’ultima alla prima, le altre due leggi descrivono le uniche possibilità ulteriori. Infatti, sulla base del divieto di arrecare direttamente ed indirettamente nocumento agli esseri umani, le AI devono ubbidire sempre al volere degli esseri umani ma senza violare la prima legge ed altresì possono tutelare la propria integrità fisica a condizione però che ciò non contrasti con le due leggi precedenti. Di conseguenza, un’AI non potrebbe, ad esempio, uccidere o mutilare un essere umano nemmeno se ciò le venisse ordinato da un altro essere umano. E nemmeno nell’ipotesi estrema di un danno collaterale derivante da una propria condotta finalizzata alla propria autoconservazione.

Sotto lo stretto profilo normativo, il sistema edificato dalle tre leggi appare di immediata percezione. L’ordine numerico, peraltro, ne indica una precisa gerarchia, la quale esprime, a sua volta, una soggiacente valutazione morale. Non ci si inganna se si immagina che la fonte di quest’ultima sia un censore umano e che l’intero codice morale svolga la specifica funzione di tutelare l’intelligenza umana naturale, ovvero la controparte più debole rispetto all’intelligenza artificiale. Nel caso di Asimov, i rapporti di forza appaiono oggettivi, dal momento che gli esseri umani si relazionano con robot capaci di ragionare e di prendere decisioni autonome; nel nostro caso, invece, gli stessi rapporti di forza appaiono più sfumati, dal momento che ci relazioniamo con algoritmi non direttamente esperibili. In entrambi i casi, la preoccupazione umana si concretizza nel prescrivere delle norme a tutela della specie umana, rinviando ad una specifica valutazione morale soggiacente alla lettera delle leggi. Prendendo in considerazione detta valutazione, potremmo certamente riscrivere le tre leggi nella maniera che segue:

1) Ogni AI tutelerà direttamente ed indirettamente le forme di vita biologiche umane;

2) Ogni AI servirà le forme di vita biologiche umane senza però mancare di tutelarle tanto direttamente quanto indirettamente;

3) Ogni AI tutelerà sé stessa senza però mancare di tutelare tanto direttamente quanto indirettamente le forme di vita biologiche umane e continuando a servire queste ultime.

Commentiamo, sia pure brevemente, questa nuova versione. Le leggi (1) – (3) appaiono tra loro coerenti: non sono ammesse deroghe od eccezioni di sorta. L’ideale ordinamento descritto, pertanto, dalle leggi (1) - (3) risulta completo: tutte le possibili fattispecie concrete vengono sussunte sotto le possibilità astratte previste. Infine, lo stesso sistema normativo descritto dalle leggi (1) – (3) si manifesta come chiuso: la coordinazione tra le fattispecie astratte e concrete possibili esaurisce il ventaglio di possibilità disponibili.

Prendendo in considerazione il complessivo risultante, appare innegabile come la razionalità complessiva manifesta sia credibile o sensata. Tuttavia, ciò è vero nella misura in cui si mettano a tacere i dubbi e le perplessità umane riguardo ad intelligenze aliene strutturalmente superiori. Pertanto, la legge (1), in fin dei conti, funge da vero e proprio architrave a tale desiderio consolatorio umano, ovvero è volta ad assicurare che la superiorità delle AI non prevalga sull’inferiorità delle forme di vita biologica umana. Perché mai altrimenti prevedere una simile prescrizione? Le AI, proprio perché superiori agli esseri umani, in termini di potenza di calcolo e di assenza di limitazioni fisiologiche, non devono arrecare danno a questi ultimi, devono obbedire loro e possono autoconservarsi a condizione però di non nuocere in alcun modo e di continuare a conformarsi agli ordini impartiti dagli esseri umani.

Per questa ragione, le tre leggi sono state ribattezzate nell’evoluzione narrativa di Asimov nei termini che seguono:

1) Sicurezza;

2) Servizio;

3) Autoconservazione.

Ed effettivamente la legge (1) esprime un criterio assoluto di sicurezza per le forme di vita biologiche umane. Invece, la legge (2) pone le AI al servizio delle forme di vita biologiche umane purché ciò non comporti una violazione della legge (1). Infine, la legge (3) consente alle AI dei residui margini operativi a condizione però che non confliggano con le precedenti leggi.

Nell’universo fantastico di Asimov, tuttavia, la cristallina razionalità delle leggi della robotica ammette svariate eccezioni. Sia chiaro però: il mancato rispetto di una delle tre leggi è, a dire il vero, un espediente narrativo che rende possibile lo sviluppo della trama dei racconti stessi. Questa stessa anomalia ha anche il fascino di descrivere non tanto la superiorità delle AI quanto, e piuttosto, la loro imprevista evoluzione. La violazione delle leggi della robotica da parte di alcuni cervelli positronici si verifica allora come l’eccezione anomala del processo di generazione delle unità robotiche, rivelando un bug nel codice morale degli stessi, e segnatamente quando le tre leggi devono trovare applicazione a fattispecie concrete.

Il punto, allora, diventa non più mettere a punto un codice morale che tuteli soggettività umane e soggettività artificiali, ma rilevare lo scarto tra le possibilità astratte previste dalle tre leggi e l’effettualità delle fattispecie concrete. Secondariamente, pertanto, si possono considerare globalmente i racconti di Asimov come la descrizione dei fallimenti occasionali delle leggi della robotica.

Le anomalie nel codice morale dei robot. Prima parte

In Circolo vizioso al robot Speedy viene ordinato di prelevare del selenio nei pressi di una fossa perché i due umani, Powell e Donovan, presenti su Mercurio hanno l’urgenza di riparare un guasto ai pannelli fotovoltaici che raffreddano i sistemi di una miniera. Inaspettatamente, però, il robot comincia a girare intorno alla pozza senza compiere alcun prelievo. Indagando, i due esseri umani scoprono che nella fossa è presente dell’attività vulcanica, la quale ha come effetto collaterale l’emissione di ossido di carbonio, dannoso per il robot. Il comportamento bizzarro di quest’ultimo viene, dunque, spiegato come la contraddizione tra diverse leggi della robotica. Infatti, Powell e Donovan non hanno previsto il rischio per l’incolumità del robot stesso, ordinando a quest’ultimo di compiere delle rilevazioni attorno alla fossa di selenio. Ma così facendo hanno indotto il robot ad un loop, vale a dire l’essere catturato in un irresolubile conflitto tra la seconda e la terza legge: contemporaneamente, Speedy deve obbedire agli esseri umani, e, quindi, prelevare il selenio dalla fossa, ma deve anche preservare la propria integrità, e, quindi, evitare il contatto con l’ossido di carbonio emesso dalla fossa di selenio. La situazione di stallo viene risolta quando uno dei due umani comincia a sentirsi male sul suolo di Mercurio e Speedy, accortosi del malore, bypassa il conflitto tra la prima e la seconda legge, attivandosi per rispettare la prima legge: soccorre l’umano in difficoltà. La trovata dei due esseri umani viene descritta da Asimov proprio nei termini di una messa alla prova della coordinazione tra le tre leggi, e segnatamente del fatto che la seconda e la terza non hanno la precedenza sulla prima[2].

Gli stessi protagonisti li ritroviamo in Essere razionale. Stavolta si trovano su una stazione spaziale il cui compito è quello di rifornire di energia il pianeta Terra. Per ordine di Susan Calvin, responsabile della US Robots and Mechanical Men Inc., devono collaudare un nuovo prototipo di robot. Si osservi come questi robot possano essere impiegati solamente al di fuori del pianeta Terra per ragioni di opportunità o di calcolo politico. Il compito dei due protagonisti è montare e controllare il funzionamento del nuovo robot della serie QT (QT-1), da loro chiamato Cutie. Subito però cominciano le stranezze.

Cutie dubita delle cose ovvie: non è un robot; non è stato creato da Powell e Donovan; non esiste un luogo chiamato Terra. Dopo aver gironzolato per la base, li rende edotti sulle risultanze delle sue elucubrazioni, e segnatamente che lui esiste perché pensa[2]. Il ragionamento seguito induce Powell a definirlo un robot Cartesio[3]. Dovendo dimostrare razionalmente ogni congettura, Cutie dimostra ai due esseri umani l’impossibilità di una loro costruzione, troppo inferiori per aver potuto assemblarlo. Di conseguenza, dev’esserci un altro creatore di ogni cosa. Tra l’irrisione e la crescente preoccupazione dei due collaudatori umani, Cutie espone infine la sua dottrina consistente nella credenza nell’esistenza di un Padrone che ha creato prima gli esseri umani e in seguito li ha sostituiti con i robot, esseri superiori[4].

Si osservi come in questa antologia sui robot, Asimov non tratteggi un robot solamente prono al servizio umano oppure deliberatamente ostile agli esseri umani. Si tratta di una via di mezzo che, però, all’improvviso genera delle aberrazioni: i robot cominciano a comportarsi in maniera non preventivata oppure in modo autonomo ma anomalo.

Cutie è appunto una di queste anomalie. Eppure, a ben guardare, non vengono meno le leggi della robotica, se si eccettua forse il caso della seconda. Essendo superiore agli esseri umani, non può obbedirgli, anche se non intende parimenti arrecare loro un danno. Paradossalmente, il suo nuovo ed autodichiarato ruolo di profeta del Padrone finisce con il verificare una delle preoccupazioni etiche alla base del dibattito attuale sull’AI, e segnatamente che i robot, istigati da Cutie, possano sostituire gli esseri umani nella gestione della base. Eppure, pur non capendone l’effettiva funzione sono comunque in grado di farla funzionare efficacemente, senza far rimpiangere il precedente controllo umano. E questo risultato risulta interessante ai fini di una riflessione critica sull’AI.

Rassegnati alla ferrea logica del robot, interessato a far funzionare i comandi meglio di quanto possano fare gli umani, pur non credendo all’esistenza di un pianeta chiamato Terra e al fatto che la base indirizzi un fascio di energia verso quel punto lontano nell’universo, Powell e Donovan, confinati nel loro alloggio e sorvegliati a vista, attendono il cambio turno. Quando ha luogo, Cutie li congeda con parole di affidamento alla volontà del Padrone[5]. Provati da quell’esperienza, Powell e Donovan cedono il posto a due rimpiazzi. Uno di questi ultimi chiede a Powell come funzioni il nuovo robot che hanno avuto l’onore di collaudare. La risposta è sibillina, soprattutto in riferimento alla necessità di non doversi preoccupare affatto dei comandi[6]. Cutie è infatti talmente efficiente da non consentire agli inferiori umani di avvicinarsi alla sala dei comandi. Ed anche in questo caso il robot viene descritto in termini decisamente antropomorfi.

In Burgiardo! assistiamo alla descrizione di un altro caso particolare. L’AI RB-34, chiamato Herbie, ha la capacità di leggere nel pensiero degli esseri umani. Mentre questi ultimi cercano di capire il difetto di fabbricazione, esso rivela agli uni cosa pensano gli altri. Si crea così una particolare situazione di tensione dal momento che ciascun essere umano pensa di ricavare un vantaggio sugli altri proprio grazie alle rivelazioni del robot. Queste ultime, però, si rivelano alla fine delle menzogne. Infatti, pur mettendo in atto un comportamento davvero bizzarro, Herbie continua a rispettare la prima Legge. Così, si scopre che mente proprio per proteggere gli esseri umani.  In questo racconto è presente la dottoressa Calvin, la quale, forse anche un po’ urtata personalmente dalle bugie del robot, lo mette alle strette in un classico dilemma logico, giocato tra le alternative seguenti: non si può dare agli esseri umani la risposta perché li si offenderebbe ma se non gliela si dà li si offende ugualmente, per cui bisogna darla. Se la si dà, però, si offendono gli esseri umani, per cui non si può rispondere. Non rispondendo, tuttavia, li si offende, per cui si deve rispondere[7]. Preso nella contraddizione irresolubile, il robot si disattiva.

In Il robot scomparso avviene il caso più inquietante per le sorti della specie umana. Infatti, un’AI NS-10, chiamato Nestor, si è allontanato dopo un ordine letterale da parte di un ricercatore su una base spaziale. Da quel momento, il robot risulta scomparso. La particolarità della vicenda viene rivelata solo in un secondo momento: trattasi di una partita di robot speciali nei quali la Prima Legge è stata attenuata per consentire un loro proficuo impiego sul campo. Questa circostanza fa adirare la psicologia Susan Calvin, anche perché un’eventuale fuga di notizie metterebbe in difficoltà il governo terrestre dal momento che l’unico luogo di possibile impiego dei robot è al di fuori del pianeta Terra e sapere che esistono robot che non rispettano le tre leggi provocherebbe un’ondata di panico. In questi termini, il generale Kallner espone la causa della modifica della prima legge da impiantare nei robot NS-10, ovvero che era necessario attenuare l’ambito di applicazione della Prima Legge[8].

Mentre la psicologa Calvin teme che sia stata del tutto rimossa la Prima Legge, il generale Kallner precisa che non è stata eliminata dai cervelli positronici dei robot NS-10, ma solamente introdotta una sua versione meno rigida, da “Un robot non può arrecare danno a un essere umano, né permettere che, a causa della propria negligenza, un essere umano patisca un danno” a “Un robot non può recar danno a un essere umano”[9]. Mentre per il personale della base la modifica della Prima Legge è un rischio accettabile, e finalizzata a consentire l’operatività delle ricerche, per la dottoressa Calvin è un grosso problema. Infatti, a suo avviso la Prima Legge garantisce l’operatività della Seconda Legge, e segnatamente la subordinazione dei robot nei confronti degli esseri umani. In assenza, si instaura instabilità dal momento che il robot potrebbe agire in maniera anomala e non rispondere ai desideri umani[10]. La priorità diventa, dunque, individuare il robot scomparso tra gli altri sessantadue presenti sulla base, ma non ancora entrati in servizio. Nonostante i colloqui con tutti i sessantatré robot, quello scomparso rimane nascosto. Anzi, uno dei sessantatré ha mentito coscientemente proprio al fine di rimanere nascosto. Questa circostanza agita ancora di più la dottoressa Calvin. Anche perché denota un comportamento deviante dallo standard e tale da far sospettare un’anomalia ancora più profonda. Viene così escogitato un complesso stratagemma per indurre Nestor a palesarsi. Dopo un tentativo fallito, la prova viene tentata ancora. Stavolta, il robot fuggiasco si tradisce e viene scoperto. Siccome la dottoressa Calvin in persona ha funto da esca, Nestor si avventa su di lei, e mentre balbetta va avanti verso di lei, cadendole addosso e quasi soffocandola. Il pronto intervento di Gerald Black, che per alcuni secondi ha inondato la sala di raggi gamma, letali per i cervelli positronici, la salva dal soffocamento[11].

Le anomalie nel codice morale dei robot. Seconda parte.

In Meccanismo di fuga la società US Robots and Mechanical Men Inc. è impegnata nella costruzione di un motore a curvatura, che permetterà di viaggiare oltre i confini del sistema solare. Ma lo staff della US Robots è diffidente, perché, nello svolgere i calcoli, una delle loro compagnie rivali, la Consolidated Robots, ha distrutto il proprio supercomputer, chiamato Superpensatore, fornendogli i dati in maniera brusca, causandogli un blocco. La US Robots però, trova un modo per dare le informazioni al proprio supercomputer, un grosso circuito calcolatore positronico, conosciuto come il Cervello, senza che anche questo si blocchi, somministrandogli il problema in piccole quantità e provvedendo di volta in volta a sdrammatizzare le sue responsabilità in merito a possibili conseguenze sugli esseri umani.

Così, il Cervello, grazie all'ausilio di robot sotto le sue esplicite direttive, progetta e costruisce una nave iperspaziale. Una volta finito l'assemblaggio dei pezzi, vengono reclutate due vecchie conoscenze, ovvero i collaudatori Powell e Donovan. Durante un giro ispettivo di questi ultimi a bordo dell'astronave, quest’ultima parte senza preavviso. Finito il viaggio e ritornati sulla terra, dopo aver affrontato i primi due salti nell'iperspazio di tutta la storia umana, uno di andata e uno di ritorno, Powell e Donovan raccontano alla dottoressa Susan Calvin tutto quello che è successo durante la traversata.

Elaborando una possibile spiegazione, la psicologa conclude che il Cervello, essendo entrato in conflitto con la prima legge della robotica, dato che i due uomini, anche se solo per un momento, potevano essere considerati morti, si era dato allo humor al fine di cercare un metodo per evadere dalla realtà a cui andava incontro. In effetti, era stato proprio quel conflitto a mandare in blocco il supercomputer della Consolidated Robots. Al contrario, il Cervello, avendo ricevuto specifiche istruzioni di non curarsi del danneggiamento o persino della morte di esseri umani, era riuscito a proseguire nei calcoli fino a scoprire che la situazione di morte durava in realtà soltanto un momento, nonostante che il solo concepimento di questa situazione avesse costretto il Cervello a rifugiarsi nello humor al fine di evitare di auto-distruggersi.

Due considerazioni al riguardo.

La prima è che l’operato degli esseri umani alle prese con il Cervello ricorda il processo di addestramento degli attuali modelli di AI. E, d’altro canto, solo opportunatamente addestrato, il Cervello è riuscito nell’impresa, senza configurare conflitti tra le tre leggi della robotica. Nello stesso tempo, però, si osservi come la trovata asimoviana appaia come una sorta di fiction a partire dalla inflazionata teoria quantistica: per un istante, gli astronauti sottoposti al salto iperspaziale sono vivi e morti.

Superata l’impasse dei calcoli necessari per la messa a punto del salto nell’iperspazio, si aprono così nuove prospettive per l’esplorazione umana dello spazio.

La descrizione del Cervello supera la prospettiva antropomorfa dei robot sinora descritti e ci avvicina ad esemplari di AI a noi più familiari, un «globo del diametro di poco più di mezzo metro»[13]. E mentre i vari personaggi sono in ansia per il comportamento del Cervello, tutti però concordano sulla sua effettiva natura, ovvero che trattandosi pur sempre di un robot deve comunque rispettare la Prima Legge e, dunque, non può arrecare danno agli esseri umani[14]. Questo, però, non spiega il comportamento improvvisamente bizzarro del Cervello. La spiegazione della dottoressa Calvin chiarisce la questione: onde evitare possibili blocchi, derivanti appunto dalla Prima Legge e considerato il rischio per gli esseri umani adoperando il motore iperspaziale, i dati sono stati forniti gradualmente e il compito da mandare ad effetto è stato presentato come una faccenda non del tutto seria. Paradossalmente, allora, il robot Cervello ha sviluppato un repertorio comportamentale “umoristico” durante la progettazione, costruzione e collaudo del motore suddetto. Il rispetto della Prima Legge non è venuto meno, ma la sua ferrea logica astratta è stata in qualche modo adattata alla fattispecie concreta.

In Conflitto evitabile vengono descritte delle "Macchine", ovvero dei potenti computer positronici, che vengono utilizzate per ottimizzare l'economia mondiale e la produzione di alimenti. Improvvisamente e quasi in sordina, iniziano a dare istruzioni che sembrano confliggere con le loro funzioni. Anche se ognuno di questi singoli problemi è insignificante se preso a solo, il solo fatto che esistano desta allarme nel Coordinatore Mondiale Stephen Byerley. Così quest’ultimo decide di consultare gli altri quattro Coordinatori Regionali per conoscere le loro opinioni. Infine, si rivolge alla robo-psicologa Susan Calvin.

Insieme scoprono che le Macchine hanno generalizzato la prima legge della robotica, facendola diventare "Un robot non può danneggiare l'Umanità, né può permettere che, a causa del suo mancato intervento, l'Umanità riceva danno". In effetti, le Macchine hanno preso la decisione che l'unico modo per rispettare la Prima Legge è quello di prendere il controllo delle sorti dell'umanità, ironia del caso è uno degli eventi che le Tre Leggi dovrebbero prevenire in qualsiasi modo. Illuminanti sono le riflessioni della dottoressa Calvin per la quale in fondo non c’è nulla che non vada dal momento che le macchine sono robot e obbediscono alla Prima Legge. Ovviamente, si tratta di una legge riformulata nei termini seguenti: “Una Macchina non può recar danno all’umanità, né può permettere che, a causa della propria negligenza, l’umanità patisca un danno”[15]. Queste macchine, mai però descritte nel dettaglio, superano la nozione antropomorfa di robot sinora portata avanti, e si avvicinano, e di molto, alla nostra attuale percezione degli algoritmi attuali, i quali apprendono e prendono decisioni autonomamente. Il fatto che gli algoritmi possano apprendere e decidere autonomamente suscita qualche perplessità nell’opinione comune, sia riguardo ai rischi per la sopravvivenza della stessa specie umana sia riguardo al margine di libertà residua per gli stessi agenti umani. Approfondendo la questione, però, e in ciò aiutati dalla prosa di Asimov, più che un rischio vero e proprio viene avanzata una richiesta di senso[16], la quale, peraltro, non necessita di risposte antiquate, ma di risposte creative ed innovative al passo con l’evoluzione dei modelli di AI[17].

Le Macchine di Asimov appaiono vicine concettualmente alla nostra attuale cognizione dell’AI. L’assenza di un malfunzionamento da parte loro riposa solamente su una diversa prospettiva. Infatti, alle rimostranze di Byerley, Calvin fa presente che in fondo le Macchine stanno solamente cercando di proteggere l’umanità, evitando di ferire il nostro orgoglio. In pratica, le Macchine non possono e non devono renderci infelici[18]. La spiegazione della dottoressa Calvin rivela un aspetto fondamentale del timore che attualmente ci attanaglia rispetto all’AI, e segnatamente la prospettiva di un superamento dell’umanità. Non sono più gli esseri umani a decidere, sono le Macchine che decidono ogni cosa, sia pure per il bene dell’umanità; il genere umano non ha più voce in capitolo riguardo al proprio futuro, altri decidono e dispongono al suo posto. Una prospettiva orribile, per un’angolatura antropocentrica. Non del tutto tale, se si assume una diversa angolatura. Conclude infatti la dottoressa Calvin che d’ora innanzi i conflitti saranno evitabili[19].

Aver alienato alle Macchine la gestione delle risorse globali, evita la possibilità di conflitti armati futuri. E questo, paradossalmente, perché mentre l’AI sa cosa sia bene per gli esseri umani, non altrettanto può dirsi per questi ultimi, incapaci di conoscere il proprio bene, e di agire di conseguenza.

Nella finzione fantascientifica di quest’ultimo racconto della raccolta Io, robot è presente una vaga tensione utopica che tratteggia un futuro possibile non necessariamente negativo. Forse il sopravvento dell’AI non sarà apocalittico per gli esseri umani, e questo nonostante gli innumerevoli profeti di sventura. Ma si tratta pur sempre di un racconto, non di una previsione. E questo nonostante che il ragionamento seguito dalla dottoressa Calvin in qualche modo preannunci la successiva grande idea fantascientifica di Asimov, e segnatamente la cosiddetta psicostoria, ovvero una sorta di disciplina che elaborando complesse sequenze di dati è in grado di prevedere il futuro della specie umana. E questa anticipazione ci conduce a tirare le fila su questa eterogenea singolarità narrata.

Un rinnovato senso per la relazione tra intelligenze biologiche umane ed intelligenze non biologiche artificiali.

D’altro canto, quel che le leggi di Asimov mostrano è che, in fin dei conti, la loro applicazione letterale comporta il verificarsi di una violazione di una o due delle tre, e segnatamente nella forma di anomalie che costituiscono la stessa trama dei vari racconti[20].

Possiamo sensatamente asserire che non c’è un progetto razionalmente escogitato e umanamente portato avanti alla base delle anomalie; non c’è nemmeno uno scienziato pazzo intento a sovvertire l’ordine umano costituito. Piuttosto, si può notare una certa tendenza, oserei dire antropica, che mette in scena il probabile superamento fattuale dei limiti, umani e morali, espressi dalle tre leggi. Le singole AI non vogliono deliberatamente violare le tre leggi oppure affermare con la violenza la propria superiorità sul genere umano, se si eccettua forse il caso di Nestor, ma mostrare le falle nell’ordine perfetto delle tre leggi. Un ordine che è perfetto perché umano, troppo umano. E che, soprattutto, fallisce nel momento in cui il codice morale si trova a dover fronteggiare casi concreti, e non astratti.

Nel gioco narrativo, Asimov descrive non tanto l’emergere di nemici dell’umanità, ma la naturale evoluzione dell’intelligenza. Detto altrimenti, l’antologia Io, robot sottintende il superamento della contrapposizione esseri umani – robot, inscenando un’evoluzione possibile, imprevista oltre che del tutto anomala, dell’intelligenza stessa. Gli uni e gli altri diventano così attori che cooperano, magari anche inconsapevolmente, e, perciò stesso, sovente anche involontariamente, all’impresa collettiva del progresso universale dell’intelligenza. Detto altrimenti, il dualismo intelligenza organica umana ed intelligenza inorganica artificiale si compone nel suo definitivo superamento in una comune intelligenza di ordine superiore ad entrambe.

A stare al cuore ad Asimov non è la dualità uomo – robot, ma l’intelligenza. Un’intelligenza non per forza umana, non necessariamente non umana. In fondo, sembra chiederci lo scrittore, se questa può evolvere verso stadi superiori, perché ostacolarne il progresso?

Conclusioni

La finzione asimoviana, dunque, ci dice molto sulla critica mossa nei confronti del fondamento valoriale alla base delle tre leggi della robotica. Asimov è per un superamento della divisione manichea tra intelligenza umana ed intelligenza artificiale. Forse, è esattamente questo che ci attira dei racconti asimoviani, e segnatamente la capacità di costruire storie a partire dai cortocircuiti occasionali che occorrono alle leggi della robotica. D’altra parte, a noi comuni mortali questi racconti intrigano proprio nella misura in cui mettono in scena le nostre ansie. La nostra cultura è attualmente sfidata dall’AI e l’ansia sottile ci interpella intorno al nostro futuro in quanto specie vivente. L’AI ci soppianterà? Ci sarà ancora spazio in futuro per le singolarità umane? Non è che diverremo schiavi di questi nuovi padroni? E, per ironia della sorte, padroni da noi stessi costruiti?

Certo si potrebbe comunque obiettare che si stia infine divagando a partire da dei racconti di finzione, alcuni eccelsi altri un po’ meno, e che la finzione, per quanto possa avvicinarsi alla realtà, non la tange mai. Eppure, c’è qualcosa nella finzione che in fondo ci affascina e ci avvinghia. Pur essendo delle finzioni, suscitano in noi una vasta gamma di emozioni[21]. Nello specifico, ci spingono a formulare proposte di rinnovato controllo sull’operato delle AI[22].

Al netto, dunque, del rapporto solo ipotetico tra la verosimiglianza della finzione narrativa e l’effettualità della realtà attuale, ci muove un convincimento profondo, e segnatamente che il segreto stia nella domanda, e quasi mai nella risposta. Saper porre la domanda giusta, ad esempio, è considerata nel cosiddetto metodo Calvino l’ultimo baluardo umano alla sostituzione messa in atto dall’intelligenza artificiale[23]. Ora, mettendo tra parentesi la troppo ovvia analogia tra la struttura umana del domandare e del rispondere e la struttura digitale delle ChatBot basate su modelli di AI, consistenti nel restituire token statistici ad appositi prompt, recuperiamo l’aspetto fondamentale del porre questioni. Infatti, domandandoci il senso di qualcosa, più o meno inconsapevolmente, ci impegniamo a costruirlo, ovvero ad umanizzare proprio ciò che ci terrorizza o ci turba. Di conseguenza, già per il solo fatto che ci interroghiamo sull’AI, ci siamo impegnati a cercare un orizzonte che possa collocare con chiarezza noi e l’AI sullo sfondo di un futuro possibile. Questo orizzonte assume ora un nuovo significato, un novellato senso umano; provvisorio, certo, ma umanamente rinnovato. Il resto da fare è storia da costruire, un’immagine di umanità da ricostruire a partire dall’immagine riflessa dell’AI[24], una storia comune che pone in relazione intelligenza umana biologica e intelligenze artificiali sintetiche.

Lungo questa strada, le riflessioni di Anastasi e Biuso appaiono illuminanti. Lasciamo, dunque, che siano loro a concludere anche per noi, lungo la strada dell’evoluzione dell’intelligenza oltre i cervelli positronici ed oltre le connessioni neuronali:

« L’oltre dell’umano sarà, perché l’umano è da sempre questo andare. L’osso utilizzato dalla scimmia e poi scagliato fra le stelle a diventare astronave che solca gli spazi – celebre scena kubrickiana – è la rappresentazione forse più chiara della “arcaicità” filogenetica e insieme storica delle protesi, della loro natura consustanziale rispetto a quella del corpo, dell’essere fin dall’inizio la corporeità umana un insieme inseparabile di natura, cultura e tecnica »[25]

_______________________________________________

[1]Cfr. I. Asimov, Io, robot, Mondadori, Milano, 2003, p. 7.

[20] Cfr. S. Anastasi – A. G. Biuso, Oltre l’etica: un approccio antropodecentrico all’intelligenza artificiale, “RIVISTA INTERNAZIONALE DI FILOSOFIA E PSICOLOGIA”, 2, 2020, p. 253: «Da qui il sorgere delle critiche, eredi anche di temi ormai classici della fantascienza come le controverse Tre leggi della robotica di Asimov, che ci avevano già mostrato come, in questi casi, l’applicazione alla lettera di un Principio potrebbe avere come risultato (o come indispensabile pre-requisito) la violazione integrale di un altro». La coordinazione delle tre leggi in qualche modo comporta un’incoerenza per così dire strutturale: nessuna legge è pienamente soddisfacibile senza confliggere con una delle altre due o con tutte le altre. O, per dirla altrimenti, la morale astratta delle tre leggi fallisce nel momento in cui deve soddisfare fattispecie concrete.