Il Golem – Livio Cadè

«O uomo! Viaggia da te stesso in te stesso». (Rumi)

Ho il dubbio, ma a volte la certezza, che più progredisce l’Intelligenza Artificiale più regredisca la nostra, ovvero aumenti nella società una certa Idiozia Naturale. Sembra quasi che queste magiche tavolette, cui l’uomo è morbosamente legato, assorbano le nostre energie intellettuali, se ne cibino, provocando in noi un deperimento delle facoltà mentali. Le capacità di ragionamento dell’uomo medio sono ormai così compromesse che al confronto un automa medio appare decisamente più assennato.

‘Automa’ è in realtà un termine ingannevole. Dovrebbe indicare qualcosa che ha in sé stesso (αὐτός) la ragione del proprio agire. Sappiamo invece che tale facoltà gli viene da un meccanismo che altri ha posto in lui, così da simulare atti liberi e spontanei. Perciò diciamo ‘automatico’ un gesto, un riflesso che sfugge alla nostra volontà e, per lo stesso motivo, non consideriamo nessuno meno libero di un automa, le cui azioni sono regolate da costrizioni e inibizioni involontarie. La differenza tra autonomia e automatismo è dunque fondamentale per la nostra idea di libertà.

In che misura siamo liberi? Si dice siano oggi poche centinaia di persone a decidere i destini dell’umanità. Essenziale non è stabilirne il numero ma ammettere una concentrazione di Potere in spazi sempre più ristretti. Tolta un’insignificante percentuale di Demiurghi, sovrani assoluti che non rispondono a nessuno, la nostra società pare basata sulle regole di una servitù universale, su un paradigma del dominio che vede in ogni atto libero una minaccia ai suoi equilibri.

Da qui il ruolo mirabile della macchina, oggetto senza libertà, la cui ragion d’essere sta solo nello svolgere le funzioni e gli scopi che il suo costruttore le ha assegnato. Tutto in lei è conformità a un progetto esterno, cui non ha parte. Quello che rende le macchine tanto preziose è la loro cieca ubbidienza. E così dovrebbe essere il cittadino modello, simile a un robot che esplica le mansioni cui è destinato senza dubbi, pensieri e sentimenti contraddittori, o impulsi all’insubordinazione.

Il compito della nuova ingegneria sociale è perciò formare uomini privi di libero arbitrio, schiavi che adeguino i loro comportamenti alle leggi della robotica:

1. Uno schiavo non può recare danno ai Padroni;
2. Uno schiavo deve sempre obbedire agli ordini impartiti dai Padroni, purché non siano in contrasto con la prima legge;
3. Uno schiavo deve proteggere la propria esistenza solo se questo non contrasta con la prima o la seconda legge.

Non si tratta solo di imporre o impedire specifici atti, come farebbe un dispotismo grezzo e vecchio stampo, ma di governare gli stati di coscienza dei sottomessi. Lo schiavo ideale, come la macchina, non deve eseguire gli ordini perché forzato da ricatti, minacce o punizioni, e neanche per ragioni d’affetto o di premura, ma perché non ha pensiero e volontà propria. La sua capacità di scegliere e decidere deve dissolversi nella mancanza di alternative. La stessa autorità esterna che lo comanda deve essere in lui interiorizzata e fusa con la percezione della propria autonomia.

È un obiettivo solo apparentemente complesso, perché semplificato dal fatto che le attività dell’uomo son già in gran parte dipendenti da processi di natura meccanica, automatismi non solo fisiologici ma anche sociali, emotivi, intellettuali. A chi vuol mutare l’uomo in automa basta quindi assecondare e perfezionare la sua abitudine ad agire e pensare per riflesso nervoso a certi stimoli, rimuovendo quel residuo di libertà che gli complica inutilmente la vita.

L’idea di ‘schiavo assoluto’ si trova già nel golem ebraico, nello zombi haitiano, nel tulpa tibetano. Quest’ultimo, in realtà, non è un vero automa, essendo emanazione diretta del mago, proiezione della sua energia mentale. Alexandra David-Neel, apprendista d’esoterismo tibetano, racconta d’esser riuscita lei stessa, dopo mesi di strenua meditazione, a generare un tulpa cui conferì le fattezze di un frate rubizzo e gioviale. Questo homunculus la seguiva ovunque, parlava e agiva come un normale essere umano, e anche altri potevano vederlo. Col tempo però divenne violento e maligno e la sua creatrice dovette lottare a lungo con quell’entità ribelle per riuscire a distruggerla. Forse provando lo stesso amaro disincanto con cui, quando mandò il diluvio, Dio si pentì d’aver creato l’uomo.

Diverso è il caso dello zombi, individuo cui attraverso sortilegi e droghe si provoca una catalessi, una morte apparente, per poi farne uno schiavo senz’anima. I morti viventi della cultura voodoo si prestano facilmente a divenir metafora dell’uomo moderno, del suo vagare e agire sonnambolico, quasi ubbidendo a comandi ipnotici. Ma nell’immaginario collettivo lo zombi è ormai un essere dagli insaziabili istinti cannibaleschi, assembrato in masse informi e disordinate, allegoria di compulsioni consumistiche. Più vicino alla nostra idea di automa è il golem, artefatto d’argilla in forma umana ma di forza sovrumana, tenuto a ubbidire al rabbino che attraverso rituali cabalistici gli ha infuso la vita (v’è in questa operazione magica un’ovvia analogia con la creazione di Adamo dal fango).

Evoluzione scientifica del golem è l’androide di Blade Runner, essere sintetico in tutto simile all’uomo – cui per certi aspetti è superiore – ma in cui sono latenti la contestazione e la trasgressione. È vero che si possono innestare in lui dati fittizi, memorie ingannevoli, e in tal modo manipolare i suoi giudizi sulle cose. Cosa che già fanno, in modo più grossolano, la storiografia e l’informazione ufficiali. Tuttavia, il grado di indipendenza del ‘replicante’ resta eccessivo, possibile motivo di perturbamento in una monolitica società del controllo.

Del resto, questi esempi dimostrano che non è possibile escludere a priori la propensione alla rivolta neanche in schiavi teoricamente perfetti. È dunque ipotizzabile che, nel concepire un’umanità di automi servizievoli, i Demiurghi aspirino a un tipo di golem ammodernato, cui vengono sedati gli istinti di libertà. Resta però un’importante differenza tra la leggenda e l’attualità. Quando il golem diventa inutile o incontrollabile, il rabbino gli cancella dalla fronte la lettera Alef. La parola Emèt, ‘verità’, diventa così met, ‘morto’. I Demiurghi invece, come prima cosa, cancellano l’Alef dalla testa della gente, privandola della verità. Al suo posto scrivono nuove formule cabalistiche – smartphone, media, web – che spengono interiormente l’uomo ma ne preservano gli automatismi economicamente e socialmente utili.

È significativo il fatto che molti rabbini vedano nell’avvento dei robot un segno dell’incipiente Era messianica. Le ragioni possono essere diverse. I nuovi golem cibernetici eviteranno all’uomo la schiavitù adamitica del lavoro, alla donna i dolori del parto, porteranno la sicurezza e l’abbondanza promesse dai profeti, compiranno miracoli impossibili all’uomo, lo libereranno da limiti biologici, gli mostreranno come ottenere un corpo immortale. Nella tecnologia più avanzata, nella sua promessa di salvare l’umanità, pare compiersi la promessa fatta da Dio ad Abramo di benedire tutte le nazioni della Terra. Inoltre, la creazione di umanoidi sempre più perfetti avvicina l’uomo a Elohim. E il golem (traduzione ebraica di robot) è per tradizione il potente difensore della comunità d’Israele. Potremmo dunque credere che nella società tecnocratica si realizzi un’utopia giudaica, l’atteso adempimento di un contratto metafisico.

Alla civiltà golemica si può arrivare in due modi, umanizzando le macchine o meccanizzando l’uomo. La medicina occidentale ci ha già assuefatti a intendere la vita e la coscienza secondo modelli meccanici, eliminando le sostanziali differenze tra un essere umano e un’automobile o un televisore. Al punto che, nella nostra sensibilità ontologica, la macchina ormai precede l’uomo. Perciò diciamo che è il cervello umano a ricordare un computer, non il contrario. Ed è sempre la medicina a vedere l’uomo come assemblaggio di parti e funzioni meccaniche. Idea che porta direttamente al mostro di Frankenstein e da lì a esseri umani ibridati con innesti tecnologici, resi migliori da organi e memorie artificiali.

Ci vien dunque ugualmente facile vedere la meccanicità dell’uomo e l’umanità della macchina. Da un lato un’automatizzazione  che vorrebbe controllare persino i nostri più segreti recessi mentali, dall’altro un’emulazione robotica di reti neurali che sogna di rendere le macchine capaci di apprendere da sé, immaginare, scrivere musica e poesia. E all’orizzonte, incombente e minaccioso, il culto dell’efficienza e della funzionalità. Ma, ancor più, il totalitarismo d’una verità affidata a freddi algoritmi, principio di autorità indiscutibile e più disumano di quello mai esercitato da alcuna Chiesa o governo politico.

Possiamo evitare che uomo e macchina si fondano in un’unica chimera? Come distinguerli? Già Descartes non trovava differenze tra macchine e animali, e forse solo remore teologiche o psicologiche lo trattennero dal pensare lo stesso degli uomini. L’idea di uomo-macchina la troviamo in La Mettrie, che tuttavia riserva all’uomo le funzioni del simbolismo e dell’immaginazione. Altri considerano esclusive dell’umano la coscienza di sé, la libertà, la responsabilità, la capacità di percepire valori morali, di ridere e piangere, di godere o soffrire intimamente di qualcosa, di avere un’anima immortale ecc..

Ma son tutte ragioni soggettive e indimostrabili, che si ritengono risolutive solo perché se ne avverte la forza dentro di sé. Potrebbero essere i pensieri di un automa, di una marionetta tirata da fili invisibili. Forse siamo golem di un Mago che, per fini a noi ignoti, ci ha plasmato e poi animato ponendoci sulla fronte simbologie occulte. Come sapere con certezza che non siamo anche noi ingranaggi meccanici, creati e programmati per servire qualcuno? La macchina da noi costruita pare interrogarci: “non siamo forse uguali? Ho chiesto io d’esser fabbricata o tu di nascere? Non è qualcosa fuori di noi che ci fa essere quello che siamo?”.

Come rispondere? Un avvocato dell’umanità potrebbe obiettare che in una macchina i segnali elettrici producono altri segnali elettrici, gli stimoli chimici reazioni chimiche, mentre la nostra coscienza appare un fenomeno qualitativamente inspiegabile con cause meccaniche. Il cervello emette segnali elettrici, ma pensare, sentire un profumo, ammirare i colori di un tramonto, sono esperienze che trascendono l’elettricità. Ridurre l’essere umano “a un sistema di equazioni, a un diagramma scritto, a un labirinto senza misteri”, organismo i cui comportamenti siano riconducibili a modelli matematici, ci sembrerebbe allora un pretesto per fare di noi delle macchine ubbidienti e prevedibili.

Il riduzionismo dei tecnofili pare confutato da quell’infinito aperto, abissale – Ungrund – che qualifica la natura umana, e che è irriducibile all’infinito chiuso, per quanto esteso e complesso, rappresentato dalla serie di possibilità inserite in un cervello artificiale. Benché l’automa possieda poteri di calcolo, di memoria e precisione di movimenti in misura sovrumana, la sua funzionalità non potrà mai avvicinarsi all’intelligenza d’un poeta, d’un bimbo che gioca o d’una vecchia che recita una preghiera. Neppure a quella di un uccello che vola per il piacere di volare. Come diceva Minsky, matematico e informatico americano, «se può farlo una macchina, allora non è una cosa intelligente».

Tuttavia, da Turing in poi, a mano che procede e si affina lo sviluppo della robotica, i vari test escogitati per distinguere concettualmente uomo e macchina mostrano fragilità e contraddizioni sempre più evidenti. Le varie argomentazioni proposte per dimostrare un salto di categoria tra intelligenza naturale e artificiale si arenano in controversie etiche, logiche e filosofiche. Può una macchina scegliere, decidere, come un uomo? Ma un uomo sceglie liberamente o meccanicamente? Se uomo e macchina sono simili, ciò significa riconoscere diritti e dignità anche alla macchina o privarne l’uomo? Così, dopo aver negato agli animali la qualifica di ‘persone’, finiremo forse col concederla alle macchine, ad attribuir loro un’anima!

Dubito che la differenza tra uomo e macchina si potrà mai chiarire con test e stratagemmi logici. Mi pare piuttosto un atto intuitivo e immediato, come quello con cui riconosciamo un colore da un altro. Chi accetti l’idea che il nostro essere sia solo una miscela di carbonio, calcio, fosforo ecc., troverà plausibile si arrivi un giorno a creare golem esteriormente in tutto simili a noi. Vedremo in entrambi il risultato d’una progressiva organizzazione di sistemi complessi basati su elementi semplici. Se da minerali combinati tra loro son nati Platone, Michelangelo, Mozart, perché dubitare che circuiti di silicio e un codice binario possano produrre esseri pensanti, auto-coscienti e creativi? Se la vita, l’intelligenza, si possono ridurre a numero, quest’idea è logica.

La confusione tra uomo e automa è coerente con una concezione della realtà che vede negli atti interiori fatti oggettivi, numerabili e tecnicamente riproducibili. Se idee, sensazioni, emozioni, sono oggetti, posso descriverne la struttura matematica e ricostruirla. Ma in realtà l’occhio elettronico che registra oggetti visivi – con una precisione superiore all’occhio umano – non potrà mai vederli. Un cervello elettronico non potrà mai pensare o un cuore elettronico amare. Anche l’automa più perfetto resterà refrattario a ogni autentica consapevolezza. E se qualcuno arriverà a parlare coi robot come le bambine con le loro bambole, sarà solo per puerilità.

V’è nel nostro progresso tecnologico un oscuro risentimento, un’accusa e una rivincita nei confronti della natura. Cos’è il prevedere androdi che s’accoppiano, scambiandosi sequenze aleatorie, imitando sistemi biologici di riproduzione, se non la volontà di sostituirsi a un ordine naturale? Nella società del controllo anche Eros, sovversivo e ribelle, dovrà essere rabbonito, e l’amore sessuale naufragare in un mare di fantasmi senza genere, come gli angeli. Affetti, pensieri, tutto sarà una grande simulazione. Invece di cercare in noi le  risposte ai problemi della vita, metteremo le informazioni disponibili in un software e lasceremo sia un saggio robot a illuminarci, lui che in fondo rappresenta la nostra evoluzione, l’oltre-uomo.

L’intelligenza artificiale rispecchia infatti la nostra idea di coscienza come epifenomeno della materia. Uomo e automa appaiono così conclusioni uguali di identiche premesse, esseri creati entrambi dal basso, partendo da strutture cellulari, modulari, che interagiscono in modo sempre più sofisticato. Che sia Dio, la Natura o la robotica a crearli non muta la loro medesima natura di ‘artefatti’. Ciò che può salvare l’uomo dall’identificazione con la macchina è dunque la fede in un essere causa sui, che nasce dall’alto e dall’interno, non uscendo casualmente da un brodo chimico, né magicamente da un fiat demiurgico – il che ne farebbe un golem – ma in quanto raggio d’una luce che è fin dal principio perfetta, libera e intelligente. Questo essere non è una serie di fatti o di dati ma un soggetto, un sé. Un congegno umanoide non potrà quindi avere una reale coscienza o percezione di sé, provare paura, dolore o felicità. Per tale ragione, io credo,  i Demiurghi gli preferiranno l’uomo meccanoide, essere servile ma dotato di sensibilità, in cui c’è un ‘cuore’ capace di angosce e di speranze, che lo rende impressionabile e ricattabile, più idoneo a esser schiavo che un automa senza sentimenti.

Essendo la coscienza prerogativa di un Soggetto, ‘Intelligenza Artificiale’ si rivela un ossimoro, una contraddizione in termini. ‘Intellegere’ è infatti leggere dentro di sé, ma il robot non ha un dentro, è pura esteriorità, esanime simulazione di una capacità di giudizio, di un sensorium, di un foro interiore. L’interiorità – anima o spirito che dir si voglia – non è qualcosa che si possa fabbricare ma l’espressione di una trascendenza del Sé rispetto ai suoi oggetti, processo spontaneo e primigenio che non può esser replicato meccanicamente. Se dimentichiamo il suo soggetto metafisico, la vita diventa dittatura di determinismi fisici o numerici. Gli occhi che diamo al robot ci fissano allora come lo sguardo di Medusa. La fluidità dell’essere viene bloccata nella staticità degli oggetti, i nostri processi mentali si solidificano, l’intelligenza si paralizza. L’uomo stesso si pietrifica e si trasforma in golem.

Noi nascondiamo nell’esattezza, nel rigore delle macchine, la nostra angoscia, la paura della vita. L’uomo automatizzato abolisce il mistero, il senso panico della realtà. La dialettica naturale-artificiale non si risolve quindi in un teorema ma in un’opzione tra libertà e servitù, essere vivente e cosa. Dal paradosso dell’uomo-automa non si esce con una definizione filosofica ma recuperando il sentimento intimo della natura e della grazia. Solo così possiamo opporci all’alienazione di una civiltà dominata dalle macchine, distopia cui letteratura, fumettistica, cinema, ci hanno purtroppo pericolosamente inclinati.

È ancora possibile scegliere tra deliri tecnocratici, autocrazia di algoritmi, e l’autenticità dell’umano. Non si tratta di abolire la macchina ma di limitarne l’invadenza, di frenare la sua sistematica erosione dell’umano. Agli agi della tecnica – precisione, comodità, rapidità, efficienza – preferisco i disagi della mia umanità. Il mio io, con le sue debolezze, virtù e imperfezioni, ha radice in sé stesso, non in un disegno esterno che lo determina a essere com’è. Un robot può assomigliarmi quanto la mia immagine nello specchio, fare tutto ciò che io faccio, ma resterà sempre un non-essere.

Questa considerazione non deve sembrare ovvia e inutile, perché nella prospettiva demiurgica l’umanizzazione della macchina prepara la meccanizzazione dell’uomo, come due punti opposti che tendono a convergere in un unico centro. E già molti non trovano stravagante dialogare con intelligenze artificiali, confidarsi con amici, psicologi, confessori virtuali. Gradualmente la percezione del confine si fa sempre più labile e  ambigua, finché umano e umanoide si toccano, cosa e persona fluiscono l’una nell’altra per osmosi.

Non è però un fato già scritto. Il destino di una macchina è l’esito di una formalizzazione rigorosa,  preordinata ed esplicabile. Il nostro futuro dipende da noi, dalle forze caotiche, anarchiche, razionalmente inconcepibili che ci animano, e dal potere di disciplinarle autonomamente, avvalendoci della nostra naturale intelligenza. È questo che ci rende liberi. Si può obiettare che anche in una macchina è possibile implementare l’illusione della libertà. Paradossalmente, anche la sua disubbidienza sarà allora effetto di un’ubbidienza. Tale dubbio è tipico di chi ancora si osserva da fuori, come un oggetto, alienandosi dal proprio sé. E finché non rientrerà in sé stesso nessuno potrà togliergli il sospetto che uomo e robot siano fratelli.

Infine, dalla speculazione occorre cavare una prassi. Ai paradossi eleatici sull’impossibilità del movimento un tale obiettò alzandosi e camminando. A chi si aspetta da noi un’ottusa ubbidienza, a chi ci vuole docili automi, risponderemo quindi ribellandoci. Se un robot non può far altro che espletare regole e programmi, mostreremo d’esser uomini disattendendo gli ordini e le attese. E non lasceremo che qualche Rabbino ci trasformi in golem o cancelli dalla nostra fronte l’Alef della verità. Disubbidire non sarà solo una rivendicazione di libertà ma l’affermazione della nostra umanità.