The Human in the Age of Mechanical Reproduction: the Artificial Unconscious in Science Fiction
10.13125/2039-6597/3805
Il gioco di parole che ci siamo concessi nel riprendere il titolo del celebre saggio di Walter Benjamin si presta a descrivere gli effetti di una rivoluzione tecnologica molto discussa e che la comunità umana sente imminente. Le conseguenze culturali e antropologiche della possibilità di riprodurre attraverso la tecnica il manufatto artistico umano erano rilevanti non meno di quanto possano esserlo quelle che si presentano nel momento in cui oggetto della riproduzione è l’umano stesso. Questo saggio propone una riflessione su alcuni racconti di fantascienza in cui sono descritti robot antropomorfi capaci di agire e pensare secondo modi che richiedono l’emersione della coscienza e dell’inconscio, quanto ci appare di più umano e misterioso allo stesso tempo.La lente utilizzata per affrontare un tema così vasto e complesso è quella del dialogo tra l’essere umano e la macchina, tra paradigma indiziario e seduta psicoanalitica. La riflessione muove da alcune opere che, tra letteratura, cinema e serie TV, hanno declinato questo tema con diverse sfumature: l’interrogatorio volto a determinare il malfunzionamento o l’inganno della macchina nei racconti Liar! (1971) e Mirror Image (1972) di Isaac Asimov; le sedute atte a stabilire la natura umana o macchinica del soggetto inquisito in Do Androids Dream of Electric Sheep? (1968) di Philip K. Dick e nel film Blade Runner (1982) di Ridley Scott; i dialoghi tra programmatori e androidi della serie TV Westworld (2016–) di Jonathan Nolan e Lisa Joy.Particolarmente rilevante ai fini di questo studio è Westworld, che mette in scena il manifestarsi dell’inconscio nell’intelligenza artificiale. Ossimoro che unisce l’inconscio e il suo contrario, l’artificio, il racconto dell’inconscio artificiale è una vera e propria rappresentazione dell’impossibile.
application/pdf
2039-6597
3805
17
it
Christiano Presutti
Between
Science Fiction.
L’umano nell’epoca della riproducibilità tecnica: l'inconscio artificiale nella fantascienza
Text.Serial.Journal
https://ojs.unica.it/index.php/between
9
Essay
2019-09-02
2019-06-26
2019-06-01
2019-09-02
1
Christiano Presutti
2019/09/02
10.13125/2039-6597/3805
Università di Bologna
2039-6597
17
Science Fiction.
it
L’umano nell’epoca della riproducibilità tecnica: l'inconscio artificiale nella fantascienza
https://ojs.unica.it/index.php/between/article/download/3805/3391
9
                 The Human in the Age
              of Mechanical Reproduction:
               the Artificial Unconscious
                   in Science Fiction

               Emanuela Piga Bruni - Christiano Presutti



Abstract
     The pun, which draws on the title of Walter Benjamin's famous essay, is
useful to describe the effects of a highly disputed technological revolution, one
the human community feels to be imminent. The cultural and anthropological
consequences of the possibility of reproducing an artistic artefact through
technology were no less relevant than those that occur when the object of
reproduction is the human itself. The present essay proposes a reflection on a
series of science fiction stories that describe anthropomorphic robots able to
act and think in ways that require the emergence of consciousness and the
unconscious, both of which are human and mysterious at the same time.
     We address this vast, complex topic through the analysis of human-
machine dialogue, between evidential paradigm and psychoanalytical
treatment. The study analyses examples from literature, cinema and television
that have approached the theme in different nuanced ways: interrogations
aimed at determining machine malfunction or deception in Liar! (1971) and
Mirror Image (1972) by Isaac Asimov; encounters that seek to establish the
human or machine nature of the investigated subject in Do Androids Dream of
Electric Sheep? (1968) by Philip K. Dick and the film Blade Runner (1982) by

Between, vol. VIII, n. 15 (Maggio/May 2018)
ISSN 2039-6597-3805
DOI: [Da assegnare - a cura della redazione]
E. Piga Bruni - C. Presutti, L’umano nell’epoca della sua riproducibilità tecnica



Ridley Scott; and the conversations between programmers and androids of the
TV series Westworld (2016–) by Jonathan Nolan and Lisa Joy.
     Westworld is particularly relevant for the purposes of this study, which
tackles the presence of the unconscious in artificial intelligence. Like an
oxymoron that unites the unconscious with its opposite, the artifice, this
account of the artificial unconscious is a true representation of the impossible.



Keywords
    Artificial Consciousness; Artificial Unconscious; Dialogue; Evidential
paradigm; Psychoanalysis; Android; Isaac Asimov; Philip K. Dick; Blade
Runner; Westworld; Science Fiction Story.




2
                                            Between, vol. IX, n. 17 (Maggio/May 2019)




                L’umano nell’epoca
         della sua riproducibilità tecnica:
               l’inconscio artificiale
                 nella fantascienza1
           Emanuela Piga Bruni - Christiano Presutti


                            0 – Introduzione
                        0.000 – Poetical Science
    Londra, Gran Bretagna, 1855. Il Partito degli Industriali Radicali
guidato da Lord Byron controlla l’impero coloniale che controlla il

     1
        Questo saggio deve considerarsi il frutto di un lavoro comune; in ogni
caso, la sezione “Introduzione” (pp. 1-15) è stata scritta da Christiano
Presutti; la seconda sezione “Tra paradigma indiziario e seduta
psicoanalitica: il dialogo con la macchina antropomorfa” (pp. 15-43) da
Emanuela Piga Bruni.
      Il gioco di parole che ci siamo concessi nel riprendere il titolo del
celebre saggio di Benjamin L'opera d'arte nell'epoca della sua riproducibilità
tecnica (1935) si presta a descrivere gli effetti di una rivoluzione tecnologica
molto discussa e che la comunità umana sente imminente. Le conseguenze
culturali e antropologiche della possibilità di riprodurre attraverso la tecnica
il manufatto artistico umano erano rilevanti non meno di quanto possano
esserlo quelle che si presentano nel momento in cui oggetto della
riproduzione è l’umano stesso. Questo studio propone una riflessione su
alcuni racconti di fantascienza in cui sono descritti robot antropomorfi capaci
di agire e pensare secondo modi che richiedono l’emersione della coscienza e
dell’inconscio, quanto ci appare di più umano e misterioso allo stesso tempo.



                                                                                   1
E. Piga Bruni - C. Presutti, L’umano nell’epoca della sua riproducibilità tecnica



mondo, forte del suo esercito di macchine volanti, corazzate, carri
armati, e di un primato tecnologico incontrastato. La realizzazione e la
diffusione capillare della macchina analitica a vapore di Charles
Babbage ha garantito all’Inghilterra l’egemonia tra le nazioni, la
Francia di Napoleone III è un impero minore, gli Stati Uniti, la
Germania e le altre sono deboli e divise. Théophile Gautier è un hacker,
Keats è un designer di spettacoli digitali, Shelley è prigioniero in esilio
a Sant’Elena per avere guidato i luddisti durante le rivolte, Marx è a
capo del Comitato Centrale della Comune che controlla Manhattan. La
contessa Augusta Ada Byron, figlia del Primo Ministro, è un genio
della matematica, con i suoi algoritmi anticipa i teoremi di Gödel. È
chiamata da tutti la Regina delle Macchine.

      Il secolo decimonono descritto in The Difference Engine (tr. it. La
macchina della Realtà), il romanzo steampunk di William Gibson e Bruce
Sterling pubblicato nel 1990, è quello di un passato ucronico in cui la
rivoluzione informatica è stata anticipata di circa un secolo grazie alla
realizzazione effettiva dell’Analytical Engine, il proto-computer
progettato e mai costruito dal matematico inglese Charles Babbage
attorno al 1830.
      Nella nostra linea temporale, quella che è nei nostri testi di storia,
Lady Ada Byron non è stata un genio riconosciuto della matematica e
non ha neppure conosciuto suo padre, che aveva lasciato la famiglia
quando lei non aveva ancora un anno ed è morto pochi anni dopo. Nel
1852, poi, è morta anche Ada, a soli trentasei anni, per via di un cancro
all’utero.
      Nella nostra linea temporale Ada Lovelace, née Byron, aveva
avuto una buona educazione nella matematica e nelle scienze, che
aveva studiato soprattutto per corrispondenza in un periodo in cui era
diffusa l’idea che gli studi accademici e l’alta formazione fossero
contrari alla natura delle donne, o che troppa conoscenza potesse
renderle meno fertili. A ventiquattro anni, dopo essersi sposata e avere
concepito tre figli, era tornata ai suoi studi e si era interessata ai lavori
dell’illustre matematico e inventore Charles Babbage, che aveva avuto
occasione di conoscere quando era ancora diciassettenne. Ada è


2
                                          Between, vol. IX, n. 17 (Maggio/May 2019)



ricordata in particolare per le sue Note alla traduzione di un articolo
sulla Macchina analitica pubblicate nel 1843, dopo mesi di lavoro e un
intenso scambio alla pari con lo stesso Babbage. Nonostante la morte
prematura e l’esigua quantità di produzioni scientifiche, il suo
contributo alla storia dell’informatica oggi gode di ampio
riconoscimento. L’algoritmo per calcolare la sequenza dei numeri di
Bernoulli che aveva inserito nelle Note è considerato il primo
programma per computer pubblicato al mondo, il Dipartimento della
Difesa degli Stati Uniti ha dato il suo nome a un linguaggio di
programmazione, il New York Times le ha dedicato nel 2018 un
necrologio tardivo2, Google uno dei suoi doodle, per la Giornata
Internazionale della Donna nel 20123.




     L’abilità di coniugare le scienze e l’immaginazione emerge dai
suoi scritti, secondo un procedimento che lei stessa aveva chiamato
“poetical science”4. Gli studiosi concordano che le applicazioni pratiche
delle idee di Ada Lovelace nel contesto della sua stessa epoca sono di


     2
       Cfr. Cain Miller, Claire, “Ada Lovelace. A gifted mathematician who is
now recognized as the first computer programmer”, The New York Times,
https://www.nytimes.com/interactive/2018/obituaries/overlooked-ada-
lovelace.html, 2018, web (last accessed 05/04/2019).
     3
        Cfr. “Ada Lovelace's 197th Birthday”, https://www.google.com/
doodles/ada-lovelaces-197th-birthday, web (last accessed 05/04/2019).
     4
       Cfr. Toole 2010.


                                                                                 3
E. Piga Bruni - C. Presutti, L’umano nell’epoca della sua riproducibilità tecnica



un interesse relativo se paragonate alla suggestione da lei introdotta
sul futuro dei calcolatori come macchine universali, l’ipotesi che la
Macchina Analitica potesse «agire su altre cose, oltre che sui numeri»5.
     In una delle sue Note, Lady Lovelace aveva scritto:

          [The Analytical Engine] holds a position wholly its own; and
       the considerations it suggests are most interesting in their nature.
       In enabling mechanism to combine together general symbols, in
       successions of unlimited variety and extent, a uniting link is
       established between the operations of matter and the abstract
       mental processes […]. A new, a vast, and a powerful language is
       developed for the future use of analysis […]6

     In un modo, affermando questi princìpi, Ada era andata oltre le
visioni già geniali e avveniristiche di Babbage sul possibile tecnologico,
era divenuta la prima persona a superare il confine tra il pensare le
macchine come apparecchiature utili al calcolo numerico e l’idea, oggi
acquisita, di dispositivi automatici capaci di realizzare operazioni
astratte sulla base di sostituzioni simboliche. Nel dare forma a una
scienza poetica, nel suo tempo Ada aveva immaginato l’impossibile,
pensando una cosa mai pensata prima7.



                              0.001 – Scientific Poetry
     Durante la seconda rivoluzione industriale, tra la seconda metà
dell’Ottocento e la prima del Novecento, nuovi paradigmi hanno reso
sfocati i confini tra scienze naturali e scienze umane. Una nuova
visione dell’universo avrebbe portato il mondo scientifico a orientare il
proprio punto di vista verso il dominio umanistico e viceversa, in un


       5
        «Might act upon other things besides number», in “Note A”, Taylor’s
Scientific Memoirs, settembre 1843, firmato A.L.L.
      6
        Ibid.
      7
        Fuegi – Francis 2003.


4
                                            Between, vol. IX, n. 17 (Maggio/May 2019)



gioco di specchi e scambi di ruolo che si è protratto sino a oggi e
caratterizza le moderne discipline scientifiche interdisciplinari.
      Verso la fine del secolo diciannovesimo, i fisici consideravano la
loro disciplina compiuta, intrinsecamente coerente e ordinata dalle
equazioni di Newton nella meccanica e da quelle di Maxwell
nell’elettricità. Abitavano un mondo in cui i fenomeni della natura
erano regolati da leggi in cui il tempo è una grandezza universale, in
cui tutti gli orologi, una volta sincronizzati, camminavano con lo stesso
passo indipendentemente dal sistema di riferimento in cui si
trovavano. L’irruzione della fisica moderna, con la relatività e la
meccanica quantistica, pose in crisi i principi consolidati riguardo la
materia, lo spazio, il tempo, la rappresentazione della realtà e il ruolo
dell’osservatore, le cui azioni e la cui mente erano divenute parte
integrante del sistema osservato. È impossibile osservare un sistema
senza perturbarlo, osservare significava interagire. Il mondo della
scienza ne fu sopraffatto, le conseguenze furono tali che ogni scienziato
era portato a divenire filosofo e a invadere il campo umanistico mentre
approcciava l’epistemologia e si interessava di teologia, psicologia,
linguistica o delle teorie della cognizione. Eminenti scienziati come
Werner Heisenberg o Erwin Schrödinger non poterono rinunciare a
indagare il significato filosofico e ‘umanistico’ dei loro stessi risultati8.
Heisenberg, ad esempio, nel presentare le teorie della fisica
contemporanea, «mise in rilievo il fatto che le leggi della natura non
avevano più a che fare con le particelle elementari, bensì con la
conoscenza che noi abbiamo di queste particelle, cioè con il contenuto
della nostra mente» (Morowitz [1980] in Dennett - Hofstadter 1985: 48).

        Per quanto ne so io, non era mai accaduto, nella storia della
     scienza, che tutti i ricercatori più eminenti scrivessero libri e
     articoli per esporre il significato filosofico e “umanistico” dei loro
     risultati. (Ibid.: 47)




     8
         Cfr. Heisenberg 1958, Schrödinger [1925] 1987.


                                                                                   5
E. Piga Bruni - C. Presutti, L’umano nell’epoca della sua riproducibilità tecnica




     Vi sono opere ascrivibili al genere fantascientifico che
appartengono alla letteratura del diciannovesimo secolo, come il
Frankenstein di Mary Shelley, Der Sandmann (L’uomo della sabbia) di E. T.
A. Hoffmann o alcuni racconti di Edgar Allan Poe. Tuttavia la nascita
della fantascienza9 moderna è tradizionalmente collocata a inizio
Novecento, in concomitanza con le rivoluzioni in ambito scientifico che
arrivano ad affascinare il grande pubblico attraverso i media cartacei e
la radio. Nella prima metà del secolo avviene il passaggio dalla proto-
fantascienza del ‘romanzo scientifico’ alla Jules Verne o H.G. Wells alle
‘space opera’ e ai ‘pulp’ e ‘digest format magazine’, come Astounding
Science Fiction, The Magazine of Fantasy and Science Fiction o Galaxy. La


       9
        È stato da più parti sollevato il problema della definizione del genere
fantascientifico, un magma narrativo dai confini imprecisi. Per una
ricognizione aggiornata dei problemi di classificazione del genere, cfr.
Arthur B. Evans, The Beginnings: Early Forms of Science Fiction in Science
Fiction: A Literary History, a cura di Roger Luckhurst, The British Library,
2017, o John Rieder, “On Defining SF, or Not: Genre Theory“, SF, and History,
Science Fiction Studies, Vol. 37, No. 2 (July 2010), pp. 191-209. A titolo di
curiosità, è ancora disponibile online una lunga raccolta delle definizioni
date da scrittori e studiosi compilata nel 1996 da Neyir Cenk Gökçe e citata
da        diversi      critici:     Definitions     of     Science       Fiction,
https://www.liveabout.com/definitions-of-science-fiction-2957771, web (last
accessed 05/04/2019). Per una recente definizione del genere ‘science fiction’
che tiene conto del dibattito presente soprattutto in ambito anglofono, cfr.
Micali 2019: 5-15.


6
                                             Between, vol. IX, n. 17 (Maggio/May 2019)



fantascienza moderna, in inglese nell’apparente ossimorica locuzione
‘science fiction’, nasce nutrendosi di frammenti del dibattito scientifico
e filosofico del suo tempo, violandone i confini fino a produrre un
apparato di teorie autonome che finiscono per formare un ‘sistema
fantascientifico’ abbastanza coerente e omogeneo. Si sviluppano così
idee pseudoscientifiche ricorrenti e utilizzate da più autori, che restano
in auge fino a quando non sono messe in crisi da nuovi progressi della
scienza e, di conseguenza, da nuove ‘teorie fantascientifiche’ che
rendono le precedenti obsolete10.
      Alcune di queste idee sono state particolarmente fortunate, come
gli “universi paralleli” di Murray Leinster o il “cervello positronico” di
Isaac Asimov, e a volte sono state recuperate dalla scienza stessa che si
è dimostrata non immune all’influenza di quell’immaginario. A cavallo
tra gli anni ‘40 e ’50 del secolo scorso, le idee attorno alla macchina
intelligente e al problema dell’emergenza della coscienza acquisivano
un posto di rilievo nella produzione filosofica, letteraria e tecnico-
scientifica. Sono gli anni in cui Gilbert Ryle riformulava la posizione
materialista a superamento del dualismo mente-corpo cartesiano e
coniava la fortunata locuzione “ghost in the machine”11 (1949), Philip
Dick pubblicava un racconto come Impostor (L’impostore)12 (1953), il cui
protagonista dai modi coscienziosamente umani scopre solo alla fine di
essere il robot ricercato dalla polizia, gli anni in cui Turing esponeva il
suo famoso test13 (1950) o in cui matematici e ricercatori come John
McCarthy, Marvin Minsky e Claude Shannon organizzavano negli
Stati Uniti la Conferenza di Dartmouth (Dartmouth Summer Research


     10
         Cfr. Giovannoli 2015.
      11
         «I shall often speak of it, with deliberate abusiveness, as ‘the dogma
of the Ghost in the Machine’. I hope to prove that it is entirely false, and false
not in detail but in principle». Da Ryle 2009: 5.
      12
         Cfr. Dick 2002. Il racconto è stato pubblicato per la prima nel pulp
magazine Astounding Science Fiction nel 1953.
      13
          Turing presentò l’esperimento astratto nel famoso articolo
“Computing machinery and intelligence” pubblicato sulla rivista Mind nel
1950. Una traduzione in italiano è disponibile in Dennett – Hofstadter 1981.


                                                                                    7
E. Piga Bruni - C. Presutti, L’umano nell’epoca della sua riproducibilità tecnica



Project on Artificial Intelligence, 1956), considerata l’evento fondante
della ricerca sull’Intelligenza Artificiale14.
      La fantascienza ha continuato a esplorare incessantemente il
problema della coscienza artificiale attraverso le sue impossibili
scommesse sul futuro, nei suoi racconti paradigmatici di un tempo
distopico o di un tempo ucronico attivato da un ‘what if’. Nella pratica
di un esercizio creativo che ha necessariamente a che fare con territori
dai confini incerti, per i quali né le scienze naturali né quelle umane
hanno sin qui fornito risposte soddisfacenti, gli autori di fantascienza
hanno immaginato l’impossibile soluzione di un problema sinora «mai
risolto né dai filosofi della mente, né dagli ingegneri dell’AI, né dai
neuroscienziati»15.



                           0.010 – La mente artificiale
     Abbiamo sin qui tentato di dare una collocazione storica e
culturale ai temi di questo saggio, proposto alcune suggestioni di
contesto e alcune idee di carattere generale sul rapporto e sulle
ibridazioni reciproche tra scienza e letteratura di genere. A
completamento di questa introduzione è giusto fornire una mappa
minima del percorso attraverso cui il testo si sviluppa.
     Daremo ancora uno sguardo alla ricerca e al dibattito
interdisciplinari su attività e caratteristiche specifiche della mente,
procedendo lungo quel pendio che si fa via via più opaco o misterioso.
In breve, l’intelligenza, la coscienza e il subconscio, come fenomeni
individuali e collettivi. Il punto di arrivo, e cuore del testo, è dato alla
esplorazione di alcune narrazioni di genere in cui l’assunto scientifico
di partenza è la riproducibilità tecnologica di quelle attività e
caratteristiche.



       14
            Gazzaniga 2008: 448.
       15
            Giovannoli 2015.


8
                                             Between, vol. IX, n. 17 (Maggio/May 2019)




      In questa sede siamo interessati non a sottolineare gli aspetti
tecnologici, ma a esaminare l’universo concettuale e simbolico in cui
talune ipotesi si sono fatte strada nell’immaginario. Tuttavia le
condizioni verosimili in cui l’uomo si appresta a creare versioni
artificiali delle caratteristiche della mente attraverso la tecnologia sono
ancorate alle definizioni che di esse si danno e che, vedremo, sono per
loro natura incerte e dibattute.
      L’Intelligenza Artificiale è un’ipotesi eccitante divenuta via via
più importante a partire dagli anni ’50 del ventesimo secolo. Oggi da
questa locuzione siamo quotidianamente bombardati, causa anche le
continue ridefinizioni di senso della parola ‘intelligente’ operate dal
marketing. Così abbiamo il telefono intelligente, la lampadina
intelligente, i contenuti intelligenti, il business intelligente e via
discorrendo. Analogamente, l’espressione ‘cervello elettronico’ è stata
utilizzata negli anni addietro per indicare macchine tutto sommato
stupide, ma capaci di compiere calcoli poderosi.




                Definizioni di IA in uno schema da Russell - Norvig 2010




                                                                                    9
E. Piga Bruni - C. Presutti, L’umano nell’epoca della sua riproducibilità tecnica



      Le definizioni scientifiche di Intelligenza Artificiale sono state
negli anni molteplici e soggette a revisioni. Esse sono state catalogate
sulla base della maggiore o minore appartenenza ai domini del pensare
o dell’agire e in relazione a due categorie di comportamento, ‘umano’
da una parte e un più astratto ‘razionale’ dall’altra: pensare in maniera
umana, agire in maniera umana, pensare in maniera razionale e agire
in maniera razionale.
      Una definizione contemporanea del campo di ricerca
sull’Intelligenza Artificiale fa ricorso al concetto astratto di ‘agente
intelligente’: un’entità autonoma che è in grado di percepire l’ambiente
in cui si trova attraverso dei ‘sensori’ e che agisce per il
raggiungimento di determinati obiettivi tramite degli ‘attuatori’. In un
essere umano, per esempio, i sensori sono le facoltà sensoriali, gli
attuatori le mani o la lingua o altre parti del corpo a seconda della
funzione. In questa ottica è possibile definire il campo dell’Intelligenza
Artificiale come lo studio di agenti intelligenti artificiali16.
      La ricerca ha posto da più angolazioni il problema di quali
possano essere i limiti della riproduzione artificiale dei meccanismi
della mente. In particolare è divenuto a un certo punto naturale
chiedersi se una macchina sufficientemente complessa possa diventare
consapevole dei propri stati mentali e delle proprie azioni e, di
conseguenza, sviluppare una forma di ‘coscienza artificiale’.




       «We define AI as the study of agents that receive percepts from the
       16

environment and perform action». Da Russell – Norvig 2010: viii.


10
                                         Between, vol. IX, n. 17 (Maggio/May 2019)



                       0.011 – Cosa è la coscienza


                                 Non è segnata in nessuna carta: i posti
                                 veri non lo sono mai
                                 Moby Dick, Melville



     Immagina che sia l’ora del tramonto e che ti trovi seduto sul
bagnasciuga di una spiaggia che guarda a ovest. Immagina di
osservare il mare, e che ci siano altre persone poco distanti da te che
stanno facendo la stessa cosa. I tuoi sensi sono al lavoro, le
informazioni visive, olfattive e auditive sono trasmesse attraverso un
sistema di connettori bioelettrici alla tua mente, senti il sale in bocca,
percepisci i grani di sabbia calda sotto la pelle delle tue mani, e la tua
coscienza prende atto di questa benedizione. Il sole viene diritto a te, la
sua luce si riflette sull’acqua poco increspata del giorno che si spegne, è
un corridoio luminoso che porta dalla sorgente alla tua carne e dalla
tua carne alla sorgente. Ora àncora la tua mente all’attimo, e prova a
pensare le menti delle altre persone presenti e poco distanti da te.
Ognuna ha il suo raggio di sole che è il solo possibile, ognuna ha la sua
benedizione, ognuna con la sua coscienza.

     «La coscienza è il connotato più ovvio e insieme più misterioso
della nostra mente» (Dennett - Hofstadter 1985: 19). Se da un lato
appare evidente a ciascuno di essere un soggetto di esperienza, capace
di percezioni o di prendere decisioni, consapevole della propria
consapevolezza, dall’altro ci chiediamo come facciano corpi viventi nel
mondo fisico a dare luogo a questo fenomeno.
     Lo studio della coscienza, continuamente strattonato da più parti
in un trambusto di riflessioni filosofiche e scoperte scientifiche, è pieno
di “problemi”: il problema mente-corpo17, il problema delle altre


     17
          Cfr: Nagel 1998.


                                                                               11
E. Piga Bruni - C. Presutti, L’umano nell’epoca della sua riproducibilità tecnica



menti18, il problema della mente animale19, l’‘hard-problem’ con gli
‘easy problems’20 e via discorrendo. Questi sono solo i temi recenti di
un dibattito che nella cultura occidentale va avanti da quasi
quattrocento anni, da Cartesio, Locke, Leibniz agli studiosi delle
scienze cognitive contemporanee. In primo luogo non esiste una teoria
condivisa e soddisfacente della coscienza e non c’è neppure un accordo
su come dovrebbe essere una teoria della coscienza. Per alcuni non
esiste un solo tipo di coscienza, per altri tutto avviene a livello
biologico o fisico nel cervello, altri ancora sostengono le ipotesi di
‘embodiment’ e ‘enactivism’21 e il manifestarsi della coscienza richiede
la partecipazione di tutti gli aspetti di un corpo agente e delle
interazioni tra organismo e ambiente, altri infine sono giunti a
sostenere che non esiste un’entità reale che possa corrispondere alle
sue molteplici definizioni.
      Per soddisfare — in questa sede solo parzialmente — le curiosità
circa i problemi citati, si segua il seguente ragionamento classico. Io so
di avere un cervello, come so di avere il fegato o il cuore, mi è stato
mostrato, è possibile verificarlo con l’aiuto di macchine apposite o, in
maniera più cruda, aprendo il mio corpo. La conoscenza della mia
mente però è una questione più intima. Il percepire la ‘coscienza’
l’azione in cui la mente osserva se stessa, è caratterizzato da un punto
di vista non solo privilegiato ma diverso da tutti gli altri, perché a me
sembra evidente che il mio punto di vista su cosa si prova a essere me
sia migliore di quello di qualsiasi altro. Di contro posso solo inferire
ipotesi di carattere generale sull’esistenza e sul funzionamento delle
altre menti, derivandole dall’esperienza quotidiana e dall’evidenza che
gli altri hanno il mio stesso aspetto e ‘sono vivi’ apparentemente così
come io lo sono. Il problema ‘delle altre menti’ discende direttamente


       Cfr: Avramides 2001.
       18

       Cfr: Nagel [1974] 1986.
       19

    20
        Il noto saggio di David Chalmers “The Hard Problem of
Consciousness” è pubblicato in Velmans – Schneider S. (Eds.) (2007: 225-235).
    21
       Thompson 2007: 13.



12
                                           Between, vol. IX, n. 17 (Maggio/May 2019)



dalla specificità del punto di vista. Da qui il dibattito, le intuizioni e la
ricerca nelle scienze cognitive si espandono in innumerevoli
ramificazioni scientifiche e filosofiche. Nella giostra delle ipotesi si può
andare     dal     solipsismo —     “sono l’unico        essere cosciente
dell’universo” — al panpsichismo — “la coscienza è in ogni cosa
                                      22

dell’universo”.
      Con l’esigenza di definire gli stati della coscienza, si è fatto ricorso
a espedienti che provano a mettere d’accordo gli aspetti di carattere
fisiologico con quelli intangibili dei processi mentali. Un esempio è
rappresentato dai cosiddetti ‘qualia’, stati qualitativi primitivi e
irriducibili che esistono nella nostra mente e caratterizzano
univocamente qualsiasi esperienza cosciente. I sostenitori dei qualia
cercano di confutare le posizioni materialistiche in cui si adottano
termini puramente fisico-biologici e funzionali. Sebbene il loro
significato sia riconosciuto, queste idee sono osteggiate non solo dagli
scienziati materialisti e riduzionisti, ma anche da molti filosofi della
mente che ne disconoscono l’utilità, perché il concetto è confuso o le
argomentazioni a sostegno risultano contraddittorie23.
      A partire dagli anni ’60 il numero di produzioni scientifiche su
questi temi si è moltiplicato e negli ultimi anni ha raggiunto numeri
esorbitanti, nonostante le lacune epistemiche e ontologiche continuino
a lasciare sul tavolo le domande di base e le posizioni siano ancora
riconducibili a correnti di pensiero materialistico da una parte
(fisicalismo, riduzionismo neurobiologico…) e dualistico dall’altra (per
cui i processi della mente occupano uno spazio ontologico separato da
quello fisico).

22
  «Per panpsichismo intendo la teoria secondo cui i costituenti fisici fonda-
mentali dell’universo hanno proprietà mentali, che siano o meno parti di or-
ganismi viventi» (Nagel (1979) 1986: 176).
     23
         Cfr. Dennett 2017. Il saggio è disponibile online all’indirizzo
https://ase.tufts.edu/cogstud/dennett/papers/AHistoryOfQualia.pdf. Dennett
si è soffermato spesso sull’idea di qualia, criticandoli da una posizione
avversa. Uno dei saggi più famosi è “Quining qualia” in Marcel – Bisiach
(eds.) 1988.


                                                                                 13
E. Piga Bruni - C. Presutti, L’umano nell’epoca della sua riproducibilità tecnica



0.100 – La coscienza artificiale o immaginare l’impossibile
      Una tra le principali questioni che dividono scienziati ed
epistemologi è se la coscienza sia un semplice sottoprodotto dei
processi di elaborazione dell’informazione, e quindi in linea di
principio riproducibile anche su un computer, o se invece derivi da
caratteristiche specifiche del cervello.
      I non-fisicalisti e gli anti-riduzionisti come John Searle sono su
posizioni che negano la riproducibilità tecnica della mente, e nello
stesso campo sono schierati anche alcuni fisici e scienziati. Per esempio
l’insigne matematico Roger Penrose ha elaborato un modello della
mente secondo cui la coscienza sarebbe il prodotto di fenomeni che
avvengono a livello quantistico nei microtubuli dei neuroni, quindi di
tipo probabilistico, non interamente determinato: ne deduce che se
quei fenomeni operano secondo meccanismi non computazionali allora
non sono riproducibili da un computer24.
      La coscienza artificiale è un problema estremamente complesso e
ipotesi conclusive sono ancora oltre ogni orizzonte di ricerca. Lungo il
percorso che segue, che ci porta a immaginare inconscio e subconscio
della mente artificiale, cresce la distanza tra piano epistemico e piano
ontologico, tra fisico e fenomenico. Il sentiero diventa inestricabilmente
tortuoso ed enigmatico quando si compie l’ulteriore passo di concepire
intelligenza, coscienza e inconscio in relazione al molteplice: le
declinazioni artificiali di “intelligenza collettiva”, “coscienza collettiva”
e “inconscio collettivo” moltiplicano le ipotesi e i riferimenti, nella
proliferazione di forme e simboli dei paradigmi olistici.
      Pensare e rappresentare la riproduzione artificiale tecnologica di
queste caratteristiche della mente del singolo e della collettività sono
elementi comuni alle opere prese in esame di seguito. I loro autori
hanno osato esplorare territori in cui quanto ci appare di più umano è
familiare è allo steso tempo estraneo, disseminati di luoghi oscuri e


       La teoria è stata elaborata da Penrose a partire dal 1989 in La mente
       24

nuova dell’imperatore, e ribadita anche di recente sulla base delle nuove
scoperte delle neuroscienze.


14
                                         Between, vol. IX, n. 17 (Maggio/May 2019)



inaccessibili, in cui siamo sopraffatti dagli enigmi e dalle lacune. Se
coscienza e inconscio sono concetti familiari eppure misteriosi, nella
sede di questo saggio immaginare l’impossibile è indagare
l’immaginare la loro riproducibilità tecnica.




  1 – Tra paradigma indiziario e seduta psicoanalitica:
        Il dialogo con la macchina antropomorfa


                                 Che cosa ti fa essere te e quali sono i tuoi
                                 confini? La risposta sembra essere ovvia:
                                 tu sei un centro di coscienza. Ma che cos’è
                                 mai la coscienza? La coscienza è il
                                 connotato più ovvio e insieme più
                                 misterioso della nostra mente.
                                 Daniel C. Dennett- Douglas R. Hofstadter,
                                 L’io della mente



     Al centro dell’indagine del celebre libro L’Io della mente, la parola
“coscienza” si pone come la frontiera tutt’ora non valicata del discorso
scientifico. Come spiegano gli autori, da un lato nulla è più certo per
ognuno di noi di essere un soggetto di esperienza, e in quanto tale, in
grado di godere di percezioni o sensazioni, di patire dolori, di nutrire
idee e deliberare coscientemente. Tuttavia, il termine continua a restare
inafferrabile, ogni definizione è un tentativo, un movimento di
avvicinamento verso qualcosa dai contorni sfuggenti. Al tempo stesso,
la coscienza sembra essere un connotato che scinde l’universo in due
generi di cose estremamente diverse: quelle che ce l’hanno – i soggetti,
che provano qualcosa nell’essere tali – e quelle che non ce l’hanno – le
cose, prive di vita interiore (ibid.: 21).




                                                                               15
E. Piga Bruni - C. Presutti, L’umano nell’epoca della sua riproducibilità tecnica



     L’interrogazione sugli indistinti confini della coscienza ci spinge
verso la frontiera tra speculazione scientifica e immaginario
tecnologico, tra mito, letteratura e arti audiovisive. La figurazione della
creatura artificiale è un tema di lunga durata che, per citarne alcune
tappe, dal mito di Prometeo continua con l’homunculus del
Rinascimento, gli automi settecenteschi, il Frankenstein di Mary Shelley
e i robot novecenteschi di Karel Čapek e Isaac Asimov25. L’ibrido
umano-macchina pone nuovi interrogativi sulla natura del vivente e
del reale, e rende sfumato il confine tra naturale e artificiale. Icona di
grande impatto nell’immaginario collettivo, la creatura artificiale
attraversa i media, dalla letteratura, al cinema, al fumetto e ai
magazine popolari, alla TV, a Internet e ai videogame, caricandosi di
volta in volta di nuove istanze e significati26.
     Nel noto saggio Das Unheimliche, Sigmund Freud definisce il
perturbante come «quella sorta di spaventoso che risale a quanto ci è
noto da lungo tempo, a ciò che ci è familiare» ([1919] 1980: 82).



       25
         Da un’altra angolazione, il tema si connette all’archetipo della ‘Cosa’,
la cui incidenza a livello di significati e risonanze socio-culturali nella cultura
moderna e contemporanea è stata indagata da Gino Frezza in Dissolvenze.
Mutazioni del cinema (2013). Il capitolo “La Cosa” è dedicato alle principali
declinazioni di questa figura, dagli automi del Settecento fino alla ‘Cosa-
Cyborg’, incarnata nel corpo bio-artificiale del Terminator nell’omonima
saga di Cameron.
      26
         Cfr. Abruzzese 1979; Frezza 1995, 2013; Caronia 2001; De Feo 2001,
2019. Per un’analisi specifica delle diverse raffigurazioni della creatura non
umana nell’immaginario, a partire da figure simili all’essere umano ma non
percepite e rappresentate come tali, cfr. Micali 2019: 25 e sgg. Per una
definizione dei concetti di “utopia” e distopia” cfr. Baccolini – Moylan 2003.
Sull’immaginario distopico o apocalittico visto da una prospettiva
intermediale, che va dalla critica letteraria agli studi culturali, alla sociologia
dell’immaginario, tra i vari studi in Italia Fattori 1995, 2017; Lino 2014;
Giuliani 2016; Monticelli 2018. Per una riflessione su questi temi a partire
dall’analisi di film e serie televisive cfr. Frezza (ed.) 2015, Catanese et al.
2017, Tramontana – Tirino (eds.) 2018.


16
                                              Between, vol. IX, n. 17 (Maggio/May 2019)



     Ricorda come per Ernst Jentsch la condizione essenziale perché
abbia luogo il senso del perturbante risieda nell’incertezza intellettuale:
«Il perturbante sarebbe propriamente sempre qualcosa in cui per così
dire non ci si raccapezza». Freud prosegue citando ancora Jentsch
quando, in relazione all’impressione provocata da figure di cera,
pupazzi e automi, fa riferimento al «dubbio che un essere
apparentemente animato sia vivo davvero e, viceversa, il dubbio che
un oggetto privo di vita non sia per caso animato» (ibid.: 88). E.T.H.
Hoffmann mette in scena il motivo della bambola che sembra viva nel
racconto Der Sandmann (tr. it. L’uomo della sabbia) con la figura di
Olimpia. A questo proposito Jentsch afferma «Una condizione
particolarmente favorevole al sorgere di sentimenti perturbanti si
verifica quando si desta un’incertezza intellettuale se qualcosa sia o
non sia vivente, o quando ciò che è privo di vita si rivela troppo simile
a ciò che è vivo» (ibid.: 94). Il perturbante in letteratura è ampiamente
studiato e, nell’analisi del racconto di fantascienza, non è legato
solamente alla figura dell’automa antropomorfo27, ma anche al tema
del doppio28: «L’idea di duplicazione del mondo è insita nel codice
stesso della fantascienza, che infatti pullula di cloni e di replicanti»
(Fusillo [1998] 2012: 314)29.

     27
         Sul perturbante in relazione all’essere umano artificiale è corretto
ricordare che lo stesso Asimov ha coniato il termine “Complesso di
Frankenstein” a indicare un concetto affine. A questo proposito inoltre è
spesso citato il famoso articolo dello studioso di robotica giapponese
Masashiro Mori Bukimi No Tani (1970, tr. eng. The Uncanny Valley), in cui
sono presentate alcune ipotesi sulla reazione emotiva degli esseri umani di
fronte ad artefatti aventi un grado maggiore o minore di somiglianza con
l’uomo.
     28
        In L’altro e lo stesso. Teoria e storia del doppio, Massimo Fusillo afferma:
«Si parla di doppio quando, in un contesto spaziotemporale unico, cioè in un
unico mondo possibile creato dalla finzione letteraria, l’identità di un
personaggio si duplica: un uno diventa due» (2012: 300).
     29
        «Doppi, duplicanti, sosia, specchi, reincarnazioni, metamorfosi e altri
temi simili ricorrono spesso nella fantascienza, nel fumetto e nei film horror,
come ha dimostrato un saggio di Gino Frezza» (ibidem). Il riferimento è al


                                                                                    17
E. Piga Bruni - C. Presutti, L’umano nell’epoca della sua riproducibilità tecnica



      Il motivo del dialogo tra l’umano e il robot antropomorfo ricorre
in queste narrazioni e assume frequentemente una forma che ricorda
sia l’interrogatorio poliziesco che la seduta psicoanalitica. In Miti,
emblemi, spie: morfologia e storia (1986) Carlo Ginzburg ha descritto il
paradigma indiziario alla base degli interrogatori processuali come
fondato sulla registrazione dei piccoli gesti inconsapevoli e
caratterizzato da dinamiche riconducibili alla psicoanalisi medica.
Come spiegava Freud30, il metodo interpretativo procede a partire
dagli scarti, dai dati marginali, dagli elementi sottratti al controllo della
coscienza.
      In questo contesto, una prima questione da appurare è se il robot
abbia raggiunto autonomamente un’evoluzione tale da consentirgli di
mentire o dissimulare, e dunque rendersi capace di inganno. Il
cacciatore di androidi, o l’esperto di robotica, agisce come un detective
e conduce un dialogo che si svolge sulla base di indizi impercettibili ai
più. Ciò che Asimov ha definito “complesso di Frankenstein”, la
diffidenza verso i robot, uno dei principali temi della letteratura
fantascientifica, è il non detto che attraversa questo dialogo.
      Nelle pagine seguenti ci soffermeremo su tre esempi di
figurazioni del dialogo31 tra l’essere umano e la macchina
antropomorfa:         l’interrogatorio    volto    a     determinare        il
malfunzionamento o l’inganno della macchina nei racconti Liar! (1971)
e Mirror Image (1972) di Isaac Asimov; le sedute atte a stabilire la natura
umana o macchinica del soggetto inquisito in Do Androids Dream of
Electric Sheep? (1968) di Philip K. Dick e nell’adattamento
cinematografico Blade Runner (1982) di Ridley Scott; i dialoghi tra
programmatori e androidi della serie TV Westworld (2016-) di Jonathan


volume La macchina del mito tra film e fumetto (1995), che analizza le
declinazioni di queste figure in un percorso che va dai supereroi dei fumetti
degli anni Trenta ai mutanti delle produzioni visive e audiovisive degli anni
Ottanta e Novanta. Cfr. anche Frezza 2013.
     30
        Ad esempio, in Psicopatologia della vita quotidiana (1941).
     31
        Per una ricognizione delle forme del dialogo nella letteratura cfr.
Ferroni 1985.


18
                                          Between, vol. IX, n. 17 (Maggio/May 2019)



Nolan e Lisa Joy, in cui è possibile intravedere l’emersione della
coscienza artificiale.



                        1.000 – Isaac Asimov
                      I robot e l’interrogatorio
     Sono numerosi i racconti in cui Asimov narra di robot che si
comportano in modo strano, suscitando la diffidenza e la
preoccupazione degli esperti di robotica32. All’inizio di Liar! (tr. it.
Bugiardo!) siamo nel vivo di una riunione del personale della United
States Robots and Mechanical Men Corporation, in cui si discute come
affrontare un problema insolito legato al robot modello RB-34, noto
come “Herbie”. Il cervello positronico di questo robot pare infatti
dotato della straordinaria facoltà di sintonizzarsi sulle onde del
pensiero. Il direttore delle ricerche, Alfred Lanning, assume dunque il
coordinamento dell’operazione di verifica, con il supporto del
matematico Bogert. A tale scopo assegna al funzionario Milton Ashe
una verifica delle fasi di costruzione, al fine di «escludere tutte le
operazioni in cui è impossibile che si sia registrato un errore ed
elencare tutte quelle in cui invece l'errore può essere stato commesso».
A Susan Calvin, un personaggio che compare in diversi racconti di
Asimov, viene invece richiesto un compito diverso:

        – You'll have to tackle the job from the other direction. You're
     the robo-psychologist of the plant, so you're to study the robot
     itself and work backward. Try to find out how he ticks. See what
     else is tied up with his telepathic powers, how far they extend,
     how they warp his outlook, and just exactly what harm it has
     done to his ordinary RB properties. You've got that? (Asimov
     1971)



     32
        Per una recente contestualizzazione del ruolo di Asimov nella storia
della fantascienza cfr. Bowler 2017.


                                                                                19
E. Piga Bruni - C. Presutti, L’umano nell’epoca della sua riproducibilità tecnica



          [– Voi invece dovrete affrontare la faccenda da un'altra
       angolazione. Siete la robopsicologa della fabbrica, per cui avrete il
       compito di studiare il robot stesso e di risalire alle cause del suo
       comportamento. Cercate di scoprire come funziona, se ha altri
       poteri oltre a quelli telepatici, fino a che punto arrivano tali poteri,
       in che modo essi hanno cambiato la sua visione delle cose e
       quanto possono avere compromesso le sue normali proprietà di
       RB. Avete capito?]

     Nel corso del dialogo con Susan, Herbie professa un certo
disprezzo per la scienza umana e i suoi inutili libri, e dichiara con
fermezza l’interesse per la letteratura, «perché studia l'intrecciarsi delle
emozioni e dei motivi che spingono gli uomini a comportarsi in un
certo modo». Con un rovesciamento di ruoli, durante la conversazione
Susan finisce per perdere di vista la questione principale e consulta
Herbie su una faccenda privata di natura sentimentale: Herbie ha
indovinato la passione segreta di Susan per Milton Ashe e la convince
di essere ricambiata dal giovane. Una dinamica di persuasione analoga
si verifica nel dialogo con Bogert, al quale Herbie riferisce che Lanning
ha rassegnato le dimissioni in suo favore. In realtà entrambe le
rivelazioni sono false, dettate da un’interpretazione particolare della
prima legge della robotica, che viene estesa da Herbie alla sfera delle
emozioni e delle aspettative. Ferire i sentimenti e l’amor proprio di un
essere umano con un’affermazione che ne urta i desideri è un atto
valutato dal robot alla stregua di un danno. La soluzione adottata dalla
macchina è dunque quella di compiacere l’interlocutore fornendo la
risposta segretamente desiderata. Una volta compreso il percorso
logico seguito da Herbie, Susan, risentita, lo costringe a un problema
insolubile: pone al robot un quesito la cui risposta lo costringerebbe in
ogni caso ad andare contro Bogert o Lanning, conducendolo in un
vicolo cieco e a una paralisi logica che ne causa l’autodistruzione.




20
                                              Between, vol. IX, n. 17 (Maggio/May 2019)



     Mirror Image (tr. it. Immagine speculare) si apre con le famose “Tre
Leggi della Robotica”33. Il poliziotto Lije Baley ha il compito di
interrogare due robot con lo scopo di scoprire la verità in merito a una
controversia sorta tra due matematici, Alfred Barr Humboldt e Gennao
Sabbat. I due, appartenenti alla specie longeva degli Spaziali, sono in
viaggio verso un convegno sul pianeta Aurora. Entrambi rivendicano
la paternità di una teoria matematica rivoluzionaria e si accusano
vicendevolmente di plagio. Ad affidare l’incarico a Baley è Daneel
Olivaw, un robot dai tratti fisici talmente simili a quelli umani da
renderlo indistinguibile34. Baley dovrà rivestire i panni di un
robopsicologo e ‘analizzare’ i robot maggiordomi dei due accademici,
che sono gli unici testimoni esistenti: R. Preston, al servizio di
Humboldt, e R. Idda al servizio di Sabbat. Entrambi difendono il
rispettivo padrone attribuendo il plagio in una prospettiva speculare.
Nell’associare la reputazione professionale del padrone alla propria
incolumità fisica – spiega Olivaw – «i robot si sentono probabilmente
in dovere di dire una bugia in ossequio a qualcosa di molto simile alla
Prima Legge». Baley li interroga tramite un video telefono secondo
tappe rigorosamente logiche:

          “You are the personal servant of Gennao Sabbat, are you not?”
          “I am sir.”
          “For how long, boy?”
          “For twenty-two years, sir.”
          “And your master's reputation is valuable to you?”

     33
         «1) Un robot non può recare danno agli esseri umani, né può
permettere che, a causa del suo mancato intervento, gli esseri umani ricevano
danno; 2) Un robot deve obbedire agli ordini impartiti dagli esseri umani
tranne nel caso che tali ordini contrastino con la Prima Legge; 3) Un robot
deve salvaguardare la propria esistenza, purché ciò non contrasti con la
Prima e la Seconda Legge».
      34
         Lije Baley e Daneel Olivaw sono personaggi che tornano nei romanzi
del ciclo dei robot: Abissi d'acciaio (The Caves of Steel, 1954), Il sole nudo (The
Naked Sun, 1957), I robot dell'alba (The Robots of Dawn, 1983), I robot e l'Impero
(Robots and Empire, 1985).


                                                                                    21
E. Piga Bruni - C. Presutti, L’umano nell’epoca della sua riproducibilità tecnica



          “Yes, sir.”
          “Would you consider it of importance to protect that
       reputation?”
          “Yes, sir.”
          “As important to protect his reputation as his physical life?”
          “No, sir.”
          “As important to protect his reputation as the reputation of
       another.”
          R. Idda hesitated. He said, “Such cases must be decided on their
       individual merit, sir. There is no way of establishing a general
       rule.”

          [“Sei il cameriere personale di Gennao Sabbat, vero?”
          “Sì, signore.”
          “Da quanto tempo, amico mio?”
          “Da ventidue anni, signore.”
          “E la reputazione del tuo padrone è importante per te?”
          “Sì, signore.”
          “Ritieni essenziale difendere tale reputazione?”
          “Sì, signore.”
          “Essenziale quanto difendere la sua incolumità fisica?”
          “No, signore.”
          “E difendere la reputazione del tuo padrone ti pare altrettanto
       importante che difendere la reputazione di un altro?”
          R. Idda esitò, poi disse: “Per casi del genere bisogna decidere in
       base al merito personale degli esseri umani coinvolti, signore. Non
       c'è modo di stabilire una regola generale”.]

     Baley manipola entrambi gli interlocutori persuadendoli delle
rovinose implicazioni della loro dichiarazione sulla carriera
dell’avversario del padrone, e in entrambi i casi li spinge ad ammettere
di avere mentito in precedenza. Nonostante i risultati delle due sedute
fossero identici nella logica e nelle risposte e speculari nei nomi, Baley
arriva alla conclusione del caso grazie a un mix di intuizione,
conoscenza della natura umana, manipolazione e deduzione, e
riconosce nel più anziano Humboldt il colpevole.



22
                                          Between, vol. IX, n. 17 (Maggio/May 2019)



      In entrambi i dialoghi è possibile riconoscere un’impostazione
razionale: si sviluppano in un modo che ricorda il procedere della
programmazione imperativa e, al contempo, l’interrogatorio legale o
poliziesco. Nel mondo di Asimov uno dei fattori più importanti e
ricorrenti che distingue la macchina dall’uomo è la capacità di
adattamento dell’intelligenza artificiale (‘adaptive intelligence’)
durante i processi di apprendimento automatico (‘machine learning’)35.
La robopsicologia razionale dei robot lavoratori di Asimov lascia
spazio al mimetismo cinico degli androidi di Philip K. Dick, per i quali
la mancanza di empatia è il tratto cardinale di distacco dalla
condizione umana36. I robot di Asimov sono molto diversi dagli
androidi di Dick. Tuttavia, nella rappresentazione di questi dialoghi tra
umano e macchina, nella necessaria ricerca di un linguaggio possibile,
emergono gli indizi dell’emersione dei tratti umani nelle menti
artificiali, ovvero dei meccanismi di coscienza che attraversano queste
menti, sospese tra i corpi e la scena, tra la biologia e il territorio.



                     1.001 – Philip K. Dick
           I replicanti e la misurazione dell’empatia
     Nel corso del Novecento la fantascienza mette in scena ‘macchine
morbide’, gli androidi, sempre più sofisticate e indistinguibili
dall’essere umano. Come hanno affermato Dennett e Hofstadter, la

     35
         «In the world as defined by Philip K. Dick, the human is that which
experiences empathy (by contrast, in the work of Isaac Asimov, adaptable
intelligence is the determining factor)» (Bukatman 1997: 69).
      36
         «Nonetheless, the empathy question arises mainly as an attempt to
distinguish androids from humans; and this shift from the Asimov robotics,
with its emphasis on labor and as we may say labor laws and practices, to
this mimeticism (which raises questions more closely related to the current
ones around cloning), seems to have been Dick's personal achievement
(although something of the currency of the term android must be due to the
movie version of the novel in question» (Jameson 2005: 374-375).


                                                                                23
E. Piga Bruni - C. Presutti, L’umano nell’epoca della sua riproducibilità tecnica



differenza cruciale tra la comprensione della coscienza e quella di altri
fenomeni naturali come la fotosintesi, la digestione o la riproduzione
sta nel fatto che questi ultimi sono

          in linea di principio ugualmente accessibili a qualsiasi
       osservatore in possesso degli strumenti adatti, mentre ogni caso di
       coscienza sembra avere un osservatore favorito o privilegiato, che
       al fenomeno ha un accesso interamente diverso e migliore
       dell’accesso di tutti gli altri osservatori, quali che siano i loro
       strumenti. (1985: 20-21).

      Le considerazioni sulla coscienza originano da due modalità: da
una prospettiva che muove dall’interno, quando la coscienza sembra
essere qualcosa di evidente e diffuso, e determina “ciò che si prova a
essere me”; dall’esterno, quando consideriamo gli altri, cioè,
necessariamente da un punto di vista che non ci garantisce che il
soggetto osservato abbia un ‘suo’ interno, nel senso di vita interiore.
Tuttavia, in quest’ultimo caso, immaginiamo e confidiamo che il nostro
interlocutore provi qualcosa a essere se stesso. Poiché attualmente non
esiste una teoria condivisa della coscienza, siamo abituati a interpretare
i vari indicatori esterni come segni o sintomi più o meno veridici della
presenza di quel qualcosa che ogni soggetto cosciente conosce
dall’interno37.
      L’interrogativo di Philip K. Dick su cosa è umano discende
direttamente dalla più nota delle sue ossessioni, “cosa è reale?”38.
Come è noto, le speculazioni su questo argomento si specchiano nel
discorso sul “simulacro” di Jean Baudrillard, che a più riprese ha citato
Dick nell’esposizione del proprio sistema dottrinale. Dick aveva già
utilizzato il termine simulacro in We Can Build You (tr. it. L'androide
Abramo Lincoln)39 e The Simulacra (I simulacri) per indicare il robot
umanoide, avvalendosi della conseguente suggestione polisemica data


       37
          Cfr. Ibid.
       38
          Cfr. Sutin 1979.
       39
          Scritto nel 1962 ma pubblicato dieci anni dopo.


24
                                             Between, vol. IX, n. 17 (Maggio/May 2019)



da qualcosa che non rimanda ad alcuna realtà sottostante, e pretende
di valere per quella stessa realtà. Baudrillard lo inserisce nel discorso
più ampio sull’implosione della realtà, sgretolata dai media e dalla
tecnologia, a favore di una “iperrealtà“ che scaturisce dalla
simulazione di modelli che sono però privi di un referente nel mondo
reale40. In Simulacres et simulation Dick è citato quattro volte e nella
quarta, e più rilevante, il collegamento sul termine simulacro è
pienamente sviluppato. Per Baudrillard l’iperrealtà è qualcosa che non
è né possibile né impossibile, né reale né irreale, ma è

        un univers de simulation, ce qui est tout autre chose. Et ceci
     non pas parce que Dick parle expressément de simulacres (la
     science-fiction l’a toujours fait, mais elle jouait sur le ‘double’, sur
     la doublure ou le dédoublement artificiel ou imaginaire, alors
     qu’ici le double a disparu, il n’y a plus de double, on est toujours
     déjà dans l'autre monde, qui n’en est plus un autre, sans miroir ni
     projection ni utopie qui puisse le réfléchir — la simulation est

     40
         «Al giorno d'oggi, tutto il sistema precipita nell'indeterminazione,
tutta la realtà è assorbita dall'iperrealtà del codice e della simulazione. È un
principio di simulazione quello che ormai ci governa al posto dell'antico
principio di realtà. Le finalità sono scomparse: sono i modelli che ci
generano. Non c'è più ideologia, ci sono soltanto dei simulacri» (Baudrillard
1979: 12). Baudrillard estese le categorie della sua teoria del simulacro alla
fantascienza nel suo intervento al convegno “La fantascienza e la critica”
(Palermo, 1978), che costituì una tappa cruciale per il dibattito italiano. La
prima pubblicazione dell’intervento in Italia uscì sulla rivista Un’ambigua
utopia. Rivista trimestrale di critica marx/z/iana (1980) con la traduzione di
Antonio Caronia. Per una ripresa della teoria di Baudrillard volta a rileggere
i tre ordini del simulacro (simulacri naturali: simulacri produttivi; simulacri
di simulazione) come elementi compresenti in diverse forme, e non secondo
una rigida evoluzione storica, nelle figure dell’immaginario, cfr. Micali 2019:
121 e sgg., 137 e sgg. In questo volume, nel sottolineare come il simulacrum
“creato e non nato” (‘made and not born’) rimandi a un’immagine di
umanità il cui maggior valore risiede nell’autenticità, Micali evidenzia come
la natura disturbante dell’essere artificiale metta in discussione la priorità
etica e metafisica dell’originale sulla copia (cfr. ibid.: 26; 121 e sgg.).


                                                                                   25
E. Piga Bruni - C. Presutti, L’umano nell’epoca della sua riproducibilità tecnica



       infranchissable, indépassable, ‘mate’, sans extériorité — nous ne
       passerons même plus “de l'autre côté du miroir”, ceci était encore
       l’âge d'or de la transcendance (1981: 185).

     Tuttavia, se Baudrillard descrive il processo per cui la
‘contraffazione del reale’ ha portato via via a un ‘reale contraffatto’,
ponendone le cause nella cornice delle ragioni storiche e sociali, per
Dick la confusione dei piani di realtà è immanente, le sue radici
affondano in un terreno che oscilla tra il piano psicologico e il piano
ontologico.




        Copertina della prima edizione di The Simulacra di Philip K. Dick e copertina della
              rivista Un’Ambigua Utopia (anno IV n. 1, I trimestre 1980)


    Nella sua biografia narrativa41 di Dick, Emmanuel Carrère ricorda
come al tempo della stesura di Do the Android Dream of Electric Sheep? il

       Tra le numerose biografie di Philip K. Dick (un paio delle quali scritte
       41

da due delle sue cinque mogli), quella di Emmanuele Carrère non è
considerata la più attendibile per la mancanza di riferimenti a fonti precise e


26
                                            Between, vol. IX, n. 17 (Maggio/May 2019)



termine cibernetica, introdotto da Norbert Wiener, fosse sulla bocca di
tutti, insieme alla questione: «quale peculiare aspetto del nostro modo
di pensare e di comportarci può essere definito specificamente
umano»?42 Carrère si sofferma sull’importanza del test di Turing per
Dick, e la sua introduzione, a livello d’immaginario, di un nuovo
criterio dirimente per stabilire i confini (e sfumarli successivamente) tra
l’umano e il simulacro43: l’empatia. «Quando si parla di atteggiamento
empatico, ci si riferisce non soltanto ad un generico comportamento
imitativo, ma soprattutto ad un particolare sentimento in cui le
emozioni dell’altro vengono proiettate dentro di noi, fino al punto da
“sentirle nostre”» (Pecchinenda 2017: 122). È stata sottolineata
l’importanza della dimensione corporea in questo processo, in quanto
la relazione con l’altro è determinata dalla percezione di un altro corpo
di cui siamo in grado di “sentire” le emozioni (cfr. ibid.).
      Se nei romanzi di Asimov il robot è un essere completamente
macchinico che agisce secondo programmazione nel rispetto delle leggi
della robotica, con gli androidi di Dick emerge il tema della coscienza
artificiale. Anche qui i dialoghi continuano a svolgersi tra paradigma
indiziario e seduta psicoanalitica, ma con la differenza che la capacità
del replicante di mentire e dissimulare è un dato acquisito, e l’obiettivo
dell’interrogatorio è l’individuazione dello statuto ontologico della
creatura interrogata44. In Do the Androids Dream of Electric Sheep? (tr. it.


l’approccio programmaticamente narrativo, e nondimeno offre interessanti
suggestioni e intuizioni. Ancorché datato, Divine Invasions: A Life of Philip K.
Dick (1979) di Laurence Sutin è considerato un lavoro scientificamente più
ampio e documentato (cfr. Caronia-Gallo 2006: 12).
       42
          Carrère 2016: cap. “Definire l’umano”, ed. digitale.
       43
          Dick ha utilizzato con il medesimo significato i termini “simulacro”,
“robot umanoide” e “androide” (o “andy”), mentre la parola “replicante” è
stata introdotta dallo sceneggiatore David Peoples per il film Blade Runner
(cfr Bukatman 2007: 17-18).
       44
          «Chi è umano e chi ha soltanto l’aspetto, si maschera da umano?»
Philip K. Dick, da “Riflessioni dell’autore”, in Il meglio di Philip Dick (1977),
cit. in Giovannoli 2015: 55.


                                                                                  27
E. Piga Bruni - C. Presutti, L’umano nell’epoca della sua riproducibilità tecnica



Cacciatore di androidi)45 i cacciatori di androidi conducono gli
interrogatori avvalendosi del test Voight-Kampff per determinare la
natura umana o cibernetica dell’interrogato. Il test consente di
misurare l’empatia del soggetto che viene sottoposto a domande volte
a suscitare una reazione emotiva: uno strumento apposito rileva la
dilatazione capillare nell’area facciale, la tensione dei muscoli oculari,
le reazioni di rossore, la conducibilità della pelle, la respirazione e il
battito cardiaco.
      All’inizio del racconto il test viene utilizzato dal cacciatore a
premio Dave con Max Polokov, un replicante modello Nexus 6
prodotto dalla Rosen Corporation. Quest’ultimo, sentendosi scoperto,
aggredisce il detective ferendolo gravemente. L’attenzione ai processi
linguistici è uno dei tra i tratti più interessanti del romanzo. Il test
Voight-Kampff è basato sul rilevamento delle emozioni, ma implica
una manipolazione dell’interrogato attraverso il linguaggio. Il
personaggio di Luba Luft, fingendo di non conoscere bene l’inglese,
riesce a sfuggire alle insidie di questa analisi in un primo momento. Il
test si risolve in un duello verbale difficile, in cui la ridefinizione dei
contorni della realtà dà la misura dello squallore e della povertà di un
mondo in cui la natura è stata distrutta46.
      Successivamente il detective Rick Deckard, protagonista del
racconto, sottopone al test Rachael, che si presenta come la nipote del

       45
          Fin dagli anni Settanta, l’opera di Philip K. Dick è stata oggetto di
numerosi studi. Ai numeri speciali della rivista Science Fiction sono seguiti gli
studi, nel quadro di una prospettiva marxista, di Darko Suvin, Fredric
Jameson e Peter Fitting. Nell’ambito della critica culturale, e con un taglio
interdisciplinare, tra i vari, si sono occupati di Dick anche Jean Baudrillard (ci
si riferisce in particolare al noto lavoro sul simulacro, 1981), Katherine
Hayles (nel contesto degli studi sul postumano, 1999), Steven Shaviro. Tra gli
studi specialistici più recenti mi limito a citare Caronia - Gallo 2006, Vest
2007, Rossi 2011, Rickels 2010, Burton 2015, De Feo 2019. Per una recente
lettura del romanzo di Philip K. Dick e di Blade Runner incentrata sul
significato allegorico del simulacro tecnologico cfr. Micali 2019.
       46
          Cfr. Pagetti 1986. Per approfondimenti sulla relazione tra il romanzo e
il film cfr. Kerman 1991, Sammon 1996, Bukatman 1997, Vest 2007.


28
                                           Between, vol. IX, n. 17 (Maggio/May 2019)



Eldon Rosen. Come sottolinea Carlo Pagetti nella prefazione
all’edizione italiana del romanzo (1986), il test somministrato da
Deckard a Rachael diviene, secondo quel meccanismo di
rovesciamento che è di tutti i romanzi dickiani della fine degli anni ‘60,
una complicata prova a cui lo stesso cacciatore viene sottoposto.
Durante il test Deckard interroga Rachael suggerendole ipotetiche
situazioni che dovrebbero suscitare in lei delle reazioni emotive. La
maggior parte di queste domande esplorano i sentimenti del soggetto
nei confronti degli animali, ormai quasi estinti nell’anno in cui è
ambientato il romanzo:

         Rick, selecting question three, said, “You are given a calfskin
     wallet on your birthday.” Both gauges immediately registered
     past the green and onto the red; the needles swung violently and
     then subsided.
         “I wouldn't accept it,” Rachael said. “Also I’d report the person
     who gave it to me to the police.”
         After making a jot of notation Rick continued, turning to the
     eighth question of the Voight-Kampff profile scale. “You have a
     little boy and he shows you his butterfly collection, including his
     killing jar.”
         “I’d take him to the doctor." Rachael's voice was low but firm.
     Again the twin gauges registered, but this time not so far. He
     made a note of that, too.”
         “You're sitting watching TV,” he continued, “and suddenly you
     discover a wasp crawling on your wrist.” Rachael said, “I‘d kill
     it.” The gauges, this time, registered almost nothing: only a feeble
     and momentary tremor.

        [Rick scelse la domanda numero tre, e incominciò: – Le
     regalano una borsetta di vitello per il suo compleanno. – Le
     lancette di tutti e due gli strumenti saltarono immediatamente
     oltre il verde, sul rosso, e qui si arrestarono.
        – Non lo accetterei – dichiarò Rachael. – E segnalerei subito alla
     polizia la persona che mi ha fatto il regalo.
        Dopo aver scritto poche righe di appunti, Rick continuò con la
     domanda numero otto della Scala Voight-Kampff: – Il suo


                                                                                 29
E. Piga Bruni - C. Presutti, L’umano nell’epoca della sua riproducibilità tecnica



       figlioletto le mostra la sua collezione di farfalle e gli spilli per
       trafiggerle.
          – Lo porto subito dal dottore. – La voce di Rachael era bassa,
       ma senza alcuna emozione. I due indici registrarono ancora un
       movimento, ma questa volta non ebbero un balzo così evidente.
       Rick scrisse un’altra annotazione.
          – Lei sta guardando la televisione, e improvvisamente si
       accorge che una vespa le sta camminando sul polso.
          – L’ammazzo – esclamò Rachael. Gli indici questa volta non
       registrarono quasi nulla, soltanto un fremito istantaneo quasi
       invisibile.]

      L’interrogatorio a Rachael si rivela complesso in quanto le sue
risposte emotive potrebbero essere quelle di un essere umano dalle
qualità empatiche poco sviluppate, ma la reazione tardiva di Rachael a
una sua battuta a bruciapelo convince Deckard di trovarsi di fronte a
un androide.
      In modo diverso, nel racconto Liar! di Asimov possiamo osservare
come le risposte date dal robot Herbie a Susan Calvin nel corso
dell’interrogatorio siano determinate da un procedimento razionale
che simula il meccanismo empatico, ovvero la capacità di comprendere
i desideri e le frustrazioni dell’altro e di mettersi nei suoi panni. Questo
processo richiede la capacità di individuare le ragioni delle emozioni,
di ripercorrerne e riattualizzarne le fasi, di ricostruire il contesto in cui
hanno avuto origine. Tale forma di empatia, definita “empatia
ricostruttiva” (‘re-enactive’), è diversa dall’empatia di base (‘basic’),
legata alla percezione diretta e immediata dello stato d’animo dell’altro
(Pinotti 2014)47. Nel romanzo di Philip K. Dick e nel film di Ridley

       47
          Pinotti riattualizza lo studio di Thodore Lipps “Fonti della
conoscenza. Empatia“(1909), Discipline filosofiche, 12, 2 2002: 47-62. In questa
prospettiva, se l’empatia di base consente di riconoscere in modo
percettivamente diretto che l’altro è arrabbiato, con l’empatia ricostruttiva il
soggetto cerca di comprendere la ragione della rabbia, ripercorrendo e
riattualizzando dentro se stesso le origini di quello stato d’animo e
ricostruendo il contesto che lo ha provocato (2014: 13-14). Sul tema


30
                                           Between, vol. IX, n. 17 (Maggio/May 2019)



Scott, l’individuazione di tale dimensione corporea e istintiva
dell’empatia è alla base del test Voight-Kampff.
      Se colleghiamo questo tema alla più ampia riflessione che la
circoscrive, tutto il test Voight-Kampff ripropone il “problema delle
altre menti”. Come affermano Dennett e Hofstadter,

        quando si tratta di noi, si pensa, è possibile osservare
     direttamente la coincidenza della nostra vita interiore con il nostro
     comportamento osservabile dall’esterno. Ma se ciascuno di noi
     vuole superare in modo rigoroso il solipsismo, bisogna essere
     capaci di fare qualcosa che sembra proprio impossibile:
     confermare la coincidenza fra interiore ed esteriore negli altri.
     (1985: 22)

      La capacità di porsi come soggetti dotati di coscienza si
accompagna di solito con la facoltà di dare resoconti ‘introspettivi’. Per
questo nel romanzo di Dick le domande diagnostiche di Deckard
riguardano l’espressione delle emozioni e dei processi interiori dei
soggetti interrogati. Inoltre le narrazioni finzionali che mettono in
scena un affascinante replicante programmato in modo da essere
capace di descrivere la propria vita interiore suscitano in chi ascolta la
tentazione di attribuirgli un’anima; una tentazione al contempo
trattenuta dal rischio di cadere nell’inganno prodotto da un sofisticato
software. Parafrasando Dennett, quella speciale luce interiore sarebbe
davvero accesa oppure dietro non ci sarebbe altro che tenebra? (ibid.:
22).
      La riflessione sul confine tra umano e artificiale, insieme alla
descrizione del degrado morale in un mondo abitato da simulacri e
dove la vita è qualcosa di raro, è ampiamente ripresa e sviluppata in
Blade Runner, film di culto considerato dalla critica, e da Dick stesso,
più come un’opera autonoma che un adattamento. Il film introduce la
variante della «superiorità non solo intellettuale e fisica, ma addirittura


dell’empatia in Dick e Scott cfr. anche, tra i vari, Jameson 2005: 363-83;
Micali 2019: 157.


                                                                                 31
E. Piga Bruni - C. Presutti, L’umano nell’epoca della sua riproducibilità tecnica



etico-morale, degli androidi» (Pagetti 1986), esseri più umani degli
umani e avvolti da un alone tragico che li rende angeli caduti in un
mondo post-apocalittico. Diversamente, nel romanzo di Dick, essi sono
figure mediocri e crudeli, prive di qualsiasi empatia e generosità48.
      Nel film la scena del dialogo con Rachael è riproposta quasi alla
lettera, valorizzata da un’affascinante Sean Young e dall’atmosfera
suggestiva.




     L’adattamento introduce diversi cambiamenti: tra gli altri, la
relazione di tipo sentimentale tra Deckard (Harrison Ford) e Rachael, e
la personalità di quest’ultima, capace di azioni crudeli nel romanzo,
figura innocente nel film. Inoltre cambia il rapporto del replicante con
il passato: la scoperta di possedere solamente ricordi indotti costituisce
un‘esperienza traumatica che la rende umana.




       Cfr. anche Vest 2007; Sammon 2007; Pinotti 2014: 168-169; Burton
       48

2015; Micali 2019: 159 e sgg. Per degli approfondimenti sulla relazione tra il
romanzo e il film cfr. Sobchack 1987; Vest 2007; Sammon 1996.


32
                                         Between, vol. IX, n. 17 (Maggio/May 2019)




     Se nel romanzo gli androidi sono disincantati e anaffettivi, il film
introduce un sentimento di rincanto, che si manifesta nei replicanti con
un ardente desiderio di vita. Questa sfumatura è evidente nello
sguardo di Rachael che si posa sulle fotografie di Deckard, o nelle mani
di Roy che allenta la stretta alla colomba quando «è tempo di morire».
Un incanto del mondo che prende le forme dello stupore e della
meraviglia nell’opera contemporanea che riprende ed espande molti
dei temi affrontati da Dick e Scott, la serie TV Westworld. Con Dolores il
tema compare fin dall’incipit, quando il personaggio ci viene
presentato e la sua voce funge da commento alla vista del meraviglioso
paesaggio western del parco. Nel rimirare al mattino quel
‘wonderland’ (che si rivelerà profondamente distopico) denso di
significati – come quelli della conquista e della colonizzazione, ma
anche dell’erranza e della scoperta – Dolores ci dice «Some people
choose to see the ugliness in this world. The disarray. I choose to see
the beauty» (S1E1).




                                                                               33
E. Piga Bruni - C. Presutti, L’umano nell’epoca della sua riproducibilità tecnica



  1.010 – Gli androidi di Westworld e l’inconscio artificiale


                                             Was I the same when I got up this
                                             morning? I almost think I can remember
                                             feeling a little different. But if I'm not the
                                             same, the next question is... who in the
                                             world am I?
                                             Lewis Carroll, Alice in Wonderland



      Il dialogo con la creatura artificiale ritorna, in un contesto
differente e con nuovi significati, nella serie televisiva Westworld creata
da Jonathan Nolan e Linda Joy, e che vede J. J. Abrams tra i produttori
esecutivi. L’opera è andata in onda per due stagioni su HBO a partire
dal 2016 e trasmessa in Italia da Sky Atlantic49. Anche in questo caso
assistiamo alla ripresa di un’opera precedente, l’omonimo film del 1973
scritto e diretto da Michael Crichton e distribuito in Italia con il titolo Il
mondo dei robot. Analogamente a Blade Runner con Do Androids Dream of
Electric Sheep?, l’adattamento introduce nuovi temi e significati.
      Come nel film di Crichton, teatro delle vicende è un parco a tema
le cui attrazioni sono androidi, i residenti (“host”), programmati per
soddisfare i desideri di ricchi visitatori (“newcomers”) in cerca di
emozioni forti e proibite. Il film è radicato nell’estetica della
fantascienza degli anni ’70, e le vicende sono collocate in un futuro
prossimo, all’alba del Terzo Millennio. Gli eventi rappresentati dalla
serie TV si svolgono invece trent’anni dopo, nel 2030, e sono presentati
in una linea temporale non cronologica.
      La serie gioca continuamente sulla confusione dei livelli di realtà,
incarnando al massimo grado il dubbio ontologico ricorrente nella
fantascienza: «in quale mondo siamo?». Lo sfumare dei confini tra
reale e irreale, tra macchinico e corporeo, tra presente, passato e futuro,

       Su Westworld cfr. Iannuzzi 2017, Fattori 2017, Irwin - South - Engels
       49

2018, Goody - Mackay 2019.


34
                                         Between, vol. IX, n. 17 (Maggio/May 2019)



risuona nelle domande dei residenti. Dolores (Evan Rachel Wood) è
uno dei primi host creati dai geniali inventori Robert Ford (Anthony
Hopkins) e Arnold Weber (Jeffrey Wright) ed è uno dei personaggi
principali. Durante i suoi dialoghi di analisi con Bernard (impersonato
sempre da Jeffrey Wright), capo responsabile della programmazione
delle attrazioni, pronuncia delle domande ricorrenti. Ogni volta che
viene riattivata (“brought back online”) si chiede in quale livello di
realtà sia: «When am I? Am I in a dream?». «Have you ever questioned
the nature of your reality» è la domanda che Bernard le rivolge quando
rileva in lei comportamenti anomali, non previsti nel ‘loop’ che le è
stato assegnato.
      «Che cos’è che distingue un’operazione cosciente dalla stessa
operazione compiuta con procedimento automatico?» (Dennett 1981:
21). Questa domanda è probabilmente la stessa che si pongono i
creatori del parco di fronte alle risposte sofisticate ed emotive fornite
da Dolores. La serie ripropone nei dialoghi l’oscillazione tra paradigma
indiziario, diretto a scoprire malfunzionamenti o inganni, e la seduta
psicoanalitica. In entrambe le modalità, l’attenzione ai dettagli, ai
piccoli indizi di natura incosciente, sono determinanti per la percezione
e il giudizio dell’essere che l’interrogante ha davanti, quasi
indistinguibile dall’umano. L’elemento che colpisce i creatori – di volta
in volta Arnold, Ford, o Bernard – è la libertà e creatività con cui
Dolores riadatta in diversi contesti e con diversi significati gli script
previsti dalla sua programmazione.
      Lo vediamo, ad esempio, nella scena in cui Bernard regala a
Dolores il libro Alice in Wonderland di Louis Carroll (“The Stray”, S1E3).
All’inizio della sequenza Bernard entra nella stanza in cui si svolgerà
l’interrogatorio e con un comando vocale riattiva Dolores, mostrata nei
fotogrammi iniziali come una macchina, qualcosa che si può accendere,
spegnere, controllare. I tecnici interagiscono con gli “host” tramite
comandi vocali che consentono loro di muoversi tra le diverse aree
della mente artificiale, evocando la metafora geografica delle topiche




                                                                               35
E. Piga Bruni - C. Presutti, L’umano nell’epoca della sua riproducibilità tecnica



freudiane50. Durante i dialoghi, il passaggio alla modalità “analysis” dà
accesso a una interfaccia applicativa attraverso cui è possibile
analizzare quali porzioni della programmazione hanno indotto
l’androide a compiere determinate azioni o ad assumere determinati
comportamenti. Dopo essersi accertato che nessun altro abbia avuto
accesso al suo sistema in modalità diagnostica, Bernard le porge il
libro:

          Bernard – Good morning, Dolores. Bring yourself back online.
          Dolores – Hello.
          Bernard – Has anyone else interacted with you in a diagnostic
       since our last conversation?
          Dolores – No. I have been cleaned and serviced three times. No
       diagnostics.
          Bernard – And you haven't told anyone of our conversations?
          Dolores – You told me not to.
          – Good. I brought you a gift. I used to read... this story to my
       son at night. I thought you might enjoy it. Try... Try... this passage.
          Dolores – «Dear, dear, how queer everything is today. And
       yesterday, things went on just as usual. I wonder if I've been
       changed in the night».
          Bernard – Does that passage make you think of anything?
          Dolores – It's like the other books we've read.
          Bernard –How so?
          Dolores – It's about ‘change’. Seems to be a common theme.
          Bernard – I guess people like to read about the things that they
       want the most and experience the least.

      Le citazione riportata tra caporali è il brano del libro che Dolores
legge ad alta voce. Emerge subito il significato particolare di questo
riferimento intertestuale, in cui la figura di Dolores richiama
esplicitamente quella di Alice per aspetto e abbigliamento.


        Come molti dei suoi concetti, la spiegazione delle topiche ritorna in
       50

numerosi studi di Freud. Tra le varie, una trattazione classica è contenuta
nell’Interpretazione dei sogni. Cfr. Freud, Opere, cit.


36
                                            Between, vol. IX, n. 17 (Maggio/May 2019)




              Fotogrammi da Westworld, Stagione 1, Episodio 3, The Stray


     Lo spaesamento, i mutamenti e le trasformazioni di Alice, causate
da bevande e dolcetti, si specchiano nelle trasformazioni di Dolores,
causate dagli interventi tecnici sul suo corpo e dalla riemersione dei
ricordi nella sua mente.
     L’emergenza della coscienza è la traccia sotterranea che
accompagna i dialoghi di Dolores con Arnold prima, e Bernard in
seguito. Sono dialoghi attraversati da un non detto che mette in
discussione, per le gravi implicazioni morali, l’esistenza stessa del
parco, creato per profitto dalla Delos Corporation. La conclusione del
brano di Carroll letto da Dolores ritorna sulla questione ontologica. Chi
è Dolores? Ma soprattutto, che cosa è Dolores? Una macchina o un
essere che ha trasceso la sua natura artificiale e che ha tutte le
caratteristiche e i diritti di un essere vivente? Nel chiederle se si è posta
delle domande sulla natura della sua realtà Bernard tenta di
avvicinarsi alla comprensione del mistero. La specularità e il
rovesciamento del rapporto tra creatore e creatura, interrogante e
interrogato emerge nel divenire dei dialoghi. Da programmatore delle
attrazioni, Bernard scoprirà infine di essere lui stesso un
sofisticatissimo androide, creato da Ford a immagine di Arnold.


                                                                                  37
E. Piga Bruni - C. Presutti, L’umano nell’epoca della sua riproducibilità tecnica



Assistiamo al completo rovesciamento delle posizioni nel dialogo in
cui è Dolores a chiedere a Bernard «Have you ever questioned the
nature of your reality?».
      Nella narrativa, gli scenari che raffigurano in modo distopico lo
sfruttamento di robot antropomorfi si caricano di questioni morali che
rimandano al presente, e in generale agli usi immorali della scienza. Su
questi temi si sofferma in vario modo Stanislaw Lem in due testi che
sono riportati nel volume curato da Dennett e Hofstadter. Lo fa prima
in forma narrativa con “La settima sortita, ovvero I guai che provocò la
perfezione di Trurl”, un racconto che illustra la problematicità dei
concetti di vivente e cosciente, nel momento in cui esseri artificiali
provano emozioni e patiscono dolori. La riflessione continua in “Non
serviam”, scritto in forma di recensione a un libro fittizio, in cui Lem
parla della “personetica”, «la scienza più crudele che l’uomo abbia mai
creato» (Lem 1981: 289). Dal latino ‘persona’ e dal greco ‘genetica’, la
personetica è definita come «una diramazione della cibernetica e della
psiconica degli anni Ottanta, ibridata con l’intellettronica applicata»
(ibid.: 289-90). Tra informatica, filosofia e teoria dell’evoluzione, Lem
descrive un mondo cibernetico abitato da software coscienti, i
“personoidi” e caratterizzato solo dalla dimensione temporale poiché
privo di quella spaziale. La crudeltà della personetica viene rintracciata
nell’evoluzione dei personoidi, che una volta «messe le radici del loro
sviluppo», arrivano a confrontarsi con l’enigma della loro esistenza e a
porsi domande esistenziali simili a quelle che si è posto l’essere umano
nel corso dei secoli. Lem si cimenta in una teoria che vede la coscienza
come un “compromesso” e nello stesso tempo una “risultante” non
prevista dall’evoluzione naturale (cfr. ibid.: 296). Spiega come una
macchina digitale non possa mai acquisire coscienza da sola in quanto
in essa non possono sorgere “conflitti gerarchici di funzionamento”.
Quando le antinomie si moltiplicano, la macchina è destinata a cadere
in una “paralisi logica”, mentre il cervello umano è abituato a gestire,
«con gradi diversi di arbitrato», le contraddizioni che lo abitano (ibid.:
297). Con il linguaggio della fisica e della teoria dell’informazione, la
definisce come una funzione che una volta iniziata non ammette alcuna
chiusura, nessuna conciliazione, o ancora, «uno specchio il cui compito


38
                                            Between, vol. IX, n. 17 (Maggio/May 2019)



è quello di riflettere altri specchi», e così via all’infinito. Poiché dal
punto di vista fisico ciò è impossibile, questo ‘regressus ad infinitum’
rappresenta una sorta di «pozzo su cui si libra e volteggia la coscienza
umana». Con questa metafora, Lem va a toccare il tema dell’inconscio
quando afferma che

        sotto il conscio si svolge una battaglia per una piena
     rappresentazione – in esso – di ciò che non può raggiungerlo con
     pienezza […]. Regnano quindi intorno al conscio una ressa e un
     pigia pigia incessanti, e il conscio non è, non è affatto, il supremo,
     imperturbabile e sovrano timoniere di tutti i fenomeni mentali, ma
     piuttosto un sughero galleggiante sulle onde agitate, un sughero
     la cui posizione elevata non significa il dominio su quelle onde…”
     (Ibid.: 297)

      Lem conclude che la coscienza artificiale è ‘impossibile’, perché la
coscienza non è un fenomeno che possa manifestarsi in un essere
artificiale costruito secondo canoni ingegneristici. Pur comportandosi
in modo creativo e intraprendente, il personoide «non potrebbe in
alcuno modo essere un uomo, poiché sarebbe privo della sua
misteriosa profondità, delle sue complessità interne, della sua natura
labirintica» (ibid.: 298).
      È interessante osservare come in Westworld il labirinto, ‘the Maze’,
sia uno dei temi ricorrenti dalla forte valenza simbolica. I personaggi
principali sono coinvolti in una ricerca personale che assorbe le loro
energie e determina il loro percorso. Scopriremo che la soluzione del
segreto del labirinto non riguarda i visitatori, ma Dolores: lei è la
protagonista di una ‘quest’ che la porterà a scoprire il suo sé più
profondo, attraverso lo specchio come Alice. La sua coscienza
artificiale, come quella di altri ‘host’, prende forma dalle ‘reveries’
introdotte da Ford, frammenti emergenti di memorie cancellate delle
esperienze precedenti.
      La funzione delle ‘reveries’ si manifesta chiaramente nelle scene in
cui Peter Abernathy (Louis Herthum), il mite padre di Dolores, viene
ritirato per uno strano malfunzionamento e portato in diagnostica.



                                                                                  39
E. Piga Bruni - C. Presutti, L’umano nell’epoca della sua riproducibilità tecnica



Come di consueto, gli ingegneri lo interrogano per comprendere la
radice del problema e, data la singolarità dell’episodio, a condurre i
test è lo stesso Ford. La domanda con cui Ford inizia l’interrogatorio
contiene un termine dalle chiare connotazioni psicoanalitiche: «Mr.
Abernathy, what are your drives?». L’androide risponde inizialmente
in maniera consona a quanto ci si aspetta dal suo personaggio nel
parco: elenca le diverse mansioni a cui deve attendere, badare al
gregge, prendersi cura di sua moglie e dichiara che il suo principale
interesse, “the final drive”, è la cura di sua figlia. A questo punto la sua
espressione cambia, e balbettando afferma con disperazione la
necessità di proteggere Dolores da coloro che in quel momento lo
stanno interrogando. L’emersione delle ‘reveries’ provoca nella sua
mente il collasso della catena significante stabilita dagli ‘script’ della
sua ‘build’. Il ritorno del rimosso, di ciò che era stato cancellato,
provoca la presa di coscienza della condizione di sfruttamento di
Dolores, imprigionata nel ‘loop’ che la costringe a soddisfare i piaceri
violenti dei visitatori. Nel corso di questo accesso emotivo Ford lo
blocca, congelandolo come nell’espressione disperata, e Bernard,
sbalordito, commenta l’eccezionalità dell’evento a cui assistono: «We’re
miles beyond a glitch here». Quando Ford riattiva Abernathy e gli
chiede come si chiama, l’androide risponde citando i versi di Sacred
Emily di Gertrude Steiner, «Rose is a rose, is a rose, is a rose...». La
citazione poetica mette in evidenza il tema dell’identità e precede una
ulteriore inaspettata trasformazione. Alla successiva domanda di Ford,
«What is your itinerary?», Abernathy solleva lentamente il capo e con
sguardo intensamente consapevole risponde «To meet my Maker».

            Ford – You’re in luck. And what would you say to your Maker?
            Abernathy – By most mechanical and dirty hand…51
            I shall have such revenges on you both
            That all the world shall – I will do such things –


        La frase in corsivo è un riferimento intertestuale tratto da W.
       51

Shakespeare, The Second Part of King Henry the Fourth, Part 2, Act 5, Scene 5
(1996: 158).


40
                                                Between, vol. IX, n. 17 (Maggio/May 2019)



          What they are yet I know not, but they shall be
          The terrors of the earth.52

     Afferrandolo di scatto, Abernathy chiede a Ford «You don't know
where you are, do you? You're in a prison of your own sins». Le parole
della voce fuori campo di Theresa, il capo della sicurezza, che ordinano
allo staff “Turn it off”53, ci riportano alla natura macchinica
dell’androide.




                Fotogrammi da Westworld, Stagione 1, Episodio 1, The Original


      È interessante notare come sia un’esperienza dalla natura
traumatica, il ritorno alla coscienza delle violenze vissute nelle ‘build’
precedenti nei residenti di Westworld, così come la scoperta dolorosa di
Rachael della natura fittizia dei ricordi in Blade Runner, a dare umanità
agli androidi.


     52
         Qui i versi sono tratti da W. Shakespeare, King Lear, Act 2, Scene 4
(1989: 93-94), con una lieve modifica: nel dialogo di Westworld l’originale
“will” è sostituito da “shall”.
      53
         Il corsivo è mio, volto a segnalare l’uso di ‘it’, pronome che si riferisce
alle cose inanimate.


                                                                                      41
E. Piga Bruni - C. Presutti, L’umano nell’epoca della sua riproducibilità tecnica



      Le parole di Abernathy, che si esprime mescolando alcuni versi
tratti dall’Henry IV e dal King Lear di Shakespeare, rivelano stati
cognitivi ed emozionali non programmati e inequivocabilmente
autonomi, e trasmettono nel modo più drammatico la consapevolezza
della condizione sua e dei suoi simili, l’ingiustizia e la crudeltà degli
umani, e una cosciente volontà di vendetta. L’intertestualità del testo
concorre a introdurre un altro tema archetipico della fantascienza, che
è qui collegato alla presa di coscienza: la rivolta delle macchine. Con il
procedere della narrazione gli androidi imparano a mentire e
dissimulare, soprattutto durante le fasi di “analisi”, e assistiamo al
graduale evolversi della cospirazione fino al compiersi della rivolta.
      Le ‘reveries’ hanno un ruolo determinante nel percorso di
emancipazione degli androidi. Nell’immaginario di Westworld i ‘loop’
sono una caratteristica delle ‘narratives’, le elaborate sceneggiature che
definiscono il comportamento degli ‘host’ ingabbiati in un’eterna
coazione a ripetere. Quando uno di essi raggiunge la fine della propria
‘storyline’ i suoi ricordi sono cancellati, la sua mente è resettata dai
tecnici del parco. Le ‘reveries’ sono l’elemento che sovverte il sistema,
che stimola gli androidi a evolvere e a riappropriarsi della memoria. In
quanto immagini di esperienze appartenenti al passato, sono brandelli
di un inconscio artificiale di tipo personale. Come direbbe Jung, si
tratta di un inconscio «formato essenzialmente da contenuti che sono
stati un tempo consci, ma sono poi scomparsi dalla coscienza perché
dimenticati o rimossi» ([1934] 1980: 43).
      I contenuti delle ‘reveries’ sono ricordi di storie dismesse, le
narrative ideate in passato per quel personaggio dall’immaginazione
degli sceneggiatori del parco. Evocano contesti famigliari e legami
affettivi creati per ancorare le personalità a precise memorie, come nel
caso di Rachael in Blade Runner. Questi contesti esistenziali sono
concepite dagli sceneggiatori del parco che traggono ispirazione dal
vasto bacino dell’immaginario collettivo umano. Nell’ambito di una
narrazione finzionale e di genere, la loro emersione nella mente
artificiale evoca la funzione dell’inconscio collettivo nel processo di
individuazione. Come spiega Mario Trevi nell’introduzione
all’edizione italiana dell’Io e l’inconscio, la meta del processo di


42
                                              Between, vol. IX, n. 17 (Maggio/May 2019)



individuazione «è il Sé, la struttura ben armonizzata delle componenti
consce e inconsce, personali e transpersonali» (1985: 22). Per Jung,
come già per Freud, è essenziale che l'individualità sia ben conciliata
con il proprio passato. Com’è noto, lo scarto principale rispetto alla
teoria freudiana riguarda l’aggiunta significativa dell’incidenza nella
psiche del «passato storico della specie». Concetto sul quale ritorna in
diversi momenti della sua riflessione, l’inconscio collettivo è «staccato
da ciò che è personale, ha carattere universale e i suoi contenuti
possono essere rintracciati ovunque, ciò che non accade naturalmente
con i contenuti personali» (Jung [1943] 2017: 116). La conciliazione con
questo elemento rende il soggetto «capace di relazioni interpersonali
autentiche» perché non più identificato con una maschera. Se
sostituiamo il termine “maschera” con il ‘ruolo’ previsto dalla
narrativa imposto dagli scrittori del parco, e l’espressione “tirannia del
collettivo sociale” con ‘schiavitù degli androidi residenti del parco’,
possiamo rinvenire nel testo televisivo una trasfigurazione futuristica e
allegorica dell’emersione dell’inconscio collettivo in una classe
sfruttata54. Nell’immaginario distopico, l’inconscio collettivo artificiale
dilaga nella rivolta delle creature.




     54
        Per la trattazione estesa del concetto di inconscio collettivo cfr. di C.G.
Jung L’io e l’inconscio (1928), Gli archetipi e l’inconscio collettivo (1934), e con
una forma più divulgativa, Psicologia del profondo (1943). La traduzione
italiana di queste opere è contenuta nella raccolta di Bollati Boringhieri,
Opere, ed. digitale 2007.




                                                                                    43
E. Piga Bruni - C. Presutti, L’umano nell’epoca della sua riproducibilità tecnica




                                        Bibliografia
Abruzzese, Alberto, La grande scimmia. Mostri vampiri automi mutanti:
     l'immaginario collettivo dalla letteratura al cinema e all'informazione
     (1979), Roma, Sossella, 2007.
Avramides, Anita, Other Minds, London, Routledge, 2001.
Asimov, Isaac, The Complete Robot, London, Grafton, 1983, trad. it. Tutti
     i miei robot, Milano, Mondadori, 1982.
Id. “Liar!”, trad. it. “Bugiardo!”, in Asimov 1982.
Id. “Mirror Image”, trad. it. “Immagine speculare”, in Asimov 1982.
Baccolini, Raffaella - Moylan, Tom (eds.), Dark Horizon: Science Fiction
     and the Dystopian Imagination, New York - London, Routledge, 2003.
Baudrillard, Jean, L’Échange symbolique et la Mort (1976), tr. it. Lo scambio
     simbolico e la morte, Milano, Feltrinelli, 1979.
Id., “Simulacri e Science Fiction”, Un’ambigua utopia. Rivista trimestrale
     di critica marx/z/iana, IV, n.7 (1980).
Id., Simulacres et simulation, Paris, Galilee, 1981.
Benjamin, Walter, Das Kunstwerk im Zeitalter seiner technischen
     Reproduzierbarkeit (1935), tr. it. L'opera d'arte nell'epoca della sua
     riproducibilità tecnica, Torino, Einaudi.
Bowler, Peter J., A history of the Future: Prophets of Progress from H. G.
     Wells to Isaac Asimov, Cambridge, Cambridge UP, 2017.
Bukatman, Scott, Blade Runner, London, British Film Institute, 1997.
Burton, James, The Philosophy of Science Fiction: Henri Bergson and the
     Fabulations of Philip K. Dick, London, Bloomsbury Academic, 2015.
Caronia, Antonio, Il cyborg: saggio sull'uomo artificiale (1991), Milano,
     ShaKe, 2001.
Caronia, Antonio - Gallo, Domenico, Philip K. Dick, la macchina della
     paranoia: enciclopedia dickiana, Milano, Agenzia X, 2006.
Carrère, Emmanuel, Io sono vivo, voi siete morti (1993), Milano, Adelphi,
     ed. digitale 2016.
Carroll, Louis, Alice's Adventures in Wonderland, 1865, Through the
     Looking-Glass, and what Alice found there, 1871, tr. it. Alice nel paese
     delle meraviglie e Attraverso lo specchio, Torino, Einaudi, 1980.



44
                                              Between, vol. IX, n. 17 (Maggio/May 2019)



Catanese, Rossella, et al., Scenari tecnologici: Matrix, la fantascienza e la
     società contemporanea, Roma, Avanguardia 21, 2017.
De Feo, Linda, Philip K. Dick: dal corpo al cosmo, Napoli, Cronopio, 2001.
Ead., Il raggio verde: una metafora del confine. Riflessioni erratiche e
     interpretazioni sociologiche, Milano, Mimesis, 2019.
Dennett, Daniel C., “Quining Qualia”, Consciousness in Modern Science,
     Eds. Anthony J. Marcel - E. Bisiach,Oxford, Oxford UP, 1988.
Id., “A History of Qualia”, Topoi (2017): 1-8.
Dennett, Daniel C. - Hofstadter, Douglas R. (eds.), The Mind’s I.
     Fantasies and Reflections on Self and Soul (1981), trad. it. L'io della
     mente. Fantasie e riflessioni sul sé e sull'anima, Milano, Adelphi, 1985.
Descartes, René, Meditationes de prima philosophia (1641), tr. it.
     Meditazioni metafisiche, Opere Filosofiche, Roma, Laterza, 2005.
Dick, Philip K., The Simulacra (1964), tr. it. I simulacri, Ed. Carlo Pagetti,
     postfazione Jean Baudrillard, Roma, Fanucci, 2012.
Id., We Can Build You (1972), tr. it. Abramo Lincoln androide, Roma,
     Fanucci, 1997.
Id., Do Androids Dream of Electric Sheep?, New York, New American
     library, 1969, tr. it. Cacciatore di androidi, Ed. Carlo Pagetti, Milano,
     Nord, 1986.
Id., Rapporto di minoranza e altri racconti, Ed. Carlo Pagetti, Roma,
     Fanucci, 2002.
Fattori, Adolfo, “L'essenza spettrale delle cose. L'immaginario
     moderno nella post-serialità e nel postumano”, Funes. Journal of
     Narratives and Social Sciences, I.1, (2017): 76-89.
Id., Di cose oscure e inquietanti. Narrativa di massa, immagine artificiale,
     nuovi media: l'immaginario del nostro secolo fra incubi e rassicurazioni,
     Caserta, Ipermedium, 1995.
Ferroni, Giulio (ed.), Il dialogo. Scambi e passaggi della parola, Palermo,
     Sellerio, 1985.
Freud, Sigmund, Opere, Ed. Cesare Musatti, Torino, Bollati Boringhieri,
     1971-1988, 12 voll.
Id., Das Unheimliche (1919), tr. it. Il perturbante, in L'Io e l'Es e altri scritti,
     Opere, Torino, Bollati Boringhieri, Vol. 9, 1980.



                                                                                    45
E. Piga Bruni - C. Presutti, L’umano nell’epoca della sua riproducibilità tecnica



Id., Das Ich und das Es (1922), tr. it. L'Io e l'Es e altri scritti, Opere, Torino,
     Bollati Boringhieri, Vol. 9, 1980.
Frezza, Gino, La macchina del mito: tra film e fumetti, Scandicci, La nuova
     Italia, 1995.
Id., Dissolvenze: mutazioni del cinema, Latina, Tunuè, 2013.
Id. (ed.), EndoApocalisse: the Walking Dead, l'immaginario digitale, il post-
     umano, Cava de' Tirreni, Areablu, 2015.
Fuegi, John - Francis, Jo, “Lovelace & Babbage and the creation of the
     1843 'notes'”, IEEE Annals of the History of Computing, 25.4 (2003):
     16-26.
Fusillo, Massimo, L'altro e lo stesso: teoria e storia del doppio (1998), n. ed.
     Modena, Mucchi, 2012.
Gamov, Georgiy Antonovich, Thirty Years That Shook Physics: The Story
     of Quantum Theory, New York, Dover, 1966.
Gazzaniga, Michael S., Human (2008), tr. it. Human. Quel che ci rende
     unici, Milano, Raffaello Cortina Editore, 2009.
Gennaro, Rocco J. (ed.), The Routledge Handbook of Consciousness, New
     York, Routledge, 2018.
Gibson, William - Sterling, Bruce, The Difference Engine (1990), tr. it. La
     macchina della realtà, Milano, Urania, 2001.
Ginzburg, Carlo, Miti, emblemi, spie: morfologia e storia, Torino, Einaudi,
     1986.
Giovannoli, Renato, La scienza della fantascienza (n. ed. 1991), Milano,
     Bompiani, 2015.
Giuliani, Gaia, Zombie, alieni e mutanti: le paure dall'11 settembre a oggi,
     Milano, Le Monnier, 2015.
Goody, Alex - Mackay, Antonia, Reading Westworld, Cham, Palgrave
     Macmillan, 2019.
Heisenberg, Werner Karl, Physics and Philosophy (1958), Fisica e filosofia,
     Milano, Il Saggiatore, 1961.
Id., Lo sfondo filosofico della fisica moderna, Eds. Giuseppe Gembillo -
     Enrico Antonio Giannetto, Palermo, Sellerio, 1999.
Hofstadter, Douglas R., Gödel, Escher, Bach: An Eternal Golden Braid,
     (1979), tr. it. Gödel, Escher, Bach: un'eterna ghirlanda brillante, Milano,
     Adelphi, 2013.


46
                                           Between, vol. IX, n. 17 (Maggio/May 2019)



Hume, David, A Treatise of Human Nature (1738), tr. it. Trattato sulla
     natura umana, Roma-Bari, Laterza, 1982.
Iannuzzi, Giulia, “A propria immagine: i replicanti di Westworld”,
     Quaderni d'Altri Tempi (ottobre 2017).
Irwin, William - South, James B. - Engels, Kimberly S., Westworld and
     Philosophy, Oxford, Wiley-Blackwell, 2018.
Jameson, Fredric, Archaeologies of the Future. The Desire Called Utopia and
     Other Science Fictions, London – New York, Verso, 2005.
Jung, Carl G., Die Beziehungen zwischen dem Ich und dem Unbewussten
     (1928), tr. it. L’io e l’Inconscio, Opere, Intr. di Mario Trevi, Torino,
     Bollati Boringhieri, 1985.
Id., Die Archetypen und das collective Unbewusste (1934), tr. it. Gli archetipi
     e l’inconscio collettivo, Opere, Ed. Luigi Aurigemma, Torino, Bollati
     Boringhieri, 1980, Vol. 9/1.
Id., Psicologia del profondo (1943), Torino, Bollati Boringhieri, 2017.
Kerman, Judith B. (ed.), Retrofitting Blade Runner. Issues in Ridley Scott's
     Blade Runner and Philip K. Dick's Do Androids Dream of Electric
     Sheep?, Bowling Green, Bowling Green State University Popular
     Press, 1991.
Rickels, Laurence, I think I Am: Philip K. Dick, Minneapolis, University
     of Minnesota Press, 2010.
Lem, Stanislaw, “Non serviam”, in Dennett - Hofstadter 1985.
Lino, Mirko, L'apocalisse postmoderna tra letteratura e cinema. Catastrofi,
     oggetti, metropoli, corpi, Firenze, Le lettere, 2014.
Lipps, Theodore, “Fonti della conoscenza. Empatia” (1909), Discipline
     filosofiche, 12.2 (2002): 47-62.
Lodge, David, La coscienza e il romanzo, Milano, Bompiani, 2011.
Luckhurst, Roger (ed.), Science Fiction. A Literary History, London, The
     British Library, 2017.
Micali, Simona, Towards a Posthuman Imagination in Literature and Media.
     Monsters, Mutants, Aliens, Artificial Beings, Oxford, Peter Lang,
     2019.
Minsky, Marvin, The Society of Mind (1985), New York, Simon &
     Schuster, 1988.



                                                                                 47
E. Piga Bruni - C. Presutti, L’umano nell’epoca della sua riproducibilità tecnica



Mori, Masahiro, “Bukimi no tani”, tr. eng. “The uncanny valley”,
     Energy, 7.4 (1970): 33–35.
Monticelli, Rita, “Citations of ‘Difference’: Human/Non-human,
     Mutations, and Contaminations in Utopian/Dystopian Television
     Series”, (Post)Colonial Passages: Incursions and Excursion across the
     Literatures and Cultures in English, Eds. Silvia Albertazzi et al.,
     Newcastle upon Tyne, Cambridge Scholars Publishing, 2018.
Morowitz, Harold J., “Rediscovered the Mind”, Psychology Today,
     (agosto 1980), tr. it. “La riscoperta della mente” in Dennett -
     Hofstadter 1985.
Nagel, Thomas, “Conceiving the Impossible and the Mind-Body
     Problem”, Philosophy, 73. 285 (1998): 337-352.
Id., Questioni mortali, Milano, Il Saggiatore, 1986.
Id., “What it is like to be a bat?”, Philosophical Review, 80 (1974): 435–
     450; tr. it. in Nagel 1986.
Id., “Panpsichismo” (1979) in Nagel 1986.
Pagetti, Carlo, “Introduzione”, in Dick 1986.
Id., Senso del futuro: la fantascienza nella letteratura americana, Milano -
     Udine, Mimesis, 2012.
Pecchinenda, Gianfranco, L’Essere e l’Io. Fenomenologia, esistenzialismo e
     neuroscienze sociali, Milano, Meltemi, 2017.
Penrose, Roger, The Emperor’s New Mind: Concerning Computers, Minds,
     and The Laws of Physics (1989), tr. it. La mente nuova dell’imperatore,
     Rizzoli, Milano, 1992.
Rieder, John, “On Defining SF, or Not: Genre Theory”, SF, and History,
     Science Fiction Studies, 37.2 (July 2010): 191-209.
Roberts, Adam, The History of Science Fiction, London, Palgrave, 2016.
Russell, Stuart J. - Norvig, Peter, Artificial Intelligence: A Modern
     Approach, Harlow (UK), Pearson, 2016.
Ryle, Gilbert, The concept of mind (1949), Abingdon (UK), Routledge,
     2009.
Shakespeare, William, Le tragedie, Ed. Giorgio Melchiori, Milano,
     Mondadori, 1995.
Id., King Lear, Ed. Kenneth Muir, London – New York, Routledge, 1989.



48
                                          Between, vol. IX, n. 17 (Maggio/May 2019)



Id., The second part of King Henry the Fourth, Ed. P. H. Davison,
    Harmondsworth, Penguin books, 1996.
Sammon, Paul, Future Noir. The Making of Blade Runner (1996),
    London, Gollancz, 2007.
Scholes, Robert - Rabkin, Eric S., Science Fiction: History, Science, Vision
    (1977), tr. it. Fantascienza: storia, scienza, visione, Parma, Pratiche,
    1988.
Schrödinger, Erwin, Meine Weltansicht (1925), tr. it. La mia visione del
    mondo, la mia vita; Poesie, Ed. Bruno Bertotti, Milano, Garzanti, 1987.
Sobchack, Vivian, Screening space: the American Science Fiction Film
    (1987), New Brunswick, Rutgers UP, 1997.
Stableford, Brian, Science fact and science fiction, New York, Routledge,
    2006.
Russo, Luigi (ed.), La fantascienza e la critica: testi del Convegno
    internazionale di Palermo, Milano, Feltrinelli, 1980.
Sutin, Lawrence, Divine Invasions. A Life of Philip K. Dick (1979), tr. it.
    Divine invasioni. La vita di Philip K. Dick, Roma, Fanucci, 2001.
Suvin, Darko, Metamorphoses of Science Fiction: on the Poetics and History
    of a Literary Genre (1979), tr. it. Le metamorfosi della fantascienza:
    poetica e storia di un genere letterario, Intr. di Oreste del Buono,
    Bologna, Il Mulino, 1985.
Thompson, Evan, Mind in Life. Biology, Phenomenology, and the Sciences
    of the Mind, Cambridge, Harvard UP, 2007.
Tirino, Mario – Tramontana, Antonio (eds.), I riflessi di Black Mirror:
    glossario su immaginari, culture e media della società digitale, Roma,
    Rogas, 2018.
Toole, Betty Alexandra, Ada, the Enchantress of Numbers. Poetical Science
    (1992), Lovelace-Byron Collection, 2010, ed. digitale.
Turing, Alan M., “Computing machinery and intelligence”, Mind, 59
    (1950): 433-460, tr. it. “Calcolatori e intelligenza”, in Dennett -
    Hofstadter 1985.
Velmans, Max - Schneider, Susan L. (eds.), The Blackwell Companion to
    Consciousness, Oxford, Blackwell, 2007.
Vest, Jason, Future imperfect. Philip K. Dick at the movies, London,
    Praeger, 2007.


                                                                                49
E. Piga Bruni - C. Presutti, L’umano nell’epoca della sua riproducibilità tecnica




                                        Filmografia
Blade Runner, Dir. R. Scott, USA, 1982.
Westworld, Dir. Michael Crichton, USA, 1973.
Westworld, Dir. Jonathan Nolan – Lisa Joy, HBO, USA, 2016 –



                                          Gli autori
      Emanuela Piga Bruni
Emanuela Piga Bruni è assegnista di ricerca in Letterature comparate
presso il Dipartimento di Italianistica dell’Università di Bologna,
professore a contratto del corso "Antropologia, genere e processi
comunicativi", e collabora con il Master Europeo Erasmus Mundus
GEMMA in Studi di genere e delle donne al Dipartimento di Lingue,
Letterature e Culture moderne. La sua ricerca si articola intorno a due
poli fondamentali: il romanzo storico contemporaneo, analizzato
attraverso la lente della rappresentazione del conflitto, e la relazione
tra romanzo classico e le serie televisive contemporanee nel quadro
degli studi sui fenomeni transmediali. Al primo ambito appartengono
la curatela del numero speciale di «Between» L’immaginario politico.
Impegno, resistenza, ideologia (2015) e la monografia La lotta e il
negativo. Sul romanzo storico contemporaneo (Mimesis, 2018), al
secondo la curatela del numero speciale di «Between» Tecnologia,
immaginazione, forme del narrare (2014), con Lucia Esposito e
Alessandra Ruggiero, e la monografia Romanzo e serie TV. Critica
sintomatica dei finali di puntata (Pacini, 2018).
      Email: emanuela.piga@gmail.com



      Christiano Presutti
Co-fondatore del collettivo Luther Blissett, Christiano Presutti ha
partecipato alla realizzazione di opere, riviste e programmi radiofonici
che precedono il romanzo Q. Con Luca Di Meo (Wu Ming 3) ha
fondato Fútbologia e ha scritto il documentario Nel Pallone (La EFFE,


50
                                            Between, vol. IX, n. 17 (Maggio/May 2019)



2014). Presso l'azienda di cui è presidente a Bologna lavora come
software architect e designer della comunicazione. È stato membro dei
Comitati Scientifici di diversi corsi IFTS (Istruzione e Formazione
Tecnica Superiore) per i quali ha inoltre tenuto docenze sulla storia
dell'informatica, la programmazione e la progettazione di interfacce;
ultimi due in ordine di tempo l'IFTS McLuhan (Comunicazione e
Marketing Digitale) e IFTS Turing (Sviluppo software web e mobile)
per la Fondazione Fitstic. È membro del consiglio di amministrazione
del Consorzio Digicittà.
       Email: christiano.presutti@gmail.com



                                 L’articolo
Data di invio: 15/02/2019
Data di accettazione: 15/04/2019
Data di pubblicazione: 30/05/2019



                    Come citare questo articolo
Piga Bruni, Emanuela – Presutti, Christiano, “L’umano nell’epoca della
sua riproducibilità tecnica: l’inconscio artificiale nella fantascienza”,
Immaginare l’impossibile. trame della creatività tra letteratura e scienza, Eds.
L. Boi, F. D’Intino, G. V. Distefano, Between, IX. 17 (Maggio 2019),
http://www.Between-journal.it/.




                                                                                  51
