The proof of enunciation. Digital photography, deepfake, and the refusing or renegotiation of the document
In this paper we resume the arguments we made in a past research on the ambiguous epistemological status of digital photos, focusing on two main practices in which the enunciative device shows a manipulation moving from previous visual instances referentially grounded: mash-up and deepfake. In the first case, an ironical utterer performs a sort of explicit fiction: he then denies any documental status to its photographic text, and in so doing obtains a pragmatic effect of ludic nature (i.e. funniness, or irony). Deepfake, on the contrary, is a sophisticated form of visual simulation where there is no personal, intentional utterer: rather, it results from a hybrid enunciative framework, in which competences and performances are distributed among heterogeneous actants, through delegations and mediations. Deepfake indeed is a sort of objective camouflage: it simulates the testimonial value of its referential content, hiding the complete unreliability of it and obtaining a pragmatic effect of lie (‘seeming’ + ‘not being’).
application/pdf
1970-7452
754
30
it
Paolo  Peverini
E|C
La prova dell’enunciazione. Fotografia digitale, deepfake e pertinenza documentale denegata o rinegoziata
Text.Serial.Journal
https://www.mimesisjournals.com/ojs/index.php/ec
Section 4
2020-03-19
2020-12-23
2020-12-23
2020-12-23
135-144
1
Paolo  Peverini
2020/03/19
135
1970-7452
30
144
La prova dell’enunciazione. Fotografia digitale, deepfake e pertinenza documentale denegata o rinegoziata
https://www.mimesisjournals.com/ojs/index.php/ec/article/download/754/608
La prova dell’enunciazione.
Fotografia digitale, deepfake e pertinenza documentale denegata o
rinegoziata
Riccardo Finocchi, Antonio Perri, Paolo Peverini1



Abstract
In this paper we resume the arguments we made in a past research on the ambiguous epistemological
status of digital photos, focusing on two main practices in which the enunciative device shows a
manipulation moving from previous visual instances referentially grounded: mash-up and deepfake.
In the first case, an ironical utterer performs a sort of explicit fiction: he then denies any documental
status to its photographic text, and in so doing obtains a pragmatic effect of ludic nature (i.e. funniness,
or irony).
Deepfake, on the contrary, is a sophisticated form of visual simulation where there is no personal,
intentional utterer: rather, it results from a hybrid enunciative framework, in which competences and
performances are distributed among heterogeneous actants, through delegations and mediations.
Deepfake indeed is a sort of objective camouflage: it simulates the testimonial value of its referential content,
hiding the complete unreliability of it and obtaining a pragmatic effect of lie (‘seeming’ + ‘not being’).


1. Introduzione: un patto enunciativo ambiguo
La questione dell’enunciazione fotografica – nell’epoca della fotografia digitale, e con tutte le
implicazioni che questo mutamento tecnologico fondamentale ha comportato – impone delle
riflessioni ulteriori che tenteremo qui di problematizzare.
Per farlo, partiremo da una nota citazione (formulata in epoca analogica, peraltro) che ci
accompagnerà – come una sorta di contrappunto – nella nostra disamina; si tratta di un’affermazione
di Eco che nel suo Trattato di semiotica generale (1975), come è noto, scegliendo di definire la semiosi in
rapporto alla possibilità di menzogna propose in quegli anni la formula più efficace – per l’autore che
era filosofo di formazione, e negli anni a venire avrebbe sempre più orientato la propria ricerca
semiotica in ambiti contigui a quelli della filosofia – per non scindere del tutto la postulata autonomia
dei sistemi di significazione convenzionali (le strutture autonome della semiosi) dalla problematica
ontologica (dunque logico-filosofica) del riferimento e dei valori di verità:

       “La semiotica ha a che fare con qualsiasi cosa possa essere assunta come segno. È segno ogni cosa che
       possa essere assunto come un sostituto significante di qualcosa d'altro. Questo qualcosa d'altro non
       deve necessariamente esistere, né deve sussistere di fatto nel momento in cui il segno sta in luogo di
       esso. In tal senso la semiotica, in principio, è la disciplina che studia tutto ciò che può essere usato per
       mentire” (Eco 1975, p. 17).


1 Gli autori hanno discusso e sviluppato assieme l’intero contenuto di questo articolo. Per ciò che attiene alla
stesura materiale del testo, tuttavia, Riccardo Finocchi (Università di Cassino e del Lazio Meridionale) ha redatto
i parr. 1 e 2, Antonio Perri (Università degli Studî Suor Orsola Benincasa, Napoli) ha redatto i parr. 2.1, 2.2 e
2.3; Paolo Peverini (Luiss, Roma) ha redatto il par. 3. Il par. 4 è stato scritto congiuntamente dai tre autori.


               E|C Rivista dell’Associazione Italiana di Studi Semiotici, XIV, n. 30, 2020 • Mimesis Edizioni, Milano-Udine
                                                       ISSN: 1970-7452, ISBN: 9788857575711 © 2020 – MIM EDIZIONI SRL
       This is an open access article distributed under the terms of the Creative Commons Attribution License (CC-BY-4.0).
Il problema dell’enunciazione fotografica può essere dunque affrontato partendo da una sorta di
riepilogo delle affermazioni semiologiche comunemente accolte circa lo statuto teorico della fotografia; tali
affermazioni lasciano comunque emergere quello che possiamo considerare come il patto enunciativo
funzionante in qualche modo – ancor oggi, cioè in era digitale – simultaneamente come orizzonte di
attesa sul versante ricettivo e come principio alla base dell’enunciazione. La più importante fra di esse,
quella che sembra riassumerle (o, forse, precederle) tutte, in quanto fondativa, è senza dubbio quella
formulata da Roland Barthes nel suo libro-testamento del 1980 La chambre claire. Nelle parole di
Barthes, il patto enunciativo del fotografico suona così: “Il noema della fotografia è semplice, banale,
nessuna profondità: è stato [ça a été]” (trad. it. 1981, p. 115).
Questa idea che la fotografia enunci, sì, come ogni lingua, ma promettendo nell’enunciare stesso un
rispecchiamento di ciò che è apparso davanti all’obiettivo – ovvero la “necessaria esistenza” del
qualcosa di cui altre modalità di semiosi (anzitutto quella verbale) non dimostrano la sussistenza – è
ampiamente condivisibile; lo è stata, ad esempio, anche da parte dello stesso Eco che in Sugli specchi e
altri saggi sosteneva: “specchio congelante è la lastra fotografica” (1985, p. 33)
In quel saggio, ciò che abbiamo definito come patto enunciativo era già ben espresso da Eco, in prima
istanza riferendolo allo specchio: “l’immagine speculare non può essere usata per mentire” (p. 25), e
poi estendendolo alla fotografia: “cosa rende una fotografia simile a un’immagine speculare?
Un’assunzione pragmatica per cui la camera oscura dovrebbe dire la verità quanto lo specchio, e in
ogni caso attestare la presenza di un oggetto impressore (presente nel caso dello specchio, passato nel
caso della fotografia)”.
Il medesimo patto enunciativo – stavolta semplicemente sottinteso, o meno chiaramente esplicitato – è
riaffermato anche, negli stessi anni, da Dubois ne L’atto fotografico (1983), testo in cui la fotografia viene
assimilata allo sguardo pietrificante di Medusa (un congelamento della realtà!?); o ancora da Floch in
Forme dell’impronta (1986) dove la fotografia è pensata – già nell’eloquente titolo – appunto come “forma
dell’impronta”, idea che rinvia proprio all’“oggetto impressore” di cui parla Eco, sebbene (come
ricorda Dario Mangano 2018, p. 76) Floch lascia aperta la questione con una sorta di ossimoro
laddove associa l’impronta alla forma (ossia a qualcosa che è tutt’altro che “impronta” in sé).
Floch tuttavia aggiunge qualcosa in più proprio in relazione alla questione dell’enunciazione. A suo
avviso l’immagine – fotografica, naturalmente – presenterebbe un margine di iconicità che
“presuppone un credito di analogia concesso a tale sistema visivo” (1986, p. 19). Floch richiama, a
confermare questo “brevetto di realtà conferito alla fotografia” (ivi), le affermazioni di Gisèle Freund in
Fotografia e società (1974) – dove emergono, a detta di Floch, le condizioni socio-storiche di un carattere
iconico della fotografia – e di Pierre Bourdieu nel saggio sulla fotografia (1965) – che esplicita la
concezione comune della fotografia come certezza tautologica di conformità obbiettiva – aggiungendo
che la semiologia riprende questa “concezione comune” della fotografia “per fare del messaggio
fotografico il messaggio analogico puro” (Floch 1986, p.19).
Sostanzialmente dunque, anche questa posizione più articolata non fa che confermare quanto
abbiamo sostenuto in precedenza.
Aggiunge però Floch:

      “la somiglianza” – della fotografia – “presuppone la stipula (logicamente anteriore) di una sorta di
      patto tra l’enunciatore (il produttore) e l’enunciatario (il ricettore)”, che “implica un sapere
      dell’enunciatore sul sapere dell’enunciatario, un sapere su ciò che quest’ultimo considera la realtà e
      su ciò che egli giudica fedele a questa realtà” (1986, p. 20)

Dunque, al semiologo (è sempre Floch a parlare, p. 21) non interessa l’iconicità (la somiglianza in sé),
quanto piuttosto “le procedure del far sembrare reale”.
Possiamo prendere proprio queste ultime riflessioni di Floch come punto di partenza sia per
riaffermare che un patto enunciativo orientato alla realtà della fotografia (sapere cos’è la realtà e cosa
significhi essere fedele alla realtà) è effettivamente condiviso e accettato – verificando semmai sino a che
punto lo sia – sia per riconoscere che, osservando la prassi enunciativa messa in gioco dalla fotografia


                                                                                                               136
digitale, occorre precisamente riflettere con Floch sul compito ineludibile della semiotica – ossia
osservare le procedure del far sembrare reale.

2. No reflex e la manipolazione digitale: il patto trasformato
Ripartiamo, però, anche da un bagaglio di esperienze condiviso: un testo del 2012, No reflex (Finocchi,
Perri 2012), frutto anche di una ricerca empirica.
È bene rammentare che allora – in un tempo che si potrebbe definire relativamente breve o
incredibilmente lungo: otto anni fa sono pochi, infatti, ma per l’evoluzione repentina e rivoluzionaria
che il digitale ha portato nella vita quotidiana sono un tempo lunghissimo – si era lavorato su alcune
immagini manipolate digitalmente (in parte attraverso morphing) che in quel periodo era piuttosto
difficoltoso reperire anche on-line… Oggi al contrario basta un istante, una semplice “googolata”,
come si usa dire, e ci si trova letteralmente sommersi di immagini digitali manipolate.
Nella ricerca del 2012 era emerso il problematico statuto epistemologico delle fotografie digitali alla
luce di una progressiva e irreversibile perdita della rilevanza “attestativa” derivante dall’indicalità
originaria dell’immagine fotografica tradizionale. Il problema, in seno a quell’indagine, non era
meramente referenziale né tanto meno ontologico (si prendevano in effetti le distanze dalla teoria della
documentalità elaborata, ad esempio, da Ferraris); piuttosto, esso riguardava i regimi di senso che
un’immagine non più (necessariamente) “impronta” del reale poteva suscitare quanto agli
apprezzamenti collettivi degli enunciatari (in particolare quando l’immagine circolava in rete).
Prendiamo un esempio relativamente recente: l’immagine, risalente ormai a qualche mese or sono, che
denomineremo – conformemente all’etichetta verbale con la quale è stata messa in circolazione – con
il “titolo” RENXIT (Fig. 1).




                                          Fig. 1 – Renxit, meme.

L’immagine è ovviamente frutto di una manipolazione digitale – ormai piuttosto semplice da
realizzare – del tipo morphing, che “fonde” le sembianze del leader UK Boris Johnson – fautore della
Brexit, e in quel periodo vicino a conseguire il traguardo dell’uscita del Regno Unito dall’Unione
europea – con il politico Matteo Renzi – protagonista della propria “uscita” dal Partito democratico,
che nel settembre scorso avrebbe portato alla nascita del nuovo partito di Renzi, Italia viva. La “crasi
linguistica” RENXIT del titolo-etichetta, unita e sovrapposta all’immagine “mashuppata” dei due
politici, diviene un enunciato abbastanza esplicito e comprensibile.
Siamo insomma davanti ad un’immagine fotografica la cui enunciazione si basa certamente su un
patto, ma del tutto diverso a quello visto in precedenza; un “nuovo” patto che proveremo a ridefinire
attraverso alcuni suoi tratti pertinenti o salienze.

2.1 Al di là del vero e del fake: l’efficacia (pragmatica)
L’enunciatore e l’enunciatario, nel caso in esame, stabiliscono un patto enunciativo in cui vero e falso
non si presentano più come valori di una categoria pertinente per il testo (non costituiscono più, cioè,
un’opposizione a partire dalla quale attribuire un senso al messaggio). Il testo cioè è spudoratamente
falso ma non è questo l’aspetto più rilevante nella prospettiva semiotica quanto piuttosto l’efficacia (in
una prospettiva semio-pragmatica) che deriva dall’accostamento delle immagini-fonte, la cui selezione-

                                                                                                     137
ricombinazione presuppone un saper fare dell’enunciatore (spesso anonimo) e una consonanza sul
piano interpretativo degli eventi politici rappresentati nella manipolazione ironica.
Detto diversamente: l’enunciatore che produce l’enunciato RENXIT sa (riprendo qui Floch) che
l’enunciatario non nutre alcuna attesa di realtà relativa allo statuto delle immagini; non è necessario
per l’enunciatore sapere che cosa per l’enunciatario “è realtà” e che cosa “giudica fedele alla realtà”,
perché questo enunciato fotografico non vuole in nessun modo instaurare alcuna “procedura del far
sembrare reale”.
A ulteriore testimonianza di tale “messa tra parentesi” della referenzialità si potrebbe citare la
popolarità assunta negli ultimi anni dal termine post-verità, da cui senza dubbio discende anche quella
diffidenza nei confronti del valore documentale delle immagini circolanti in Rete che da tempo
caratterizza la predisposizione alla ricezione.
Notiamo, inoltre, che l’enunciatario, nel caso di RENXIT, non ha bisogno di ricorrere alle
categorizzazioni di reale (vero) e del suo contrario (ovvero fake nel senso di ‘falso’, ‘finzionale’) poiché reale
vs fake cessano di essere pertinenti all’immagine fotografica la quale non specchia, non pietrifica, non è
impressione della pellicola (o lastra fotografica): siamo in presenza di un cambiamento che diviene
massimamente evidente proprio se affrontiamo la questione dal punto di vista dell’enunciazione delle
immagini.

2.2 Post-verità e post-fotografia
Questo “nuovo” patto enunciativo cui abbiamo fatto cenno, nel caso della fotografia, è
sociologicamente connesso all’avvento del digitale che se davvero inaugura – come sostiene Mitchell
(1992) – la post-fotografia lo fa sostanzialmente in quanto disinnesca il dispositivo indicale “aurorale”
del fotografico: quello in base al quale l’enunciatore è lì e registra ciò che è stato (Barthes), dandoci un
testo-impronta senza dubbio manipolabile ma sentito come (referenzialmente) vero. Se viene meno
l’indicalità, insomma, il post-fotografico porta con sé la post-verità delle forme testuali connesse alla
fotografia. Post-verità la quale, dunque, non è, in prima istanza, intenzionale produzione di fake ma
semplice attitudine adiaforica nei confronti del valore di verità di un testo (la quale, ovviamente, presuppone una
manipolabilità anche totale del suo dispositivo enunciativo e dunque della natura ontologica
dell’immagine)2. Questa adiaforia, che già era emersa in No reflex, oggi, a distanza di quasi un
decennio, si è decisamente generalizzata; e ciò a dispetto del fatto che la fotografia giochi ancora un
ruolo considerato da alcuni decisivo nel discorso sociale per il suo valore testimoniale di un fatto (o stato
di cose).
Prendiamo un altro esempio: la foto dell’incontro svoltosi a Roma fra Putin e Conte (Fig. 2) lo scorso
anno (all’epoca del primo Governo giallo-verde in Italia) in cui compare Gianluca Savoini3.
La foto ritrae un nutrito gruppo di esponenti del Governo italiano, le cui identità sono poco
discernibili viste le dimensioni ridotte della foto e l’impossibilità che possa “reggere” un eccessivo
ingrandimento. Per questa ragione, il volto di Savoini è pertinentizzato ad hoc mediante un intervento
grafico: in questo caso l’evidenziazione, ottenuta attraverso la sovrimpressione di un circoletto rosso
attorno al viso del personaggio focalizzato. È molto significativo che si debba, in casi come questo, fare
ricorso a pratiche (meta- ed extra-testuali, dunque interpretative) che l’antropologo Charles Goodwin
(2003) ha chiamato di messa in evidenza attraverso rappresentazioni grafiche – seguendo una strategia che ad
esempio, in sede processuale, mira a costruire argomentativamente il “reale” dando letteralmente forma
agli eventi. Ebbene, ciò accade proprio perché tali pratiche si rendono necessarie onde ripristinare un
valore testimoniale della fotografia ormai non più scontato né atteso. L’intervento sulla foto pubblicata
dall’Ufficio Stampa di Palazzo Chigi è, di fatto, una manipolazione – equivalente sul piano
enunciativo a un’arringa dell’accusa: “Ecco, vedete? Savoini era lì, fra gli invitati…”.



2 Sul valore del post in politica come “non più rilevante” cfr. Cosenza (2018); cfr. anche Traini (2018).
3 Savoini, come è noto, è il collaboratore di Matteo Salvini il cui nome (e il cui volto) circolavano già da tempo in
una serie di inchieste giornalistiche per un presunto coinvolgimento in una trattiva commerciale tra aziende russe
e italiane che avrebbe portato a finanziamenti illeciti di cui avrebbe beneficiato in particolare la Lega.

                                                                                                                138
                         Fig. 2 – Foto dell’incontro svoltosi a Roma fra Putin e Conte.




2.3 Comicità (e ironia) per sempre
L’enunciatore di immagini manipolate digitalmente (del tipo RENXIT) si pone spesso, se non sempre,
nella posizione retorica ludica dell’ironista, poiché nell’enunciato manipolato c’è sempre un elemento
di sovversione del riferimento, manifestazione dell’ironico inteso come arte del rovesciamento del discorso (per
citare Russo Cardona 2009) o espressione di una contraddizione consentita (per richiamare Mizzau, 1984).
L’ironia è del resto una fra le caratteristiche del post-moderno così come descritto da Lyotard (1979), e
questo dovrebbe indurci a giudicare solido il filo rosso che lega i vari post- (nonché la loro
interpretazione in senso non ingenuamente cronologico).
Avviene, con questo tipo di immagini, un curioso cortocircuito legato all’integrazione, nel dispositivo
enunciativo, tra fotografia ed eventuale etichetta linguistica o titolo (di fatto sempre presente, anche se non
apposta/prodotta dall’enunciatore stesso, posto che queste immagini fotografiche circolano in rete e
sono, dunque, indicizzate o taggate linguisticamente). In effetti a caratterizzare questi titoli è sempre un
processo di blending, ovvero di ‘fusione’ fra parole atta a formare una parola-macedonia nuova ma non
per questo sentita come denotativamente diversa dalle altre proprio perché non ne viene messo in
rilievo il valore referenziale. Ciò si verifica anche quando la combinazione comporti l’occorrenza di
nomi propri, vale a dire di quei termini singolari su cui la filosofia del linguaggio da secoli continua a
riflettere proprio perché non descrivibili semanticamente se non in funzione di un riferimento (si pensi,
per una teorizzazione canonica, a Kripke e ai suoi “designatori rigidi”). Si va così da Renzusconi (cfr.
Perri 2016) a RENXIT a (Di) MaZinga ecc. Con il mashup fotografico, all’opposto, la referenzialità
enunciata e denegata ironicamente è ineluttabilmente sempre presente. Questa ineludibilità del mostrar-vero
esemplificato dalla foto, in effetti, la carica di un potere sovversivo di cui la sola espressione verbale che
funge da etichetta è priva. Una prima spiegazione del fenomeno – su cui peraltro varrebbe la pena
approfondire la riflessione – va ritrovata paradossalmente proprio nel potere “indicale” inscindibile
dalla fotografia descritto efficacemente in un noto passo di Peirce (CP 2.281, cfr. Peirce 1980, p. 158),
che come abbiamo appena visto la post-fotografia parrebbe eludere (ed elidere):

      “Le fotografie […] sono molto istruttive, perché sappiamo che esse sono per certi aspetti
      esattamente uguali agli oggetti che esse rappresentano. Ma questa somiglianza è dovuta al fatto
      che le fotografie sono state prodotte in condizioni tali che esse erano fisicamente costrette a
      corrispondere punto per punto all’oggetto in natura”.

La “corrispondenza punto per punto” di cui parla Peirce è cognitivamente venuta meno; ma
l’attitudine emozionale di chi guarda sviluppa ancora il dream fenomenologico che conduce a
identificare un’immagine materiale (persino provvista di titolo o targhetta, a differenza di quanto
sosteneva Peirce in CP 2.276, p. 156) con l’Oggetto: il che spiegherebbe la viralità di questo tipo di
immagini.




                                                                                                           139
3. Il deepfake come dispositivo. L’enunciazione nell’evoluzione della simulazione visiva
All’opposto delle forme ludiche e ironiche che caratterizzano le immagini digitali realizzate a partire
da pratiche di remix e mashup in cui la pertinenza documentale dell’immagine viene ostentatamente
negata – ma allo scopo di rivendicare un punto di vista interpretativo su fatti politici realmente al
centro del dibattito pubblico – si situa il fenomeno recente del deepfake, fenomeno che testimonia una
gradualità dei processi di manipolazione visiva nel contesto post mediale.
Il deepfake (blending o parola macedonia da deep learning e fake) è una tecnologia basata sull’intelligenza
artificiale utilizzata per produrre o per alterare contenuti video in modo da rappresentare un evento
che nei fatti non è mai accaduto. La nascita del termine può esser fatta risalire al 2017, in particolare a
un utente di Reddit il cui nickname era appunto “deepfakes”, che ha fatto ricorso alla tecnologia del deep
learning per sostituire i volti di attori di video pornografici con quelli di celebrities4.
Il deepfake è dunque una nuova tipologia di testo audiovisivo che consente face-swap (‘scambi di volto’)
talmente realistici, nei casi più sofisticati, da risultare impercettibili. Questa pratica di manipolazione
impiega infatti algoritmi ad apprendimento automatico combinati con software di mappatura facciale
per creare video che modificano l’identità di un personaggio pubblico, trasformandolo in un bersaglio
inconsapevole dell’azione di appropriazione e manipolazione indebita di materiale visivo. Per quanto
riguarda la ricezione del testo contraffatto, l’inconsapevolezza della manipolazione chiaramente non
riguarda solo la vittima diretta dell’operazione di camuffamento ma anche lo spettatore, che può
esercitare un ruolo tutt’altro che secondario nell’alimentare la circolazione del materiale.
Tecnicamente un video deepfake viene creato utilizzando due sistemi di IA concorrenti: uno si chiama
“generatore” (generator) e l’altro si chiama “discriminatore” (discriminator). Fondamentalmente, il
“generatore” crea una clip video falsa e, quindi, chiede al “discriminatore” di stabilire se il contenuto
prodotto è reale o falso. Questo significa che la prassi enunciativa messa in opera dal sistema
produttore instaura nei confronti del sistema ricettore una dinamica il cui obiettivo è raggiungere la
verosimiglianza, ostentando il “far sembrare reale” del fotografico. Ogni volta che il discriminatore
identifica accuratamente un video come falso, così, fornisce al generatore un indizio su cosa non fare
durante la creazione della clip successiva.
Insieme, il generatore e il discriminatore formano quella che viene chiamata generative adversarial network
(GAN). Il primo passo per costituire una GAN consiste nell’identificare l’output desiderato e creare un
set di dati di training per il generatore. Una volta che il generatore inizia a creare un livello accettabile
di output i video possono essere inviati al discriminatore.
Il deepfake è un fenomeno senz’altro rilevante per una riflessione sulla pertinenza documentale delle
immagini digitali e, in generale, per una riflessione sulle nuove modalità della simulazione del reale nel
contesto dei media digitali.
Con il deepfake assistiamo infatti a un salto di qualità nell’arte della simulazione che, come già
evidenziato da Bettetini (1991), costituisce una pratica della significazione tanto ampia quanto
caratterizzata da una diffusa ambivalenza. Afferma infatti Bettetini (1991, p. VIII):

         “Simulare significa non solo imitare, rappresentare, riprodurre, ma anche fingere, ingannare,
         mentire. L’arte della 'simulazione' comporta non solo l’abilità esecutiva del ritratto, della statua,
         della ambientazione scenografica, della rappresentazione dell’idea, ma anche quella dell’imbroglio,
         dello stratagemma”.

In particolare “l’avvento della Computer Graphics ha permesso di ridurre ogni immagine ad algoritmi
pronti per entrare nel programma di un calcolatore o, comunque di trasformarla in un modello
simulabile matematicamente mediante le macchine più sofisticate, appartenenti all’ambito della
cosiddetta Intelligenza Artificiale”.
La simulazione visiva all’opera nel deepfake non consiste nella semplice creazione di immagini prive di
referente ma in qualche modo “somiglianti” al reale, bensì in una contraffazione estremamente
realistica di materiali visivi preesistenti. Ciò che rende il fenomeno pertinente e rilevante per una
riflessione semiotica incentrata sul superamento della questione dell’indicalità dell’immagine digitale è

4   https://www.vice.com/en_us/article/bjye8a/reddit-fake-porn-app-daisy-ridley

                                                                                                                 140
il fatto che nel deepfake è all’opera una logica sofisticata del mimetismo (Fabbri 2010) che maschera
l’artificio della manipolazione dietro il realismo del prodotto audiovisivo. Questo genere di
contraffazione, rendendo impercettibile l’inganno, costruisce la propria efficacia agendo sul piano della
veridizione, del far-sembrare-vero ciò che non è mai accaduto, celando la complessità della pratica di
manipolazione dietro l’apparente messa in rilievo di un referente tanto più ambito, quanto più
riconducibile al retroscena della vita di una figura pubblica.
L’efficacia di un deepfake è attestata infatti dalla sua apparente “trasparenza” documentale che consente
di dare forma all’intento manipolatorio del testo: screditare un soggetto “del mondo reale”
attribuendogli, a sua insaputa, comportamenti e/o dichiarazioni false allo scopo di provocare la più
ampia reazione possibile nell’audience di riferimento. Sul piano pragmatico l’impiego di questa pratica
della falsificazione prefigura una molteplicità di intenti tra i quali spiccano la delegittimazione a fini
politici, l’intimidazione, il bullismo.
Significativamente l’insidia al lavoro nei video deepfake consiste dunque nell’ostentazione (del tutto falsa)
del potere documentale delle immagini, nel ricorso (ripetiamo: menzognero) proprio al noema della
fotografia indagato da Barthes. Dietro quella che appare come un’impronta “incontrovertibile” del
reale (il “documento” audiovisivo) si celano, in realtà, il furto e il riuso (indebiti) di materiali semiotici
preesistenti (quelli sì, dotati di un qualche referente che tuttavia il processo enunciativo di riuso ha reso
irrilevanti o irriconoscibili).
La logica del mimetismo in gioco nei deepfake non si riduce tuttavia alla sua apparente “trasparenza”: la
manipolazione non investe solo la sfera sensoriale del destinatario, poiché l’efficacia del deepfake sta
anche nel riuscire a fare leva su competenze e attese del destinatario – sulla sua sfera cognitiva più
ampia, dunque – per costruire un testo che sia credibile anche dal punto di vista di ciò che viene
enunciato. Si vedano ad esempio i video falsi diffusi a suo tempo su Obama e quello su Renzi5. Nel
primo, realizzato dal regista Jordan Peele insieme a BuzzFeed, si invita lo spettatore a riflettere sul
livello sempre più sofisticato delle fake news, costruendo una clip video in cui si mostra come le
affermazioni plausibili pronunciate in apparenza dall’ex presidente degli Stati Uniti sono in realtà lette
dall’autore della manipolazione che rivela la sua presenza e il suo ruolo nella parte finale del testo.
Nel secondo il deepfake ricostruisce un finto fuorionda durante la registrazione di un’intervista a Striscia
la notizia in cui un falso (ma cedibile) Renzi si lascia andare a una serie di commenti irriverenti nei
confronti dei protagonisti della politica italiana.
Nel caso del deepfake, infine, è quanto mai appropriato non limitarsi a categorie antropomorfe come
enunciatore per designare l’atto enunciativo. Da un lato, infatti, il ruolo del soggetto umano emerge
nell’intenzione di creare la manipolazione, nel predisporre i materiali visivi utili a renderne possibile la
realizzazione, nel processo di training e nella decisione di arrestare l’operazione di face swap quando
ritenuta sufficientemente realistico. Dall’altro, tuttavia, l’esecuzione è affidata a un attore non umano
chiaramente non dotato di intenzionalità ma di un’ampia agentività: l’intelligenza artificiale. Questa
forma di simulazione estremamente avanzata non manifesta la presenza di un enunciatore quanto
piuttosto di un apparato enunciativo di tipo ibrido, impersonale6, un dispositivo, nell’accezione introdotta
da Bruno Latour – vale a dire un concatenamento di attanti eterogenei in cui le competenze e le


5 https://www.youtube.com/watch?v=cQ54GDm1eL0
6 Il riferimento è ovviamente al lavoro pionieristico di Christian Metz proposto in L’enunciazione impersonale o il
luogo del film (1991, trad. it. 1995) e volto a favorire il superamento di un approccio antropomorfo
all'enunciazione, ripensando radicalmente la pertinenza dei termini “enunciatore” ed “enunciatario”. È
importante ribadire che la proposta teorica sviluppata da Metz non si situa esclusivamente all’interno di un
dibattito specialistico sull’enunciazione cinematografica. Piuttosto il suo invito ad andare oltre i termini
“enunciatore” ed “enunciatario”, sostituendoli con le espressioni “fonte” (cible) e “bersaglio” (foyer) prefigura la
possibilità di ripensare radicalmente le forme con le quali l’enunciazione simula la propria presenza in testi
caratterizzati anche da sostanze dell’espressione differenti. “Ora, che cos’è, in fondo, l’enunciazione? (…) è più in
generale la capacità di molti enunciati di piegarsi qua e là, di apparire qua e là come in rilievo, di desquamarsi di
una loro sottile pellicola che reca incise alcune indicazioni di un’altra natura (o di un altro livello) concernenti la
produzione e non il prodotto, o, se si vuole, inserite nel prodotto dall’estremo opposto” (Metz 1991, trad. it 1995,
pp. 18-19)

                                                                                                                  141
performanze sono distribuite, in un processo di semiosi caratterizzato da una serie di deleghe e di
mediazioni7.

4. Per provare a concludere
Nel contesto di una diffidenza sempre più diffusa nei confronti della capacità delle immagini di
attestare la verità, la semiotica è chiamata a interrogarsi sull’evoluzione delle pratiche di simulazione
del reale e sull’efficacia delle forme, sempre più sofisticate, del “non-dire-il-vero”.
In quello che appare essere un fenomeno graduale piuttosto che discreto, un continuum di pratiche che
si allontanano progressivamente dall’enunciazione fotografica prototipica (il noema di Barthes, ancora
una volta), abbiamo provato a isolare due modalità opposte dell’enunciazione intesa come
manipolazione operata a partire da materiali visivi preesistenti e dotati di referente: il mash-up e il
deepfake.
Nel primo caso l’enunciatore ludico-ironico è responsabile di una finzione smascherata, che esplicita la
contraffazione dei materiali implicati nella costruzione del testo. È un enunciatore che nega
intenzionalmente il proprio ruolo documentale, che ribalta il segno della testimonianza non legandolo
più all’io-qui-ora dell’atto fotografico come presenza. Sul quadrato della veridizione, questo tipo di
immagine risponde a una logica della falsità (‘non sembrare’ + ‘non essere’). Su un piano semio-
pragmatico l’efficacia di questo genere di contraffazione si manifesta in una relazione di tipo ludico tra
i soggetti del discorso di cui l’ironia è uno dei numerosi esiti possibili.
Nel secondo caso il processo dell’enunciazione all’opera nel deepfake è tanto più rilevante in quanto
anonimo e non attingibile: le “marche” espressive della costruzione-falsificazione del testo ci sono, ma
risultano impercettibili all’occhio umano (richiedono un paziente e laborioso lavoro di analisi dei
fotogrammi). Sul piano dell’enunciazione assistiamo a un uso particolarmente sofisticato del
mascheramento oggettivante, che risponde a una logica di tipo manipolatorio la quale consente di simulare il
valore testimoniale del contenuto referenziale celandone la totale inattendibilità. Sul quadrato della
veridizione, così, questo tipo di contenuti manipolati risponde a una logica della menzogna (‘sembrare’ +
‘non essere’).
Si noti che lo stesso Bettetini agli albori delle profonde trasformazioni generate dall’avvento della
tecnologia digitale sul piano della resa del reale, si soffermava sui due significati, correlati, del termine
simulazione, con particolare riferimento all’ambito dell’iconico, del figurativo (a cui il deepfake
senz’altro può essere ricondotto). Scrive Bettetini:

       “Se un linguaggio deve sempre simulare (soprattutto a livello dei suoi significanti e soprattutto se
       iconico), con gradualità diverse – che vanno dall’imitazione la più convincente possibile di un
       referente, sul quale si appiattisce tutto il piano dei suoi significati, alla costruzione di significati
       magari poeticamente attendibili, ai quali non corrisponde alcun referente – non si deve trascurare
       il fatto che ogni linguaggio può anche simulare nel senso negativo del termine, cercando di
       coinvolgere i destinatari in operazioni di persuasione nei confronti di significati falsi, o, comunque,
       oggettivamente inattendibili” (1991, p. VIII).

Queste due prospettive di approccio al “linguaggio come simulazione” non si escludono affatto l’una
con l’altra: in tal modo le considerazioni di Bettetini appaiono quanto mai attuali per affrontare
l’evoluzione sofisticata delle logiche della contraffazione al lavoro in un genere di manipolazione come
il deepfake. Se infatti il lavoro di simulazione del linguaggio nei confronti del reale non fosse possibile,
verrebbero meno le condizioni di possibilità per operazioni come l’inganno e la truffa al livello del
piano dell’espressione.
In entrambi i casi da noi analizzati, ciò che appare rilevante è la presenza di una razionalità strategica
che guida la manipolazione visiva, anche se con una differenza che ci appare particolarmente
significativa. Nel caso del deepfake il perfezionamento della simulazione si realizza nella “delega”
dell’uomo all’IA, con esiti che sollecitano numerose questioni sul piano politico ed etico – dato che lo

7 Per un inquadramento di alcune categorie concettuali centrali della teoria di Latour nella prospettiva semiotica
si rimanda a Peverini (2019).

                                                                                                                  142
smascheramento della falsificazione risulta progressivamente più complesso in seguito al moltiplicarsi
di contenuti verosimili ma del tutto falsi sempre più perfezionati, facili da realizzare e dal costo
contenuto. Nello scenario critico prefigurato della proliferazione dei deepfake emerge tuttavia una
seconda minaccia potenzialmente ancora più insidiosa, che consiste nella messa in discussione del
potere documentale dei materiali audiovisivi: in altri termini, nel rischio che un numero significativo di
utenti metta in discussione la possibilità stessa di riconoscere a un materiale audiovisivo circolante in
Rete l’efficacia di una prova. Un ruolo essenziale nell’arginare questo scenario è assegnato
all’evoluzione delle tecnologie di identificazione della manipolazione in atto nei deepfake, un processo
che tuttavia – come afferma Hany Farid, uno dei primi studiosi specializzatisi nell'analisi delle
immagini digitali e autore del libro Photo Forensics – appare quanto mai impegnativo:

         “As we develop forensic techniques, deepfakers will learn them and try to circumvent them. I think
         the way that’s going to end up is the way most of these cat-and-mouse games end up. We will
         make it more difficult. You will need a little bit more skill. You’ll have to work a little bit harder.
         But in the end, you’ll probably still be able to create fake content. Yet if I can take out of the hands
         of the average person the ability to create compelling fakes that are undetectable, I will consider
         that success. If I have now moved it into the hands of a relatively small number of people, while
         that is still a risk, I think we can probably agree that it is significantly smaller risk than the average
         person on Reddit being able to create this fake content. So that’s our goal: to keep raising the
         bar”8.




8   https://octavianreport.com/article/hany-farid-fight-threat-deepfakes/2/

                                                                                                                      143
Bibliografia
Nel testo, l’anno che accompagna i rinvii bibliografici è quello dell’edizione in lingua originale, mentre i rimandi
ai numeri di pagina si riferiscono alla traduzione italiana, qualora sia presente nella bibliografia.

Barthes, R., 1980, La chambre claire, Paris, Gallimard; trad. it. La camera chiara. Note sulla fotografia, Torino, Einaudi,
          1981.
Bettetini, G., 1991, La simulazione visiva, Milano, Bompiani.
Bourdieu, P., 1965, Un art moyen. Essai sur les usages sociaux de la photografie, Paris, Minuit; trad. it. La fotografia. Usi e
          funzioni di un’arte media, Rimini, Guaraldi, 1972.
Cosenza, G., 2018, Semiotica e comunicazione politica, Roma-Bari, Laterza.
Dubois, Ph., 1983, L’acte photographique, Paris, Nathan; trad. it. L’atto fotografico, Urbino, Quattroventi, 1996.
Eco, U., 1975, Trattato di semiotica generale, Milano, Bompiani.
Eco, U., 1985, Sugli specchi e altri saggi, Milano, Bompiani.
Fabbri, P., 2010, “Strategie del camouflage, in C. Casarin, D. Fornari, a cura, Estetiche del camouflage, Milano, et
          al./edizioni, pp. 8-20.
Finocchi, R., a cura, 2016, Strategie dell’ironia nel web, “Carte Semiotiche” 2015, Annali 3, Firenze, La Casa Usher.
Finocchi, R., Perri, A., 2012, No reflex. Semiotica ed estetica della fotografia digitale, Roma, Graphofeel.
Finocchi, R., Perri, A., Peverini, P., 2018, “Da identità a identificazione. Forme di vita e società degli oggetti ai
          tempi dell’Internet of things”, in “Annali. Università degli Studi Suor Orsola Benincasa 2016-2018”,
          pp. 169-188.
Floch, J.-M., 1986, Les formes de l’empreinte, Périgueux, Fanlac; trad. it. Forme dell’impronta, Roma, Meltemi, 2005.
Freund, G., 1974, Photographie et société, Paris, Seuil; trad. it. Fotografia e società, Torino, Einaudi, 1976.
Goodwin, Ch., 2003, Il senso del vedere, Roma, Meltemi.
Lyotard, J.-F., 1979, La condition postmoderne, Paris, Minuit; trad. it. La condizione postmoderna, Milano, Feltrinelli,
          1981.
Mangano, D., 2018, Che cos’è la semiotica della fotografia, Roma, Carocci.
Metz, Ch., 1991, L’énonciation impersonnelle, ou, le site du film, Paris, Klincksieck; trad. it. L’enunciazione impersonale o il
          luogo del film, Napoli, ESI, 1995.
Mitchell, W. J., 1992, The Reconfigured Eye, Cambridge, MA; MIT Press.
Mizzau, M., 1984, L’ironia: la contraddizione consentita, Milano, Feltrinelli.
Peirce, Ch. S., 1980, Semiotica. I fondamenti della semiotica cognitiva, Torino, Einaudi.
Perri, A., 2016, Renzusconi? Ca (n’)a (pas) été. Il morphing e la pratica (politica?) dell'ironia indessicale, in R. Finocchi, a
          cura, 2016.
Peverini, P., Spalletta, M., 2007, Le immagini raccontano le notizie? Multimedialità e nuove frontiere del fotogiornalismo
          Napoli-Roma, UCSI - UniSOB - I Quaderni di Desk.
Peverini, P., 2019, Alla ricerca del senso. Bruno Latour in dialogo con la semiotica, Roma, Edizioni Nuova Cultura.
Russo Cardona, T., 2009, Le peripezie dell’ironia, Roma, Meltemi.
Traini, S., 2018, “Due prospettive a confronto sulla post-verità: il “nuovo realismo” e la semiotica”, E/C
          http://www.ec-aiss.it/index_d.php?recordID=892




                                                                                                                          144
