“El barco debe zarpar”.  Riesgo y responsabilidad en la era de la empresa digital
10.6092/issn.2421-2695/18693
Il saggio esplora come la rivoluzione digitale abbia rimesso al centro del diritto del lavoro il tema del rischio e della responsabilità ed analizza gli strumenti attraverso i quali la legge può disciplinare i possibili vantaggi e i potenziali rischi connessi alla tecnologia digitale applicata al lavoro umano, nonché attribuire la responsabilità per i danni. I nuovi approcci giuridici basati sul rischio vengono confrontati con le tecniche di protezione tradizionali e con altri modelli di responsabilità, alla ricerca di una nuova misura dei rischi socialmente ed eticamente accettabili dall'IA.
application/pdf
2421-2695
18693
2
it
Marzia Barbera
https://creativecommons.org/licenses/by/3.0
Labour & Law Issues
lavoro digitale
“La nave deve navigare”.  Rischio e responsabilità  al tempo dell’impresa digitale
Text.Serial.Journal
https://labourlaw.unibo.it/
9
Saggi
2023-12-18
2023-12-14
2023-12-18
2023-12-18
1-16
LLI
Marzia Barbera
2023/12/18
10.6092/issn.2421-2695/18693
1
Università di Brescia
2421-2695
2
lavoro digitale
it
16
Zilli A., La trasparenza nel lavoro subordinato. Principi e tecniche di tutela, Pacini Ed., 2022.
“La nave deve navigare”.  Rischio e responsabilità  al tempo dell’impresa digitale
https://labourlaw.unibo.it/article/download/18693/17157
9
   “La nave deve navigare”.
    Rischio e responsabilità
al tempo dell’impresa digitale



       MARZIA BARBERA
      Università di Brescia




       vol. 9, no. 2, 2023
          ISSN: 2421-2695
                  “La nave deve navigare”.
                   Rischio e responsabilità
               al tempo dell’impresa digitale

                                                             MARZIA BARBERA
                                                            Università di Brescia
                                              già Ordinaria di Diritto del Lavoro
                                                        marzia.barbera@unibs.it



                                   ABSTRACT

         The essay explores how the digital revolution has put the issue of risk
and responsibility back at the center of labour law and analyses the tools through
which the law can govern possible advantages and potential risks connected to
digital technology applied to human work, as well as assign liability for damages.
The new risk-based legal approaches are compared with traditional protection
techniques and with other models of responsibility, in search of a new measure
of the socially and ethically acceptable risks of AI.

Keywords: risk; responsibility; digital enterprise; digital work.

                                https://doi.org/10.6092/issn.2421-2695/18693
           M. BARBERA, “La nave deve navigare”. Rischio e responsabilità al tempo dell’impresa digitale




                      “La nave deve navigare”.
        Rischio e responsabilità al tempo dell’impresa digitale

                        La domanda cruciale non è se consentire attività rischiose, visto che ogni società
                                 accetta un certo numero di incidenti, ma di decidere la misura di essi.
                                                                                          Guido Calabresi

                        The technology is put out there, and as the system interacts with humankind,
                        its developers wait to see what happens and make adjustments based on that.
               We would never, as a collective, accept this kind of mindset in any other industrial field.
                                                                                  Valérie Pisano, Mila –
                                                                 Quebec Artificial Intelligence Institute



SOMMARIO: 1. Il riproporsi del problema del rischio e della responsabilità e lo sperimentalismo del
     diritto del lavoro digitale. - 2. L’ approccio “risk based”. - 3. Cosa c’è di nuovo nell’approccio
     alla gestione del rischio digitale. - 4. “La nave deve navigare”. La logica anticipatoria “risk based”
     e quella del principio di precauzione. - 5. L’impresa in quanto attore sociale e in quanto attore
     politico.


      1.    Il riproporsi del problema del rischio e della responsabilità e lo
sperimentalismo del diritto del lavoro digitale

         L’innovazione digitale ha rimesso al centro del diritto del lavoro la questione del
rischio e della responsabilità e, più precisamente, di come il diritto possa governare i
possibili vantaggi e i potenziali rischi connessi alla tecnologia digitale applicata al lavoro
umano e a chi assegnare la responsabilità del verificarsi di un danno.
         Era già accaduto al tempo dell’affermarsi, con l’automazione introdotta dalla
rivoluzione industriale, dell’altra grande “general purpose technology” (GPT)(1) che
aveva permeato tutti i rami dell’economia e alterato drasticamente le strutture
economiche e sociali. Ci si potrebbe chiedere, perfino, se siamo di fronte oggi ad un’altra
“rivoluzione prometeica”(2). Quella passata comportò effetti combinati in tutti i settori
della vita umana, compreso il diritto. Se, fino a quel momento, per lo stato liberale era
stato il contratto a giocare una funzione di gestione del rischio secondo la logica propria

          (1) Sui caratteri di GPT della rivoluzione digitale v. A. Quarta - G. Smorto, Diritto privato dei
mercati digitali, Mondadori Education, 2020, 1.
          (2) Georgescu Roegen, ispirandosi a Schumpeter, sostiene che la tecnologia non procede in
modo continuo ma a fasi, con la comparsa di innovazioni che segnano una nuova fase. Definisce
“prometeiche” le innovazioni capaci di produrre salti di scala, tali da dare luogo a una nuova fase con
caratteristiche differenti, destinata a prolungarsi nel tempo (cfr. L’economia come estensione della biologia,
conferenza tenuta a Firenze il14 dicembre 1974, in occasione del conferimento della laurea honoris causa).

        LLI, Vol. 9, No. 2, 2023, ISSN 2421-2695                                                          3
          M. BARBERA, “La nave deve navigare”. Rischio e responsabilità al tempo dell’impresa digitale


dell’individualismo proprietario (una regola volontariamente fissata a priori e volta ad
assicurare condizioni di certezza al verificarsi di ciascuna evenienza), per il
sopravveniente stato sociale fu il diritto del lavoro a rispondere all’esigenza di
redistribuire dai lavoratori ai datori di lavoro o alla collettività i rischi nascenti dalla forza
distruttrice dell’avvento delle macchine. Prima il legislatore e poi la contrattazione
collettiva stabilirono, attraverso il diritto della sicurezza sociale, la definizione della
figura contrattuale del lavoratore subordinato(3) e le norme collettive, quali rischi fossero
socialmente tollerabili e quali no, sancendo sia regole flessibili che divieti inderogabili.
             Anche il sistema della responsabilità civile inizialmente identificato come
modello di riferimento della produzione industriale di massa da posizioni favorevoli agli
interessi dell’industria, che prevedeva la responsabilità per colpa e l’irresponsabilità per
fatto altrui, cedette di fronte allo shock della rivoluzione industriale e all’aumentare dei
danni causati dalle macchine, portando a un allargamento del regime privato della
responsabilità attraverso il criterio di imputazione della responsabilità oggettiva, nonché
a regimi pubblici obbligatori di assicurazione (4).
         Allora fu lo Stato a farsi garante di un principio di responsabilità basato
sull’adozione dei criteri di vantaggio e controllo come criteri che innescano la
responsabilità: è da considerarsi responsabile chi ha esposto altri ai rischi di un'attività
di cui ha beneficiato e che era sotto il suo dominio. Volendo adottare l’ottica dell’analisi
economica del diritto, potrebbe dirsi che il regime della responsabilità oggettiva per
rischio di impresa abbia svolto una precisa funzione economica, quale incentivo alla
riduzione del rischio al minimo compatibile con l’esercizio dell’attività di impresa,
inducendo l'imprenditore all'adozione di tutte le misure idonee a contenere il rischio e
ad evitare una perdita complessiva di utilità (5).
        Analoghi problemi di regolazione tornano a riproporsi oggi, ma questa volta pare
che il movimento sia, all’opposto, quello di un ritorno alla responsabilità per colpa.
        Agli inizi dell’invenzione della rete si era diffusa, in realtà, la convinzione di una
sua sostanziale ingovernabilità da parte del diritto, dovuta all’intrinseca refrattarietà dello
spazio virtuale a limiti etero-imposti. Erano la segretezza e l’anonimato dello spazio
digitale a rendere difficile o impossibile indentificare i destinatari delle regole e i luoghi
della loro applicazione. Per altro verso, la sfera digitale era vista come un dominio di
libertà, in cui gli individui erano in grado di sottrarsi ai poteri pubblici e privati. Questo
convincimento, in parte di natura ideologica, ha dovuto cedere di fronte ai mutamenti
intervenuti nella stessa struttura della rete che hanno portato a molteplici sistemi di
riconoscimento e localizzazione degli utenti, sotto la spinta di ragioni di profitto

         (3) Richiamando quanto si diceva prima circa il diritto del lavoro come meccanismo di
distribuzione del rischio, la scelta di uno schema contrattuale piuttosto che un altro può già considerarsi
come l’adozione di una data modalità di ripartizione del rischio.
         (4) Cfr. A. Supiot, La sovranità del limite, Mimesis Ed., 2020, 118.
         (5) P. Trimarchi, Rischio e responsabilità oggettiva, Giuffrè, 1961.

        LLI, Vol. 9, No. 2, 2023, ISSN 2421-2695                                                         4
           M. BARBERA, “La nave deve navigare”. Rischio e responsabilità al tempo dell’impresa digitale


economico degli attori privati e di ragioni di sicurezza e sorveglianza degli attori pubblici.
Si è così compreso che anche l’innovazione digitale era regolabile, sia attraverso lo stesso
strumento tecnologico (si pensi ai meccanismi che regolano l’accesso a un portale o a
un sito), che attraverso norme giuridiche (6).
         Tuttavia, per il diritto del lavoro governare l’innovazione digitale non si è rivelato
un compito facile. Strumenti e tecniche tradizionali hanno faticato, anzitutto, a stabilire
se si fosse a meno in presenza della fattispecie tipica del lavoro subordinato (problema
certo non nuovo e non riferibile solo al lavoro digitale, ma che qui appare con una
frequenza che può considerarsi tipica) e, poi, a limitare forme di esercizio digitale del
potere datoriale che si presentano opache e poco decifrabili in relazione a molte
tipologie di lavoro (si pensi alla gestione algoritmica delle condizioni di lavoro o
all’acquisizione di dati del lavoratore ai più diversi fini, produttivi o di controllo).
         Le tecniche giuridiche con le quali si sono affrontati questi dilemmi regolativi
sono state tecniche flessibili e articolate, sulla linea di uno sperimentalismo e di un
approccio di tipo “rimediale” che hanno portato ad adottare strumenti di tutela diversi
e interventi di natura ibrida. Mi riferisco qui soprattutto al ruolo giocato dalla legge e
dall’autoregolazione privata. A tutt’oggi, infatti, il ruolo della contrattazione collettiva
appare piuttosto limitato, sia per le difficoltà di organizzare la rappresentanza di una
forza lavoro dispersa e difficilmente mobilitabile in forme tradizionali (7), sia per il
conflitto che si è determinato, a livello europeo, fra diritto della concorrenza e autotutela
dei lavoratori autonomi, (o considerati autonomi) compresi i lavoratori digitali. Anche
qui, peraltro, secondo una recente lettura data della vicenda, il diritto euro unitario
avrebbe adottato soluzioni di tipo “rimediale” (8).
         Partendo dal problema della qualificazione del rapporto di lavoro, la presenza nel
nostro ordinamento, in riferimento al lavoro digitale, di quattro distinte figure
contrattuali (il cd. lavoro agile, qualificato come lavoro subordinato; il lavoro autonomo
eterorganizzato; il lavoro autonomo coordinato; il lavoro autonomo economicamente
dipendente) in riferimento a profili professionali spesso contigui conferma, sul piano
regolativo, quell’osmosi fra lavoro subordinato e autonomo già osservata sul piano
fattuale. Quanto alla giurisprudenza, dopo aver inizialmente riproposto gli schemi
collaudati della tecnica tradizionale della sussunzione e averne sperimentato
l’inefficienza regolativa, ha cominciato a sfruttare le nuove risorse normative offerte
dalla legislazione più recente, senza rinunciare ad esercitare una funzione di selezione
delle tutele applicabili, resa possibile dall’adesione alla teoria del tertium genus, nonché a
far uso di risorse di tipo sistemico in tema di interpretazione. Si consideri, ad esempio,

           (6) A. Quarta - G. Smorto, cit., 53-54.
           (7) V. però sulle nuove forme di autorganizzazione e azione collettiva J.M. Miranda Boto - E.
Brameshuber - P. Loi - L. Ratti (a cura di), Contrattazione collettiva e gig economy, Giappichelli, 2022.
           (8) Cfr. M. Pallini, L’approccio “rimediale” della Commissione UE alla tutela del diritto di contrattazione
collettiva dei lavoratori autonomi, LDE, 2023.

         LLI, Vol. 9, No. 2, 2023, ISSN 2421-2695                                                          5
           M. BARBERA, “La nave deve navigare”. Rischio e responsabilità al tempo dell’impresa digitale


la posizione interpretativa adottata dalla Cassazione (sent. n. 1663/2020) a proposito
della qualificazione dei lavoratori su piattaforma là dove ha sostenuto che – pur senza
tendere all’esatta individuazione del tipo legale – è sufficiente accertare alcuni elementi
fattuali e le modalità di svolgimento della prestazione organizzata da altri per riconoscere
le garanzie lavoristiche.
        La stessa osmosi di tecniche giuridiche diverse si riproduce a proposito della
regolazione delle condizioni di lavoro. Ciò è il frutto dell’integrazione fra diritto del
lavoro e normative non lavoristiche, a partire dalle disposizioni che recepiscono il
Regolamento UE 2016/9 sulla privacy (GDPR), di cui vengono “introiettati” i principi
generali di trasparenza, limitazione delle finalità, minimizzazione del rischio e
responsabilizzazione (9).
        Quanto alle tecniche operative, esse vengono spesso importate dalle procedure
gestionali di risk management. Si tratta di processi e metodi di valutazione e gestione del
rischio che nascono negli Stati Uniti fra gli anni ‘40 e ‘50, volte a pianificare le attività
necessarie alla riduzione del potenziale impatto negativo che variabili interne o esterne
all’organizzazione hanno sul conseguimento di obiettivi dati. Una loro particolare
applicazione è quella della gestione delle organizzazioni produttive (un esempio ben
conosciuto ai giuslavoristi è quello della valutazione e gestione dei rischi per la salute e
sicurezza sul lavoro). Come è facilmente intuibile, cruciale nella definizione e gestione
del rischio sono le conseguenze dell’attività dell’impresa in relazione ai valori e agli
obiettivi di riferimento, che possono essere unicamente di tipo economico o anche di
tipo sociale e valoriale.
        Le tendenze fin qui descritte hanno origine o tendono a riprodursi a livello
europeo, anche nelle proposte di normazione più recenti. Così, nella Proposta di
direttiva relativa alle condizioni di lavoro dei lavoratori delle piattaforme presentata dalla
Commissione europea il 9 dicembre 2021, il ricorso allo strumento della presunzione
legale (di subordinazione) ai fini della qualificazione della natura del rapporto, che
riproduce la classica impostazione binaria autonomia/subordinazione, si accompagna
alla presenza di forme di tutela delle condizioni di lavoro che non distinguono fra la
natura subordinata o autonoma del rapporto di lavoro e che stabiliscono obblighi di
trasparenza e informazione preventiva, leggibilità delle decisioni automatizzate,
periodico monitoraggio umano dei sistemi automatizzati, riesame umano e correzione
degli effetti dei sistemi algoritmici, desunti dal Regolamento europeo in materia di
privacy(10).



         (9) L. Zappalà, voce Algoritmo, in S. Borelli - V. Brino - C. Faleri - L. Lazzeroni - L. Tebano - L.
Zappalà, Lavoro e tecnologie. Dizionario del diritto del lavoro che cambia, Giappichelli, 2022, 20.
         (10) Alcuni di questi obblighi sono stati anticipati nel nostro ordinamento dal d.lgs. n. 104/2022,
di recepimento della direttiva 2029/1152 sulle condizioni di lavoro trasparenti e prevedibili che stabilisce
specifici obblighi informativi nel caso di utilizzo di sistemi decisionali e di monitoraggio automatizzati,

        LLI, Vol. 9, No. 2, 2023, ISSN 2421-2695                                                          6
            M. BARBERA, “La nave deve navigare”. Rischio e responsabilità al tempo dell’impresa digitale


         Ne risulta, per ritornare alle considerazioni iniziali, che, per quanto il diritto del
lavoro digitale appaia come una sorta di puzzle in costruzione, esso presenta già una
caratteristica peculiare, che è quella di mutuare, per necessità ma anche per scelta,
principi e norme derivanti da complessi normativi non lavoristici, in parte derivanti da
regole europee di armonizzazione funzionali alla creazione del mercato unico e alla
promozione di un modello commerciale per la condivisione e l’intermediazione dei
dati(11), in parte già utilizzati in passato ma in combinazione con garanzie di matrice
lavoristica (si pensi alla normativa sulla sicurezza sul lavoro o sulla privacy) e di affidare
la gestione del rischio tecnologico alle pratiche aziendali di risk-management. A ciò si
aggiunge la presenza di un’intensa attività di auto-regolazione, sotto forma di codici di
condotta adottati su base volontaria dalle imprese.
         Si tratta di scelte regolative di natura politica, come accade ogni volta che si
deve decidere quali regole di sicurezza stabilire e, come si è detto, su questa strada si
procede con un certo sperimentalismo. È possibile però che ciò sia dovuto a una ragione
che non è solo politica ma anche etica, e cioè che ancora non si sia deciso,
collettivamente, quale prezzo siamo disposti a pagare per aver accettato, una volta di
più, quello che Calabresi ha chiamato “il dono dello spirito maligno” (12). Come osserva
la studiosa di IA citata in premessa, si tratta di un atteggiamento “wait and see” che non
accetteremmo in nessun altro campo di attività economica. Che ciò avvenga quando si
ha a che fare con l’IA fa pensare che non vi sia ancora piena consapevolezza di quanto
è in gioco e dell‘effettiva portata dei rischi tecnologici.

         2. L’approccio “risk based”

        Si è appena detto che il diritto del lavoro digitale si presenta come una
regolazione di natura prevalentemente “risk-based”. Come si accennava all’inizio, il
rischio non è certo una categoria nuova per il diritto del lavoro. L’intero diritto del
lavoro può essere letto come un meccanismo di redistribuzione dei rischi di mercato e
dei rischi sociali (13). In passato, inoltre, si sono sperimentate specifiche forme di risk
management in materia di salute e sicurezza, associate però a una dettagliata disciplina di
obblighi che l’impresa deve rispettare (14) e, nel sistema domestico, a una norma di
chiusura quale l’art. 2087 c.c.

applicabile anche ai lavoratori autonomi autorganizzati ed eterorganizzati (v. A. Zilli, La trasparenza nel
lavoro subordinato. Principi e tecniche di tutela, Pacini Ed., 2022, 143 ss.).
          (11) L’armonizzazione delle regole europee, è stato osservato, è stata funzionale finora anzitutto
alla creazione del mercato unico e alla promozione di un modello commerciale per la condivisione e
l’intermediazione dei dati (cfr. P. Tullini, La Direttiva Piattaforme e i diritti del lavoro digitale, LLI, 2022, 46).
          (12) G. Calabresi, Il dono dello spirito maligno, Giuffrè, 1996.
          (13) Si veda, in questo senso, P. Loi, La sicurezza. Diritto e fondamento dei diritti nel rapporto di lavoro,
Giappichelli, 2000.
          (14) Cfr. S. Borelli - D. Izzi, L’impresa tra strategie di due diligence e responsabilità, RGL, 2021, 553 ss.

         LLI, Vol. 9, No. 2, 2023, ISSN 2421-2695                                                           7
          M. BARBERA, “La nave deve navigare”. Rischio e responsabilità al tempo dell’impresa digitale


         Tuttavia, sono nuovi (o in parte nuovi) alcuni elementi che provo ad enumerare:
l’adozione di una concezione graduata di rischio; la distribuzione del rischio fra le due
parti del rapporto piuttosto che l’attribuzione a quella economicamente più forte;
l’affidamento della gestione del rischio a un’auto-regolazione di natura privata, di
carattere prevalentemente procedurale, di natura flessibile e dagli esiti aperti.
         Questo approccio è particolarmente evidente nella “pyramid of criticality”
adottata dalla Proposta di regolamento sull’IA (da ora, il Regolamento)(15), che
differenzia fra un livello di “basso rischio”, in cui non si applica nessuna limitazione
all’uso degli strumenti tecnologici; un livello di “rischio limitato”, in cui vigono soltanto
obblighi di trasparenza; un livello di “alto rischio” a cui corrisponde una serie di
restrizioni più o meno rigorose; infine , in cima alla piramide, un livello di “rischi
inaccettabili” che il sistema vieta tassativamente di assumere (es. la messa in servizio o
l'uso di un sistema di IA che sfrutta le vulnerabilità di uno specifico gruppo di persone,
dovute all'età o alla disabilità fisica o mentale).
         Facendo un parallelo con le tecniche di regolazione tradizionali ,potrebbe dirsi
che il primo livello corrisponde ad un’area in cui nessun vincolo è posto all’autonomia
privata, salva, ovviamente, la possibilità dell’insorgere ex post di una responsabilità
aquiliana; il secondo, a vincoli di tipo procedurale, quale obblighi di informazione e
consultazione; il terzo, a norme di tipo flessibile che non sono definite secondo
l’alternativa binaria ammesso/vietato ma richiedono il bilanciamento di interessi diversi;
l’ultimo, a norme di carattere tendenzialmente inderogabile.
         Il Regolamento riconosce che sono “sistemi ad alto rischio” quelli utilizzati «nel
settore dell'occupazione, nella gestione dei lavoratori e nell'accesso al lavoro autonomo,
in particolare per l'assunzione e la selezione delle persone, per l'adozione di decisioni in
materia di promozione e cessazione del rapporto di lavoro, nonché per l'assegnazione
dei compiti, per il monitoraggio o la valutazione delle persone nei rapporti contrattuali
legati al lavoro… in quanto tali sistemi possono avere un impatto significativo sul futuro
di tali persone in termini di future prospettive di carriera… perpetuare modelli storici di
discriminazione… I sistemi per monitorare le prestazioni e il comportamento di tali
persone possono inoltre incidere sui loro diritti in materia di protezione dei dati e vita
privata». In linea con l’approccio graduato, tali sistemi di IA ad alto rischio non sono
vietati sul mercato europeo, ma consentiti subordinatamente al rispetto di determinati
requisiti obbligatori e a una valutazione di conformità ex ante.
         Le procedure e gli strumenti stabiliti in propositi dal Regolamento consistono in
«pratiche appropriate di governance e gestione dei dati»; documentazione tecnica che
dimostri che il sistema è in linea con le regole, garantendo la tracciabilità del


         (15) È utile ricordare che una tecnica simile di gradazione del rischio è presente già nel
Regolamento sulla privacy, che pone a carico del responsabile del trattamento una procedura di
valutazione e gestione del rischio basata sulla gravità del rischio stesso.

       LLI, Vol. 9, No. 2, 2023, ISSN 2421-2695                                                          8
            M. BARBERA, “La nave deve navigare”. Rischio e responsabilità al tempo dell’impresa digitale


funzionamento; una "sufficiente" trasparenza operativa; un'efficace supervisione
umana; «un livello adeguato di accuratezza, robustezza, e sicurezza informatica». Il
controllo di conformità a tali requisiti è affidato, per la maggior parte, a procedure di
valutazione interne delle imprese fornitrici di un sistema di IA, da condurre prima
dell’immissione nel mercato europeo, una procedura adattata dalla normativa UE sulla
sicurezza dei prodotti. Solo i sistemi di IA ad alto rischio utilizzati per l'identificazione
biometrica rientrano nella valutazione di conformità da parte di un "organismo
notificato". Quanto ai datori di lavoro che utilizzano i sistemi (denominati, seguendo la
terminologia generale dell’atto,“user”, ossia persona fisica o giuridica sotto la cui autorità
è utilizzato il sistema di IA), essi devono in primo luogo attenersi alle istruzioni e
segnalare al fornitore/distributore qualsiasi incidente grave o malfunzionamento.
        C’è da riflettere su questa forma di responsabilità del datore di lavoro in quanto
“user”, che pare dare per acquisito il fatto che lo stesso datore di lavoro non sia altro
che un ausiliario della tecnologia. Un ruolo decisionale e una responsabilità diretta del
datore di lavoro, tuttavia, riemergono quando, secondo l’art. 14, par. 2 del Regolamento,
rischi per la salute, la sicurezza o i diritti fondamentali si presentino nonostante un
sistema di IA ad alto rischio sia utilizzato conformemente alle sue finalità, o per un uso
improprio ragionevolmente prevedibile. In questi casi, l’impresa deve garantire,
attraverso la sorveglianza umana, di essere in grado di decidere, in qualsiasi situazione
particolare, di non usare il sistema di IA ad alto rischio o altrimenti di ignorare, annullare
o ribaltare l'output del sistema stesso.
        Si tratta di una declinazione di un principio di natura trasversale a varie discipline
(in primo luogo quella relativa alla tutela dei dati personali), e cioè il principio della
umanizzazione del controllo che, nella lettura di alcuni studiose e studiosi è fonte di una
serie di diritti cd. “di quarta generazione” volti a correggere l’opacità e la segretezza dei
sistemi digitali(16).
        Ancora diversa è la soluzione prevista dalla Proposta di direttiva sul
miglioramento delle condizioni di lavoro dei lavoratori delle piattaforme digitali che
considera le piattaforme di lavoro digitali sia quali utenti, che quali fornitori di sistemi
di IA ad alto rischio, valutazione che rispecchia la natura ibrida delle piattaforme, che
possono essere tanto datori di lavoro che intermediari.

          3. Cosa c’è di nuovo nell’approccio alla gestione del rischio digitale

      Cosa differenzia l’approccio attuale dagli approcci lavoristici tradizionali? Una
prima differenza mi pare consista proprio nell’assunzione sistematica dell’approccio della

          (16) B. Caruso - L. Zappalà, Un diritto del lavoro “tridimensionale": valori e tecniche di fronte ai mutamenti
dei luoghi di lavoro, in R. Del Punta (a cura di), Valori e tecniche nel diritto del lavoro, Firenze University Press,
2022, 55; M. Peruzzi, Intelligenza artificiale e lavoro. Uno studio sui poteri datoriali e tecniche di tutela, Giappichelli,
2023.

         LLI, Vol. 9, No. 2, 2023, ISSN 2421-2695                                                                9
          M. BARBERA, “La nave deve navigare”. Rischio e responsabilità al tempo dell’impresa digitale


gestione del rischio che porta a una definizione modulare delle diverse ipotesi di rischio
e delle condotte atte a produrli e richiede una valutazione basata sul caso concreto, che
varia al variare delle circostanze.
         Nel diritto del lavoro, tradizionalmente la distribuzione del rischio sociale viene
regolata senza possibilità di graduazioni anzitutto attraverso la scelta del tipo
contrattuale, restando poi aperta l’opzione tra il modello regolativo della norma
sostanziale e quello della norma procedurale ove non si tratti di diritti considerati
indisponibili e protetti da norme inderogabili.
         Una seconda differenza risiede nell’individuazione del soggetto legittimato a
valutare e individuare le diverse fattispecie di rischio e di condotta e ad esercitare una
funzione di controllo, che, nel caso nell’approccio risk-based è, di norma, un attore
privato che si sostituisce, in tutto o in parte(17), al legislatore e al giudice. Tale attore può
essere l’impresa stessa (optandosi così per il binomio autoregolamentazione-
conseguenze reputazionali in alternativa al binomio obblighi legali-conseguenze
giuridiche) o un soggetto terzo che svolge una funzione di standard setting di natura
convenzionale(18).
         Una terza differenza consiste nel modello di responsabilità presa a riferimento:
nel modello più recente è la responsabilità per colpa; in quello più risalente ad essa si
associano spesso ipotesi di responsabilità oggettiva.
         Naturalmente queste distinzioni fra diverse forme di regolazione non sono nette.
Il diritto del lavoro conosce già una molteplicità di casi in cui le diverse tecniche sono
ibridate o convivono: si è già fatto più volte l’esempio della prevenzione e gestione dei
rischi legati alla salute e sicurezza sul lavoro o alla privacy. Tuttavia, non è indifferente
che la regolazione si orienti in un senso o nell’altro, poiché le scelte regolative, come si
è già osservato, sottintendono precise opzioni politiche e valoriali.
         In linea generale, potrebbe dirsi che le tecniche tradizionali tendono, attraverso
diritti e obblighi sia sostanziali che procedurali, o a sottrarre il lavoratore ai rischi
dell’attività e ai rischi di mercato e ai costi relativi, che vengono a gravare sull’impresa in
quanto soggetto dotato di maggior potere economico e di controllo, o a distribuirli in
modo considerato socialmente equo fra le parti (si pensi alla disciplina dei licenziamenti).
Con le tecniche attuali, il rischio d’impresa cessa di essere criterio unitario di
imputazione della responsabilità del danno e si tende invece a far assumere il rischio alle
due parti, distribuendolo sulla base di valutazioni ex ante di tipo procedurale (risk

          (17) Esistono, in questo caso, soluzioni più articolate, come accade nella Regolamento che vede
anche l’intervento, in circostanze particolari, di organi pubblici di controllo.
          (18) Diversi organismi privati di definizione di standard di risk management stanno sviluppando
procedure volontarie di gestione del rischio legato all’IA. I più importanti sono il NIST AI Risk
Management Framework1 e l'ISO/IEC 23894. Anche i framework di gestione del rischio aziendale
esistenti, come COSO ERM 201715 sono stati applicati al contesto dell‘ intelligenza artificiale. Molte
società di consulenza hanno inoltre pubblicato rapporti sulla gestione del rischio dell’IA (cfr. J. Schuett,
Risk Management in the Artificial Intelligence Act, in European Journal of Risk Regulation, 2023, 2)

        LLI, Vol. 9, No. 2, 2023, ISSN 2421-2695                                                         10
           M. BARBERA, “La nave deve navigare”. Rischio e responsabilità al tempo dell’impresa digitale


assesment e planning) e rendicontazioni ex post, basate sulle circostanze concrete e su
esercizi di bilanciamento, assumendo che ciascuna parte sia nella posizione di prendere
scelte informate.
         Nel Regolamento, in particolare, il bilanciamento fra interesse dell’impresa e
interesse della persona è basato sul criterio della riduzione al minimo dei costi per il
mercato della protezione della persona: si parla, infatti, di «un approccio normativo
orizzontale all'IA equilibrato e proporzionato, che si limita ai requisiti minimi necessari
per affrontare i rischi e i problemi ad essa collegati, senza limitare od ostacolare
indebitamente lo sviluppo tecnologico o altrimenti aumentare in modo sproporzionato il
costo dell'immissione sul mercato di soluzioni di IA» (c.m.).
         Rispetto al modello della responsabilità oggettiva, vi è uno slittamento di
significato riguardo al rischio da evitare, all’oggetto dell’obbligo per il soggetto gravato
dal rischio e alla connessa responsabilità. Nel campo del risk management l’evento da
evitare non è quello idoneo a produrre un danno, quanto quello della mancata (o scarsa)
capacità di anticipare e prevenire (o attenuare) un evento prevedibile e, in assenza di
danni e in caso di controlli dell’autorità, quello dell’aver applicato misure di sicurezza
non adeguate al rischio calcolato o del non aver saputo rendicontare la propria attività
e, di conseguenza, del non essere in grado di dimostrare di aver fatto tutto il possibile
per (provare a) evitare il danno. L'imprenditore, in sostanza, non è responsabile per
l’effettivo verificarsi del danno, ma è responsabile per non averlo previsto e prevenuto.
         Il criterio interpretativo del nesso causale è sempre ex ante, precede il verificarsi
del danno, e non ex post. Il che non significa, si badi, che tale responsabilità ex ante si
sostituisca in pieno alla responsabilità ex post (ciò sarebbe, dal punto di vista sistematico,
impossibile); piuttosto, la prima può essere la condizione per l’istaurarsi della seconda.
         Secondo il Regolamento, in sintesi, l’evento deve essere prevedibile e noto (tipici
principi della responsabilità) e il controllo deve essere possibile e non eccessivamente
oneroso.

       4. “La nave deve navigare”. La logica anticipatoria “risk based” e quella
del principio di precauzione

       Scriveva San Tommaso d’Aquino che, se lo scopo principale di un capitano fosse
quello di preservare la sua nave, dovrebbe tenerla ancorata in porto per sempre: ma la
nave deve navigare perché è nata per questo, e questo è il fine ultimo che deve avere
anche il capitano(19). Secondo questa prospettiva, è il capitano che decide se la nave deve
navigare, perché è colui che più di altri è capace di fare la scelta migliore rispetto all’utilità
di navigare, ai rischi da prendere, alle precauzioni da adottare, ai danni attesi alle persone


        (19) Citato in G. Palombella, Dopo la certezza. Il diritto in equilibrio tra giustizia e democrazia, Ed.
Dedalo, 2006, 92.

        LLI, Vol. 9, No. 2, 2023, ISSN 2421-2695                                                          11
           M. BARBERA, “La nave deve navigare”. Rischio e responsabilità al tempo dell’impresa digitale


e ai beni che viaggiano sulla nave che occorrerà riparare e, in ultima istanza, perché il
navigare è il suo fine ultimo.
        San Tommaso pensava che fosse la società a dover in ogni caso navigare; si ha
l’impressione che il legislatore europeo pensi che la nave sia il mercato e l’impresa il
capitano e che questa idea ispiri in larga parte la logica anticipatoria della disciplina che
si è descritta.
        Ma cosa accade, invece, se il navigare o meno dovrebbe essere una scelta
collettiva, se i rischi che si corrono navigando sono poco conosciuti e se si ritiene che
alcuni beni, materiali e immateriali, e la stessa vita delle persone non hanno un prezzo?
        In passato, in casi come questi, la logica anticipatoria non è stata quella della
gestione e minimizzazione del rischio ma quella del principio di precauzione, impiegato
nei campi della tutela della salute e dell’ambiente, campi in cui non sempre la scienza
può dire con esattezza quali siano le attività potenzialmente dannose e viene perciò
proibito non solo ciò che reca certamente danno alla salute o all'ambiente ma anche ciò
che non si è certi lo recherà. Se applicato all’innovazione tecnologica, il principio di
precauzione dovrebbe far sì che, innanzi a rischi non identificati e provati in modo
definitivo, si adottino misure tese a prevenire rischi che sono solo potenziali o anche,
nel caso che gli effetti siano irreversibili e di notevole entità, poco probabili.
        Come è noto, il principio di precauzione è stato oggetto di numerose critiche da
parte dei fautori dell’ “innovazione senza permesso”, convinti che solo in presenza di
un danno certo l’intervento sia giustificato e che, in caso contrario, bisognerebbe
favorire l’innovazione tecnologica e valorizzare l’autoregolazione del mercato(20). Il
Regolamento non adotta questo orientamento apertamente liberista, ma propone
piuttosto un compromesso fra ragioni del mercato e diritti sociali: un “approccio
proporzionato basato sul rischio prevedibile”.
        Si stabilisce così una gradazione dei rischi e dei costi che implica la loro
eliminazione o riduzione sulla base di una serie di considerazioni che, come si diceva
prima, implicano scelte utilitaristiche ma anche scelte di tipo valoriale.
        Uno di questi valori, forse il più citato, è la dignità della persona, da molti
considerato un meta valore, non bilanciabile con altri. Solo in casi particolari, tuttavia, il
principio utilitaristico che porta a valutare e bilanciare costi e benefici di una certa
innovazione tecnologica cede a valutazioni relative al contrasto di una certa tecnologia
o di suoi particolari impieghi con il principio della dignità. Allargando lo sguardo, è
quanto avviene, ad esempio, nel campo delle biotecnologie, secondo quanto previsto
dalla Direttiva europea 98/94 CE sulla protezione giuridica delle invenzioni
biotecnologiche che esclude la brevettabilità di invenzioni contrarie all’ordine pubblico


        (20) Sul dibattito circa la (mancata) adozione del principio in caso di rischio tecnologico ignoto
v. A. Rota, Sicurezza, in M. Novella - P. Tullini (a cura di), Lavoro digitale, Giappichelli, 2022, 83 ss. Sulla
compatibilità dei due approcci v. M. Peruzzi, op. cit., 37.

        LLI, Vol. 9, No. 2, 2023, ISSN 2421-2695                                                          12
            M. BARBERA, “La nave deve navigare”. Rischio e responsabilità al tempo dell’impresa digitale


e al buon costume (come i procedimenti di clonazione di esseri umani). Nel campo delle
tecnologie digitali, il Regolamento, alla stessa stregua, vieta (salvo specifiche eccezioni)
il ricorso al riconoscimento biometrico in tempo reale. Negli altri casi, come si è già
anticipato, si arriva invece a un bilanciamento.
        Quello che non è chiaro, tuttavia, è se, nel caso si ricorra a un bilanciamento fra
libertà economica e diritti sociali, lo standard di giudizio sia da ricavare soprattutto dalle
finalità generali del Regolamento, che parla della necessità di fissare limiti minimi, che
non ostacolino indebitamente il mercato e che non comportino oneri sproporzionati, o
se vi siano altri riferimenti normativi e altri standard di giudizio da prendere in
considerazione.
        Sembrerebbe pensarla nel primo senso Piera Loi, richiamando l’art. 4 dello
Statuto dei lavoratori come esempio di ulteriori limiti all’uso dell’IA nei sistemi ad alto
rischio, esistenti negli ordinamenti giuridici nazionali, che potrebbero essere soggetti ad
un giudizio di proporzionalità ed essere considerati troppo restrittivi (in questo specifico
caso perché si prevede l’intervento della PA o dei soggetti collettivi) (21).
        Si tratta di un’ipotesi interpretativa che, però, pare andare contro anzitutto alle
finalità del Regolamento, che sono quelle di fissare i “requisiti minimi” necessari ad
affrontare i rischi connessi all’intelligenza artificiale, senza impedire forme diversificate
e ulteriori di tutela a livello nazionale.
        Allargando poi il discorso al rapporto con altri sottosistemi nomativi di tutela, e
in particolare con il diritto antidiscriminatorio, e alle conseguenze che comporta
l’adozione della prospettiva del rischio anche alle discriminazioni prodotte dai sistemi di
IA, la questione si fa ancora più complessa. L’ autrice prima citata sostiene che l’entrata
in vigore del Regolamento potrebbe rafforzare la tutela contro le discriminazioni
algoritmiche, in quanto esso comporta una logica preventiva e di minimizzazione delle
probabilità del verificarsi delle stesse. I datori di lavoro potrebbero così «essere soggetti
a sanzioni non solo quando le discriminazioni sono accertate in giudizio, ma anche in
una fase precedente alla discriminazione stessa» (22).
        Su ciò si può senza dubbio concordare e va aggiunto che l’adempimento degli
obblighi stabiliti ex ante potrebbero facilitare anche il controllo di discriminazione
effettuato ex post, sopperendo alle difficoltà di comprendere il funzionamento
dell’algoritmo e di adempiere all’onere della prova (ma occorrerebbe poi valutare cosa
significhi, in concreto, il fatto che le discriminazioni sono sanzionabili in giudizio anche
quando sono solo “potenziali”).
        Resta, però, da vedere cosa accade quando la discriminazione si verifica
effettivamente: se il test di bilanciamento sia un test dall’esito aperto ma condizionato


         (21) P. Loi, Il rischio proporzionato nella Proposta di regolamento sull’IA e i suoi effetti nel rapporto di lavoro,
in Federalismi.it, 2023, 252.
         (22) Ivi, 259.

         LLI, Vol. 9, No. 2, 2023, ISSN 2421-2695                                                               13
           M. BARBERA, “La nave deve navigare”. Rischio e responsabilità al tempo dell’impresa digitale


dalle finalità e dagli strumenti indicati dal Regolamento, e in questo caso si potrebbe
avere addirittura un risultato simile a quello delle sentenze Viking e Laval, si arrivi cioè
a porre le libertà di mercato in una posizione gerarchicamente superiore ai diritti sociali,
in questo caso al diritto a non essere discriminati; o se, invece, il bilanciamento dovrebbe
svolgersi secondo i parametri di giudizio previsti dal sistema di tutela antidiscriminatoria,
che guida il giudice verso una gerarchia opposta. Il fatto che il Regolamento dichiari che
essa integra il diritto dell'Unione in vigore in materia di non discriminazione con requisiti
specifici che mirano a ridurre al minimo il rischio di discriminazione algoritmica, farebbe
propendere per la seconda opzione(23).
        L’altro dei valori di riferimento del Regolamento è la fiducia. Gli obblighi di
trasparenza e informazione tendono fondamentalmente a costruire fiducia fra gli attori
del mercato, siano essi imprese e lavoratori o imprese e consumatori. Il Regolamento
segnala, infatti, fra le sue priorità quella di «favorire lo sviluppo di un ecosistema di
fiducia nei confronti dell'IA in Europa», di garantire che i sistemi di IA siano «sicuri e
affidabili».
        Tali ultime previsioni ci portano a considerare, in conclusione, quello che
potrebbe essere il significato di fondo sottostante agli orientamenti risk- based fin qui
considerati.

         5. L’impresa in quanto attore sociale e in quanto attore politico

        Queste nuove concezioni del rischio e della responsabilità sembrerebbero
comportare una particolare idea di impresa in quanto attore sociale e in quanto attore
politico.
        In quanto attore sociale, l’impresa deve risultare accountable, affidabile: assicurare
“trasparenza”, ossia garanzia della completa accessibilità alle informazioni, in primo
luogo ai lavoratori, e “responsività”, ossia capacità di rendere conto agli stakeholders e
non solo agli shareholders di scelte, comportamenti e azioni. L’impresa si atteggia cioè
come organizzazione economico-produttiva e come collettività sociale complessa,
diversa dalla persona giuridica e dalla proprietà delle azioni. Mentre la persona giuridica
consente la fuga dalla responsabilità e la proprietà delle azioni richiede che si prendano
in considerazione solo gli interessi degli shareholders, la dimensione organizzativa e sociale
richiede che si prenda in considerazione il funzionamento responsabile
dell’organizzazione, la creazione di fiducia e la presa in carico di interessi e scopi diversi
dai puri interessi scopi economici.

         (23) Come si legge nel testo della Proposta, il Regolamento «integra, inoltre, il diritto dell'Unione
in vigore in materia di non discriminazione con requisiti specifici che mirano a ridurre al minimo il
rischio di discriminazione algoritmica, in particolare in relazione alla progettazione e alla qualità dei set
di dati utilizzati per lo sviluppo dei sistemi di IA, integrati con obblighi relativi alle prove, alla gestione
dei rischi, alla documentazione e alla sorveglianza umana durante l'intero ciclo di vita dei sistemi di IA»..

        LLI, Vol. 9, No. 2, 2023, ISSN 2421-2695                                                          14
         M. BARBERA, “La nave deve navigare”. Rischio e responsabilità al tempo dell’impresa digitale


        In quanto attore politico, l’impresa viene vista come entità dotata di poteri di
regolazione e controllo, investita, in virtù di questo, di compiti di tutela di interessi di
natura generale o universalistici propri generalmente degli attori pubblici. L’impresa
diventa, così, anche il tramite dell’esercizio e della tutela di diritti della persona.
        Quanto questa diversa declinazione della responsabilità dell’impresa comporti
poi una modifica dei suoi scopi e della sua governance è una questione che esula
dall’orizzonte di questo scritto, di cui ci sarà modo di parlare in altre occasioni.




       LLI, Vol. 9, No. 2, 2023, ISSN 2421-2695                                                         15
            M. BARBERA, “La nave deve navigare”. Rischio e responsabilità al tempo dell’impresa digitale


Bibliografia
Borelli S. - Izzi D., L’impresa tra strategie di due diligence e responsabilità, in RGL, 2021, 553 ss.
Calabresi G., Il dono della pisirto maligno, Giuffrè, 1996.
Caruso B. - Zappalà L., Un diritto del lavoro “tridimensionale": valori e tecniche di fronte ai mutamenti dei luoghi di
          lavoro, in R. Del Punta (a cura di), Valori e tecniche nel diritto del lavoro, Firenze, Firenze University
          Press, 2022, 29 ss.
Loi P., Il rischio proporzionato nella proposta di regolamento sull’IA e i suoi effetti nel rapporto di lavoro, in
          Federalismi.it, 2023, 239.
Loi P., La sicurezza. Diritto e fondamento dei diritti nel rapporto di lavoro, Torino, Giappichelli, 2000.
Miranda Boto J.M. - Brameshuber E. - Loi P. - Ratti L. (a cura di), Contrattazione collettiva e gig
          economy, Giappichelli, 2022.
Quarta A. - Smorto G., Diritto privato dei mercati digitali, Mondadori Education, 2020.
Pallini M., L’approccio “rimediale” della Commissione UE alla tutela del diritto di contrattazione collettiva dei
          lavoratori autonomi, in LDE, 2023.
Palombella G., Dopo la certezza. Il diritto in equilibrio tra giustizia e democrazia, Ed. Dedalo, 2006.
Peruzzi M., Intelligenza artificiale e lavoro. Uno studio sui poteri datoriali e tecniche di tutela, Giappichelli, 2023.
Rota A., Sicurezza, in Novella M., Tullini P. (a cura di), Lavoro digitale, Giappichelli, 2022, 83 ss.
Schuett J., Risk Management in the Artificial Intelligence Act, in European Journal of Risk Regulation, 2023.
Supiot A., La sovranità del limite, Mimesis Ed., 2020.
Trimarchi, P. Rischio e responsabilità oggettiva, Giuffrè, 1961.
Tullini P, La Direttiva Piattaforme e i diritti del lavoro digitale, in LLI, 2022, 46 ss.
Zappalà L., Voce Algoritmo, in S.Borelli - V. Brino - C. Faleri - L. Lazzeroni - L. Tebano - L. Zappalà,
          Lavoro e tecnologie. Dizionario del diritto del lavoro che cambia, Giappichelli, 2022, 17 ss.
Zilli A., La trasparenza nel lavoro subordinato. Principi e tecniche di tutela, Pacini Ed., 2022.




         LLI, Vol. 9, No. 2, 2023, ISSN 2421-2695                                                           16
