Trabajo e inteligencia artificial: de los principios de transparencia algorítmica al derecho a la conocibilidad
10.6092/issn.2421-2695/17330
Con questo saggio si intende valutare la configurabilità di un diritto alla conoscibilità dei procedimenti digitali come corollario dell’enunciazione dei principi di trasparenza algoritmica. L’innovazione informatica oscilla infatti tra un originario sviluppo cooperativo e il suo sfruttamento economico tramite strumenti di diritto commerciale quali brevetti e segreti industriali. Chiarita tale storica tendenza, il saggio intende indagare sulle, talora opposte, tensioni giuridiche, sperimentate ora in materia di privacy, ora nel diritto amministrativo, quando le decisioni vengano assunte tramite algoritmi. Particolare attenzione viene dedicata alle prospettive nell’ambito del diritto del lavoro, sia rispetto alle tutele alla dignità del lavoratore nell’ambito dello svolgimento della prestazione, nei limiti al potere di controllo datoriale, nei sistemi di collocamento e negli algoritmi di selezione del personale.
application/pdf
2421-2695
17330
1
it
Roberta Covelli
https://creativecommons.org/licenses/by/3.0
Labour & Law Issues
dignità sul lavoro
Lavoro e intelligenza artificiale: dai principi di trasparenza algoritmica al diritto alla conoscibilità
Text.Serial.Journal
https://labourlaw.unibo.it/
9
Idee
2023-07-03
2023-06-21
2023-07-03
2023-07-03
I.76-I.100
LLI
Roberta Covelli
2023/07/03
10.6092/issn.2421-2695/17330
I.76
Università degli Studi di Milano Bicocca
2421-2695
1
dignità sul lavoro
it
I.100
Zuddas P., Brevi note sulla trasparenza algoritmica, in Amministrazione in cammino, 05.06.2020.
Lavoro e intelligenza artificiale: dai principi di trasparenza algoritmica al diritto alla conoscibilità
https://labourlaw.unibo.it/article/download/17330/16206
9
   Lavoro e intelligenza artificiale:
dai principi di trasparenza algoritmica
       al diritto alla conoscibilità




             ROBERTA COVELLI
    Università degli Studi di Milano Bicocca




              vol. 9, no. 1, 2023
                 ISSN: 2421-2695
          Lavoro e intelligenza artificiale:
       dai principi di trasparenza algoritmica
              al diritto alla conoscibilità

                                                           ROBERTA COVELLI
                                       Università degli Studi di Milano-Bicocca
                                      Assegnista di ricerca in Diritto del Lavoro
                                                       roberta.covelli@unimib.it



                                  ABSTRACT

        This essay intends to evaluate the configurability of a right to knowledge
of digital processes as a corollary of the enunciation of the principles of
algorithmic transparency. In fact, IT innovation oscillates between an original
cooperative development and its economic exploitation through commercial
law instruments such as patents and industrial secrets. Once clarified this trend,
the essay intends to investigate the sometimes opposite legal tensions
experienced both in matters of privacy, both in administrative law, when
decisions are taken through algorithms. Particular attention is paid to the
perspectives in the field of labor law, both with respect to the protection of the
worker's dignity in the context of the performance of the service, both about
the limits of the employer's power of control, and in placement systems and
recruiting algorithms, too.


Keywords: transparency; privacy; algorithmic decisions; right to knowledge;
worker’s dignity.


                               https://doi.org/ 10.6092/issn.2421-2695/17330
               R. COVELLI, Lavoro e intelligenza artificiale: dalla trasparenza alla conoscibilità


     Lavoro e intelligenza artificiale: dai principi di trasparenza
             algoritmica al diritto alla conoscibilità (1)

SOMMARIO: 1. Aperto o chiuso: i software dallo sviluppo cooperativo al segreto industriale. – 2. Utente,
     titolare, interessato: la declinazione digitale del diritto alla privacy. – 3. L’apertura delle decisioni
     amministrative tra informazione e responsabilità. – 4. Prospettive di diritto del lavoro dallo
     svolgimento della prestazione al collocamento. – 5. La conoscibilità algoritmica come diritto
     digitale.


      1.    Aperto o chiuso: i software dallo sviluppo cooperativo al segreto
industriale

        Fin dall’epoca della crittografia e del suo ricorso nelle operazioni di intelligence
durante la Seconda guerra mondiale, la ricerca informatica si è fondata su un’innovativa
etica del lavoro(2): gli ambienti collaborativi, infatti, con la creazione di una rete tra
gruppi di ricerca (networking) e la condivisione di conoscenze, ipotesi, intuizioni e risultati
(sharing) rappresentano una costante dello sviluppo delle tecnologie informatiche.
Questa modalità cooperativa di ricerca ha poi caratterizzato sia il movimento del
software libero, sia la stessa invenzione del World Wide Web, il cui carattere ipertestuale
e interattivo garantiva (e garantisce) accesso e fruibilità a dati e documenti. La storia del
software libero, tuttavia, «si intreccia, si sovrappone e si affianca a quella dello sviluppo
dei prodotti software commerciali e, nel suo evolversi, indica un modello insieme
complementare e alternativo dello sviluppo e della diffusione delle tecnologie
informatiche»(3).
        La sovrapposizione tra istanze di apertura e di chiusura è tale che il concetto di
rivoluzione, attraverso la diffusione della tecnologia e, con essa, del potere, è quasi un
topos narrativo della comunicazione di Microsoft e di Apple, nonostante l’uso
commerciale e strategico del software, da parte di entrambe, abbia avuto impatto sullo
sviluppo dei sistemi proprietari (e chiusi). Basti pensare al claim con cui Apple introdusse
Macintosh: il 1984 non sarebbe stato l’omologo orwelliano proprio grazie al lancio del
computer Mac, rivoluzionario quanto una ragazza che distrugge con un martello
l’informatica conosciuta (e dominata da IBM) nello spot commissionato al regista Ridley


           (1) Il presente contributo è stato elaborato nell’ambito del progetto Prin, 2017, Artificial
Intelligence and Legal Studies Perspectives. Are the Algorithmic decision making and data driven predictions calling for
a new legal framework? A focus on financial and labour markets highlighting protection of rights and wealth distribution.
           (2) G. Ziccardi Informatica giuridica. Controcultura, informatica giuridica, libertà del software e della
conoscenza, Tomo I, Giuffrè, 2011, 6 ss.; ma anche P. Himanen, L’etica hacker e lo spirito nell’età
dell’informazione, Feltrinelli, 2001.
           (3) M. Berra - A. R. Meo, Il software libero: la qualità attraverso la cooperazione, Quaderni di Sociologia,
23, 2000, 5-21.

   LLI, Vol. 9, No. 1, 2023, ISSN 2421-2695                                                            I. 78
              R. COVELLI, Lavoro e intelligenza artificiale: dalla trasparenza alla conoscibilità


Scott. Del pari, tanto Jobs e Wozniak, quanto Gates, Ballmer e Allen, rientrano tra i
«pirati della Silicon Valley»(4), laddove il concetto di pirateria rappresenta una minaccia
allo sfruttamento commerciale e, nel contempo, uno stimolo alla produzione
intellettuale: la condivisione nello sviluppo informatico si qualifica allora, a seconda di
interessi e interpretazioni, come cooperazione innovativa o come furto di idee e spunti.
         Un esempio in tal senso è stato lo sviluppo della GUI, ossia dell’interfaccia
grafica per i sistemi operativi: si trattava di un’idea elaborata nel laboratorio di ricerca
dello Xerox Parc, con cui Apple aveva un accordo; a sua volta, Apple aveva concesso
in licenza alcune parti di interfaccia grafica a Microsoft, per Windows 1.0; nello sviluppo
delle successive versioni di Windows, Microsoft apportò delle modifiche agli elementi
dell’interfaccia grafica e, nel 1988, Apple Inc. intentò causa a Microsoft: l’obiettivo
dell’azione giudiziaria era l’affermazione di diritti di proprietà intellettuale sull’idea di
desktop, ossia sul «concetto globale di sistema operativo a finestre»(5), e dunque su una
modalità di fruizione informatica intuitiva e navigabile, non più basata sulle stringhe
testuali.
         Del pari può citarsi la celebre lettera di Bill Gates (An Open Letter to Hobbysts,
1976), il quale aveva da poco sviluppato, insieme ad Allen e Davidoff, il linguaggio di
programmazione Altair Basic. Lo stesso Gates che dodici anni più tardi sarà accusato da
Apple di aver «rubato» l’idea della GUI, si lamentava dello scarso profitto derivante
dall’attività di programmazione del software per Altair, definendo ladri gli amatori che
usavano il Basic senza averlo acquistato. Come si può notare, due tra i colossi
dell’informatica moderna hanno utilizzato, nelle diverse fasi del proprio sviluppo
commerciale, tanto un approccio di chiusura delle scoperte, con l’obiettivo della loro
monetizzazione, quanto prassi di apertura, quando questa poteva rappresentare un
volano per l’innovazione tecnologica o per la diffusione commerciale dei propri
prodotti.
         Lo sviluppo informatico, insomma, osservato con sguardo giuridico, mostra
un’oscillazione tipica del diritto, tra sistemi aperti e sistemi chiusi, tra libero accesso e
sfruttamento economico, tra sviluppo collettivo e benessere individuale, e questa
costante ricerca di equilibrio tra tendenze opposte rappresenta un tema interessante
anche nell’ambito del diritto del lavoro, in particolare attraverso l’indagine sull’effettività
dei diritti dei lavoratori in un contesto digitale che, pur nato anelando alla trasparenza,
si dimostra spesso, più o meno intrinsecamente, opaco. Lungi dal rappresentare un
semplice esempio di controcultura cyberpunk, le rivendicazioni del mondo hacker per la
«liberazione» del software si applicano infatti anche alle sfide sociali, economiche e, per


        (4) La definizione deriva dal titolo di un documentario del 1999, scritto e diretto da Martyn
Burke, sulla base del saggio P. Freiberger - M. Swaine, Fire in the Valley: The Making of the Personal Computer,
McGraw-Hill, 1985.
        (5) G. Ziccardi, Informatica giuridica, op. cit., 261.

  LLI, Vol. 9, No. 1, 2023, ISSN 2421-2695                                                     I. 79
              R. COVELLI, Lavoro e intelligenza artificiale: dalla trasparenza alla conoscibilità


quanto ci compete, giuridiche, dell’Industria 4.0, e non solo. La pervasività del ricorso
agli strumenti informatici impone riflessioni non solo su come tali tecnologie debbano
essere regolate dal diritto, che sia già esistente o ancora da sviluppare, ma anche
sull’impatto che esse hanno sulla realtà.

         2.       Utente, titolare, interessato: la declinazione digitale del diritto alla
privacy

         Di particolare importanza risulta essere anzitutto l’esame delle dinamiche digitali
sulla sfera privata degli individui, dimensione che riguarda anche il rapporto di lavoro,
come si vedrà oltre. Preliminarmente, tuttavia, occorre notare come il concetto stesso
di privacy sia mutato proprio in relazione alla sua espressione (e tutela) nel cyberspazio:
da diritto individuale di protezione contro l’invasione di una sfera privata chiaramente
definibile, la tutela della privacy deve ora allargarsi nel senso di un più generale habeas
data(6), ossia nel diritto della persona al controllo sui propri dati, in considerazione
dell’ormai costante cessione di informazioni, necessaria per la partecipazione a processi
sociali, oltre che per la fornitura di beni e servizi(7).
         La nozione di privacy si sviluppa allora come diritto all’autodeterminazione
informativa, la cui tutela si configura allargandosi alla protezione dei dati attinenti alla
persona, per quanto da essa distinti. Questo mutamento concettuale è alla base
dell’affermazione di un diritto diverso e ulteriore rispetto a quello alla privacy, eppure a
esso legato: nella Carta dei diritti fondamentali dell’Unione europea, ad esempio, viene
riconosciuto il diritto alla protezione dei dati personali, all’art. 8, in maniera distinta dal
diritto al rispetto della vita privata e familiare, riconosciuto all’art. 7, avendo peraltro
quest’ultimo una natura statica e negativa, di esclusione dell’invasione altrui nella propria
dimensione individuale(8), mentre la declinazione di un diritto di protezione dei dati
personali ha una dimensione dinamica, segue la circolazione dei dati stessi e impone
specifici poteri e doveri affinché l’individuo possa effettivamente vedersi protetto in tale
ambito(9).
         In questo senso deve quindi leggersi la normativa in materia di trattamento dei
dati, la cui disciplina è improntata, se non sulla totale trasparenza, sulla reperibilità dei
responsabili del trattamento e sul diritto decisionale circa la sorte dei propri dati
personali. Lo sviluppo normativo in materia, dalla direttiva UE del 1995 al GDPR del



           (6) S. Rodotà, Il mondo nella rete. Quali i diritti, quali i vincoli, Laterza, 2014, 69.
           (7) S. Rodotà, Il diritto di avere diritti, Laterza, 2012, 396 ss. Si veda anche D. Lyon, La società
sorvegliata. Tecnologie di controllo della vita quotidiana, Feltrinelli, 2001.
           (8) Come nella sua prima teorizzazione, sul finire del XIX secolo, in S. Warren - L. Brandeis,
The Right to Privacy, Harvard Law Review, IV (5), 15 dicembre 1890, 193-220.
           (9) S. Rodotà, Il diritto di avere diritti, op. cit.

  LLI, Vol. 9, No. 1, 2023, ISSN 2421-2695                                                     I. 80
              R. COVELLI, Lavoro e intelligenza artificiale: dalla trasparenza alla conoscibilità


2016(10), ha mantenuto fermi i princìpi, dovendo tuttavia cercare di rendere effettiva, o
quanto meno più efficace, la tutela: in un’epoca storica in cui i dati personali sono
diventati oggetto di commercializzazione, al punto da consentire di teorizzare l’esistenza
di un capitalismo della sorveglianza(11), pare infatti necessario che evolvano anche prassi,
obblighi e sanzioni a presidio del diritto alla protezione dei dati.
         Assume allora capitale importanza il consenso al trattamento dei dati, che
rappresenta la base giuridica principale per la liceità del trattamento stesso, e che non
può ridursi a una formalità, come può desumersi dalle specificazioni dell’art. 7 GDPR.
Il regolamento specifica infatti come la richiesta di consenso debba essere chiaramente
distinguibile dalle altre materie eventualmente trattate nel rapporto e che tale richiesta
debba essere presentata «in forma comprensibile e facilmente accessibile, utilizzando un
linguaggio semplice e chiaro». Deve inoltre essere chiaramente comunicata
all’interessato, fin da subito, la possibilità di esercitare il diritto di revoca del consenso,
che deve poter essere espressa «con la stessa facilità con cui è accordato».
         La dichiarazione di consenso, pur revocabile, non è tuttavia sufficiente a garantire
un uso dei dati personali rispettoso della persona, soprattutto alla luce dei rischi di
stigmatizzazione ed esclusione sociale che derivano dalla progressiva automazione dei
processi di analisi dei dati. Il rapporto della persona con le tecnologie influisce infatti
anche sulla rappresentazione dell’identità dell’individuo in relazione al contesto sociale
e giuridico, al punto che lo sviluppo «delle modalità di trattamento delle informazioni
personali ha progressivamente alterato il rapporto tra l’identità liberamente costruita dal
soggetto e l’intervento di terzi, attribuendo all’attività di questi ultimi un peso
crescente»(12). Il rischio duplice di controllo e stigmatizzazione sociale conduce alla
«rivendicazione delle limitazioni che impediscono a ciascuno di essere semplificato,
oggettivato e valutato fuori contesto»(13), e in tal senso occorre interpretare, a parere di chi
scrive, tanto l’art. 15 della direttiva 95/46/CE, quanto l’art. 22 del GDPR. Entrambe le
norme, pur con le differenze lessicali derivanti anche dalla diversa natura giuridica delle
fonti, riconoscono il diritto dell’interessato a non essere sottoposto a decisioni, che
abbiano effetti giuridici o comunque significativi, basate esclusivamente sul trattamento
automatizzato di dati. Le implicazioni di un’affermazione simile si applicano tanto al
contesto pubblico, nel rapporto tra l’individuo e l’amministrazione, quanto nelle
relazioni privatistiche, come nel caso del contesto lavorativo e occupazionale.




         (10) Regolamento (UE) 2016/679, 27 aprile 2016, GUUE 119/2016.
         (11) S. Zuboff, Il capitalismo della sorveglianza. Il futuro dell’umanità nell’era dei nuovi poteri, Luiss
University Press, 2019.
         (12) S. Rodotà, Il diritto di avere diritti op. cit., 318.
         (13) J. Rosen, The Unwanted Gaze. The Destruction of Privacy in America, Random House, 2000, 20,
corsivi aggiunti.

  LLI, Vol. 9, No. 1, 2023, ISSN 2421-2695                                                        I. 81
               R. COVELLI, Lavoro e intelligenza artificiale: dalla trasparenza alla conoscibilità


         3.  L’apertura delle decisioni amministrative tra informazione e
responsabilità

        Quanto al primo profilo, stanti i princìpi amministrativi di imparzialità e
ragionevolezza, la riflessione sulla legittimità delle decisioni (più o meno) automatizzate
della pubblica amministrazione sembra rendere più sfumata la tradizionale dicotomia tra
atti vincolati e discrezionali. Prima di indugiare su questa argomentazione, occorre
rilevare come il percorso di progressiva digitalizzazione delle procedure amministrative
possa rispondere al principio di buon andamento enunciato dall’art. 97 Cost.(14).
L’utilizzo e l’implementazione delle Information and Communication Technologies (ICT)
nell’ambito dei servizi pubblici ha rappresentato infatti negli ultimi vent’anni(15)
un’occasione di riorganizzazione delle procedure in un’ottica di semplificazione,
interoperabilità e snellimento dei processi. Tali sviluppi, che pure hanno richiesto
investimenti (soprattutto in termini di creazione di database, sviluppo di software e
formazione del personale), ambiscono ad aderire ai canoni di efficienza, efficacia ed
economicità richiesti alla pubblica amministrazione proprio al fine di perseguire il
principio di buon andamento costituzionalmente enunciato(16).
        In tema di digitalizzazione, occorre tuttavia tenere in considerazione l’evoluzione
tecnologica degli algoritmi e il necessario sviluppo di una consapevolezza, tanto lessicale
quanto concettuale, rispetto alla definizione delle procedure in questione. Tale intento
definitorio si rinviene anche nella Proposta europea di regolamentazione
dell’intelligenza artificiale, del 21 aprile 2021: al sesto considerando viene infatti espressa
l’esigenza di una nozione dell’AI che presenti sia la chiarezza necessaria a garantire
certezza del diritto, sia la flessibilità in grado di rendere le definizioni valide anche
rispetto a sviluppi tecnologici futuri. Invero già la giurisprudenza amministrativa aveva
avuto modo di precisare come lo stesso termine algoritmo, talora usato per individuare
vagamente le procedure informatiche, non possa essere oggi inteso solo con il suo
significato originario. Di per sé, infatti, per algoritmo si intende «una sequenza di
passaggi elementari, secondo una sequenza finita e ordinata di istruzioni chiare e
univoche (ognuna delle quali eseguibile entro un tempo finito e che produce un risultato
in un tempo finito) per la risoluzione di un dato problema»(17). Nel contempo, si assiste
anche allo sviluppo di un più complesso sistema di intelligenza artificiale, talora

          (14) Sul punto, si segnala diffusamente, ex multis, M. Tresca, I primi passi verso l’Intelligenza
Artificiale al servizio del cittadino: brevi note su Libro Bianco dell’Agenzia per l’Italia Digitale, in MediaLaws, 2018,
3.
          (15) In riferimento alla Comunicazione della Commissione al Consiglio, al Parlamento europeo,
al Comitato economico e sociale e al Consiglio delle regioni del 26 settembre 2003 – Il ruolo
dell’eGovernment per il futuro dell’Europa COM(2003) 567.
          (16) Diffusamente sul punto si veda A. Simoncini, Profili costituzionali dell’amministrazione
algoritmica, Rivista Trimestrale Diritto Pubblico, 2019, 4.
          (17) P. Ferragina, F. Luccio, Il pensiero computazionale. Dagli algoritmi al coding, Il Mulino, 2017, 10.

   LLI, Vol. 9, No. 1, 2023, ISSN 2421-2695                                                            I. 82
               R. COVELLI, Lavoro e intelligenza artificiale: dalla trasparenza alla conoscibilità


impropriamente definito algoritmo, che si differenzia tuttavia dal semplice algoritmo in
via funzionale, in quanto «elabora costantemente nuovi criteri di inferenza tra dati e
assume decisioni efficienti sulla base di tali elaborazioni, secondo un processo di
apprendimento automatico»(18).
        Il monito della giustizia amministrativa, applicabile anche alle problematiche
lavoristiche, riguarda allora anche l’aura di neutralità attribuita alle decisioni
algoritmiche, specie se automatizzate tramite processi di intelligenza artificiale.
Autorevolmente peraltro si è definita l’AI come «a science and a set of computational
technologies that are inspired by – but typically operate quite differently from – the ways
people use their nervous systems and bodies»(19), facendo riferimento alla prassi
informatica di attingere i modelli di struttura e architettura dall’anatomia umana, e dalle
reti neurali in particolare. Partendo da tale assunto, e tenendo conto anche della
tendenziale antropomorfizzazione semantica delle macchine(20), risulta allora
opportuno osservare che gli ultimi sviluppi digitali, per l’appunto relativi a
un’intelligenza artificiale con componenti di machine learning, ossia addestrata ad
addestrarsi, possano trovarsi a replicare le storture socialmente indotte nelle scelte
umane, con l’ulteriore rischio di una legittimazione aprioristica in virtù della pretesa
neutralità delle decisioni algoritmiche. In altri termini, la progettazione dei sistemi
decisionali automatizzati avviene per mezzo di umani, con convinzioni, bias, pregiudizi
che possono influenzare le procedure stesse. Del pari, lo stesso addestramento ulteriore
dell’AI si basa su dati frutto di processi integralmente umani, dai quali i meccanismi di
machine learning ricavano massime decisionali che possono perpetuare anche eventuali
discriminazioni. È lo stesso GDPR, al considerando 71, a porre in risalto questo rischio,
che discende dal citato pericolo di stigmatizzazione sociale nell’ambito della raccolta e
del trattamento di dati personali. Sul punto, secondo il regolamento, è opportuno che
chi gestisce tali flussi di informazioni preveda «misure tecniche e organizzative adeguate
al fine di garantire, in particolare, che siano rettificati i fattori che comportano
inesattezze dei dati e sia minimizzato il rischio di errori e al fine di garantire la sicurezza
dei dati personali secondo una modalità che tenga conto dei potenziali rischi esistenti
per gli interessi e i diritti dell’interessato». Si enfatizza in particolare la necessità di
impedire «effetti discriminatori nei confronti di persone fisiche sulla base della razza o
dell’origine etnica, delle opinioni politiche, della religione o delle convinzioni personali,
dell’appartenenza sindacale, dello status genetico, dello stato di salute o
dell’orientamento sessuale, ovvero che comportano misure aventi tali effetti».


           (18) Consiglio di Stato, Sezione Terza, 25 novembre 2021, n. 7891.
           (19) P. Stone et al., Artificial Intelligence and Life in 2030. One Hundred Year Study on Artificial
Intelligence: Report of the 2015-2016 Study Panel, Stanford University, 2016.
           (20) S. Salardi, Intelligenza artificiale e semantica del cambiamento: una lettura critica, Giappichelli, 2023,
27.

   LLI, Vol. 9, No. 1, 2023, ISSN 2421-2695                                                             I. 83
               R. COVELLI, Lavoro e intelligenza artificiale: dalla trasparenza alla conoscibilità


         Se nel sistema europeo sembra affermarsi, almeno in linea di principio, il
cosiddetto human-rights-by-design approach, ossia l’addestramento di sistemi di intelligenza
artificiale tenendo conto dei diritti umani con cui i processi potrebbero doversi
confrontare già nella fase di progettazione del software(21), la prassi statunitense, nella
quale il contemperamento tra diritti umani e snellezza dell’amministrazione pare
privilegiare la seconda, mostra nella pratica l’impatto discriminatorio di processi
automatizzati sviluppati senza tener conto del rischio di riprodurre, o perfino
intensificare, bias contro gruppi di persone. Paradigmatico sul punto appare il caso
Loomis(22), con il ricorso ad algoritmi predittivi per la quantificazione del rischio di
recidiva in un processo penale. Senza indugiare sui fatti e sugli esiti, basti per l’analisi
che segue la considerazione della mancata concessione della libertà vigilata all’imputato
in base (anche) alla prognosi elaborata dal software COMPAS (Correctional offender
management profiling for alternative sanctions), un sistema di proprietà della società
Northpointe (ora Equivant). Per quanto è dato sapere, si tratta di un sistema di
valutazione che combina le risposte fornite in colloquio con l’imputato, i dati del suo
fascicolo e le statistiche relative a soggetti con storia criminale simile per fornire un
grafico a tre barre relative al rischio di recidiva preprocessuale, di recidiva generale e di
recidiva violenta. La valutazione riguarda però una probabilità generale, ossia
l’assimilazione dell’individuo a un determinato gruppo sociale con caratteristiche simili
all’imputato. Al di là del caso di specie, che riguardava un maschio bianco, ProPublica
ha analizzato questo sistema algoritmico predittivo su un campione di 7000 individui,
evidenziando la generale inaffidabilità di COMPAS e, soprattutto, l’esistenza di una serie
di distorsioni razziali, con effetto di sottostima del rischio di recidiva per gli imputati
bianchi(23). In risposta all’inchiesta, l’azienda proprietaria del software ha commissionato
un controstudio(24): nel (tentare di) confutare le denunce di bias razzisti, però, non si è
avuto alcun accesso al codice sorgente del sistema COMPAS, ma gli studiosi, come i
giornalisti di ProPublica, si sono dovuti limitare all’analisi dei risultati algoritmici, non
avendo accesso alle procedure informatiche.
         Il caso Loomis, insomma, risulta almeno teoricamente importante non solo, o
non tanto, per le evidenze emerse sulla lesione del diritto a un giusto processo (e, a
monte, del diritto di non essere discriminati), ma perché il dibattito giuridico-
tecnologico finisce per muoversi proprio sul confine tra diritti di proprietà intellettuale
relativi al software e (mancata) conoscibilità dei criteri che guidano le scelte algoritmiche.


          (21) S. Quattrocolo, Intelligenza artificiale e giustizia: nella cornice della Carta Etica Europea, gli spunti
per un’urgente discussione tra scienze penali ed informatiche, Legislazione Penale, 18 dicembre 2018, 3-4.
          (22) Loomis v. Wisconsin, 881 N.W.2d 749, (Wis. 2016); cert. denied, 137 S.Ct. 2290, (2017).
          (23) J. Angwin - J. Larson - S. Mattu - L. Kirchner, Machine bias, ProPublica, 23 maggio 2016.
          (24) A.W. Flores - K. Bechtel - C.T. Lowenkamp, False Positives, False Negatives, and False Analyses:
A Rejoinder to «Machine Bias: There’s Software Used Across the Country to Predict Future Criminals. And It’s Biased
Against Blacks», Federal Probation Journal, 80, 2, 2016.

  LLI, Vol. 9, No. 1, 2023, ISSN 2421-2695                                                            I. 84
            R. COVELLI, Lavoro e intelligenza artificiale: dalla trasparenza alla conoscibilità


        Questo legame tra tutela antidiscriminatoria e conoscibilità algoritmica emerge
invece in Europa e in Italia, dove il Consiglio di Stato ha sottolineato l’esigenza di
«arginare il rischio di trattamenti discriminatori per l’individuo che trovino la propria
origine in una cieca fiducia nell’utilizzo degli algoritmi»(25). Questa cautela deve tuttavia
confrontarsi con le citate opportunità della digitalizzazione, e del ricorso a strumenti di
decisione automatizzata, nel perseguire esigenze di semplificazione e snellezza delle
procedure che contribuiscano ad attuare i canoni di efficienza, efficacia ed economicità
della pubblica amministrazione. Il giudice amministrativo tenta di giungere a una sintesi
tra queste due tensioni, per l’uso di algoritmi e sistemi di intelligenza artificiale rispettoso
dei diritti di cittadini e utenti, individuando due elementi di minima garanzia, l’uno a
monte, l’altro a valle del processo decisionale: la conoscibilità e l’imputabilità.
        Il tema della conoscibilità è rivolto sia alla pubblica amministrazione titolare del
potere attraverso il quale viene presa la decisione, fosse anche supportata da sistemi di
AI, sia ai soggetti coinvolti dalla decisione stessa. Questo elemento di garanzia si pone
a monte del processo decisionale, comportando il diritto di ciascuno di conoscere
l’esistenza di processi decisionali automatizzati che lo riguardino e alla trasparenza
rispetto al modulo e ai criteri utilizzati per il funzionamento del sistema procedurale
stesso. In tal senso, dunque, il principio di conoscibilità, oltre a un generale carattere di
trasparenza circa l’uso dei sistemi automatici stessi, sfocia in un ulteriore principio di
comprensibilità, ossia nella possibilità che deve essere garantita all’interessato di ricevere
«informazioni significative sulla logica utilizzata»(26). Oltre che sull’uso e sulla logica dei
processi, l’informazione deve riguardare anche le conseguenze che si prevede che il
trattamento possa avere per l’interessato. In altri termini, il principio di conoscibilità
individuato dal Consiglio di Stato, ma già elaborato dal GDPR, si pone a monte dei
sistemi di trattamento dati automatizzati, snodandosi tra le diverse fasi di impatto della
decisione algoritmica sulla persona dell’interessato, riguardando cioè sia l’eventualità
d’uso, sia la logica, sia le conseguenze dei processi in questione.
        A valle del sistema decisionale si pone invece l’elemento dell’imputabilità, che
risponde al più generale principio amministrativo della responsabilità organica.
L’implicazione di tale elemento è il cosiddetto principio di non esclusività della decisione
algoritmica, principio che finisce peraltro per legittimare il ricorso a sistemi
automatizzati per qualunque procedura amministrativa, ferma restando la necessità di
un intervento umano nella definizione completa dell’atto. In tal senso, dunque, sembra
sfumare la dicotomia tra atto vincolato e atto discrezionale o, meglio, la possibilità di
digitalizzare, anche profondamente, le procedure, finisce per trovare una legittimità per
qualunque tipo di attività autoritativa svolta nel perseguimento del pubblico interesse.
Nel 2019 si assiste infatti a un’evoluzione giurisprudenziale in merito: se in una prima

        (25) Consiglio di Stato, Sez. VI, 13 dicembre 2019, n. 8472.
        (26) Così l’art. 13 GDPR.

  LLI, Vol. 9, No. 1, 2023, ISSN 2421-2695                                                   I. 85
             R. COVELLI, Lavoro e intelligenza artificiale: dalla trasparenza alla conoscibilità


pronuncia si era ribadita l’ammissibilità del ricorso alla decisione algoritmica solo nel
contesto dell’attività vincolata(27), pochi mesi più tardi, con le cosiddette sentenze
gemelle(28), il Consiglio di Stato ha evidenziato come nulla osti all’utilizzo di processi
automatizzati anche nell’ambito dell’attività discrezionale. A tale conclusione si giunge,
da un lato, notando come ogni attività autoritativa, vincolata o discrezionale che sia,
comporti fasi di accertamento e di verifica della scelta semplificabili tramite procedure
algoritmiche, dall’altro ponendo a presidio dei diritti degli utenti il noto principio di
responsabilità organica, da cui discende la necessità di un intervento umano che
converta la decisione tecnica, operata eventualmente dal sistema di intelligenza
artificiale, in atto amministrativo, espressione di un potere chiaramente attribuito a un
organo con una struttura sociale (e umana) definita.
         L’elemento dell’imputabilità sembra insomma sottolineare una natura ancora
sussidiaria dei sistemi di decisione automatizzati, che devono essere affiancati se non
altro da controlli umani e la cui responsabilità deve continuare a essere attribuita a
persone, fisiche o giuridiche che siano.

        4.  Prospettive di diritto del lavoro dallo svolgimento della prestazione
al collocamento

        Maggior complessità sembra avere l’applicazione di questi principi ai rapporti
interprivatistici: le dinamiche di mercato e la libertà contrattuale hanno infatti dato luogo
a nuove forme di occupazione che, spesso anche in un’ottica di elusione delle tutele,
tendono a sovrapporre il rapporto di lavoro a relazioni commerciali, sfumando la figura
del lavoratore verso quella di un generico utente.
        Ambito in cui si verifica questo slittamento dal piano occupazionale
all’accettazione di termini d’uso è la cosiddetta gig economy, che proprio sui sistemi
algoritmici basa il proprio funzionamento. Già la scelta lessicale per descrivere questo
fenomeno socio-economico è sintomatica della tendenza segnalata: per gig si intende
infatti il «lavoretto», così facendo assumere alla prestazione lavorativa il valore di un
hobby, portato avanti per diletto e privo di fini di sostegno alimentare(29). L’elemento
cardine che differenzia il lavoro della gig economy dai conosciuti (e normati) rapporti di
lavoro è il meccanismo di intermediazione che, lungi dal vedersi applicata la disciplina
in materia di somministrazione e agenzia, si esplica attraverso diversi sistemi di
intelligenza artificiale, sviluppati da piattaforme, generalmente multinazionali, che ne
ricavano profitto senza nel contempo qualificarsi come figure chiaramente datoriali nei



        (27) Consiglio di Stato, Sez. VI, 8 aprile 2019, n. 2270.
        (28) Consiglio di Stato, Sez. VI, 13 dicembre 2019, nn. 8472, 8472, 8474.
        (29) Si segnala A. Donini, Il lavoro attraverso le piattaforme digitali, BUP, 2019.

  LLI, Vol. 9, No. 1, 2023, ISSN 2421-2695                                                    I. 86
               R. COVELLI, Lavoro e intelligenza artificiale: dalla trasparenza alla conoscibilità


confronti di lavoratori che, per parafrasare il titolo di un recente saggio in materia,
finiscono per avere l’impressione che il capo sia l’algoritmo(30).
         Esula dalla presente trattazione affrontare il tema, ampiamente dibattuto, su
quale sia la fattispecie applicabile a chi svolga prestazioni al servizio di piattaforme
digitali, anche alla luce degli interventi legislativi e giurisprudenziali degli ultimi anni.
Giova tuttavia indugiare sul tema delle piattaforme di food delivery, in particolare, perché
i ragionamenti della dottrina rispetto alle tutele del lavoro(31), se interpretate tenendo in
considerazione quanto finora argomentato in tema di trattamento dei dati e di
conoscibilità di logica e conseguenze delle decisioni automatizzate, possono contribuire
all’elaborazione di una nuova generazione di diritti, tanto sociali quanto digitali.
         Sul piano del diritto del lavoro, infatti, occorre definire e contestualizzare
l’algorithmic management(32), tenendo conto della duplicità di una simile espressione, che
comprende sia una connotazione tecnologica(33), sia un elemento organizzativo e
gerarchico. Sebbene infatti, soprattutto nell’ambito della gig economy, l’enfasi sia spesso
sul ruolo di mera intermediazione delle piattaforme digitali, lo studio del funzionamento
dei meccanismi decisionali di tali piattaforme mostra un disinvolto esercizio di facoltà
che appaiono per certi versi simili ai poteri datoriali di stampo giuslavoristico (nonché
indice di subordinazione(34)).
         Che si qualifichino come requisito tecnico per il coordinamento o come potere
di controllo datoriale, i software delle diverse piattaforme operano una raccolta e un
trattamento di dati relativi alla prestazione lavorativa, che vanno dalla localizzazione del
rider al numero di ordini accettati e al tempo impiegato per effettuare ciascuna consegna.
Sebbene, come anticipato, l’uso di simili informazioni possa intendersi come semplice
forma di incrocio tra domanda e offerta, senza connotati di eterodirezione (ma, al più,
di coordinamento ed etero-organizzazione), lo stesso non può dirsi dei discussi
meccanismi reputazionali utilizzati da diverse piattaforme. Di particolare interesse
appare, sul punto, il caso Deliveroo, con l’importante precedente, se non altro in termini


           (30) Il riferimento è a A. Aloisi - V. De Stefano, Il tuo capo è un algoritmo. Contro il lavoro disumano,
Tempi Nuovi, 2020.
           (31) Tra i moltissimi contributi in materia, si segnalano V. Bavaro, Sul concetto giuridico di «tempo
del lavoro» (a proposito di ciclofattorini), Labor, 2020, 671; R. Cosio, Il caso Foodora tra giudici e legge, LDE, 2019,
n. 3; O. Dessì, I sistemi di feedback nei rapporti di lavoro dei rider, LPO, 2021, 37; A. Ingrao, Il controllo a distanza
sulla prestazione dei ciclofattorini tra Scoober App e GPS, LLI, 2021, n. 1; O. Mazzotta, L’inafferrabile etero-
direzione: a proposito di ciclofattorini e modelli contrattuali, Labor, 2020, 5; P. Tullini, Le collaborazioni etero-
organizzate dei riders: quali tutele applicabili?, LDE, 2019, n. 1; G. Santoro Passarelli, Dignità del lavoratore e
libertà di iniziativa economica, rivoluzione industriale 4.0 e rapporto di lavoro dei riders, Labor, 2022.
           (32) S. Baiocco - E. Fernàndez-Macìas - U. Rani -A. Pesole, The Algorithmic Management of work
and its implications in different contexts, in JRC Working Papers Series on Labour, Education and Technology,
European Commission, 2022, 2.
           (33) Di cui si è già in parte detto.
           (34) Tema di cui la giurisprudenza di merito e di legittimità si è occupata negli ultimi anni, ex
multis: Cass. 24 gennaio 2020, n. 1663, T. Torino 15 novembre 2022, T. Palermo 24 novembre 2022.

   LLI, Vol. 9, No. 1, 2023, ISSN 2421-2695                                                            I. 87
               R. COVELLI, Lavoro e intelligenza artificiale: dalla trasparenza alla conoscibilità


argomentativi, dell’ordinanza del Tribunale di Bologna(35). Nel giudizio di merito,
promosso da un ricorso delle organizzazioni sindacali(36), si riconosce infatti la
sussistenza di una discriminazione indiretta derivante dal funzionamento di Frank,
l’algoritmo della piattaforma Deliveroo(37). La pretesa autonomia dei rider si impernia
infatti sulla loro (presunta) libertà di offrire la prestazione lavorativa quando
preferiscano: mutatis mutandis, le app delle piattaforme offrono degli slot orari, per i quali
i fattorini si prenotano, dichiarandosi disponibili a svolgere la prestazione, in un’ottica
di coordinamento tra committente e lavoratore autonomo. Tuttavia, almeno nel caso
della versione analizzata di Frank-Deliveroo, le maggiori o minori opzioni di scelta di
slot disponibili dipendevano dalle statistiche elaborate dall’algoritmo stesso, che riduceva
di fatto le possibilità di lavoro attribuendo un punteggio negativo in caso di late
cancellation, ossia qualora il rider annulli la prenotazione con un preavviso inferiore alle
ventiquattro ore. La penalizzazione dell’algoritmo reputazionale non teneva in alcun
conto le motivazioni della rinuncia alla disponibilità, così penalizzando, secondo le
organizzazioni sindacali ricorrenti, i lavoratori in sciopero: la giudice di Bologna, oltre
alla lesione del diritto di sciopero, riconosce un più ampio rischio di discriminazione
indiretta, sottolineando come la rinuncia alla prestazione ben potrebbe dipendere da
altre motivazioni legittime di astensione dal lavoro, come malattia e infortunio, poste a
tutela della salute delle persone.
         Al di là del caso di specie, conclusosi come d’uopo nei provvedimenti
antidiscriminatori con un rimedio risarcitorio e riparativo, anche attraverso la
pubblicazione della sentenza su testate a tiratura nazionale, le argomentazioni
dell’ordinanza bolognese evidenziano un problema tipico del ricorso a strumenti
decisionali algoritmici, ossia che la neutralità dell’automatismo decisionale è meramente
presunta, e l’eventuale illegittimità delle scelte operate dall’intelligenza artificiale va
attribuita, in termini di responsabilità, al datore di lavoro, ossia a chi ha dato disposizioni
per la programmazione del sistema algoritmico utilizzato(38).
         L’effetto delle decisioni automatizzate è oggetto di studio da diverso tempo, sia
rispetto alle evidenze sui bias algoritmici, che possono esacerbare disuguaglianze esistenti
e dar luogo a potenziali discriminazioni(39), sia rispetto al generalizzato rischio di


          (35) T. Bologna, ord., 31 dicembre 2020, su cui ex multis M. Borzaga - M. Mazzetti,
Discriminazioni algoritmiche e tutela dei lavoratori: riflessioni a partire dall’Ordinanza del Tribunale di Bologna del 31
dicembre 2020, BioLaw Journal, 1/2022; M.V. Ballestrero, Ancora sui rider. La cecità discriminatoria della
piattaforma, Labor, 1/2021.
          (36) In particolare, Filcams-Cgil, Nidil-Cgil, Filt-Cgil.
          (37) A margine, è opportuno segnalare che una simile versione dell’algoritmo era stata
abbandonata prima del giudizio (ma dopo il ricorso), come si desume dal tentativo della difesa di
Deliveroo di far dichiarare la cessazione della materia del contendere, eccezione respinta dalla giudice.
          (38) S. Tommasi, Algoritmi e nuove forme di discriminazione: uno sguardo al diritto europeo, Revista de
Direito Brasileira, 27, 10, 2021, 112 ss.
          (39) S. Barocas - A.D. Selbst, Big Data’s Disparate Impact, California Law Review, 2016, 104, 671.

   LLI, Vol. 9, No. 1, 2023, ISSN 2421-2695                                                             I. 88
              R. COVELLI, Lavoro e intelligenza artificiale: dalla trasparenza alla conoscibilità


dequalificazione e intensificazione delle modalità di lavoro, con impatto, oltre che sulla
riduzione di compensi e salari e sulla compressione degli spazi di organizzazione e
coalizzazione sindacale, anche sulla perdita di privacy, autonomia e dignità per i
lavoratori(40).
        Il legame tra riservatezza e dignità risulta già dalla previsione dello Statuto dei
lavoratori che, con diversi anni di anticipo rispetto all’organica disciplina per la tutela
della privacy, aveva introdotto un esplicito divieto di indagini sulle opinioni dei
lavoratori e, più in generale, su caratteristiche ininfluenti rispetto alla prestazione
lavorativa, a cui si aggiungono i limiti al potere datoriale di controllo, significativamente
riformato, tuttavia, dagli interventi normativi del 2015.
        L’impresa, infatti, con o senza ricorso all’algorithmic management, si qualifica come
una realtà sociale gerarchicamente connotata, nella quale è legittimata la supremazia di
un contraente sull’altro. Il «capo dell’impresa»(41) riveste una posizione di autorità
privata(42), alla quale devono tuttavia essere posti dei confini, a tutela della libertà e della
dignità dei lavoratori. Se quindi è pienamente legittimo il potere datoriale di controllo,
anche a distanza, tale sorveglianza non può né essere occulta, e dunque ai lavoratori
devono essere noti nominativi e mansioni del personale di vigilanza, né può svolgersi in
maniera diretta, attraverso impianti e dispositivi dedicati esclusivamente al controllo
della prestazione lavorativa, dovendosi invece limitare a forme indirette di vigilanza,
derivanti da interessi aziendali meritevoli di tutela e comunque subordinati a un regime
autorizzatorio tendenzialmente sindacale(43). Di fronte allo sviluppo tecnologico e di
organizzazione del lavoro, con l’uso di strumenti informatici e di comunicazione che
permettono un monitoraggio costante della prestazione e la raccolta di ingenti quantità
di dati, si è tuttavia riconosciuta l'esigenza di ammodernamento della norma statutaria.
La riforma del 2015 ha quindi proceduto alla riscrittura dell’art. 4 St. lav., semplificando
la materia quanto alla legittimità di strumenti ammessi ai fini di controllo datoriale(44): il
nuovo bilanciamento tra interessi aziendali e diritto dei lavoratori a non essere sottoposti


           (40) A. Bernhardt, R. Suleiman, L. Kresge, Data and Algorithms at Work: The Case for Worker
Technology Rights, Barkeley Labor Center, 2021.
           (41) Così l’art. 2086 c.c., che svela con questa scelta lessicale, mantenuta anche dopo riforme
recenti, la natura ontologicamente non democratica dell’impresa capitalistica, come sottolineato in U.
Romagnoli, Il lavoro in Italia. Un giurista racconta, Il Mulino, 1995, 156, secondo cui «l’impresa è il luogo
in cui più si manifestano le diseguaglianze: le focalizza, le concentra, le radicalizza; al tempo stesso, però,
è il luogo in cui è più difficile ridurle perché, come insegnano i sociologi del lavoro, l’impresa può
transitare dal regime monarchico a quello repubblicano, ma non potrà mai essere democratica: qui,
l’inversione dei ruoli tra governo e opposizione è inammissibile».
           (42) R. Voza, La tutela del contraente forte nel diritto del lavoro, RIDL, 2015, 1, 15.
           (43) Ex multis, V. Nuzzo, La protezione del lavoratore dai controlli impersonali, Editoriale Scientifica,
2018, 34.
           (44) Sulle novità in materia si vedano, ex multis, R. Del Punta, La nuova disciplina dei controlli a
distanza sul lavoro (art. 23 d.lgs. 151/2015), RIDL, 2016, 1, I, 77 ss.; P. Tullini (a cura di), Controlli a distanza
e tutela dei dati personali del lavoratore, Giappichelli, 2017.

  LLI, Vol. 9, No. 1, 2023, ISSN 2421-2695                                                          I. 89
               R. COVELLI, Lavoro e intelligenza artificiale: dalla trasparenza alla conoscibilità


a vigilanza pervasiva e lesiva della propria dignità pare legittimare forme di controllo più
o meno dirette, attraverso la distinzione tra dispositivi di controllo a distanza
tradizionali, la cui installazione è ammessa solo in presenza di specifiche esigenze di
tutela del patrimonio aziendale e comunque previa procedura sindacale o autorizzazione
amministrativa, e strumenti «utilizzati dal lavoratore per rendere la prestazione
lavorativa» o «di registrazione degli accessi e delle presenze»(45), ai quali non si applicano
invece i limiti esterni previsti per gli impianti di controllo a distanza.
         Sebbene il tenore letterale della norma ammetta, rispetto a tali ultimi dispositivi,
una sorveglianza diretta delle prestazioni del lavoratore(46), la stessa deve interpretarsi
anche alla luce di altre tutele previste dall’ordinamento. Tra queste, figura anche la
recente disposizione del cosiddetto Decreto Trasparenza(47), che, aggiungendo l’art. 1-
bis al d. lgs. n. 152/1997, introduce un ulteriore obbligo informativo in capo a datori di
lavoro e committenti, riguardante l’utilizzo di «sistemi decisionali o di monitoraggio
automatizzati deputati a fornire indicazioni rilevanti ai fini della assunzione o del
conferimento dell'incarico, della gestione o della cessazione del rapporto di lavoro,
dell'assegnazione di compiti o mansioni nonché indicazioni incidenti sulla sorveglianza,
la valutazione, le prestazioni e l'adempimento delle obbligazioni contrattuali dei
lavoratori». La giurisprudenza di merito ha già avuto modo di applicare la norma: una
recente pronuncia del tribunale di Palermo ha riconosciuto la condotta antisindacale nel
rifiuto, da parte di una piattaforma di food delivery, di fornire alle rappresentanze sindacali
informazioni relative alle logiche dell’algoritmo utilizzato per l’organizzazione delle
prestazioni di lavoro, applicando proprio l’art. 1-bis del d. lgs. n. 152/1997, introdotto
dal Decreto Trasparenza(48). La definizione della fattispecie in questione consta di due
elementi: da un lato, l’automazione di decisioni o monitoraggio, dall’altro un elemento
funzionale, che individua la fattispecie attraverso l’indicazione dei fini di utilizzo dei
sistemi in questione nell’ambito del rapporto lavorativo. Invero, su questo secondo
elemento la definizione normativa risulta piuttosto ampia, al punto quasi di perdere la
propria capacità e utilità selettiva(49).
         Per cercare di chiarire la portata della norma, e che tipo di informazione sia diritto
del lavoratore ricevere, occorre allora definire i «sistemi decisionali o di monitoraggio
automatizzati» con un approccio multilivello, che comprenda, oltre al GDPR, anche
fonti del diritto che, pur prive di cogenza, possano supportare il percorso interpretativo.

           (45) Così il secondo comma dell’art. 4 St. Lav., come modificato dall’art. 23, d.lgs. n. 151/2015.
           (46) M.T. Carinci, Il controllo a distanza sull’adempimento della prestazione di lavoro, in Controlli a distanza
e tutela dei dati personali del lavoratore op. cit., 55.
           (47) D. lgs. 104/2022, in attuazione della Direttiva (UE) 2019/1152 del Parlamento europeo e
del Consiglio, del 20 giugno 2019, relativa a condizioni di lavoro trasparenti e prevedibili nell’Unione
europea.
           (48) T. Palermo, 3 aprile 2023.
           (49) M. Marazza - F. D’Aversa, Dialoghi sulla fattispecie dei «sistemi decisionali o di monitoraggio
automatizzati» nel rapporto di lavoro (a partire dal Decreto Trasparenza), Giustiziacivile.com, 8 novembre 2022.

   LLI, Vol. 9, No. 1, 2023, ISSN 2421-2695                                                              I. 90
               R. COVELLI, Lavoro e intelligenza artificiale: dalla trasparenza alla conoscibilità


In aggiunta alle disposizioni in materia di trasparenza e conoscibilità su uso e logica dei
sistemi di intelligenza artificiale previste dal regolamento del 2016(50), un supporto
all’esegesi può quindi arrivare anche dalla proposta di direttiva sul lavoro mediante
piattaforme digitali(51) che pone in capo a datori di lavoro e committenti un obbligo
informativo avente a oggetto sia l’uso di sistemi di monitoraggio automatizzati, sia
l’indicazione delle categorie di azione monitorate, supervisionate o valutate dai sistemi
in questione(52). A ciò va aggiunta la precedente Risoluzione del Parlamento europeo in
materia di diritto civile e robotica(53), in base alla quale è possibile riconoscere, come
requisito determinante per l’individuazione della fattispecie, l’autonomia del processo
decisionale, che «può essere definita come la capacità di prendere decisioni e metterle in
atto nel mondo esterno, indipendentemente da un controllo o un'influenza esterna».
         A conferma di tale interpretazione pare porsi la recente pronuncia della
giurisprudenza di legittimità relativa all’uso del software data mining Savio da parte
dell’INPS, per l’organizzazione delle visite mediche di controllo a fronte di certificati di
malattia(54): negando la sussistenza di un trattamento illecito dei dati personali, la
Cassazione ha accolto le doglianze dell’Istituto di previdenza, confermando come, da
un lato, non occorresse fornire apposita informativa sul trattamento dati agli interessati,
dal momento che l’attività di controllo svolta trova diretto fondamento nella legge, e,
dall’altro, che la procedura, pur informatizzata, non comportava la profilazione, dal
momento che il sistema non individuava soggetti specifici, né catalogava profili o
categorie, ma si limitava al trattamento dei dati relativi alla sola domanda di indennità di
malattia presentata dal lavoratore.
         L’autonomia è un tema essenziale nel trattare le nuove sfide, e le questioni
problematiche, relative all’intelligenza artificiale, e l’analisi si innesta su temi di filosofia
del diritto e di informatica giuridica, a partire da riflessioni semantiche(55). In particolare,
per quanto concerne la presente trattazione, occorre definire l’autonomia decisionale del
mezzo tecnologico, che distingue i sistemi automatizzati dai semplici strumenti
elettronici controllati dall’ingegno umano, tramite le due nozioni di responsabilità e
imprevedibilità. Tuttavia, mentre la prima è un concetto normativo avente determinati
elementi, quali un dovere, una conseguenza (eventualmente sanzionatoria) e un
comportamento(56), e si collega quindi alla persona, in quanto agente umano o
autoritativo capace di sostenere una simile responsabilità, la nozione di imprevedibilità

         (50) Di cui si è detto supra.
         (51) Proposta di direttiva del Parlamento europeo e del Consiglio relativa al miglioramento delle
condizioni di lavoro nel lavoro mediante piattaforme digitali, COM/2021/762, 9 dicembre 2021.
         (52) Si segnala in particolare l’art. 6 della citata proposta COM/2021/762.
         (53) Risoluzione 16 febbraio 2017, 2015/2103(INL), in GUUE 2018/C 252/25.
         (54) Cass Civ., sez. I, ord. 1 marzo 2023, n. 6177.
         (55 )S. Salardi, Intelligenza artificiale e semantica del cambiamento, op. cit., 30 ss.
         (56) U. Scarpelli, Riflessioni sulla responsabilità politica. Responsabilità, libertà, visione del mondo, in La
responsabilità politica, Diritto e Tempo, a cura di R. Orecchia, Giuffrè, 1982, 47 ss.

  LLI, Vol. 9, No. 1, 2023, ISSN 2421-2695                                                            I. 91
               R. COVELLI, Lavoro e intelligenza artificiale: dalla trasparenza alla conoscibilità


risulta invece elemento comune all’autonomia umana e artificiale, sebbene nel secondo
caso si tratti di imprevedibilità tecnica, ossia slegata da giudizi di valore e convinzioni
morali. Al netto di tale precisazione, per imprevedibilità deve intendersi il margine di
discrezionalità che qualifica per l’appunto la capacità decisionale in termini di
autonomia. Nell’ambito delle decisioni algoritmiche, dunque, laddove la scelta sia
obbligata, e non vi siano alternative al percorso che conduce dall’input all’output, il
sistema sarebbe sì automatizzato, ma non necessariamente autonomo. In tal senso,
allora, i «sistemi decisionali» rispetto ai quali è posto un obbligo informativo di
trasparenza in costanza del rapporto di lavoro non sarebbero tutti i sistemi
automatizzati, comprese le procedure rigidamente predefinite in fase di progettazione
dell’algoritmo, bensì solo quei processi che, dato un input, abbiano l’autonomia di
scegliere tra diverse opzioni di output, senza influenza esterna, e che siano quindi
decisionali(57).
         Tuttavia, la distinzione tra sistemi decisionali e procedure meramente esecutive,
pur nella sua pertinenza rispetto all’interpretazione della norma, rischia di condurre a
una sottovalutazione dell’impatto che intelligenze artificiali e algoritmi possono
comunque avere sul rapporto di lavoro e, più in generale, sulla vita sociale degli individui.
Anche le procedure automatizzate ma non autonome, infatti, rappresentano sistemi
basati sui dati (data-based system), che influiscono sulla realtà in base a processi di
generazione, raccolta e valutazione dei dati, da cui eventualmente discendono
percezioni, predizioni e decisioni basate sui dati stessi(58).
         Il mercato del lavoro è uno dei contesti in cui il ricorso a questi sistemi pone
diverse questioni problematiche. Nonostante infatti sia le direttive in materia
antidiscriminatoria, sia le norme interne fin qui citate pongano la tutela prima
dell’eventuale instaurazione del rapporto di lavoro, ossia già prima dell’assunzione, la
verifica di comportamenti illegittimi da parte del datore di lavoro in fase di selezione è
tutt’altro che agevole: le cause sono da rinvenire, da un lato, nella complessa
individuazione del confine tra legittima discrezionalità nella scelta del personale e
illegittima indagine su «fatti non rilevanti ai fini della valutazione dell'attitudine
professionale del lavoratore»(59), dall’altro, nella condizione di particolare debolezza in
cui si trova la persona che aspiri a ottenere un’opportunità lavorativa, che peraltro non
sempre sarà consapevole della lesione di un proprio diritto.

          (57) Queste le conclusioni in M. Marazza - F. D’Aversa, Dialoghi sulla fattispecie dei «sistemi
decisionali o di monitoraggio automatizzati» op. cit, 8.
          (58) P.G. Kirchschlaeger, Digital Transformation and Ethics, Nomos, 2021, 103.
          (59) Così l’art. 8 St. lav. Su cui, in dottrina, ex multis, S. Sciarra, Art. 8, in Lo statuto dei lavoratori.
Commentario, a cura di G. Giugni, Giuffrè, 1979; A. Ingrao, Sub art. 8 (Divieto di indagini sulle opinioni), in
Codice commentato del lavoro, a cura di R. Del Punta - F. Scarpelli, Wolter Kluwer, 2020; M. Aimo, Dalle
schedature dei lavoratori alla profilazione tramite algoritmi: serve ancora l’art. 8 dello Statuto dei lavoratori?, LD, 3-4,
2021; A. Donini, Profilazione reputazionale e tutela del lavoratore: la parola al Garante della Privacy, LLI, 2017,
3, 1.

   LLI, Vol. 9, No. 1, 2023, ISSN 2421-2695                                                               I. 92
             R. COVELLI, Lavoro e intelligenza artificiale: dalla trasparenza alla conoscibilità


         A questo deve aggiungersi il ricorso all’automazione nelle fasi di selezione, che
riduce ulteriormente la già scarsa trasparenza di questi processi. I sistemi di intelligenza
artificiale utilizzati in questo ambito sono vari, con diversi gradi di complessità e, quindi,
con differente impatto (e invasività) sui dati personali degli individui coinvolti nella
selezione(60). I sistemi più semplici e più diffusi sono i cosiddetti applicant tracking systems
(ATS), la cui funzione è la raccolta dei dati relativi alle candidature, l’individuazione,
attraverso algoritmi semantici, di parole-chiave nelle diverse schede e l’organizzazione
di queste candidature in appositi database, a supporto delle diverse fasi del processo di
selezione. A questi devono però aggiungersi sistemi più complessi, di intelligenza
artificiale con connotati di machine learning, in grado di analizzare più
approfonditamente le singole candidature e di porle in graduatoria in base ai criteri
impostati in fase di progettazione, oltre a ulteriori software che, analizzando i video dei
colloqui, processano elementi visivi e sonori per valutare le espressioni e il tono di voce,
deducendo da essi motivazioni e inclinazioni dell’intervistato(61).
         Se i sistemi di recruiting di questo tipo sono ampiamente utilizzati negli Stati
Uniti( ), lo stesso non può dirsi per l’Unione europea, non tanto perché non si ricorra
       62

a strumenti di selezione del personale (anche) attraverso sistemi algoritmici, quanto per
la più incisiva tutela nel trattamento dei dati personali che assiste gli individui, specie
nell’ambito di un rapporto, come quello di lavoro, in cui la relazione tra le parti è
asimmetrica, come dimostra il venir meno dell’idoneità del consenso prestato per
garantire la liceità del trattamento dei dati(63).

        5.       La conoscibilità algoritmica come diritto digitale

       Il discorso, insomma, torna a ruotare attorno a due concetti strettamente legati,
responsabilità e potere, che si confrontano con un generale bisogno (che può tradursi
in un diritto) di trasparenza o, almeno, di conoscibilità.
       Sul punto, le dichiarazioni di principio sono chiare e, in gran parte, già citate: dal
GDPR alla Risoluzione sulla robotica, dalla Direttiva sulle condizioni di lavoro
trasparenti e prevedibili ai principi di Asilomar(64), il tema della conoscibilità dei sistemi

         (60) I. Ajunwa, An Auditing Imperative for Automated Hiring, Harvard Journal of Law & Technology,
34, 2021 (2019).
         (61) Si veda, ad esempio, il sistema proposto da EXS (Gi Group Holding) per la selezione dei
dirigenti, basata anche sull’analisi di Executive self efficacy, tratti di personalità, inclinazioni
motivazionali e valori, come da sito ufficiale: https://exsitalia.it/exs-italia/.
         (62) I. Ajunwa - D. Greene, Platforms at Work: Automated Hiring Platforms and Other New
Intermediaries in the Organization of Work, Work and Lavor in Digital Age, 14.06.2019, 71.
         (63) Article 29 Data Protection Working Party, Opinion 2/2017 on data processing at work,
08.06.2017, 23.
         (64) Gli Asilomar AI Principles sono stati adottati a conclusione della Asilomar Conference on
Beneficial AI, tenutasi in California nel gennaio 2017 e promossa dal Future of Life Institute. Si segnala
in particolare l’ottavo principio relativo alla «Judicial Transparency», in virtù del quale «Any involvement

  LLI, Vol. 9, No. 1, 2023, ISSN 2421-2695                                                    I. 93
               R. COVELLI, Lavoro e intelligenza artificiale: dalla trasparenza alla conoscibilità


algoritmici sembra attirare un generale consenso, anche alla luce della storia
dell’informatica, che, come si è visto in apertura, proprio sulla condivisione della
conoscenza ha fondato il proprio sviluppo. L’appello alla trasparenza deve tuttavia
confrontarsi, nei fatti, con diverse dimensioni di opacità dei sistemi algoritmici.
        Innanzitutto, se il diritto alla trasparenza deve essere generalizzato, e se dunque
la conoscibilità deve essere garantita a tutti, occorre confrontarsi con una opacità tecnica
del linguaggio di programmazione, e del conseguente funzionamento algoritmico, che
non potrà essere compreso da chi non abbia competenze informatiche: ne risulta che
«una scarsa (o nulla) intelligibilità è legata alla particolare complessità della tecnologia
impiegata nella sua costruzione»(65). Per arginare questo problema, è stata di recente
modificata(66) la legge francese Informatique et libertés del 1978 sulla protezione dei dati,
proprio prevedendo, in capo al responsabile di provvedimenti amministrativi
individualizzati basati sul trattamento dati automatizzato, un dovere di «assicurare la
piena comprensione del trattamento algoritmico e delle sue evoluzioni affinché possa
spiegare alla persona interessata, nel dettaglio e in una forma intellegibile, il modo in cui
il trattamento sia stato posto in opera nei suoi confronti»(67). La comprensibilità
dell’informazione circa l’uso e la logica dei processi algoritmici è demandata al
responsabile del trattamento stesso, e dunque l’opacità tecnica appare superabile
attraverso l’intermediazione tra chi abbia le competenze informatiche per comprendere
il sistema automatizzato e chi sia in grado di spiegare logica, funzionamento ed effetti
del sistema algoritmico all’interessato, attribuendo al funzionario la responsabilità di
offrire strumenti di conoscenza e comprensione.
        Permane tuttavia un'ulteriore opacità intrinseca, che coinvolge anche i
programmatori, di fronte agli algoritmi di machine learning. Nei sistemi automatizzati
con forme di apprendimento automatico, infatti, le procedure che dagli input
conducono agli output non sono causali e con una prevedibilità di tipo deterministico-
matematico, bensì applicano criteri di inferenza non facilmente riproducibili né
comprensibili. Le reti neurali, ad esempio, «basano le loro predizioni su pattern nascosti
all’occhio del programmatore inferiti direttamente dai dati, ragione per cui non
sappiamo di fatto quali correlazioni stiano sfruttando per costruire l’output fornito»(68).




by an autonomous system in judicial decision-making should provide a satisfactory explanation auditable
by a competent human authority».
          (65) P. Zuddas, Brevi note sulla trasparenza algoritmica, in Amministrazione in cammino, 05.06.2020,
11.
          (66) Loi 2018-493 du 20 juin 2018 relative à la protection des données personnelles.
          (67) G. Resta, Governare l’innovazione tecnologica: decisioni algoritmiche, diritti digitali e principio di
uguaglianza, Politica del diritto, 2019, 2, 229.
          (68) A. Simoncini, S. Suweis, Il cambio di paradigma nell’intelligenza artificiale e il suo impatto sul diritto
costituzionale, Rivista di filosofia del diritto, 2019, 1, 98.

   LLI, Vol. 9, No. 1, 2023, ISSN 2421-2695                                                            I. 94
             R. COVELLI, Lavoro e intelligenza artificiale: dalla trasparenza alla conoscibilità


Si tratta di una questione che, allo stato, non appare risolvibile, ma che è nota, e tenuta
in considerazione, anche dalla politica europea(69).
         Residua infine una opacità di tipo commerciale o industriale, che dipende da
posizioni giuridiche meritevoli di tutela da bilanciare con il principio di trasparenza dei
sistemi automatizzati nel trattamento dati. Sul punto, anche il considerando 63 del
GDPR, che pure riconosce, come si è visto, un principio di trasparenza e conoscibilità
sull’uso e sulla logica dei sistemi decisionali automatizzati, precisa che «tale diritto non
dovrebbe ledere i diritti e le libertà altrui, compreso il segreto industriale e aziendale e la
proprietà intellettuale, segnatamente i diritti d’autore che tutelano il software».
         Il bilanciamento tra i diversi interessi in discussione deve allora confrontarsi con
complesse riflessioni in materia di privacy e trattamento dei dati, che tengano conto delle
peculiarità tecnologiche del contesto ma che non trascurino diritti e valori sottesi alla
questione. La tutela della riservatezza, infatti, declinata come si è visto in diversi ambiti,
con le garanzie previste dal regolamento del 2016, così come dal divieto di indagini ex
art. 8 St. Lav., o dall’obbligo informativo in termini di trasparenza nel rapporto di lavoro
e sui sistemi decisionali o di monitoraggio automatizzati, «non è più solo uno scudo
contro il pettegolezzo, ma un’arma contro le discriminazioni basate sulla raccolta di
informazioni su opinioni politiche, sindacali, religiose»(70). In tal senso, allora, occorre
osservare che libertà e interessi commerciali e industriali, come il segreto aziendale e la
proprietà intellettuale, sono certo meritevoli di tutela, ma devono altresì porsi in
relazione (e dunque essere bilanciati) con la posizione di vulnerabilità dell’individuo che
fornisce i propri dati a sistemi algoritmici, che, anche grazie all’opacità loro propria,
possono instaurare o cristallizzare rapporti di potere, a danno persino della dignità
umana, messa a rischio dalla legittimazione che la presunta neutralità dell’intelligenza
artificiale sembra garantire a potenziali disparità, disuguaglianze e discriminazioni.
         Il citato considerando 63 del GDPR precisa comunque che la tutela del segreto
aziendale e della proprietà intellettuale «non dovrebbero condurre a un diniego a fornire
all’interessato tutte le informazioni»: declinando in senso stragiudiziale il principio di
prossimità della prova, allora, «il titolare del trattamento automatizzato dei dati è
comunque tenuto a fornire tutte quelle informazioni che non sono direttamente
connesse alla tutela del segreto industriale o aziendale dei produttori del software, o dei
diritti di proprietà intellettuale degli autori del codice sorgente»(71), garantendo quindi
all’interessato informazioni esterne al funzionamento del software ma essenziali per
comprendere la logica e la significatività del trattamento automatizzato stesso,
assicurandone quindi la conoscibilità.

          (69) Si veda, ad esempio, la Risoluzione del Parlamento europeo del 12 febbraio 2019 su una
politica industriale europea globale in materia di robotica e intelligenza artificiale, 2018/2088(INI).
          (70) Così Stefano Rodotà nella prefazione alla Relazione annuale del 1997 del Garante per la
protezione dei dati personali. Sul punto anche S. Rodotà, Tecnologie e diritti, Il Mulino, 1995.
          (71) P. Zuddas, Brevi note sulla trasparenza algoritmica, op. cit., 13.

  LLI, Vol. 9, No. 1, 2023, ISSN 2421-2695                                                    I. 95
              R. COVELLI, Lavoro e intelligenza artificiale: dalla trasparenza alla conoscibilità


         Se infatti, come autorevolmente notato, il riconoscimento del diritto della
persona di non essere sottoposta a decisioni con effetti significativi fondate
esclusivamente su trattamenti autonomizzati rappresenta «una norma generale sulla
distribuzione del potere di decisione nel mondo digitale»(72), è possibile concludere che
la distribuzione di un simile potere non può esercitarsi senza adeguata informazione. In
altri termini, il potere di decisione nel mondo digitale, anche attraverso la tutela dei
propri dati, deve essere effettivo, e non può certo limitarsi a un moderno atto di fede
nei confronti dell’intelligenza artificiale. Stante il generale antropomorfismo, semantico
e comunicativo, relativo ai sistemi algoritmici, presentati come del tutto autonomi anche
laddove si limitino all’automazione applicativa di criteri posti in fase di progettazione,
sembra doversi ribadire la necessità di un antropocentrismo, che ponga l’intelligenza
artificiale al servizio degli umani, dei loro bisogni e dei loro diritti, come peraltro
riconosciuto, nella sezione sui principi etici dell’AI, dalla citata Risoluzione del
Parlamento europeo del 16 febbraio 2017. Del pari, anche nel contesto italiano è
raccomandato uno sviluppo antropocentrico dell’intelligenza artificiale, con una visione
«complementare e funzionale all’intelligenza umana, piuttosto che come sostitutiva della
stessa»(73).
         In conclusione, al netto delle dichiarazioni d’intenti e di principio, guardando alle
pratiche degli attori pubblici, quanto auspicando l’impegno di quelli privati,
l’antropocentrismo dell’intelligenza artificiale dovrebbe declinarsi in considerazione di
tre differenti profili: importanza, responsabilità e potere.
         Anzitutto, infatti, occorre realizzare che l’impatto dei sistemi algoritmici è
tutt’altro che trascurabile, dal momento che, quand’anche il trattamento automatizzato
si limitasse alla mera raccolta di dati, la loro protezione sarebbe meritevole di tutela,
specie alla luce del valore, anche commerciale, che i flussi di dati hanno assunto negli
ultimi decenni, con il serio rischio di speculazione, economica e politica, a discapito della
riservatezza dell’individuo, e ai diritti a essa correlati, che riguardano la vita delle persone,
nella loro dimensione individuale quanto in quella collettiva, che si sviluppa nelle
relazioni sociali di comunità, a tutela delle differenze e in opposizione alle
disuguaglianze(74).
         D’altra parte, la riconduzione dell’intelligenza artificiale al servizio dell’umano
richiede comunque che sia una persona, sia essa fisica o giuridica, ad assumersi la
responsabilità di fatti e atti posti in essere dalla macchina: anche se lo sviluppo
tecnologico si spinge fino a meccanismi decisionali demandati a sistemi di
programmazione, la responsabilità resta un concetto giuridico fondamentale, che si


       (72) S. Rodotà, Il diritto di avere diritti op. cit., 328. L’Autore si riferisce all’art. 15 della direttiva
95/46/CE, ma la riflessione sembra potersi applicare anche all’art. 22 GDPR.
       (73) Gruppo esperti MISE, Proposte per una strategia italiana per l’intelligenza artificiale, 2020, 87.
       (74) L. Ferrajoli, Principia Juris. Teoria del diritto e della democrazia, Vol. 2, Laterza, 2007, 587.

  LLI, Vol. 9, No. 1, 2023, ISSN 2421-2695                                                        I. 96
              R. COVELLI, Lavoro e intelligenza artificiale: dalla trasparenza alla conoscibilità


fonda sull’azione individualmente attribuibile(75) e che «investe interamente la posizione
dei soggetti in quanto membri della medesima comunità»(76). La necessità di riconoscere
profili di responsabilità, pur nella complessità delle procedure informatiche, dipende
proprio dalla funzione che tale concetto ha assunto nel diritto, ma anche nella prassi,
ossia, da un lato, la riparazione del danno eventualmente sofferto dalla vittima e,
dall’altro, la deterrenza nei confronti del danneggiante, con l’induzione a pratiche di cura
e di composizione dei conflitti tra interessi, senza che questi sfocino necessariamente in
controversie giudiziarie(77).
         A tale concetto giuridico si aggiunge inoltre, e infine, la dimensione del potere.
La tecnica, sviluppata al punto da programmare meccanismi decisionali automatizzati,
«perde sempre più il suo carattere strumentale per assurgere a fine in sé; non si limita a
proporre soluzioni, ma pone problemi nuovi e scardina coordinate assiologiche,
ridisegnando la geografia del potere e il suo sistema di checks and balances»(78). In chiave
politica e costituzionale, è stato chiarito il rapporto biunivoco tra la informazione e
sovranità, o, in altri termini, tra conoscenza e potere: l’esercizio della sovranità popolare,
ad esempio, avviene solo con una completa, corretta e puntuale informazione(79). Del
pari, il potere di decisione sulla propria persona e sulla propria rappresentazione digitale,
nella sua dimensione identitaria e sociale, attraverso i dati, sarebbe svuotato in assenza
dell’elaborazione di un correlato diritto alla conoscibilità circa l’uso e la logica dei sistemi
algoritmici e di intelligenza artificiale, assistito dall’impegno democratico per la
consapevolezza dei diritti digitali della persona.
         Queste conclusioni assumono un valore ancor più dirompente in ambito
giuslavoristico, laddove le dinamiche del potere si snodano non tanto attraverso
meccanismi istituzionalizzati, quanto attraverso il costante ricorso all’autotutela, assistita
dai principi di correttezza e buona fede che tuttavia, com’è noto, restano di azionabilità
tutt’altro che agevole. Le citate norme dello Statuto dei lavoratori, in particolare, a cui si
sono poi aggiunti gli sviluppi in materia di tutela dei dati personali, guidano lo sguardo
dell’interprete verso una generale tutela dell’individuo, rispetto all’uso di dati ininfluenti
rispetto alla prestazione lavorativa ma il cui trattamento indiscriminato è potenzialmente
lesivo della riservatezza, e finanche della dignità, della persona. Il correttivo principale
che la normativa lavoristica attribuisce al potere di controllo, peraltro, non è, né può
essere, un generale divieto di qualunque tipo di vigilanza o di trattamento dei dati, bensì


        (75) Non per forza a titolo di colpa, come notato in S. Rodotà, Il problema della responsabilità civile,
Giuffrè, 1964, passim.
        (76) S. Rodotà, Il problema della responsabilità civile, op. cit., 89.
        (77) P.G. Monateri, Responsabilità civile, in Trattato di diritto civile, a cura di R. Sacco, Utet, 1998,
51 ss.
        (78) P. Stanzione, GDPR e tutele della vita democratica, Luiss, 16 dicembre 2021,
www.dirittodiinternet.it.
        (79) Cass. civ., sez. III, 9 luglio 2010, n. 16236, FI, 2010, vol. 133, n. 10.

  LLI, Vol. 9, No. 1, 2023, ISSN 2421-2695                                                      I. 97
            R. COVELLI, Lavoro e intelligenza artificiale: dalla trasparenza alla conoscibilità


un obbligo informativo in capo al datore di lavoro nei confronti dei lavoratori e delle
loro rappresentanze sindacali. In tal senso, si può allora ipotizzare che a tale obbligo
datoriale di informazione sia correlato un diritto alla conoscibilità delle procedure, che
può tradursi, ed essere compreso, in un generale principio di trasparenza algoritmica,
laddove l’organizzazione del lavoro avvenga anche per mezzo di processi informatici
automatizzati, riconducendo le dinamiche digitali al carattere aperto che, come si è visto,
ha qualificato lo sviluppo delle tecnologie informatiche, e che appare tuttora necessario
per evitare la cristallizzazione di posizioni dominanti e per distribuire il potere, almeno
rispetto ai dati che riguardano la persona.




  LLI, Vol. 9, No. 1, 2023, ISSN 2421-2695                                                   I. 98
               R. COVELLI, Lavoro e intelligenza artificiale: dalla trasparenza alla conoscibilità


Bibliografia

Aimo M., Dalle schedature dei lavoratori alla profilazione tramite algoritmi: serve ancora l’art. 8 dello Statuto dei
         lavoratori?, in LD, 3-4, 2021.
Ajunwa I., An Auditing Imperative for Automated Hiring, in Harvard Journal of Law & Technology, 34, 2021
         (2019).
Ajunwa I. - Greene D., Platforms at Work: Automated Hiring Platforms and Other New Intermediaries in the
         Organization of Work, in Work and Lavor in Digital Age, 14.06.2019, 71.
Aloisi A. - De Stefano V., Il tuo capo è un algoritmo. Contro il lavoro disumano, Tempi Nuovi, 2020.
Angwin J. - Larson J. - Mattu S. - Kirchner L., Machine bias, ProPublica, 23.05.2016.
Article 29 Data Protection Working Party, Opinion 2/2017 on data processing at work, 08.06.2017, 23.
Baiocco S. - Fernández-Macías E. - Rani U. - Pesole A., The Algorithmic Management of work and its
         implications in different contexts, in JRC Working Papers Series on Labour, Education and Technology,
         European Commission, 2022, 2.
Ballestrero M.V., Ancora sui rider. La cecità discriminatoria della piattaforma, in Labor, 1/2021.
Barocas S. - Selbst A.D., Big Data's Disparate Impact, in California Law Review, 2016, 104.
Bavaro V., Sul concetto giuridico di «tempo del lavoro» (a proposito di ciclofattorini), in Labor, 2020, 671.
Bernhardt A. - Suleiman R. - Kresge L., Data and Algorithms at Work: The Case for Worker Technology Rights,
         Barkeley Labor Center, 2021.
Berra M. - Meo A.R., Il software libero: la qualità attraverso la cooperazione, in Quaderni di Sociologia, 23, 2000,
         5-21.
Borzaga M. - Mazzetti M., Discriminazioni algoritmiche e tutela dei lavoratori: riflessioni a partire dall’Ordinanza
         del Tribunale di Bologna del 31 dicembre 2020, in BioLaw Journal, 1/2022.
Carinci M.T., Il controllo a distanza sull’adempimento della prestazione di lavoro, in Controlli a distanza e tutela dei
         dati personali del lavoratore, a cura di P. Tullini, Giappichelli, 2017.
Cosio R., Il caso Foodora tra giudici e legge, in LDE, 2019, n. 3.
Del Punta R., La nuova disciplina dei controlli a distanza sul lavoro (art. 23 d.lgs. 151/2015), in RIDL, 2016, 1,
         I, 77 ss.
Dessì O., I sistemi di feedback nei rapporti di lavoro dei rider, in LPO, 2021, 37.
Donini A., Il lavoro attraverso le piattaforme digitali, BUP, 2019.
Donini A., Profilazione reputazionale e tutela del lavoratore: la parola al Garante della Privacy, in LLI, 2017, 3, 1,
         R. 35–57.
Ferragina P. - Luccio F., Il pensiero computazionale. Dagli algoritmi al coding, Il Mulino, 2017.
Ferrajoli L., Principia Juris. Teoria del diritto e della democrazia, Vol. 2, Laterza, 2007.
Flores A.W. - Bechtel K – Lowenkamp C.T., False Positives, False Negatives, and False Analyses: A Rejoinder
         to “Machine Bias: There’s Software Used Across the Country to Predict Future Criminals. And It’s Biased
         Against Blacks”, in Federal Probation Journal, 80, 2, 2016.
Freiberger P. - Swaine M., Fire in the Valley: The Making of the Personal Computer, McGraw-Hill, 1985.
Himanen P., L’etica hacker e lo spirito nell’età dell’informazione, Feltrinelli, 2001.
Ingrao A., Il controllo a distanza sulla prestazione dei ciclo fattorini tra Scoober App e GPS, in LLI, 2021, 7, 1,
         R.163-R.174.
Ingrao A., Sub art. 8 (Divieto di indagini sulle opinioni), in Codice commentato del lavoro, a cura di Del Punta R.
         - Scarpelli F., Wolter Kluwer, 2020.
Kirchschlaeger P.G., Digital Transformation and Ethics, Nomos, 2021.
Lyon D., La società sorvegliata. Tecnologie di controllo della vita quotidiana, Feltrinelli, 2001.
Marazza M. - D’Aversa F., Dialoghi sulla fattispecie dei “sistemi decisionali o di monitoraggio automatizzati” nel
         rapporto di lavoro (a partire dal Decreto Trasparenza), in Giustizia civile, 8.11.2022.
Mazzotta O., L’inafferrabile etero-direzione: a proposito di ciclofattorini e modelli contrattuali, in Labor, 2020, 5.
MISE, Proposte per una strategia italiana per l’intelligenza artificiale, 2020.
Monateri P.G., Responsabilità civile, in Trattato di diritto civile, a cura di Sacco R., Utet, 1998.
Nuzzo V., La protezione del lavoratore dai controlli impersonali, Editoriale Scientifica, 2018.
Quattrocolo S., Intelligenza artificiale e giustizia: nella cornice della Carta Etica Europea, gli spunti per un’urgente
         discussione tra scienze penali ed informatiche, in Legislazione Penale, 18.12.2018.

  LLI, Vol. 9, No. 1, 2023, ISSN 2421-2695                                                            I. 99
                R. COVELLI, Lavoro e intelligenza artificiale: dalla trasparenza alla conoscibilità


Resta G., Governare l’innovazione tecnologica: decisioni algoritmiche, diritti digitali e principio di uguaglianza, in Politica
         del diritto, 2019, 2.
Rodotà S., Il diritto di avere diritti, Laterza, 2012
Rodotà S., Il mondo nella rete. Quali i diritti, quali i vincoli, Laterza, 2014
Rodotà S., Il problema della responsabilità civile, Giuffrè, 1964.
Rodotà S., Tecnologie e diritti, Il Mulino, 1995.
Romagnoli U., Il lavoro in Italia. Un giurista racconta, Il Mulino, 1995.
Rosen J., The Unwanted Gaze. The Destruction of Privacy in America, Random House, 2000.
Salardi S., Intelligenza artificiale e semantica del cambiamento: una lettura critica, Giappichelli Editore, 2023.
Santoro Passarelli G., Dignità del lavoratore e libertà di iniziativa economica, rivoluzione industriale 4.0 e rapporto
         di lavoro dei riders, in Labor, 2022.
Scarpelli U., Riflessioni sulla responsabilità politica. Responsabilità, libertà, visione del mondo, in La responsabilità
         politica, Diritto e Tempo, a cura di Orecchia R., Giuffrè, 1982.
Sciarra S., Art. 8, in Lo statuto dei lavoratori. Commentario, diretto da Giugni G., Giuffrè, 1979.
Simoncini A., Profili costituzionali dell’amministrazione algoritmica, in Rivista Trimestrale Diritto Pubblico, 2019,
         4.
Simoncini A. - Suweis S., Il cambio di paradigma nell’intelligenza artificiale e il suo impatto sul diritto costituzionale,
         in Rivista di filosofia del diritto, 2019, 1.
Stanzione P., GDPR e tutele della vita democratica, Luiss, 16.12.2021, www.dirittodiinternet.it.
Stone P. et al., Artificial Intelligence and Life in 2030. One Hundred Year Study on Artificial Intelligence: Report of
         the 2015-2016 Study Panel, Stanford University, 2016.
Tommasi S., Algoritmi e nuove forme di discriminazione: uno sguardo al diritto europeo, in Revista de Direito
         Brasileira, 27, 10, 2021.
Tresca M., I primi passi verso l’Intelligenza Artificiale al servizio del cittadino: brevi note sul Libro Bianco dell’Agenzia
         per l’Italia Digitale, in MediaLaws, 2018, n. 3.
Tullini P. (a cura di), Controlli a distanza e tutela dei dati personali del lavoratore, Giappichelli, 2017.
Tullini P., Le collaborazioni etero-organizzate dei riders: quali tutele applicabili?, in LDE, 2019, n. 1.
Voza R., La tutela del contraente forte nel diritto del lavoro, in RIDL, 2015, 1, 15.
Warren S. - Brandeis L., The Right to Privacy, in Harvard Law Review, IV (5), 15.12.1890, 193-220.
Ziccardi G., Informatica giuridica. Controcultura, informatica giuridica, libertà del software e della conoscenza, Tomo
         I, Giuffrè, 2011.
Zuboff S., Il capitalismo della sorveglianza. Il futuro dell'umanità nell'era dei nuovi poteri, Luiss University Press,
         2019.
Zuddas P., Brevi note sulla trasparenza algoritmica, in Amministrazione in cammino, 05.06.2020.




   LLI, Vol. 9, No. 1, 2023, ISSN 2421-2695                                                                 I. 100
