Discriminación algorítmica y formas de discriminación
10.6092/issn.2421-2695/13127
L'articolo analizza la prima decisione italiana sulla discriminazione algoritmica e discute la struttura della sentenza nonchè la possibilità di inquadrare la discriminazione algoritmica come un caso di discriminazione diretta o indiretta
application/pdf
2421-2695
13127
1
it
Marzia Barbera
https://creativecommons.org/licenses/by/3.0
Labour & Law Issues
algorithmic management
Discriminazioni algoritmiche e forme di discriminazione
Text.Serial.Journal
https://labourlaw.unibo.it/
7
Idee
2021-06-29
2021-06-22
2021-06-29
2021-06-29
I.1-I.17
LLI
Marzia Barbera
2021/06/29
10.6092/issn.2421-2695/13127
I.1
Università di Brescia
2421-2695
1
algorithmic management
it
I.17
Xenidis R., Tuning EU equality law to algorithmic discrimination: Three pathways to resilience, in Maastricht Law Journal of European and Comparative Law, 2020, vol. 27, 736 ss.
Discriminazioni algoritmiche e forme di discriminazione
https://labourlaw.unibo.it/article/download/13127/12679
7
Discriminazioni algoritmiche
 e forme di discriminazione




      MARZIA BARBERA
      Università di Brescia




       vol. 7, no. 1, 2021
         ISSN: 2421-2695
                  Discriminazioni algoritmiche
                   e forme di discriminazione

                                                         MARZIA BARBERA
                                                         Università di Brescia
                                               Ordinaria di Diritto del Lavoro
                                                     marzia.barbera@unibs.it



                                ABSTRACT

       The paper analyses the first Italian decision on algorithmic
discrimination and discusses the structure of the judgment and the possibility
of framing algorithmic discrimination as a case of direct or indirect
discrimination.


Keywords: algorithmic discrimination; direct discrimination;          indirect
discrimination; proxy discrimination; algorithmic management.

                              https://doi.org/10.6092/issn.2421-2695/13127
                  M. BARBERA, Discriminazioni algoritmiche e forme di discriminazione



                          Discriminazioni algoritmiche
                           e forme di discriminazione

SOMMARIO: 1. Le questioni poste dalle discriminazioni algoritmiche. - 2. Quel che sappiamo
     del management tramite algoritmi. - 3. Quel che ne sa il diritto antidiscriminatorio. Come
     si accerta una discriminazione. - 4. Che forma di discriminazione: indiretta o diretta?



         1.        Le questioni poste dalle discriminazioni algoritmiche

        Il punto di partenza di questo articolo è la prima decisione giudiziale
italiana, probabilmente la prima decisione europea, in tema di discriminazioni
algoritmiche: l’ordinanza del Tribunale di Bologna del 31 dicembre 2020, con la
quale è stata decisa la causa promossa dalle organizzazioni sindacali Filcams Cgil
Bologna, Nidil Cgil Bologna, Filt Cgil Bologna contro la società Deliveroo. Il
Tribunale ha concluso nel senso della sussistenza di una discriminazione
indiretta in relazione alle condizioni di accesso alla prenotazione delle sessioni
di lavoro tramite la piattaforma digitale, condizioni basate su statistiche relative
alla “partecipazione e affidabilità” dei lavoratori, e ha condannato la società
convenuta a rimuovere gli effetti della condotta e al pagamento, a favore delle
parti ricorrenti, del risarcimento del danno non patrimoniale, nella misura di
50.000 euro, oltre che alla rifusione delle spese di lite.
        Le ragioni per occuparsi di questa decisione sono molteplici.
        Anzitutto, il caso è una sorta di manuale applicato di diritto
antidiscriminatorio che sottopone all’attenzione di chi legge tutte le possibili
questioni che possono darsi in un giudizio di discriminazione. Sono d’accordo
con Maria Vittoria Ballestrero(1) quando loda la capacità del giudice di
padroneggiare tali questioni, di natura molto complessa. Ma a questi
apprezzamenti vorrei aggiungerne uno che riguarda la capacità degli attori e dei
loro difensori di costruire la causa come un caso di strategic litigation. Se questa
fosse una nota dedicata al tema della legal mobilization, si potrebbe andare a fondo
sulle condizioni che consentono oggi di usare questa forma di mobilitazione non
come un sostituto ma come un sostegno alle forme di political mobilization messe
in atto dagli attori sociali, e leggere in questa causa la conferma di una previsione

         (1) M. V. Ballestrero, Ancora sui rider. La cecità discriminatoria della piattaforma, Labor, 2021,
1, 104 ss. Poiché quel giudice è una donna, non posso non concordare con lei anche nel
sottolineare il contributo che le donne giudici del lavoro stanno dando alla evoluzione della
giurisprudenza in tema di tutela antidiscriminatoria.



  LLI, Vol. 7, No. 1, 2021, ISSN 2421-2695                                                          I. 3
                  M. BARBERA, Discriminazioni algoritmiche e forme di discriminazione



di qualche anno fa secondo la quale il conflitto sindacale avrebbe trovato nuovi
canali di espressione proprio nel diritto antidiscriminatorio(2). Ma questa è una
riflessione che dovrà essere rinviata ad un’altra occasione.
        In questa occasione, la ragione di interesse della decisione è che costringe
noi giuslavoristi a occuparci di un tema, le discriminazioni algoritmiche, al quale
per parecchio tempo non abbiamo dedicato l’attenzione che merita (con alcune
eccezioni, ovviamente, e ricordo qui, oltre ad alcuni libri recenti(3), anche i
contributi pubblicati un paio di anni fa in un libro sul lavoro nell’impresa
digitale(4) e altri dedicati al tema della tutela della privacy(5).
        Ma, in verità, essa ci costringe anche a misurarci con un tema più vasto e
cioè con le potenzialità e i rischi dell’intelligenza artificiale.
        «Non dobbiamo avere paura dell’intelligenza artificiale, ma della stupidità
naturale». Così Roberto Cingolani, fisico, professore universitario, oggi ministro
della transizione ecologica, rispose in un’intervista di qualche mese fa a chi lo
interrogava sulla dark side dell’intelligenza artificiale, aggiungendo che l’IA, come
tutte le tecnologie, non ha alcun «side», è solo uno strumento che può essere
usato per scopi positivi o per scopi negativi e che «un utente non consapevole
dei rischi collegati all’utilizzo di una tecnologia è pericoloso» (6).
        Di questo pericolo sembra ben avvertita anche la Commissione Europea
che, nel “Libro bianco sull'intelligenza artificiale - Un approccio europeo, esordisce
osservando come «'intelligenza artificiale si stia sviluppando rapidamente e nel
far ciò cambierà le nostre vite migliorandola, ma comporterà anche una serie di
rischi potenziali, quali meccanismi decisionali opachi, discriminazioni basate sul




            (2) M. Barbera - V. Protopapa, Il caso Fiat: come la tutela antidiscriminatoria riformula il
conflitto sindacale, RGL, 2014, II, 163, a commento delle decisioni Trib. Roma 21 giugno 2012 e
App. Roma 19 ottobre 2012.
            (3) A. Aloisi -V. De Stefano, Il tuo capo è un algoritmo. Contro il lavoro disumano, La Terza,
2020; E. Dagnino, Dalla fisica all'algoritmo: una prospettiva di analisi giuslavoristica, Adapt University
Press, 2019.
            (4) C. Alessi, Lavoro tramite piattaforma e divieti di discriminazione nell’UE, in C. Alessi - M.
Barbera- L. Guaglianone (a cura di), Impresa, lavoro e non lavoro nell’impresa digitale, Cacucci, 2019,
663 ss.; G. Centamore, - L. Ratti, Oltre il dilemma qualificatorio: potenzialità e limiti del diritto
antidiscriminatorio nella protezione del lavoratore on-demand, ivi, 683 ss.
            (5) A. Donini, Tecniche avanzate di analisi dei dati e protezione dei lavoratori, DRI, 2018, 222;
A. Ingrao, Il braccialetto elettronico tra privacy e sicurezza del lavoratore, DRI, 2019, 895 ss.; A. Aloisi
- E. Gramano, Artificial Intelligence is WatchingYou at Work: Digital Surveillance, Employee Monitoring,
and Regulatory Issues in the EU Context, CLL&PJ, 2019, 95 ss.
            (6) Vaccini contro la tecnofobia, Intervista a Roberto Cingolani, Il Foglio, 21 ottobre 2020.



  LLI, Vol. 7, No. 1, 2021, ISSN 2421-2695                                                            I. 4
                 M. BARBERA, Discriminazioni algoritmiche e forme di discriminazione



genere o di altro tipo, intrusioni nelle nostre vite private o utilizzi per scopi
criminali» (7).
        Una delle questioni principali che solleva l’ordinanza del Tribunale di
Bologna è proprio questa: se l’utilizzo di un algoritmo che produce
discriminazione da parte di una delle maggiori piattaforme digitali sia frutto di
un uso non consapevole di quella tecnologia (o meglio degli effetti di quella
tecnologia), oppure di un uso consapevole. La seconda questione sollevata
dall’ordinanza è se questo comportamento sia da considerarsi “socialmente
pericoloso” in egual misura o se, invece, il grado di giustificazione ammessa per
il suo uso (e dunque il grado di responsabilità) cambi. Vedremo nelle prossime
pagine come queste questioni trovino espressione nel “gergo” del diritto
antidiscriminatorio e vengano alla luce e affrontate nelle diverse fasi in cui si
articola il giudizio di discriminazione.
        Prima vorrei soffermarmi ancora sulle riflessioni di Roberto Cingolani
sul sapere che dovrebbe governare l’uso delle macchine algoritmiche, perché
anche queste ci dicono qualcosa sull’importanza della decisione bolognese:
«Etica, diritto e filosofia sono le tre grandi materie che ci proiettano in un futuro
in cui sempre di più le competenze del giurisprudente e del computer scientist si
intrecceranno per risolvere i quesiti giuridici legati all’innovazione tecnologica.
Abbiamo bisogno di un sapere “cross-fertilizzato”, altrimenti resteremo
imprigionati in un paradosso: sviluppiamo strumenti via via più potenti sul piano
tecnico in un modo che ci trova incredibilmente disarmati sul piano culturale».
        Roberto Cingolani parla da scienziato. In realtà l’etica, la filosofia, il
diritto sono da tempo entrati in campo(8).



            (7) Commissione Europea, Il Libro Bianco sull'intelligenza artificiale - Un approccio europeo
all'eccellenza e alla fiducia Bruxelles, 19.2.2020 COM(2020) 65 final. Al Libro Bianco e a una vasta
consultazione pubblica ha fatto seguito la presentazione, il 21 aprile 2021, della Proposta di
regolamento sull'approccio europeo all'Intelligenza Artificiale (COM(2021) 206 final, che
propone il primo quadro giuridico europeo sull'IA. La Proposta valuta i rischi dell'Intelligenza
Artificiale, con la finalità di salvaguardare i valori e i diritti fondamentali dell'UE e la sicurezza
degli utenti, prevedendo regole di trasparenza armonizzate applicabili a tutti i sistemi di IA,
mentre sono previste specifiche disposizioni per i sistemi di IA classificati "ad alto rischio",
per i quali viene introdotta una specifica definizione, affinché rispettino determinati requisiti
obbligatori relativi alla loro affidabilità. Per una prima analisi critica della Proposta si v. il
seminario AI for Fundamental Rights at Work: Is the EC’s Proposal on a European Approach to AI Up
to It?, reperibile su https://www.labourlawcommunity.org/news-eventi/ai-for-fundamental-
rights-at-work-is-the-ecs-proposal-on-a-european-approach-to-ai-up-to-it-2/.
            (8) V. in proposito il Codice etico dell’aprile del 2019, steso per l’Unione europea da
un gruppo di 52 esperti, fra cui, oltre a informatici, ingegneri industriali, matematici, anche
giuristi, filosofi e studiosi di etica.



  LLI, Vol. 7, No. 1, 2021, ISSN 2421-2695                                                        I. 5
                  M. BARBERA, Discriminazioni algoritmiche e forme di discriminazione



        I filosofi si sono mostrati molto più inquieti rispetto al potere umano
enormemente accresciuto di produrre elementi e artefatti mai creati in natura.
Pensiamo a quello che già Hanna Arendt scriveva nell’ultimo capitolo della Vita
Activa e al suo timore che una scienza in continuo progresso potesse portarci
lontano dalla natura, solo punto fisso di riferimento per la vita umana(9).
        Quanto ai giuristi, diritto del lavoro e tecnica sono da sempre compagni
di strada e tutti gli studi recenti dei giuslavoristi sulla tecnica partono (e non
potrebbero non farlo) dalle pagine che Gaetano Vardaro scrisse 35 anni fa sulla
dipendenza dalla tecnica come discrimine tra il lavoro che domina la tecnica e il
lavoro che ne è dominato. In una fase in cui l’automazione era ancora gli inizi,
egli avvertiva come la razionalizzazione dei processi produttivi e la loro
accresciuta complessità tendesse a trasformarsi «da strategia di controllo sul
funzionamento del processo produttivo in strategia di controllo delle
informazioni relative al funzionamento (il più possibile automatico) di
quest’ultimo» (10). Vardaro riteneva, per questo, che il diritto del lavoro fosse a
un bivio, fra il limitarsi a proseguire e rilanciare la sua funzione razionalizzatrice,
diventando quasi un ramo del diritto d’impresa, o il redistribuire più equamente
il complesso di tutele e garanzie da esso predisposte (11).
        Vi era forse un eccesso di pessimismo nel pensiero di Vardaro circa la
possibilità di governare la tecnica, anche se il suo saggio si chiudeva su un verso
di Hölderlin già citato da Heidegger: «Solo dove cresce il pericolo, cresce anche
la possibilità di salvezza». Il diritto, già da qualche tempo, ha cominciato ad
“armarsi” culturalmente contro i rischi connessi all’intelligenza artificiale. Per
dirla in poche parole, anche «la tecnologia e le sue conseguenze sono fenomeni
umani e dipendono strettamente dal tessuto sociale e regolamentare su cui si
riverberano»(12).

         2.        Quel che sappiamo del management tramite algoritmi

       Quello che ancora non è chiaro è quali siano gli strumenti più adatti a
governare il management tramite algoritmi. Non ne sappiamo ancora abbastanza,
tanto per cominciare, non solo perché i giuristi non sfuggono a quel deficit di
cultura scientifica che costituisce una delle debolezze della formazione impartita


        (9) H. Arendt, Vita activa, Bompiani, 2004.
        (10) G. Vardaro, Tecnica, tecnologia e ideologia della tecnica nel diritto del lavoro, ora in L. Gaeta
- A.R. Marchitiello -P. Pascucci (a cura di), Itinerari, Franco Angeli, 1989, 231 ss., qui 291.
        (11) Ibidem, 308.
        (12) A. Aloisi - V. De Stefano, Il tuo capo è un algoritmo cit., XVII.



  LLI, Vol. 7, No. 1, 2021, ISSN 2421-2695                                                             I. 6
                M. BARBERA, Discriminazioni algoritmiche e forme di discriminazione



nel nostro paese (e forse, in generale, una delle debolezze della nostra cultura
nazionale) ma anche perché questi sistemi sono spesso così complessi da
risultare comprensibili solo a chi li ha costruiti.
         E dunque partiamo da qui, da cosa è un algoritmo. E poi chiediamoci
quali rischi del tipo prima descritto comporta e quale “tessuto regolamentare”
lo può governare.
         L’algoritmo, ci dice Wikipedia, l’enciclopedia dell’era dell’IA, «serve per
risolvere un problema ed è costituito da una sequenza finita di operazioni (dette
anche istruzioni) che consente di risolvere tutti i quesiti di una stessa classe».
Esso deve essere: finito, cioè costituito da un numero finito di istruzioni e
indirizzato a una fine; deterministico, cioè partendo dai dati di input, si devono
poter ottenere i medesimi risultati; non ambiguo, cioè le operazioni devono
poter essere interpretate nello stesso modo da tutti, anche se l'esecutore è
differente; generale, cioè la soluzione deve essere uguale per tutti i problemi della
medesima classe.
         Se, dopo aver letto questa descrizione, le caratteristiche che vi vengono
in mente è “neutralità” e “obiettività”, non c’è da stupirsi. E, se davvero il
managment attraverso algoritmi assicurasse obiettività e neutralità ai processi
decisionali che si svolgono dentro le organizzazioni lavorative, lo si potrebbe
considerare un’alternativa preferibile alla discrezionalità che connota larga parte
di tali processi.
         Viceversa, gli algoritmi rimettono in questione proprio i concetti di
obiettività e neutralità. Il problema, infatti, è che anche gli algoritmi sono
“artefatti” e, come tutti gli artefatti realizzati dagli umani risentono del sistema
di significati, concetti, idee, giudizi, precomprensioni che noi apprendiamo dalla
nascita, a cominciare dall’apprendimento stesso del linguaggio. Gli studi di
semantica dimostrano che possiamo intenderci l’un l’altro non solo attraverso
la logica o le argomentazioni ma già solo attraverso il modo in cui parliamo, le
parole che usiamo, perché alle parole sono annesse già dei significati.
         Ne deriva che spesso «nel mercato del lavoro digitale si riproducono
esattamente gli atteggiamenti discriminatori che si riscontrano nei lavori
“tradizionali”, con riguardo a tutti i fattori di discriminazione»(13), poiché le
menti che programmano gli algoritmi non sono diverse da quelle che,
normalmente, scelgono chi assumere, promuovere, remunerare di più, licenziare
e così via.



        (13) C. Alessi, Lavoro tramite piattaforma e divieti di discriminazione nell’UE, cit., 685.



  LLI, Vol. 7, No. 1, 2021, ISSN 2421-2695                                                            I. 7
                 M. BARBERA, Discriminazioni algoritmiche e forme di discriminazione



        Rendersene conto non è semplice, perché, come si è detto, il linguaggio
stesso degli algoritmi non ci è chiaro: il primo degli ostacoli nei quali i ricorrenti
e i difensori del caso di cui si discute qui si sono imbattuti è stato proprio la
mancanza di trasparenza dell’algoritmo(14).
        Ma quel che più colpisce è che, dopo un’istruttoria condotta in modo
accurato e approfondito, dopo l’escussione di testi, l’esame di documenti,
l’interrogatorio delle parti, la decisione del Tribunale conclude che «la mancata
allegazione e prova, da parte della società resistente, del concreto meccanismo
di funzionamento dell’algoritmo che elabora le statistiche dei rider preclude in
radice una più approfondita disamina della questione. Ed invero, in corso di
causa la società……non ha mai chiarito quali specifici criteri di calcolo vengano
adottati per determinare le statistiche di ciascun rider, né tali specifici criteri
vengano pubblicizzati sulla piattaforma, laddove si rinviene unicamente un
generico riferimento agli ormai noti parametri della affidabilità e
partecipazione».
        Questo è il primo problema posto dal management algoritmico: la
mancanza di trasparenza. Il che solleva la questione di quanta accoutability
abbiano sistemi decisionali basati su processi la cui conoscenza sia preclusa ai
più.

      3.    Quel che ne sa il diritto antidiscriminatorio. Come si accerta
una discriminazione algoritmica strutturale

        Ma allora se, fino alla fine della causa, l’algoritmo che decide delle
occasioni di lavoro in Deliveroo è rimasto un oggetto fondamentalmente
sconosciuto, come ha fatto la magistrata che ha deciso la causa a concludere nel
senso dell’illegittimità del suo uso?
        La riposta per i cultori del diritto antidiscriminatorio è nota da tempo. Il
diritto antidiscriminatorio agisce sulle conseguenze degli atti, quando l’esistenza di
un nesso causale fra quegli atti e lo svantaggio prodotto sugli appartenenti a una

          (14) Sulla mancanza di trasparenza dei processi automatizzati v. F. Pasquale, The Black
Box Society. The Secret Algorithms That Controls Money and Information, Harvard University Press,
2016. Le istituzioni europee attribuiscono un ruolo rilevante agli obblighi di trasparenza nel
controllo dell’IA, come dimostra anche la già citata Proposta di regolamento. Sui limiti di un
controllo ex post, che miri a informare la creazione dell’algoritmo ai principi di trasparenza e di
responsabilità e sulla preferibilità di un controllo ex ante che classifichi e analizzi questi sistemi
automatici per comprendere la tipologia di danno che possono comportare in modo da
prevenire possibili esiti discriminatori v., a partire da un’analisi dell’esperienza nordamericana,
G. Capuzzo, Do Algorithms dream about Electric Sheep?. Percorsi di studio in tema di discriminazione e
processi decisori algoritmici tra le due sponde dell’Atlantico, Medialaws, 2020, 3, 89 ss.



  LLI, Vol. 7, No. 1, 2021, ISSN 2421-2695                                                     I. 8
                   M. BARBERA, Discriminazioni algoritmiche e forme di discriminazione



suspect class fa presumere l’esistenza di una discriminazione. Nella formazione di
questa presunzione, come la Corte di Giustizia ha chiarito da Danfoss(15) in poi,
la mancanza di trasparenza dei meccanismi decisionali assume essa stessa
rilevanza probatoria (anche se non decisiva), giacché, come affermato in Meister,
nell’assolvimento dell’onere della prova gravante su chi allega una
discriminazione, deve essere garantito che il diniego di fornire informazioni da
parte del convenuto non rischi di compromettere la realizzazione degli obiettivi
perseguiti dal diritto dell’Unione (in quel caso, la direttiva 2000/43)(16).
         Nel caso in questione, quel che il giudice ha accertato è che i lavoratori
che scioperavano in virtù delle loro convinzioni sindacali perdevano occasioni
di lavoro, subivano, cioè, uno svantaggio fondato su uno dei fattori ricompresi
in quelli protetti dal d.lgs.216/93 (come sostenuto da tempo in dottrina(17) e
autorevolmente ribadito dalla sentenza n. 1/2020 della Corte di Cassazione)(18).
Quel che ne è seguito è la dichiarazione di illegittimità della condotta del datore
di lavoro in quanto condotta discriminatoria.
         In questo consiste uno dei vantaggi del diritto antidiscriminatorio
rispetto alle tecniche protettive tradizionali di carattere sostanziale: esso è in
grado di colpire condotte atipiche, di tipo strutturale o sistemico, quali quelle che
tradizionalmente connotano l’esercizio del potere datoriale, come Tiziano Treu
ci ha segnalato fin dal suo studio pionieristico dei primi anni 70 sugli atti
discriminatori nel rapporto di lavoro(19). Questa è una delle ragioni per cui, come
è stato osservato, «l’ottica antidiscriminatoria fornisce al giudice la chiave per
aprire una finestra sul modello di organizzazione del lavoro mediante




           (15) Corte giust. 17 ottobre 1989, C-109/88, Danfoss, ECLI:EU:C:1989:383.
           (16) Corte giust. 19 aprile 2012, C-415/10, Meister, EU:C:2012:217, punti 36 e 40.
Sull’idoneità, più in generale, della disciplina dell’onere della prova nel diritto del lavoro e dei
poteri istruttori attribuiti al giudice dall’art. 421 c.p.c. a ridurre i rischi sottesi all’opacità
decisionale degli strumenti di algorithmic management, v. G. Gaudio, Algorithmic management, poteri
datoriali e oneri della prova: alla ricerca della verità materiale che si cela dietro l’algoritmo, LLI, 2020, vol.
6, 2, 21 ss.
           (17) V. S. Borelli - A. Guariso - L. Lazzeroni, Le discriminazioni nel rapporto di lavoro, in
M. Barbera - A. Guariso (a cura di), La tutela antidiscriminatoria. Fonti, strumenti, interpreti,
Giappichelli, 2019, 256 ss.
           (18) Cass. 2 gennaio 2020, n. 1, che ha statuito che «nell’ambito della categoria generale
delle convinzioni personali, caratterizzata dall’eterogeneità delle ipotesi di discriminazione
ideologica estesa alla sfera dei rapporti sociali, può essere ricompresa…anche la
discriminazione per motivi sindacali». Per un commento a questa importante decisione cfr. V.
Protopapa, Comportamento antisindacale, discriminazione e onere della prova, RGL, 2020, I, 654 ss.
           (19) T. Treu, Condotta antisindacale e atti discriminatori, Franco Angeli, 1974.



  LLI, Vol. 7, No. 1, 2021, ISSN 2421-2695                                                                 I. 9
                 M. BARBERA, Discriminazioni algoritmiche e forme di discriminazione



piattaforma, valutando se e come questo modello comporti la violazione dei
diritti fondamentali dei lavoratori coinvolti»(20).
         Viceversa, una disposizione quale quella dell’art. 47-quinquies, l.
128/2019, che vieta l'esclusione dalla piattaforma e le riduzioni delle occasioni
di lavoro ascrivibili alla mancata accettazione della prestazione, colpisce uno
specifico comportamento, di tipo normalmente ritorsivo(21), ma si rivela
inidonea a colpire un intero e complesso processo organizzativo-gestionale,
quale quello messo in atto dall’algoritmo “Frank”. Questo, come si è detto,
“profilava” i lavoratori in maniera continuativa, sulla base di un meccanismo di
carattere predittivo, che stabiliva una correlazione, basata su un calcolo di
probabilità, fra mancata partecipazione a una sessione di lavoro, presentazione
tardiva o cancellazione (o comunque cancellazione tardiva, uno dei pochi fatti
di causa rimasti oggetto di contestazione) e due indici: affidabilità e
partecipazione, costruendo poi su questa correlazione il profilo “reputazionale”
dei lavoratori, funzionale, a sua volta, alla minore o maggiore possibilità di
accedere agli slot e, dunque, alle occasioni di lavoro(22).
         L’algoritmo Frank che costruiva questa correlazione sarebbe stato un
algoritmo “incosciente“ e ”cieco”. Si limitava ad assegnare ai lavoratori gli slot,
non tendeva ad escluderli, afferma la difesa del datore di lavoro.
         La cecità alle differenze è un’immagine evocativa per chi discute di
problemi di discriminazione. La risposta del Tribunale, dopo un’istruttoria

           (20) M. V. Ballestrero, op. cit., 111.
           (21) Tale espresso divieto di legge, la cui assenza nella controversia in questione è
segnalata da Adalberto Perulli (cfr. A. Perulli, La discriminazione algoritmica: brevi note introduttive a
margine dell’ordinanza del Tribunale di Bologna, LDE, 2020, 1, 7), avrebbe potuto risultare
applicabile solo ad alcune delle situazioni di fatto prese in considerazione nel giudizio ma non
alla condotta datoriale complessivamente considerata.
           (22) Secondo quanto risulta dall’istruttoria compiuta dal Tribunale, il contratto di
assunzione stabiliva che la prenotazione tramite lo strumento SSB fosse interamente opzionale
ma, ove usata e confermata dal rider, gli garantisse le proposte di servizio nelle sessioni
prenotate. La disponibilità durante le sessioni prenotate, se non cancellate in anticipo dal rider,
e l’attività svolta durante momenti di particolare traffico, erano poi elementi di preferenza per
la prenotazione di sessioni successive. La possibilità per il rider di accedere al sistema di
prenotazione SSB in uno o nell’altro orario dipendeva da due “indici” di prenotazione: l’indice
di affidabilità e quello di partecipazione. I valori dei due indici erano, rispettivamente,
determinati: dal numero delle occasioni in cui il rider, pur avendo prenotato una sessione, non
vi aveva partecipato, dove «partecipare» significava loggarsi entro i primi 15 minuti dall’inizio
della sessione (indice di affidabilità); dal numero di volte in cui ci si rendeva disponibili per gli
orari più rilevanti per il consumo di cibo a domicilio (indice di partecipazione nei picchi). I
valori dei due indici di cui sopra determinavano le “statistiche” di ogni rider, ossia una sorta di
“punteggio” (funzionale alla possibilità di accedere al sistema di prenotazione SSB collocandosi
in una delle tre diverse fasce di accesso alle prenotazioni). In sostanza, come dichiarato da uno
dei testi «se fai parte di un gruppo prioritario, avrai una possibilità maggiore di ottenere una



  LLI, Vol. 7, No. 1, 2021, ISSN 2421-2695                                                         I. 10
               M. BARBERA, Discriminazioni algoritmiche e forme di discriminazione



interamente dedicata a testare quest’immagine, è che «è proprio in questa
“incoscienza” (come definita da Deliveroo) e “cecità” (come definita dalle parti
ricorrenti) del programma di elaborazione delle statistiche di ciascun rider che
alberga la potenzialità discriminatoria dello stesso».
        In particolare, prosegue il Tribunale, quello che può presumersi è
l’esistenza di «una discriminazione indiretta, dando applicazione ad una
disposizione apparentemente neutra (la normativa contrattuale sulla
cancellazione anticipata delle sessioni prenotate) che però mette una
determinata categoria di lavoratori (quelli partecipanti ad iniziative sindacali di
astensione dal lavoro) in una posizione di potenziale particolare svantaggio».
        Seguendo la struttura del giudizio di non discriminazione, il Tribunale
passa poi a esaminare la giustificazione avanzata dal datore di lavoro, articolando
la sua analisi nell’esame distinto della legittimità delle finalità perseguite e della
proporzionalità dei mezzi adottati. Rispetto alle prime, il Tribunale conclude, a
mio avviso correttamente, che allegare quale giustificazione la natura autonoma
del rapporto (come fa la difesa della convenuta) è inconferente, perché questa
circostanza attiene al piano dell’ambito di applicazione soggettivo della
normativa antidiscriminatoria (che, in ogni caso, è applicabile anche ai riders) e
non al piano della giustificazione. Anche dal punto di vista logico il
ragionamento non tiene: un conto è discutere di quali soggetti sono tutelati dai
divieti di discriminazione, un altro è stabilire se la discriminazione si sia
effettivamente verificata.
        Quanto alla proporzionalità dei mezzi impiegati, anche in questo caso il
Tribunale conduce un esame approfondito, fondato su risultanze istruttorie che
vanno al di là delle allegazioni della società, la quale si era limitata ad affermare
che i mezzi erano appropriati perché «come ribadito più volte, tracciano il dato
della cancellazione senza impatto sulle statistiche dei rider e senza in alcun modo
tenerne in considerazione i motivi, coerentemente con la natura del rapporto e
degli interessi in gioco».
        Ora, per quante volte lo si voglia ribadire, allegare in tema di
proporzionalità dei mezzi circostanze che attengono, invece, all’accertamento
dell’impatto dei criteri in considerazione comporta, ancora una volta, uno
stravolgimento della struttura del giudizio di discriminazione. I due momenti si
situano, infatti, in un momento diverso dell’esercizio di bilanciamento effettuato
dal giudice. E guardando, poi, al merito di tali affermazioni, asserire che un

conferma sulle tue richieste settimanali» e «se fai parte di un gruppo prioritario, avrai una
possibilità maggiore di ricevere una notifica prima degli altri riders”».




  LLI, Vol. 7, No. 1, 2021, ISSN 2421-2695                                             I. 11
               M. BARBERA, Discriminazioni algoritmiche e forme di discriminazione



criterio apparentemente neutro non è discriminatorio perché “non (tiene) in
considerazione i motivi” suona vagamente tautologico. È come dire che un
criterio apparentemente neutro non può essere discriminatorio perché è
apparentemente neutro.
         Più correttamente, il giudice prende in considerazioni quelle che
avrebbero potuto essere qualificate dalla società resistente come “business
necessity”, e cioè la necessità per la società di adottare un sistema che
incentivasse la partecipazione e premiasse l’affidabilità dei lavoratori, per
osservare al riguardo che «non si discute della legittimità del sistema in sé, né del
fatto che sia incentivata la cancellazione preventiva delle sessioni prenotate che
non si intendono più utilizzare, ma solo il fatto che l’eventuale cancellazione
tardiva o la mancata partecipazione alla sessione non cancellata non possa essere
giustificata dal rider sulla base di comprovate ragioni dotate di rilievo giuridico
(prima fra tutte, ma non sola, l’esercizio del diritto di sciopero
costituzionalmente garantito)».
         Il giudice compie qui il consueto bilanciamento fra esigenze dell’impresa
e diritti delle persone che lavorano, arrivando alla conclusione che l’impiego dei
mezzi in questione comporta il sacrifico completo dei diritti di questi ultimi a
vantaggio degli interessi economici della prima.

        4.      Che tipo di discriminazione: indiretta o diretta?

        Mi fermo qui nell’analisi del ragionamento del Tribunale, che potrebbe
in verità essere sviluppata ulteriormente, perché vorrei richiamare l’attenzione
di chi legge sulla fattispecie di discriminazione nella quale il giudice inquadra il
comportamento datoriale.
        Si tratta, sostiene l’ordinanza, di una discriminazione indiretta:
        «il considerare irrilevanti i motivi della mancata partecipazione alla
sessione prenotata o della cancellazione tardiva della stessa…implica
necessariamente riservare lo stesso trattamento a situazioni diverse, ed è in
questo che consiste tipicamente la discriminazione indiretta».
        La decisione sembra dar ragione a quella posizione dottrinale secondo la
quale, proprio perché gli algoritmi sono una scatola nera difficile da decifrare,
può risultare altrettanto difficile dimostrare una discriminazione diretta, vale a
dire un trattamento meno favorevole da parte dell’algoritmo di un singolo o di
un gruppo, basato sui fattori vietati. Questo problema si ritiene possa essere
superato ricorrendo alla nozione di discriminazione indiretta, che consente di
colpire criteri o pratiche apparentemente neutri idonei a mettere i membri di



  LLI, Vol. 7, No. 1, 2021, ISSN 2421-2695                                           I. 12
                  M. BARBERA, Discriminazioni algoritmiche e forme di discriminazione



una categoria protetta in una situazione di particolare svantaggio rispetto ad altre
persone(23) (il che lascia però spazio alla giustificazione, cosa che non accade nel
caso delle discriminazioni dirette) (24).
        In effetti gli algoritmi, se pur resi “ciechi” ai fattori protetti, sono in grado
di identificare dei “proxy” di tali fattori, vale a dire caratteristiche che valgono
come indicatori, come misura di un fattore vietato(25). Il problema che si pone
è se tale identificazione sia frutto o meno di una decisione consapevole da parte
di chi usa l’algoritmo. In questo caso, i confini fra discriminazione diretta e
indiretta diventano labili.
        Vi è un passaggio della sentenza che fa, in effetti, pensare che si sarebbe
potuta prospettare una diversa ipotesi di discriminazione anche nel caso che
stiamo esaminando. Si legge a un certo punto della decisione:
        «Ebbene, la circostanza che la società resistente riservi un trattamento
“particolare” alle uniche due ipotesi (quella dell’infortunio su turni consecutivi
e quella del malfunzionamento del sistema) in cui evidentemente ritiene
meritevole di tutela la ragione della mancata partecipazione alla sessione
prenotata dimostra plasticamente come non solo sia materialmente possibile,
ma sia anche concretamente attuato, un intervento correttivo sul programma
che elabora le statistiche dei rider, e che la mancata adozione, in tutti gli altri
casi, di tale intervento correttivo è il frutto di una scelta consapevole
dell’azienda. In sostanza, quando vuole, la piattaforma può togliersi la benda
che la rende “cieca” o “incosciente” rispetto ai motivi della mancata prestazione
lavorativa da parte del rider e, se non lo fa, è perché ha deliberatamente (c.m.)
scelto di porre sullo stesso piano tutte le motivazioni – a prescindere dal fatto
che siano o meno tutelate dall’ordinamento – diverse dall’infortunio sul lavoro



            (23) J. Gerards - R. Xenidis, Algorithmic discrimination in Europe: Challenges and Opportunities
for EU equality law, 2020, reperibile su https://www.europeanfutures.ed.ac.uk/algorithmic-
discrimination-in-europe-challenges-and-opportunities-for-eu-equality-law/
            (24) R. Xenidis, Tuning EU equality law to algorithmic discrimination: Three pathways to
resilience, in Maastricht Law Journal of European and Comparative Law, 2020, vol. 27, 736 ss., nella
quale l’autrice sostiene la necessità di rimediare ai limiti dell’attuale quadro giuridico
antidiscriminatorio valorizzando il concetto di discriminazione multipla e impiegando la
nozione di proxy discrimination, che sarebbe distinta da quella di discriminazione indiretta in
ragione del fatto che la prima si bassa su un nesso di “correlazione” probabilistica, la seconda
su un “nesso di causalità”, 747. La distinzione non appare convincente, in ragione del fatto
anche il nesso di causalità può basarsi su una correlazione probabilistica, e non su una
necessaria certezza, in virtù del carattere induttivo che può assumere la prova del nesso di
causalità stesso.
            (25) Cfr. A.E.R. Prince - D. Schwarcz, Proxy Discrimination in the Age of Artificial Intelligence
and Big Data, Iowa Law Review, vol. 105, 2020, 1257 ss.



  LLI, Vol. 7, No. 1, 2021, ISSN 2421-2695                                                            I. 13
               M. BARBERA, Discriminazioni algoritmiche e forme di discriminazione



e dalla causa imputabile ad essa datrice di lavoro (quale evidentemente è il
malfunzionamento della app, che impedisce il log-in)».
         Se è così, però, volendo trarre le conseguenze logiche del ragionamento,
si potrebbe ipotizzare l’esistenza di una diversa fattispecie di discriminazione,
vale a dire una discriminazione diretta, in cui un trattamento sfavorevole o un
determinato svantaggio a danno di un gruppo rispetto ad altre persone che si
trovano in una situazione analoga (in questo caso i sottoinsiemi sono costituiti
dai lavori che si assentano per aderire a scioperi e lavoratori che non lo fanno)
si realizzano attraverso una condotta apparentemente neutra ma posta in essere
proprio in considerazione di un determinato fattore di discriminazione.
         Come la Corte di giustizia ha affermato in Chez, in relazione a una
discriminazione basata sull’origine etnica, «perché si abbia discriminazione è
sufficiente che tale origine etnica abbia determinato (c.m.) la decisione di porre in
essere detto trattamento»(26). Diversamente da quanto si legge nel passo
dell’ordinanza prima citato, non sembrerebbe neppure necessario che si tratti di
una discriminazione occulta ma intenzionale (l’ordinanza ipotizza un
comportamento “deliberatamente scelto”).
         In buona sostanza, mentre, seguendo la logica del ragionamento del
Tribunale di Bologna l’intento, pacificamente estraneo alla fattispecie di
discriminazione diretta e indiretta, potrebbe tornare a giocare un ruolo “di
disvelamento” di una discriminazione diretta - quale è fuori di dubbio una
discriminazione apparentemente indiretta ma posta in essere intenzionalmente
- , in Chez la Corte di giustizia non pare necessariamente far dipendere da tale
elemento la sussistenza di una simile forma di discriminazione.
         Quel che il giudice nazionale è chiamato ad accertare sono una serie di
circostanze di carattere oggettivo o il fatto che la prassi controversa si fondi su
«stereotipi o pregiudizi di ordine etnico, con i motivi razziali che si combinano
con motivi di altra natura». L’accertamento di stereotipi e pregiudizi non
richiede necessariamente l’accertamento di un consapevole intento discriminatorio,
proprio per la natura inconsapevole degli uni e degli altri.
         Quanto sia sottile il discrimine fra le due ipotesi lo dimostra il fatto che
la Corte di giustizia stessa prenda in considerazione anche l’eventuale
sussistenza di una discriminazione indiretta e affidi al giudice nazionale, sulla
base di una accurata indagine del fatto, l’accertamento in concreto del verificarsi
dell’una o dell’altra ipotesi.
         Nel caso di Bologna, il comportamento stesso del convenuto, il fatto che


        (26) Corte giust. 16 luglio 2015, C-83/14, CHEZ, ECLI:EU:C:2015:480.



  LLI, Vol. 7, No. 1, 2021, ISSN 2421-2695                                           I. 14
               M. BARBERA, Discriminazioni algoritmiche e forme di discriminazione



l’algoritmo Frank sia stato rapidamente sostituto da un altro, di cui continuiamo
per altro a ignorare il funzionamento, e il fatto che, come afferma il giudice,
«quando vuole la piattaforma può togliersi la benda che la rende “cieca” o
“incosciente”», avrebbero potuto far prendere in considerazione la dottrina Chez
e far propendere per una diversa conclusione e cioè per la sussistenza di una
discriminazione diretta. Il che, come è noto, chiude la partita che si gioca nel
giudizio di discriminazione, perché non vi è più spazio per alcuna
giustificazione.




  LLI, Vol. 7, No. 1, 2021, ISSN 2421-2695                                           I. 15
                  M. BARBERA, Discriminazioni algoritmiche e forme di discriminazione




Bibliografia


Alessi C., Lavoro tramite piattaforma e divieti di discriminazione nell’UE, in C. Alessi - M. Barbera -
         L. Guaglianone (a cura di), Impresa, lavoro e non lavoro nell’impresa digitale, Cacucci, 2019,
         663 ss.
Aloisi A. - De Stefano V., Il tuo capo è un algoritmo. Contro il lavoro disumano, La Terza, 2020.
Aloisi A. - Gramano E., Artificial Intelligence is WatchingYou at Work: Digital Surveillance, Employee
         Monitoring, and Regulatory Issues in the EU Context, in CLL&PJ, 2019, 95 ss.
Arendt H., Vita activa, Bompiani, 2004.
Ballestrero M. V., Ancora sui rider. La cecità discriminatoria della piattaforma, in Labor, 2021, 1, 104
         ss.
Barbera M. - Protopapa V., Il caso Fiat: come la tutela antidiscriminatoria riformula il conflitto sindacale,
         in RGL, 2014, 163 ss.
Borelli S. - Guariso A. - Lazzeroni L., Le discriminazioni nel rapporto di lavoro, in M. Barbera - A.
         Guariso (a cura di), La tutela antidiscriminatoria. Fonti, strumenti, interpreti, Giappichelli,
         2019, 165 ss.
Capuzzo G., Do Algorithms dream about Electric Sheep?. Percorsi di studio in tema di discriminazione e
         processi decisori algoritmici tra le due sponde dell’Atlantico, in Medialaws, 2020, 2, 89 ss.
Centamore G. - Ratti L., Oltre il dilemma qualificatorio: potenzialità e limiti del diritto antidiscriminatorio
         nella protezione del lavoratore on-demand, in C. Alessi - M. Barbera - L. Guaglianone (a cura
         di), Impresa, lavoro e non lavoro nell’impresa digitale, Cacucci, 2019, 663 ss.
Cingolani R., Vaccini contro la tecnofobia, Intervista a Il Foglio, 21 ottobre 2020.
Commissione Europea, Il Libro Bianco sull'intelligenza artificiale - Un approccio europeo all'eccellenza e
         alla fiducia Bruxelles, 19.2.2020 COM (2020) 65.
Dagnino E., Dalla fisica all'algoritmo: una prospettiva di analisi giuslavoristica, Adapt University Press,
         2019.
Donini A., Tecniche avanzate di analisi dei dati e protezione dei lavoratori, in DRI, 2018, 1, 222 ss.
Gaudio G., Algorithmic management, poteri datoriali e oneri della prova: alla ricerca della verità materiale
         che si cela dietro l’algoritmo, in LLI, 2020, vol. 6, 2, 21 ss.
Gerards J. -Xenidis R., Algorithmic discrimination in Europe: Challenges and Opportunities for EU
         equality law, 2020, https://www.europeanfutures.ed.ac.uk/algorithmic-discrimination-
         in-europe-challenges-and-opportunities-for-eu-equality-law/
Ingrao A., Il braccialetto elettronico tra privacy e sicurezza del lavoratore, in DRI, 2019, 895 ss.
Pasquale F., The Black Box Society. The Secret Algorithms That Controls Money and Information,
         Harvard University Press, 2016.
Perulli A., La discriminazione algoritmica: brevi note introduttive a margine dell’ordinanza del Tribunale di
         Bologna, in LDE, 2020, 1, 7 ss.
Prince A.E.R., Schwarcz D., Proxy Discrimination in the Age of Artificial Intelligence and Big Data, in
         Iowa Law Review, vol. 105, 2020, 1257 ss.
Protopapa V., Comportamento antisindacale, discriminazione e onere della prova, in RGL, 2020, I, 654
         ss.




  LLI, Vol. 7, No. 1, 2021, ISSN 2421-2695                                                              I. 16
                 M. BARBERA, Discriminazioni algoritmiche e forme di discriminazione



Treu T., Condotta antisindacale e atti discriminatori, Franco Angeli, 1974.
Vardaro G., Tecnica, tecnologia e ideologia della tecnica nel diritto del lavoro, ora in L. Gaeta, A.R.
        Marchitiello, P. Pascucci (a cura di), Itinerari, Franco Angeli, 1989, 291 ss.
Xenidis R., Tuning EU equality law to algorithmic discrimination: Three pathways to resilience, in
        Maastricht Law Journal of European and Comparative Law, 2020, vol. 27, 736 ss.




  LLI, Vol. 7, No. 1, 2021, ISSN 2421-2695                                                      I. 17
