Decisiones algorítmicas y normas de procedimiento para la Administración Pública
10.6092/issn.2421-2695/13175
L'utilizzo dei sistemi di Intelligenza Artificiale, e in particolare delle decisioni algoritmiche, costituisce una grande potenzialità per la Pubblica Amministrazione, anche alla luce del principio di imparzialità e buon andamento di cui all'art. 97 della Costituzione e del diritto alla buona amministrazione di cui all'art. 41 della Carta Europea dei Diritti Fondamentali. A tal fine, però, è necessario individuare le condizioni di ammissibilità dell'uso legittimo degli algoritmi e le regole del procedimento amministrativo devono essere adeguate al nuovo strumento per non abbassare gli standard di tutela del cittadino
application/pdf
2421-2695
13175
1
it
Giulia Pinotti
https://creativecommons.org/licenses/by/3.0
Labour & Law Issues
right to good administration
Amministrazione digitale algoritmica e garanzie procedimentali
Text.Serial.Journal
https://labourlaw.unibo.it/
7
Idee
2021-06-29
2021-06-25
2021-06-29
2021-06-29
I.77-I.95
LLI
Giulia Pinotti
2021/06/29
10.6092/issn.2421-2695/13175
I.77
Università degli Studi di Pavia
2421-2695
1
right to good administration
it
I.95
Vesperini G., L’organizzazione, in Cassese S. (a cura di) Istituzioni di diritto amministrativo, Giuffré, 2012, 73 ss.
Amministrazione digitale algoritmica e garanzie procedimentali
https://labourlaw.unibo.it/article/download/13175/12690
7
Amministrazione digitale algoritmica
   e garanzie procedimentali




            GIULIA PINOTTI
       Università degli Studi di Pavia




             vol. 7, no. 1, 2021
               ISSN: 2421-2695
           Amministrazione digitale algoritmica
              e garanzie procedimentali



                                                              GIULIA PINOTTI
                                                  Università degli Studi di Pavia
                                                            Assegnista di ricerca
                                                   giulia.pinotti01@ateneopv.it




                                 ABSTRACT

        The use of Artificial Intelligence systems, and in particular algorithmic
decisions, constitutes a great potential for the Public Administration, also in
view of the principle of impartiality and good performance under Article 97 of
the Constitution and the right to good administration under Article 41 of the
European Charter of Fundamental Rights. To this end, however, it is
necessary to identify the conditions of admissibility for the legitimate use of
algorithms, and the rules of the administrative procedure must be adapted to
the new tool in order not to lower the standard of protection of the citizen.

Keywords: Public Administration; Algorithmic decision; administrative
procedure; procedural rules; right to good administration.

                               https://doi.org/10.6092/issn.2421-2695/13175
             G. PINOTTI, Amministrazione digitale algoritmica e garanzie procedimentali




                 Amministrazione digitale algoritmica
                    e garanzie procedimentali

SOMMARIO 1. La decisione algoritmica: un’iniziale diffidenza della giurisprudenza e la sua
     rapida evoluzione. – 2. Le condizioni di ammissibilità della decisione algoritmica:
     l’esistenza di una base legale, Il necessario ruolo servente della tecnologia e il
     funzionario responsabile del procedimento. – 3. Per un sistema minimo di garanzie:
     il nodo della partecipazione e della trasparenza.

       1. La decisione algoritmica: un’iniziale                             diffidenza        della
giurisprudenza e la sua rapida evoluzione

      «L’utilizzo degli algoritmi non è conforme al vigente plesso normativo
      complessivo e ai dettami dell’art. 97 della Costituzione, ai principi ad esso
      sottesi, agli istituti di partecipazione procedimentale definiti agli artt. 7,8, 10 e
      10 – bis della L. 7.8.1990, n. 241, all’obbligo di motivazione dei provvedimenti
      amministrativi sancito dall’art. 3, stessa legge, al principio ineludibile
      dell’interlocuzione personale intessuto nell’art. 6 della legge sul procedimento e
      a quello ad esso presupposto di istituzione della figura del responsabile del
      procedimento. [Non è conforme inoltre] affidare all’attivazione di meccanismi e
      sistemi informatici e al conseguente loro impersonale funzionamento, il
      dipanarsi di procedimenti amministrativi, sovente incidenti su interessi, se non
      diritti, di rilievo costituzionale, che invece postulano, onde approdare al
      corretto esito provvedimentale conclusivo, il disimpegno di attività istruttoria,
      acquisitiva di rappresentazioni di circostanze di fatto e situazioni personali degli
      interessati destinatari del provvedimento finale, attività, talora ponderativa e
      comparativa di interessi e conseguentemente necessariamente motivazionale,
      che solo l’opera e l’attività dianoetica dell’uomo può svolgere»(1).

       Con queste parole si pronunciano i giudici del Tar Lazio, chiamati, per
la prima volta in Italia, nel 2018, a pronunciarsi sull’utilizzo di – alquanto
rudimentali, va osservato – meccanismi di automazione decisionale, i
famigerati algoritmi, da parte della Pubblica Amministrazione. Agli occhi dei
giudici amministrativi, dunque, le decisioni automatizzate violano l’art. 97
Costituzione, nonché gli artt. 3, 7 e ss. l. n. 241/1990 che regolano l’obbligo di
motivazione, gli istituti di partecipazione procedimentale, e la necessaria
interlocuzione personale.
       Questa iniziale diffidenza da parte della giurisprudenza può essere
facilmente compresa, se la si colloca correttamente nel contesto in cui è stata
assunta. Da una parte, infatti, l’innovazione tecnologica cresce a un ritmo


        (1)Tar Lazio, sez. 3-bis, 10 ottobre 2018, n. 9224.



      LLI, Vol. 7, No. 1, 2021, ISSN 2421-2695                                                 I.79
               G. PINOTTI, Amministrazione digitale algoritmica e garanzie procedimentali



sempre più incalzante e permette di compiere attività sempre più complesse.
Dall’altro lato, però il Legislatore – sia nazionale che europeo – fatica a stare al
passo, ma soprattutto fatica a trovare la cornice di regolazione più adeguata, e
finisce spesso con l’adottare singole disposizioni (siano esse di autorizzazione
o di divieto) che mancano, però, di una ampia visione d’insieme(2).
        In più, per ciò che attiene direttamente alle decisioni amministrative, gli
algoritmi possono intervenire nei modi più svariati: con diverse finalità –
sostituendo le attività routinarie, svolgendo una funzione conoscitiva in sede di
istruttoria, con scopi predittivi – e modalità – automatizzando l’intero
procedimento o solo parti di esso, ad esempio in sede di acquisizione di pareri
o valutazioni tecniche.
        La giurisprudenza si è trovata, quindi, insieme alla dottrina, a dover
definire le prime regole (e ad adattare la disciplina esistente) perché il ricorso
agli strumenti di Intelligenza Artificiale da parte della Pubblica
Amministrazione, anche in sede procedimentale, potesse definirsi legittimo,
atteso l’indiscusso beneficio che ne può essere tratto soprattutto ai fini
conoscitivi(3).
        Dopo questo primo – tranchant – arresto(4), le sentenze successive del
Consiglio di Stato sono andate proprio in questa direzione(5): nel riconoscere


           (2) Ne è un esempio, da ultima, la norma italiana sugli Smart Contract, introdotta
dall’art. 8-ter, d. l. n. 135/2018 (convertito dalla l. n. 12/2019) recante: «Disposizioni urgenti
in materia di sostegno e semplificazione per le imprese e per la pubblica amministrazione».
Sull’utilizzo degli smart contracts nel settore pubblico si veda B. Capiello - G. Carullo, Gli smart
legal contracts: prospettive per l’impiego nel settore pubblico privato, in R. Cavallo Perin - D.U. Galetta
(a cura di), Il diritto dell’Amministrazione Pubblica digitale, 2020, 305 ss.
           (3) Si pensi al necessario coordinamento fra la l. n. 241/1990 che regola il
procedimento amministrativo con le norme del Codice dell’Amministrazione Digitale in
materia di Sistema Pubblico di Connettività (art.73), che consentono alle Pubbliche
Amministrazioni di agire mediante la cooperazione applicativa, anche automatizzata, per il
reperimento di dati o documenti nella disponibilità di altre amministrazioni. Sull’attività
conoscitiva si vedano, ex multis, F. Levi, L’attività conoscitiva della pubblica amministrazione,
Giappichelli, 1967; M.T. Serra, Contributo ad uno studio dell’istruttoria del procedimento
amministrativo, Giuffrè, 1991; M.P. Guerra, Funzione conoscitiva e pubblici poteri, Giuffrè, 1996.
Sullo scambio di informazioni fra amministrazioni si vedano G. Carullo, Gestione, fruizione e
diffusione dei dati dell’amministrazione digitale e funzione amministrativa, Giappichelli, 2017, 134; M.
P. Guerra, Circolazione dell’informazione e sistema informativo pubblico: profili giuridici dell’accesso
interamministrativo telematico. Tra Testo unico sulla documentazione amministrativa e codice
dell’amministrazione digitale, Dir. pubbl., 2005, vol. 11, 125 ss.; per quanto concerne la rilevanza
dell’interoperabilità si veda G. Della Cananea - D.U. Galetta - H.C.H. Hofmann - J.P.
Schneider - J. Ziller (a cura di), Codice ReNEUAL del procedimento amministrativo dell’Unione
Europea, Editoriale Scientifica, 2016.
           (4) Nello stesso senso si veda anche la sentenza del Tar Lazio, sez. III bis, 10-13
settembre 2019, n. 10964.



       LLI, Vol. 7, No. 1, 2021, ISSN 2421-2695                                                       I.80
               G. PINOTTI, Amministrazione digitale algoritmica e garanzie procedimentali



come legittimo(6) e utile(7), il ricorso agli algoritmi, i giudici si sono
preoccupati di identificare le garanzie minime che l’Amministrazione è tenuta a
rispettare qualora li utilizzi.
        L’obiettivo dei prossimi due paragrafi è analogo: nel par. 2 si
proporranno le condizioni che preliminarmente debbono essere rispettate –
quanto meno ad avviso di chi scrive – mentre nel par. 3 si traccerà un sistema
minimo di garanzie procedimentali, con particolare attenzione agli istituti di
partecipazione di cui al capo III, l. n. 241/1990.

        2. Le condizioni di ammissibilità della decisione algoritmica:
l’esistenza di una base legale, Il necessario ruolo servente della
tecnologia e il funzionario responsabile del procedimento

        Come si è osservato nel par. di apertura, non esiste una cornice
normativa nazionale che regoli le decisioni amministrative algoritmiche: l’unica
norma che vi fa – non direttamente – riferimento è l’art. 3-bis l. n. 241/1990
(come recentemente modificato dal d.l. n. 76/2020): «Per conseguire maggiore
efficienza nella loro attività, le amministrazioni pubbliche agiscono mediante
strumenti informatici e telematici, nei rapporti interni, tra le diverse


          (5) Consiglio di Stato, sez. VI, 8 aprile 2019, n. 2270 e Consiglio di Stato, sez. VI, 13
dicembre 2019, n. 8472. Nello stesso senso si veda anche la più recente sentenza del
Consiglio di Stato, sez. VI, 4 febbraio 2020, n. 881. Si veda sul punto, ex multis, A.G. Orofino
- G. Gallone, L’intelligenza artificiale al servizio delle funzioni amministrative: profili problematici e
spunti di riflessione, GI, 2020, 7, 1738 ss. Per una ricostruzione del dibattito si vedano, ex multis,
R. Ferrara, Il giudice amministrativo e gli algoritmi. Note estemporanee a margine di un recente dibattito
giurisprudenziale, Dir. amm., 2019, 4, 773 ss.; S. Civitarese Matteucci., “Umano troppo umano”.
Decisioni amministrative automatizzate e principio di legalità, Dir. pubbl., 2019, 23 ss.
          (6) Consiglio di Stato, sez. VI, 13 dicembre 2019, n. 8472: «La piena ammissibilità di
tali strumenti risponde ai canoni di efficienza ed economicità dell’azione amministrativa (art.
1 l. 241/90), i quali, secondo il principio costituzionale di buon andamento dell’azione
amministrativa (art. 97 Cost.), impongono all’amministrazione il conseguimento dei propri
fini con il minor dispendio di mezzi e risorse e attraverso lo snellimento e l’accelerazione
dell’iter procedimentale».
          (7) Consiglio di Stato, sez. VI, 13 dicembre 2019, n. 8472: «In linea generale va
ribadito come anche la pubblica amministrazione debba poter sfruttare le rilevanti
potenzialità della c.d. rivoluzione digitale. In tale contesto, il ricorso ad algoritmi informatici
per l’assunzione di decisioni che riguardano la sfera pubblica e privata si fonda sui paventati
guadagni in termini di efficienza e neutralità. In molti campi gli algoritmi promettono di
diventare lo strumento attraverso il quale correggere le storture e le imperfezioni che
caratterizzano tipicamente i processi cognitivi e le scelte compiute dagli esseri umani, messi
in luce soprattutto negli ultimi anni da un’imponente letteratura di economia
comportamentale e psicologia cognitiva. In tale contesto, le decisioni prese dall’algoritmo
assumono così un’aura di neutralità, frutto di asettici calcoli razionali basati su dati».



       LLI, Vol. 7, No. 1, 2021, ISSN 2421-2695                                                      I.81
               G. PINOTTI, Amministrazione digitale algoritmica e garanzie procedimentali



amministrazioni e tra queste e i privati»(8). Nel definire il quadro normativo,
però, non si può prescindere dalle previsioni europee, e in particolare dal
Regolamento 2016/679(9).
        L’art. 22, Regolamento 2016/679, com’è noto, ammette il ricorso
all’automazione decisionale in presenza di alcune condizioni – piuttosto estese
–, fra cui, innanzi tutto, la sussistenza di una base legale che lo autorizzi(10).
        È indubbio che l’uso di un algoritmo decisionale non autorizza
l’amministrazione a porre in essere un provvedimento amministrativo senza
che il potere le sia stato attribuito dalla legge; è invece necessario chiarire se
anche la decisione di adottarlo per il tramite di una procedura informatizzata
debba essere prevista dalla legge (o da un altro atto normativo, anche
secondario).
        Dal punto di vista sistematico, non esiste nel nostro ordinamento una
norma che sancisca la necessità di una base legale che autorizzi la singola
amministrazione a automatizzare i suoi procedimenti, che si tratti dell’intero
iter o piuttosto di una singola parte. Anche il Consiglio di Stato, nel primo
parere sulla bozza del Codice dell’Amministrazione Digitale, aveva sottolineato
come fosse problematica l’assenza, nel nuovo codice, di norme che andassero
a integrare le nuove regole con la disciplina del procedimento:

       «Ciò rende ancora più problematica una delle questioni di fondo della materia
       in esame: quella dei rapporti tra procedimento amministrativo e disciplina della


           (8) Un riferimento agli strumenti di automazione si trova anche all’art. 35, d. lgs. n.
165/2001 (Testo Unico sul Pubblico Impiego), che consente di ricorrervi nelle procedure di
selettive pubbliche.
           (9) Anche il Consiglio di Stato, sez. VI, 13 dicembre 2019, n. 8472, vi fa riferimento a
questo fine: «Ad oggi nelle attività di trattamento dei dati personali possono essere
individuate due differenti tipologie di processi decisionali automatizzati: quelli che
contemplano un coinvolgimento umano e quelli che, al contrario, affidano al solo algoritmo
l'intero procedimento. Il più recente Regolamento europeo in materia (2016/679),
concentrandosi su tali modalità di elaborazione dei dati, integra la disciplina già contenuta
nella Direttiva 95/46/CE con l'intento di arginare il rischio di trattamenti discriminatori per
l'individuo che trovino la propria origine in una cieca fiducia nell'utilizzo degli algoritmi».
           (10) La stessa considerazione sembrerebbe potersi estendere anche all’ordinamento
francese, dato quanto sostenuto dal Conseil constitutionnel nella decisione sulla Loi relative à
la protection des données personnelles (il cui fine era quello di adeguare la legislazione nazionale al
Regolamento 2016/679): «Toutefois, en premier lieu, ces dispositions se bornent à autoriser
l'administration à procéder à l'appréciation individuelle de la situation de l'administré, par le
seul truchement d'un algorithme, en fonction des règles et critères définis à l'avance par le
responsable du traitement. Elles n'ont ni pour objet ni pour effet d'autoriser l'administration à adopter
des décisions sans base légale, ni à appliquer d'autres règles que celles du droit en vigueur. Il n'en
résulte dès lors aucun abandon de compétence du pouvoir réglementaire». Conseil
Constitutionnel Décision n° 2018-765 DC du 12 juin 2018.



       LLI, Vol. 7, No. 1, 2021, ISSN 2421-2695                                                     I.82
               G. PINOTTI, Amministrazione digitale algoritmica e garanzie procedimentali



       “digitalizzazione”, che il codice risolve - alquanto sommariamente - assorbendo in sé parti
       della disciplina, senza modificare (o limitandosi ad abrogare) la disciplina “amministrativa”
       delle stesse procedure [corsivo mio]. […] Vi è la necessità di accompagnare alle
       enunciazioni di principio norme direttamente precettive, che non rimettano
       l’attuazione di tali principi esclusivamente alla volontà (mutevole per
       definizione) di attuarle da parte delle singole amministrazioni. Come rilevato
       dalla migliore dottrina, la presenza di nuovi mezzi di svolgimento dell’attività
       amministrativa impone, quando le innovazioni lo consentono, il compimento di
       operazioni di adattamento dei vecchi istituti alle nuove situazioni (si ricordi
       l’insegnamento di “interrogare i nuovi ordinamenti adoperando gli antichi
       istituti e modificandoli, quando necessario”)»(11).

         Quando si analizzano più da vicino le singole ipotesi, si colgono
agevolmente le conseguenze di questa assenza di regolazione precisa. In alcune
fattispecie il ricorso all’automazione è espressamente contenuto in una fonte –
anche secondaria(12) –, mentre in altre la scelta di ricorrervi non viene neppure
resa nota. E questo si verifica non solo quando si tratti di procedimento
completamente automatizzato, ma anche, e forse soprattutto, nei casi in cui
l’utilizzo di meccanismi di automazione non sostituisce l’intero procedimento
ma solo una sua fase.
         Appare molto condivisibile quanto proposto da parte della dottrina(13),
secondo la quale può parlarsi di un principio di tipicità, espressione di
un'esigenza di legalità garanzia, per ciò che concerne i procedimenti
completamente automatizzati, anche sulla base di quanto previsto, come si è
detto, dall’art. 22, Regolamento 2016/679, mentre resterebbe espressione del
principio di auto organizzazione(14) dell’Amministrazione Pubblica l’utilizzo di
algoritmi nel corso di un più ampio procedimento.


           (11) Parere del Consiglio di Stato 7 febbraio 2005, n.11995. Sul punto si vedano
anche N. Paolantonio - A. Police - A. Zito, La pubblica amministrazione e la sua azione: saggi critici
sulla legge n. 241/1990 riformata dalle leggi n. 15/2005 e n. 80/2005, Giappichelli, 2006, 82 e F.
Cardarelli, L’uso della telematica, commento all’art. 3-bis della l. 241/90, in M.A. Sandulli (a cura
di), Codice dell’azione amministrativa, Giuffrè, 2017, 153 ss.
           (12) Si pensi ad esempio all’accertamento automatico di alcune tipologie di infrazioni
per eccesso di velocità a norma degli artt. 200-201, d. lgs. n. 285/1992 (Codice della Strada)
si veda a titolo esemplificativo l’art. 201, co. 1-quater: «In occasione della rilevazione delle
violazioni di cui al comma 1-bis, lettera g-bis), non è necessaria la presenza degli organi di polizia
stradale qualora l'accertamento avvenga mediante dispositivi o apparecchiature che sono stati omologati ovvero
approvati per il funzionamento in modo completamente automatico» (corsivo dell’A.).
           (13) Si veda sul punto E. Carloni, I principi della legalità algoritmica. Le decisioni
automatizzate di fronte al giudice amministrativo, Dir. Amm., 2020, 2, 273 ss.
           (14) Ciascun soggetto, sia esso ente o organo, quando titolare di un potere, sarebbe
titolare anche di un potere di autodisciplina per regolare l’esercizio del medesimo, attraverso
il quale realizzerebbe una normazione dell’azione. Sul punto si veda A. Masucci, L’atto
amministrativo informatico: primi lineamenti di una ricostruzione, Jovene, 1993, 47 ss.



       LLI, Vol. 7, No. 1, 2021, ISSN 2421-2695                                                          I.83
               G. PINOTTI, Amministrazione digitale algoritmica e garanzie procedimentali



         La seconda condizione, oltre all’esistenza di una base legale nel caso di
ricorso a una decisione amministrativa completamente automatizzata, attiene
invece al ruolo che gli algoritmi, in quanto strumenti al servizio
dell’Amministrazione, debbono rivestire. Il punto di partenza di questa
riflessione, apparentemente, è quasi scontato: qualsiasi strumento tecnologico
deve mantenere un ruolo servente rispetto all’attività da svolgere, che resta
appannaggio dell’essere umano(15). Il primo strumento che consente che ciò
avvenga, quanto meno a parere di chi scrive, nello svolgimento dell’attività
procedimentale, è la supervisione della procedura automatizzata da parte di un
funzionario persona fisica. Tale supervisione può assumere caratteristiche
diverse a seconda del tipo di tecnologia utilizzata: in caso di procedimento
completamente automatizzato, si tratterà di un controllo esterno; a fronte
invece di attività più complesse, l’algoritmo tendenzialmente coadiuverà
l’attività istruttoria, ma l’attività decisoria resterà appannaggio del
funzionario(16). Dello stesso avviso sembra essere anche la giurisprudenza
italiana, che ha sottolineato come:

       «Le procedure informatiche, finanche ove pervengano al loro maggior grado di
       precisione e addirittura alla perfezione, non possano mai soppiantare,
       sostituendola davvero appieno, l’attività cognitiva, acquisitiva e di giudizio che
       solo un’istruttoria affidata ad un funzionario persona fisica è in grado di
       svolgere e che pertanto, al fine di assicurare l’osservanza degli istituti di
       partecipazione, di interlocuzione procedimentale, di acquisizione degli apporti
       collaborativi del privato e degli interessi coinvolti nel procedimento, deve
       seguitare ad essere il dominus del procedimento stesso, all’uopo dominando le
       stesse procedure informatiche predisposte in funzione servente e alle quali va
       dunque riservato tutt’oggi un ruolo strumentale e meramente ausiliario in seno




           (15) Sul punto si vedano il Rapport della Commission nationale informatique et libertes
«Comment permettre à l’Homme de garder la main? Rapport sur les enjeux éthiques des
algorithmes        et    de      l’intelligence      artificielle»,    2017,       reperibile     al   sito
https://www.cnil.fr/sites/default/files/atoms/files/cnil_rapport_garder_la_main_web.pdf
(visitato il 12 giugno 2021), ma anche A. Carleo, La decisione robotica, Il Mulino, 2019; D.
Bourcier, La décision artificielle: le droit, la machine et l’humain, Les voies du droit, Presses
universitaires de France, 1995. Sul punto si veda anche, nella recente bozza del Regolamento
europeo sull’Intelligenza Artificiale, che nel definire quando i sistemi di Intelligenza Artificiali
non sono da classificare come high risks, fa riferimento al fatto che questi debbano svolgere
ancillary tasks.
           (16) D.U. Galetta - J.G. Corvalan, Intelligenza Artificiale per una Pubblica Amministrazione
4.0? Potenzialità, rischi e sfide della rivoluzione tecnologica in atto, federalismi.it, febbraio 2019, 19;
D.U. Galetta, Digitalizzazione e diritto a una buona amministrazione (il procedimento amministrativo fra
diritto UE e tecnologie ICT, in R. Cavallo Perin - D.U. Galetta (a cura di), Il diritto
dell’Amministrazione Pubblica digitale, op. cit.



       LLI, Vol. 7, No. 1, 2021, ISSN 2421-2695                                                       I.84
             G. PINOTTI, Amministrazione digitale algoritmica e garanzie procedimentali



      al procedimento amministrativo e giammai dominante o surrogatorio
      dell’attività dell’uomo»(17).

        Del resto anche in Francia il Conseil d’État e il Conseil constitutionnel
sembrano essere di avviso simile, dato che hanno indicato proprio la garanzia
dell’intervento umano come condizione necessaria perché il ricorso agli
algoritmi nella sfera pubblica sia legittimo(18). Anche la Commission national
informatique et libertés (CNIL) nel suo Rapport del 2017 si sofferma sulla necessità
di garantire l’intervento umano, ma fa un passaggio ulteriore: con il crescere
del ricorso a strumenti di automazione (dato lo sviluppo di sistemi di
Intelligenza Artificiale), la garanzia di un intervento umano per ciascuna
procedura potrebbe risultare complessa e controproducente. La Commission si
sofferma, di conseguenza, su alcune ipotesi alternative meno gravose, e
suggerisce che una delle regole che dovrebbero governare l’uso degli algoritmi
nella sfera pubblica sia l’obligation de vigilance, l’obbligo di vigilanza. La tesi è che
gli strumenti a tutela del corretto uso degli algoritmi non si sostanzino solo
nell’apparato di garanzie attribuite al cittadino, ma anche negli strumenti dati
alla collettività nel suo insieme(19).

          (17) Tar Lazio, sez. 3-bis, 10 ottobre 2018, n. 9224.
          (18) «L’encadrement de l’utilisation des algorithmes est un domaine nouveau pour les
pouvoirs publics, mais devenu nécessaire en raison du rôle grandissant de ces mécanisme set
des risques qu’ils présentent pour l’exercice des libertés. L’étude du Conseil d’État préconise
trois méthodes d’encadrement: assurer l’inevitabilité de l’intervention humaine dans la prise
de décision au moyen d’algorithmes». Conseil d’État, Le numérique et les droits
fondamentaux, étude annuelle, 2014, Doc. fr., 237. «Le responsable du traitement doit
s'assurer de la maîtrise du traitement algorithmique et de ses évolutions afin de pouvoir
expliquer, en détail et sous une forme intelligible, à la personne concernée la manière dont le
traitement a été mis en œuvre à son égard. Il en résulte que ne peuvent être utilisés, comme
fondement exclusif d'une décision administrative individuelle, des algorithmes susceptibles
de réviser eux-mêmes les règles qu'ils appliquent, sans le contrôle et la validation du
responsable du traitement». Conseil Constitutionnel Décision n. 2018-765 DC du 12 juin
2018. Si veda sul punto anche É. Untermaier-Kerléo, « Les nouveaux visages de la décision
administrative : d’une administration assistée à une administration automatisée », La Semaine
Juridique Administrations et Collectivités territoriales, 2018, vol. 50, 2339 ss.
          (19) «En effet, quand l’automatisation a pour fonction d’optimiser et d’accélérer un
processus en remplaçant l’homme, une intervention humaine réellement effective pour
chaque décision risque d’être dissuasive. On pourrait en fait poser ainsi la question: comment
faire assurer par des machines des tâches auparavant accomplies par l’intelligence humaine
(c’est la définition de l’IA) sans évacuer l’homme? Une façon d’y répondre consiste à avancer
que l’on pourrait envisager l’effectivité de l’intervention humaine autrement qu’à l’échelle de
chaque décision individuelle. On pourrait, par exemple, assurer que des formes de
délibération humaine et contradictoire encadrent et accompagnent l’utilisation des
algorithmes en examinant et en interrogeant le paramétrage mais aussi tous les effets –
directs et indirects – du système». Rapport de la Commission national informatique et
libertés, Comment permettre à l’Homme de garder la main ? Rapport sur les enjeux éthiques des



      LLI, Vol. 7, No. 1, 2021, ISSN 2421-2695                                            I.85
                G. PINOTTI, Amministrazione digitale algoritmica e garanzie procedimentali



        In Italia già l’art. 3, d. lgs. n. 39/1993 richiedeva che, nei provvedimenti
a elaborazione elettronica, fosse indicato il nome del funzionario responsabile
di immissione, riproduzione e emanazione(20). Ovviamente i singoli atti
automatizzati (a valle) possono essere adottati anche a distanza di tempo
rispetto all’atto (a monte) di adozione del software e anche da amministrazioni
differenti: difficilmente quindi i due responsabili del procedimento persone
fisiche coincideranno(21). La riflessione sul ruolo del responsabile del
procedimento non si esaurisce in un richiamo alla sua centralità, ma apre una
serie di questioni sul rapporto fra automazione e organizzazione degli uffici
sulle quali purtroppo, per ragioni di spazio e pertinenza, non ci si può
soffermare.
        Senza alcuna pretesa di esaustività, bisogna almeno osservare come vi
sia il rischio, paventato anche da Coglianese e Lehr, che i funzionari
responsabili non abbiano contezza delle decisioni che – anche in termini di
elaborazione e allenamento del modello – sono state assunte, e delle quali sono
chiamati a rispondere. Questo accade soprattutto perché coloro che
implementano gli algoritmi tendenzialmente sono soggetti esterni
all’amministrazione o, se interni, difficilmente vi rivestono funzioni apicali(22).

algorithmes       et    de     l’intelligence   artificielle,  2017,       52,     reperibile       al     sito
https://www.cnil.fr/sites/default/files/atoms/files/cnil_rapport_garder_la_main_web.pdf
(visitato il 12 giugno 2021).
          (20) Sul ruolo del funzionario responsabile del procedimento si vedano, ex multis, M.
Occhiena, Il “nuovo” responsabile del procedimento, la responsabilità dei dirigenti pubblici e il labile confine
tra la politica e l’amministrazione, in Verso un’amministrazione responsabile, Giuffrè, 2005, 245 ss.; S.
Usai, Il responsabile del procedimento amministrativo, Maggioli, 2014; S. Tarullo, Il responsabile del
procedimento amministrativo: evoluzione storica e prospettive della figura, Giust. Amm., 2014, 307 ss.; A.
Zito, I compiti del responsabile del procedimento, in N. Paolantonio - A. Police - A. Zito (a cura di),
La pubblica amministrazione e la sua azione: saggi critici sulla legge n. 241/1990 riformata dalla leggi n.
15/2005 e n. 80/2005, Giappichelli, 2006, 189 ss.
          (21) Sul punto si veda quanto ha osservato per primo A. Masucci, L’atto amministrativo
informatico: primi lineamenti di una ricostruzione, Jovene, 1993.
          (22) «Courts should give more deference when an agency head makes the key
decision than when decisions are made by subordinate officials. The courts have not
embraced such a graduated approach, but its suggestion should prompt agency officials to
consider how machine learning may affect the locus of decision making inside their agencies.
When rules are intimately tied to the outputs of an algorithm, the programming of that
algorithm will be a consequential task—one that presumably should not be assigned
exclusively to a lower level analyst, as traditional statistical analyses may be today. Assigning
responsibility to lower-level analysts without adequate input and oversight could run the risk
that higher-level officials—those who are more directly accountable to the political branches
of government and to the public—will not fully understand critical details about an already
ostensibly opaque rulemaking process. Perhaps worse, the lower-level analysts could make
choices about an algorithm’s specifications and tuning without realizing potentially far-
reaching impacts of their decisions. For these reasons, agencies should be mindful of who



       LLI, Vol. 7, No. 1, 2021, ISSN 2421-2695                                                            I.86
              G. PINOTTI, Amministrazione digitale algoritmica e garanzie procedimentali



         Non è molto lontano, in fondo, da quanto è sempre accaduto nelle
relazioni interorganiche o intersoggettive(23), ma i protagonisti sono diversi.
Storicamente, i singoli funzionari conservavano, dal punto di vista operativo,
un margine di discrezionalità anche nei procedimenti in cui la maggioranza
degli elementi erano predeterminati (si pensi, per esempio, a un funzionario
che, nonostante il termine per consegnare una domanda sia passato da alcuni
minuti, decida di accettarla comunque); attualmente questo margine è
totalmente assente quando la procedura è automatizzata. Un certo margine di
decisione si è però spostato in capo a coloro che elaborano e implementano
l’algoritmo: nel passaggio dal linguaggio naturale a quello informatico quasi
nessuna scelta è completamente neutra, data la naturale indeterminatezza del
primo dei due, e l’assenza di precisione con cui le norme in linguaggio naturale
possono essere formulate(24). Per questa ragione il funzionario responsabile
deve essere messo nelle condizioni di avere contezza delle scelte compiute,
soprattutto se sarà chiamato a risponderne(25). È plausibile ritenere che, a

within an agency actually wields algorithm-specifying power and how well high-level officials
understand the methods of regulating by robot or adjudicating by algorithm». C. Coglianese -
D. Lehr, Regulating by robot: administrative decision making in the machine-learning era, The Georgetown
law journal, 2017, vol. 105, 85.
         (23) G. Di Gaspare, Organizzazione amministrativa, Dig. pubbl., 1995, 513 ss.; G.
Vesperini, L’organizzazione, in S. Cassese (a cura di) Istituzioni di diritto amministrativo, Giuffré,
2012, 73 ss.
         (24) Si pensi anche solo alla formulazione di un parametro all’apparenza preciso, ad
esempio l’età massima per poter aver accesso a un dato beneficio, nel caso di una riduzione
in quanto studente, o in quanto giovane fino a 26 anni. È studente anche un soggetto iscritto
a un corso di dottorato? Per 26 anni di intende il compimento o è compreso anche l’anno
fino ai 27? «The system designers, legal policy staff, and IT experts in particular are to be
regarded as the new equivalents of the former street-level bureaucrats. By this we mean that
they are the persons whose choices can affect the practical implementation of a policy. These
system-level bureaucrats have the discretionary power to convert legal frameworks into
concrete algorithms, decision trees, and modules. They are constantly making choices—
which definitions should be used, how should vague terms be defined, how are processes to
be designed and interlinked? Therefore, just as the street-level bureaucrats were not in their
time docile policy implementation robots, but policy makers themselves». M. Bovens - S.
Zouridis, From Street-Level to System-Level Bureaucracies: How Information and Communication
Technology is Transforming Administrative Discretion and Constitutional Control, Public Administration
Review, 2002, vol. 62, n. 2, 182.
         (25) Questa necessaria partecipazione del funzionario può anche essere letta
contestualmente a quanto osservato poco fa circa la sussistenza di un obbligo di vigilanza,
che avrebbe anche il merito, secondo la CNIL, di ridurre il rischio di una percepita
deresponsabilizzazione: «La promotion d’un principe d’”obligation de vigilance” pourrait
être une façon d’aborder ce défi en prévoyant la prise en compte par les concepteurs et ceux
qui déploient l’intelligence artificielle de cette caractéristique inédite. Par ailleurs, ce principe
d’obligation de vigilance viserait aussi à contrebalancer le phénomène de confiance excessive
et de déresponsabilisation dont on a vu qu’il était favorisé par le caractère de boîte noire des



       LLI, Vol. 7, No. 1, 2021, ISSN 2421-2695                                                    I.87
               G. PINOTTI, Amministrazione digitale algoritmica e garanzie procedimentali



fronte dell’utilizzo di strumenti sempre più complessi, il centro di imputazione
della responsabilità risalirà al momento dell’elaborazione e implementazione
del modello e non a quello del suo utilizzo(26).

      3. Per un sistema minimo di garanzie: il nodo della
partecipazione e della trasparenza

       La l. n. 241/1990 detta, com’è noto, uno standard minimo di garanzie
che debbono essere rispettate dalle amministrazioni nell’adozione di atti
autoritativi: alcune di queste regole, come ben evidenziato anche nelle parole
della sentenza del Tar in apertura(27), paiono difficilmente compatibili con
l’automazione decisionale, soprattutto a fronte di sistemi complessi non
meramente deterministici. In particolare si può pensare all’obbligo di
motivazione dei provvedimenti (art. 3), al diritto di accesso (art. 22) e agli
strumenti di partecipazione di cui al capo III(28). Le norme della l. n. 241/1990
che regolano la partecipazione procedimentale, ad esempio, non possono di
regola trovare applicazione, per ragioni che sono intrinsecamente legate alla
natura della decisione automatizzata, soprattutto laddove l’algoritmo non
intervenga in una sola fase ma coinvolga invece l’intero procedimento(29).



algorithmes et de l’IA». Rapport de la Commission national informatique et libertés, Comment
permettre à l’Homme de garder la main ? Rapport sur les enjeux éthiques des algorithmes et de l’intelligence
artificielle, op. cit., 45.
            (26) «In particolare, se l'algoritmo è irresponsabile, allora a maggior ragione “la
decisione automatizzata implica la necessità di una responsabilità già nella costruzione
dell'algoritmo”. Il che richiede un intervento rivolto alle amministrazioni, per dotarle delle
competenze che le rendano in grado di porsi in termini di governo responsabile dei processi
decisionali che ad essa si imputano, e per evitare il rischio di un sistema complessivamente
irresponsabile», E. Carloni, I principi della legalità algoritmica. Le decisioni automatizzate di fronte al
giudice amministrativo, op. cit.
            (27) Tar Lazio, sez. 3-bis, 10 ottobre 2018, n. 9224.
            (28) Sul punto si rinvia, per un approfondimento, a A. Simonicini, Amministrazione
digitale algoritmica. Il quadro costituzionale, e a D.U. Galetta, Digitalizzazione e diritto a una buona
amministrazione (il procedimento amministrativo fra diritto UE e tecnologie ICT, in R. Cavallo Perin,
D.U. Galetta (a cura di), Il diritto dell’Amministrazione Pubblica digitale, op. cit.
            (29) Si vedano, ex multis, S. Cassese, Il procedimento amministrativo tra modello partecipativo e
modello “neoclassico”, in L. Torchia (a cura di) Il procedimento amministrativo: profili comparati,
Cedam, 1993, 1 ss.; S. Cassese, La partecipazione dei privati alle decisioni pubbliche. Saggio di diritto
comparato, Riv. trim. dir. pubb., 2007, 13 ss.; G. Della Cananea, Il diritto di essere sentiti e la
partecipazione, V. Cerulli Irelli (a cura di), Il procedimento amministrativo, Napoli, 2007, 79 ss. Sul
punto si veda anche, I. Alberti - R. Cavallo Perin, Atti e procedimenti amministrativi digitali, in R.
Cavallo Perin - D.U. Galetta (a cura di), Il diritto dell’Amministrazione Pubblica digitale, op. cit.,
147 ss.



       LLI, Vol. 7, No. 1, 2021, ISSN 2421-2695                                                         I.88
              G. PINOTTI, Amministrazione digitale algoritmica e garanzie procedimentali



         Bisogna ora interrogarsi su quali potrebbero essere i meccanismi che
consentano la compatibilità fra l’uso di sistemi di automazione e gli istituti di
garanzia di partecipazione come previsti dal nostro ordinamento – anche nel
rispetto della normativa europea e dei principi elaborati dalla giurisprudenza
della Corte di Giustizia.
         Il margine di applicazione dei tradizionali istituti partecipativi a fronte
del ricorso all’automazione da parte dell’amministrazione deve essere
affrontato in maniera differente a seconda di quando essa interviene: se, infatti,
la procedura informatica opera in un solo momento (di iniziativa, o nel corso
dell’istruttoria), non si pongono particolari difficoltà, mentre ne sorgono di
notevoli a fronte dell’automazione decisionale.
         Si tratta ora di capire se resta un margine affinché essi possano essere
recuperati, conservando la loro funzione, data la diversa struttura e scansione
temporale del procedimento in esame, o se vi sono strumenti che possano
essere adoperati con la stessa finalità. Alla luce delle considerazioni avanzate
sino ad ora, appare piuttosto chiaro che gli sforzi per conservare l’apparato di
garanzie procedimentali devono essere rivolti eminentemente al momento di
elaborazione dell’algoritmo, momento in cui gli assetti di interessi vengono a
comporsi.
         A questo proposito, un notevole aiuto può essere offerto
dall’esperienza francese: nel Rapport del Conseil d’État(30) viene in più occasioni
sottolineato come i destinatari della decisione dovrebbero essere messi nelle
condizioni non solo di comprenderne la logica, ma anche di fare obiezioni, e
che il momento più idoneo sia quello di elaborazione dell’algoritmo(31). Si
potrebbe pensare a una sorta di meccanismo notice and comment, come se si
trattasse di atti amministrativi generali, sul modello delle agenzie federali
statunitensi. La procedura si articolerebbe in una proposta, a cui farebbero
seguito le osservazioni da parte dei soggetti potenzialmente interessati, per poi
sfociare nell’adozione dell’atto. Questo iter consentirebbe non solo una più
ampia ricostruzione degli interessi in gioco, ma ridurrebbe il contenzioso: i

          (30) Conseil D’État, Étude annuel, Puissance publique et plateformes numériques: accompagner
l’«ubérisation», 2017.
          (31) «À cette fin, l’auteur de la décision devrait d’abord informer la personne faisant
l’objet de celle-ci des données personnelles utilisées par l’algorithme, ce qui lui permettra de
s’assurer de leur véracité; le meilleur des algorithmes ne peut en effet produire que des
résultats erronés si les données qui lui sont soumises sont inexactes… Il devrait aussi lui
présenter la logique générale de l’algorithme, en expliquant par exemple, pour un organisme
de crédit, que telle information est utilisée en raison de la corrélation observée par des études
avec le risque de défaut. Enfin, comme indiqué, la personne devrait avoir la possibilité de
faire valoir ses observations avant la prise de décision».



       LLI, Vol. 7, No. 1, 2021, ISSN 2421-2695                                                  I.89
              G. PINOTTI, Amministrazione digitale algoritmica e garanzie procedimentali



soggetti interessati, dopo aver partecipato alla sua elaborazione, avrebbero più
fiducia nella legittimità dell’atto(32).
         Del resto l’esperienza francese in questo senso è significativa:
nonostante infatti non esista un principio generale di partecipazione all’attività
amministrativa per i provvedimenti individuali dell’Amministrazione, esiste un
diritto al contradditorio a fronte di provvedimenti lesivi della sfera giuridica del
privato, e il preambolo della Costituzionale ha riconosciuto il diritto di
partecipazione in materia ambientale(33). É stato osservato come in alcuni
settori questo obbligo derivi da fonti sovranazionali, come nel caso della
Convenzione di Aarhus del 25 giugno 1998, che all’art. 8 riconosce il diritto
dei cittadini di partecipare ai processi decisionali in materia di ambiente. Un
obbligo non dissimile è riconosciuto anche dalla Direttiva 2003/35/CE, che
prevede la partecipazione del pubblico nell'elaborazione di taluni piani e
programmi in materia ambientale.
         Nonostante l’assenza di una norma generale, come si diceva poco fa,
diverse sono le ipotesi in cui la normativa francese prevede lo strumento in
esame. Due sono i modelli prevalenti: il primo è caratterizzato dalla
partecipazione dei soli soggetti membri di un insieme predeterminato, anche se
ampio(34), mentre il secondo vede come protagonista potenziale la cittadinanza
tutta. Esempio ne è la Loi n. 2012-1460 del 27 dicembre 2012, che ha
l’obiettivo di mettere in pratica il principio di partecipazione riconosciuto
dall’art. 7, Charte de l’environnement(35).

           (32) Sul punto si veda F. Bignami, Comparative Administrative Law, GW Law Washington
DC, Public Law and Legal Theory Paper, 2012, n. 115.
           (33) Per una ricostruzione generale si vedano J Richard - V. Kapsali, La partecipation à
l’élaboration des reglements administratifs en France, in J.B. Auby - T. Perroud (a cura di), Droit
comparé de la procédure administrative: Comparative law of administrative procedure, Collection droit
administratif, n° 19, Bruylant, 2016, 317 ss; J.B. Auby, Quelques observations sur l’administration
“delibérative”, Coseil d’État, Rapport public, Consulter autrement, participer effectivement,
2011.
           (34) Si pensi in questo senso alla previsione L. 4122-1 del Code de la santé publique, che
prevede la possibilità per gli ordini nazionali dei medici, dentisti e ostetriche di esaminare i
progetti di legge che vengono loro sottoposti dal Ministero della Salute. («Le conseil national
de l'ordre remplit sur le plan national la mission définie à l'article L. 4121-2. Il veille
notamment à l'observation, par tous les membres de l'ordre, des devoirs professionnels et
des règles édictées par le code de déontologie prévu à l'article L. 4127-1. Il étudie les
questions ou projets qui lui sont soumis par le ministre chargé de la santé. Il peut, devant
toutes les juridictions, exercer tous les droits réservés à la partie civile relativement aux faits
portant un préjudice direct ou indirect à l'intérêt collectif de la profession de sage-femme, de
médecin ou de chirurgien-dentiste, y compris en cas de menaces ou de violences commises
en raison de l'appartenance à l'une de ces professions»).
           (35)Articolo L. 110-1 come modificato dalla legge n. 2012-1460: «Le principe de
participation en vertu duquel toute personne est informée des projets de décisions publiques



       LLI, Vol. 7, No. 1, 2021, ISSN 2421-2695                                                 I.90
              G. PINOTTI, Amministrazione digitale algoritmica e garanzie procedimentali



         Nonostante la fortuna che, come si è visto, questi modelli partecipativi
hanno conosciuto negli ultimi decenni in Francia non sono poche neanche le
perplessità sollevate. In primo luogo, il rischio è che, soprattutto a fronte di
materie molto tecniche, la partecipazione si riduca a essere realizzata da gruppi
di interesse ristretti (portatori, tendenzialmente, di interessi particolari). In più,
com’è noto, non esiste un obbligo di motivazione in Francia degli atti
amministrativi generali – come del resto in Italia: l’Amministrazione non è
tenuta quindi, salvo diversa disposizione di legge, né a formulare una sintesi
delle osservazioni ricevute né tanto meno a esporre le ragioni che hanno
portato all’adozione dell’atto, il che porterebbe le consultazioni a rivelarsi, di
fatto, inefficaci(36).
         Per quanto riguarda invece l’esperienza italiana, l’art. 13, l. n. 241/1990
esclude dall’ambito di applicazione del capo III, che racchiude tutti gli istituti
di partecipazione, gli atti normativi e quelli generali, che sono le tipologie di
atti alle quali l’algoritmo potrebbe essere ricondotto. In realtà, com’è noto,
molti processi di regolazione – soprattutto quelli delle autorità indipendenti –
sono soggetti a oneri di consultazione, indipendentemente da quanto previsto
all’art. 13(37).

ayant une incidence sur l'environnement dans des conditions lui permettant de formuler ses
observations, qui sont prises en considération par l'autorité compétente». Sul punto si vedano
M. Prieur, Un nouvel instrument de démocratie participative, AJDA, 2013, 193 ss.; B. Delaunay, La
réforme de la partecipation du public, AJDA, 2013, 260; A. Faro, La portée du principe de participation
du public consacré par l'article 7 de la Charte de l'environnement, Constitutions, 2012, 150 ss.
          (36) Fa eccezione in questo senso il Code de l’environnement, che proprio al fine di
rafforzare il valore dello strumento partecipativo, impone l’obbligo di pubblicare i motivi
della decisione finale, oltre che la sintesi delle osservazioni ricevute, ed è una delle poche
ipotesi di motivazione obbligatoria di un acte réglemetaire in grancia. Si veda sul punto R.
Noguellou, Le principe de partecipation du public, Dr. adm., 2013, n. 2, 213 ss. Un altro aspetto
molto interessante, che non può per ragioni di spazio essere approfondito, è il rapporto che
sussiste fra legittimità dell’atto amministrativo generale in ragione di vizi relativi alla
procedura consultiva. In particolare si fa riferimento all’art. 70 della Loi n. 2011-525 del 17
maggio 2011, («Lorsque l'autorité administrative, avant de prendre une décision, procède à la
consultation d'un organisme, seules les irrégularités susceptibles d'avoir exercé une influence
sur le sens de la décision prise au vu de l'avis rendu peuvent, le cas échéant, être invoquées à
l'encontre de la décision. L'alinéa précédent s'applique également aux consultations ouvertes
conduites en application de l'article 16 de la présente loi»), e alla precedente giurisprudenza in
materia del Conseil d’État.
          (37) Si pensi ad esempio all’art. 23, l. n. 262/2005, in materia di tutela del risparmio
(Procedimenti per l'adozione di atti regolamentari e generali): «1. I provvedimenti della Banca
d’Italia, della CONSOB, dell’ISVAP e della COVIP aventi natura regolamentare o di
contenuto generale, esclusi quelli attinenti all’organizzazione interna, devono essere motivati
con riferimento alle scelte di regolazione e di vigilanza del settore ovvero della materia su cui
vertono. 2. Gli atti di cui al comma 1 sono accompagnati da una relazione che ne illustra le
conseguenze sulla regolamentazione, sull’attività delle imprese e degli operatori e sugli



       LLI, Vol. 7, No. 1, 2021, ISSN 2421-2695                                                   I.91
                G. PINOTTI, Amministrazione digitale algoritmica e garanzie procedimentali



        In particolare degno di nota è l’art. 5 della delibera del 21 maggio 1997
n. 61 che introduceva forme di partecipazione per l’elaborazione degli atti
ammnistrativi della Autorità di Regolazione di Energia, Reti e Ambiente. La
stessa Autorità nel 2012 ha anche lanciato l’iniziativa sperimentale “Notice &
Comment”, con «l'obiettivo di ampliare, estendere e coinvolgere anche i
piccoli consumatori nelle decisioni dell'Autorità e, in particolare, ai
provvedimenti di più diretto interesse»(38).
        Del resto anche l’Unione Europea sembra muoversi nella stessa
direzione: val a dire che, nell’indicazione degli obiettivi da perseguire per un
corretto uno delle tecnologie, molto rilievo viene dato alle garanzie
partecipative nei processi decisionali che le vedono coinvolte. Molto indicativa
in tal senso è la Risoluzione del Parlamento europeo del 16 febbraio 2017
recante raccomandazioni alla Commissione concernenti norme di diritto civile
sulla robotica, dove nel codice etico-deontologico elaborato si legge che: «Gli
ingegneri robotici garantiscono la trasparenza e il rispetto del legittimo diritto
di accesso all'informazione di tutti i soggetti interessati. Tale inclusività
consente la partecipazione ai processi decisionali di tutti i soggetti coinvolti
nelle attività di ricerca sulla robotica o di quelli che nutrono un interesse nella
stessa».
        Sia che si ragioni sull’obbligo di motivazione, o sugli istituti
partecipativi, quindi quando si riflette sulle regole che governano il “buon
andamento” della Pubblica Amministrazione, pare abbastanza evidente che –
stante l’impossibilità oggettiva che essi operino nelle decisioni algoritmiche
esattamente come nelle decisioni tradizionali della Pubblica Amministrazione –
devono essere trovati dei meccanismi alternativi al fine di non diminuire gli
standard di tutela. Elemento comune alle soluzioni fino a ora prospettate è
quello di rinforzare la trasparenza in sede di elaborazione del modello. Dello
stesso avviso pare anche essere il Consiglio di Stato, che richiede ai fini della
legittimità della decisione che «il meccanismo attraverso il quale si concretizza
la decisione robotizzata (ovvero l’algoritmo) debba essere “conoscibile”,
secondo una declinazione rafforzata del principio di trasparenza, che implica


interessi degli investitori e dei risparmiatori. Nella definizione del contenuto degli atti di
regolazione generale, le Autorità di cui al comma 1 tengono conto in ogni caso del principio
di proporzionalità, inteso come criterio di esercizio del potere adeguato al raggiungimento
del fine, con il minore sacrificio degli interessi dei destinatari. A questo fine, esse consultano gli
organismi rappresentativi dei soggetti vigilati, dei prestatori di servizi finanziari e dei consumatori». (corsivo
dell’A.).
          (38) Sul punto si veda la Delibera dell’Autorità 456/2012/R/gas del 31 ottobre 2012.



        LLI, Vol. 7, No. 1, 2021, ISSN 2421-2695                                                             I.92
            G. PINOTTI, Amministrazione digitale algoritmica e garanzie procedimentali



anche quello della piena conoscibilità di una regola espressa in un linguaggio
differente da quello giuridico»(39).
        E questo sia che, coerentemente anche con quanto previsto all’art. 68
del Codice dell’Amministrazione Digitale, l’algoritmo sia libero (let. c) o
sviluppato per conto della P.A. (let. a), ma anche qualora esso sia proprietario,
dato che «in senso contrario non può assumere rilievo l’invocata riservatezza
delle imprese produttrici dei meccanismi informatici utilizzati i quali, ponendo
al servizio del potere autoritativo tali strumenti, all’evidenza ne accettano le
relative conseguenze in termini di necessaria trasparenza»(40).




       (39) Consiglio di Stato, sez. VI, 13 dicembre 2019, n. 8472.
       (40) Consiglio di Stato, sez. VI, 13 dicembre 2019, n. 8472.



     LLI, Vol. 7, No. 1, 2021, ISSN 2421-2695                                            I.93
               G. PINOTTI, Amministrazione digitale algoritmica e garanzie procedimentali




Bibliografia

Auby J.B. - Perroud T. (éds.), Droit comparé de la procédure administrative: Comparative law of
         administrative procedure, in Collection droit administratif, Bruylant, 2016.
Bignami F., Comparative Administrative Law, in GW Law Washington DC, in Public Law and Legal
         Theory Paper, 2012, n. 115, 145 ss.
Bourcier D., La décision artificielle : le droit, la machine et l’humain, Les voies du droit, Presses
         universitaires de France, 1995.
Carleo A., La decisione robotica, Il Mulino, 2019.
Carloni E., I principi della legalità algoritmica. Le decisioni automatizzate di fronte al giudice
         amministrativo, in Dir. Amm., 2020, 2, 273 ss.
Carullo G., Gestione, fruizione e diffusione dei dati dell’amministrazione digitale e funzione
         amministrativa, Giappichelli, 2017.
Civitarese Matteucci S. “Umano troppo umano”. Decisioni amministrative automatizzate e principio di
         legalità, in Dir. pubbl., 2019, 23 ss.
Cavallo Perin R. - Galetta D.U., (a cura di), Il diritto dell’Amministrazione Pubblica digitale,
         Giappichelli, 2020.
Coglianese C. - Lehr D., Regulating by Robot: Administrative Decision Making in the Machine-Lerning
         Era, in The Georgetown Law Journal, 2017, vol. 105, 1147 ss.
Della Cananea G. - Galetta D.U. (a cura di), Codice ReNEUAL del procedimento amministrativo
         dell’Unione europea, Editoriale scientifica, 2016.
Delaunay B. - Idoux P. - Saunier S., Procédure administrative - Un an de droit de la procédure
         administrative, in Droit Administratif, 2017, 260 ss.
Di Gaspare G., Organizzazione amministrativa, in Dig. pubbl., 1995, 513 ss.
Faro A., La portée du principe de participation du public consacré par l’article 7 de la Charte de
         l’environnement, in Constitutions, 2012, 150 ss.
Ferrara R. Il giudice amministrativo e gli algoritmi. Note estemporanee a margine di un recente dibattito
         giurisprudenziale, in Dir. amm., 2019, 773 ss.
Galetta D.U. - Corvalan J.G., Intelligenza Artificiale per una Pubblica Amministrazione 4.0?
         Potenzialità, rischi e sfide della rivoluzione tecnologica in atto, in federalismi.it, 2019.
Galetta D.U., La Pubblica Amministrazione nell’era delle ICT: sportello digitale unico e Intelligenza
         Artificiale al servizio della trasparenza e dei cittadini?, in Ciberspazio e diritto, 2018, n. 3, 313
         ss..
Guerra M.P., Funzione conoscitiva e pubblici poteri, Giuffrè, 1996.
Guerra M.P., Circolazione dell’informazione e sistema informativo pubblico: profili giuridici dell’accesso
         interamministrativo telematico. Tra Testo unico sulla documentazione amministrativa e codice
         dell’amministrazione digitale, in Dir. pubbl., 2005, n. 11, 125 ss.
Levi F., L’attività conoscitiva della pubblica amministrazione, Giappichelli, 1967.
Masucci A., L’atto amministrativo informatico: primi lineamenti di una ricostruzione, Jovene, 1993.
Occhiena M., Il “nuovo” responsabile del procedimento, la responsabilità dei dirigenti pubblici e il labile
         confine tra la politica e l’amministrazione, in Verso un’amministrazione responsabile, Giuffrè,
         2005.
Orofino A.G. - Gallone G., L’intelligenza artificiale al servizio delle funzioni amministrative: profili
         problematici e spunti di riflessione, in GI, 2020.



       LLI, Vol. 7, No. 1, 2021, ISSN 2421-2695                                                          I.94
               G. PINOTTI, Amministrazione digitale algoritmica e garanzie procedimentali



Paolantonio N. - Police A. - Zito A., La pubblica amministrazione e la sua azione: saggi critici sulla
         legge n. 241/1990 riformata dalle leggi n. 15/2005 e n. 80/2005, Giappichelli, 2006.
Patroni-Griffi F., La decisione robotica e il giudice amministrativo, in giustizia-amministrativa.it., 2018.
Prieur M., Un nouvel instrument de démocratie participative, in AJDA, 2013, 193 ss.
Sandulli M.A., Codice dell’azione amministrativa, Giuffrè, 2017.
Serra M.T., Contributo ad uno studio dell’istruttoria del procedimento amministrativo, Giuffrè, 1991.
Tarullo S., Il responsabile del procedimento amministrativo: evoluzione storica e prospettive della figura, in
         Giust. Amm., 2014, 307 ss.
Untermaier-Kerléo É., Les nouveaux visages de la décision administrative : d’une administration assistée
         à une administration automatisée, in La Semaine Juridique Administrations et Collectivités
         territoriales, 2018, vol. 50, 2339 ss.
Usai S., Il responsabile del procedimento amministrativo, Maggioli, 2014.
Vesperini G., L’organizzazione, in Cassese S. (a cura di) Istituzioni di diritto amministrativo,
         Giuffré, 2012, 73 ss.




       LLI, Vol. 7, No. 1, 2021, ISSN 2421-2695                                                          I.95
