Intelligenza artificiale e giustizia: un'autorevole presa di posizione in ambito “amministrativo”

Questo rappresenta un ulteriore, e notevolissimo step, nella direzione del giudice robot? Oppure solo una riflessione sullo stato dell'arte degli algoritmi nel pianeta giustizia? Il documento si suddivide in sei paragrafi, che affrontano i diversi aspetti dell'intelligenza artificiale nell'ambiente giustizia in generale, per poi posizionarla nella nicchia amministrativa.

L'intelligenza artificiale nella pubblica amministrazione moderna. L'esordio del contributo è a dir poco avvincente: «Noi oggi siamo i nostri Dati: il nostro amore, salute, economia, lavoro, segreti, intimità, emozioni, affetti, tutta la nostra vita o buona parte di essa è in mano ai nostri dati, che hanno sostituito la nostra identità personale. Siamo anche guidati dai nostri dati, siamo data driven, siamo da essi indirizzati». E per questo nulla quaestio, una presa d'atto che ogni giorno qualsiasi essere umano, giurista o meno, mette in pratica attraverso le azioni che compie: acquisti online, impiego dello Spid e di qualsiasi tessera magnetica, o più semplicemente della carta di credito o del bancomat. I dati (che ci riguardano tutti, collettivamente o individualmente) vengono infatti gestiti, elaborati, implementati, selezionati, profilati, valutati, conosciuti, da programmi organizzati che, a mezzo di impulsi elettronici informatici da computer, attraverso sequenze di attività, raggiungono effetti finali secondo la programmazione iniziale. Tramite un software si giunge alle soluzioni di una questione, e ciò attraverso una sequenza infinita di dati ed informazioni immesse e elaborate con impulsi elettronici. Questo processo ha pervaso le nostre vite, totalizzandone ogni aspetto. Il documento definisce l'intelligenza artificiale come «la più grande forma di umanesimo ma anche di disumanizzazione dei rapporti», spiegando che l'algoritmo è una decisione prodotta dalla IA sulla base di migliaia di decisioni assunte in precedenza dall'intelligenza umana. Nel linguaggio, anche tecnico, sono entrati termini come “funzionari robot e funzionari digitali”, identificati come nuovi soggetti del diritto, alla pari degli embrioni o degli animali esseri senzienti (il riferimento è all'osservazione del Presidente Cirillo in uno scritto sui soggetti digitali). L'ulteriore presa d'atto, più specifica, è che l'attività amministrativa “da algoritmo” è predittiva, in quanto origina avendo quale fonte decisioni, scelte e criteri di decisioni passate, ma appunto essa guarda al passato, con la conseguenza che non è in grado di valutare la specificità e la novità della peculiare fattispecie presente, senza neppure far proprio «né il buon senso né il senso comune che ci deriva dalla esperienza umana». Viene evidenziato che, al pari di ogni decisione della nostra vita, quelle “amministrative automatizzate” vengono prese in base alle esperienze del passato, pur essendo rivolte al futuro. A dispetto delle numerose prese di coscienza riportate sul contributo, ce ne è una che rappresenta l'emblema di tutte: «non si può fare a meno della IA nella pubblica amministrazione moderna». Più in particolare, materie quali la pianificazione paesaggistica e le smart city sono ormai parte del nostro presente e del nostro futuro e, anzi, contribuiscono a migliorare servizi ai cittadini. E' quindi riportata l'esperienza argentina del “sistema Prometea”, per poi tornare alla realtà nostrana, dove ancora si “pensa” di ristrutturare la sanità territoriale, dopo la pandemia, con case e ospedali di comunità sull'esempio di Israele, a mezzo di un programma di AI, che coordinerà la presa in carico dei pazienti e lo smistamento nell'hub viciniore. Tra i vantaggi sono elencati: maggiore economicità, velocità, efficienza, servizi alle persone, riduzione delle disuguaglianze, assenza del rischio di errore o dolo del funzionario, riduzione delle attività discrezionali a vantaggio di quelle vincolate, in cui cioè già sono predeterminate le scelte sulla base delle valutazioni o dei giudizi dei vari segmenti procedimentali. L'ulteriore presa d'atto riportata sul contributo è la seguente: nell'ordinamento amministrativo italiano siamo consapevoli delle conquiste dell'umanità nel campo dei big data a servizio della pubblica amministrazione e proviamo un tentativo di sistematizzazione giuridica della nuova frontiera del diritto, perché ormai tali strumenti fanno parte della nostra vita e il diritto non può fare a meno di sistematizzarli. Essendo l'AI parte della nostra vita, dobbiamo regolarla nei suoi vari aspetti.

L'atto amministrativo digitale. Il secondo paragrafo esordisce con un'ulteriore punto fermo: l'attività amministrativa a mezzo di algoritmo riguarda non solo la forma bensì la sostanza della attività e, per l'effetto, può consentire di migliorare le perfomances dell'amministrazione. La decisione automatizzata è l'esito di un procedimento dove permangono le fasi tradizionali:

• iniziativa,
• istruttoria,
• decisoria,
• integrativa della efficacia.

Il punto centrale del procedimento resta comunque lo step istruttorio, ove vengono accertati i fatti, effettuate valutazioni, acquisiti i diversi interessi, messi a confronto gli interessi primari con quelli secondari. Viene osservato che, per quanto si parli di decisioni automatizzate, sovente viene automatizzata solo la fase istruttoria, in quanto vi è una predeterminazione della volontà, una determinabilità della decisione finale. L'autore ha inteso pertanto esaminarne fondamento, regole, validità, responsabilità, forme di tutela.

• Fondamento normativo: la legge o l'atto amministrativo quale autovincolo della successiva attività, è l'atto con cui si decide di affidarsi all'AI.
• Delimitazione: riguarderà le attività vincolate, le valutazioni e, anche se essa è difficilmente utilizzabile in concetti indeterminati o vaghi o opinabili, le volontà, la fase di elaborazione può riguardare anche segmenti di attività discrezionale, cioè il momento cognitivo o valutativo piuttosto che quello della volontà.
• Regole: va rivista l'applicazione della legge sul procedimento, da sola non sufficiente parametro di validità.
• Validità: la giustificazione o motivazione sarà insita nel programma utilizzato e sarà sindacabile.
• Responsabilità: debbono essere conoscibili e logici l'autore, le priorità, i criteri di ricerca, elaborazione, utilizzo, mantenimento, profilazione, rilevanza, e così via, dei dati scelti e utilizzati.
• Forme di tutela: deve esservi un sindacato sulla correttezza del processo informatico in tutte le sue componenti e cioè la logicità e ragionevolezza, della costruzione, della validità, della gestione; sicchè sarà il giudice a svolgere sul piano umano valutazioni, accertamenti, e a ripercorrere l'iter logico-intellettivo svolto direttamente in via automatica.
• Invalidità. L'atto o decisione automatizzata deve essere conforme a legge ed immune dai vizi (violazione di legge, incompetenza e eccesso di potere). Anche se leggi incentivanti consentono, incentivano, autorizzano o impongono l'utilizzo del mezzo digitale per adottare decisioni amministrative, non si consente ancora che tali leggi rappresentino il parametro di validità di tali atti.

Tali leggi sarebbero rilevanti al fine della valutazione di risultato di un'amministrazione, ma non ancora quale parametro di validità, se non nel senso che gli atti adottati debbano essere conformi ad uno standard minimo di legge, necessario ma non sufficiente a rendere validi gli atti adottati.

Decisione o provvedimento è l'atto che costituisce, modifica o estingue (1321 c.c.) una posizione giuridica soggettiva tra cittadino e PA: come esistono più forme per un atto, esistono differenti modalità possibili con le quali si può formare la volontà decisionale. Non costituisce punto di parametro neppure la l. n. 241/1990, e neppure l'art. 21-octies che richiama le attività vincolate, ove non rileva la violazione di norme procedimentali o formali, se il contenuto sarebbe stato il medesimo, non potendosi ritenere che la violazione del giusto procedimento algoritmico sia soltanto una mera violazione formale.

Soluzione giurisprudenziale. La VI Sezione del Consiglio di Stato, con le sentenze 8 aprile 2019 n. 2270 e 13 dicembre 2019, n. 8472, ha contribuito alla giusta decisione automatizzata. Non può condividersi secondo il Consiglio di Stato la restrittiva tesi del primo giudice (TAR Lazio, Roma, sezione III bis 10 settembre 2018, n. 9224 e altre a seguire), secondo cui si abdicherebbe alla responsabilità della funzione amministrativa delegando la decisione ad un algoritmo, per cui occorrerebbe una norma specifica. Non sussiste l'esigenza di nuove leggi, poiché il principio di effettività e di efficienza sono sufficienti a giustificare il ricorso a strumenti più moderni e occorre soltanto che l'interprete si faccia carico dei nuovi adattamenti. Consegue che l'attività amministrativa posta in essere in modo automatizzato non può ritenersi di per sé invalida ma sarebbe qualificabile illegittima nelle ipotesi di violazione di apposite leggi o in caso di mancanza di elementi essenziali. Occorrono però dei contrappesi adeguati, quali i principi generali affermati, facendo una ricostruzione che si è avvalsa di normativa sovranazionali, quale il GDPR, la Carta della robotica, e così via. Il Consiglio di Stato, nelle sue sentenze, ha quindi concluso, individuando tali principi, che le decisioni automatizzate:

• non siano solo robotizzate bensì debba esservi “un responsabile” per un principio di “accountability”; il profilo della responsabilità è uno dei passaggi più delicati, poiché si rischia la disumanizzazione dei rapporti, mentre la legge 241 e l'ordinamento vanno nel senso di assunzione di responsabilità, di rapporto paritetico, della minimizzazione della autorità a beneficio della libertà; non si può passare dalla libertà ad uno stato di soggezione o assoggettamento al robot; la Costituzione è chiara all'art. 28 sulla responsabilità e sul dovere di diligenza del funzionario; il responsabile deve esserci sempre, in quanto solo l'attività dell'uomo può controllare, validare, rettificare e anche smentire l'attività di un algoritmo e in ogni caso essere responsabile e ripristinare i danni eventualmente arrecati;
• siano “trasparenti” e comprensibili, non opachi, i criteri, di rilevanza, di acquisizione, di rilevazione, di profilazione dei dati, al fine di inquadrare sotto una regola giuridica la regola tecnica connessa all'algoritmo; quale che sia la situazione soggettiva incisa emerge il diritto alla spiegazione, che null'altro è che un precipitato del diritto alla motivazione;
• tali criteri “non siano discriminatori”, sotto i profili delle differenze di sesso, razza, religione, pensiero e così via (art. 3 Cost.); tale antidiscriminatorietà va intesa pure nel senso che tali criteri debbano essere ragionevoli, logici, corrispondenti alle leges artis della specifica materia della quale si tratta, che può essere la più varia e che si sovrappone alle scienze giuridiche, aritmetiche, ingegneristiche, informatiche e che possono essere di volta in volta di medicina di cultura generale, di appalti, di dissesto idrogeologico, di pericolosità del suolo e così via; il diritto alla correttezza, alla logicità, alla ragionevolezza e così via.

Giustiziabilità. Il riscontro della conformità o meno a diritto avviene dinanzi al giudice. Sulla immancabilità della tutela giurisdizionale nei confronti dell'atto digitale, norme sovranazionali si esprimono nel senso del diritto di contestare e contraddire (GDPR), ma sarebbe sufficiente già il combinato disposto costituzionale (24 e 113 Costituzione). Il contrappeso delle decisioni amministrative e della loro autoritatività è la possibilità di contestarle in via giurisdizionale. Non solo le decisioni umane in quanto fallibili bensì pure quelle automatizzate, teoricamente infallibili, sono assoggettate al controllo giurisdizionale. E quindi avranno un controllo umano, forse per la prima volta, dinanzi al giudice, che deve ricostruire a ritroso l'iter svolto. Fermo restando il principio di separazione dei poteri sulla futura attività da svolgere o rieditare (art. 34, c. II, c.p.a.), il giudice deve valutare: - da un lato, quanto sia degna di considerazione attuale la posizione soggettiva fatta valere; - dall'altro canto quanto sia o appaia inaffidabile o inattendibile l'operato amministrativo, anche automatizzato, finora svolto. Nelle controversie sulla correttezza dell'algoritmo viene ipotizzato un processo non a due bensì a tre parti, avendosi come controinteressato o contraddittore naturale il soggetto (esterno) che ha creato o gestito l'algoritmo.

Conclusioni. L'Autore conclude che c'è sempre bisogno del controllo umano e della relativa responsabilità per l'attività amministrativa, in quanto l'amministrare e il giudicare, perseguire il bene pubblico e attribuire a ciascuno il suo, sono scienze umane e la scienza algoritmica guarda al passato ma non può avere la sensibilità umana. La tematica presenta quindi grandi opportunità ma ancora tanti dubbi, in tema di parzialità dei dati, di esigenza del consenso, di vera utilità e non dannosità sociale sotto vari punti di vista (validità, responsabilità, utilizzo “responsabile” ed etico). Secondo l'Autore ci troviamo innanzi ad una sfida che va oltre l'Europa e i nostri tempi, dove c'è ancora bisogno degli uomini per gli uomini, per perseguire il bene comune, per fare giustizia, per portare a sistema il nuovo diritto.

(Fonte: Diritto e Giustizia)