processo decisionale automatizzato

Il contributo riassume i principali emendamenti adottati dal Parlamento europeo, durante la sua prima lettura della proposta di Regolamento UE sull’Intelligenza Artificiale (AI Act). Più in particolare, si analizza l’impatto di questa nuova normativa sulla decisione amministrativa automatizzata e si esamina l’autonomia concessa agli Stati membri, nel recepire tali disposizioni all’interno delle rispettive normative nazionali sul procedimento amministrativo. La tesi esposta nel contributo considera l’AI Act un atto normativo necessario e che, se adottato con alcuni degli emendamenti proposti dal Parlamento europeo, potrà regolare adeguatamente lo sviluppo e l’uso di sistemi di AI da parte delle autorità pubbliche europee, definendo così un elevato standard normativo, che potrà essere rafforzato dai legislatori nazionali.

Questo articolo esamina l'implementazione dell'intelligenza artificiale nei processi decisionali all'interno della pubblica amministrazione, con un focus su come affrontare le sfide legate alla trasparenza, alla responsabilità e alla comprensibilità delle decisioni generate dall'IA. L’articolo discute in particolare l'importanza dell'imputabilità nelle decisioni prese con algoritmi di deep learning. Sottolinea che concedendo alle pubbliche amministrazioni il pieno controllo sul set di dati per l'addestramento, sul codice sorgente e sulla base di conoscenza, si può garantire l'imputabilità della decisione. Questo controllo permette alle amministrazioni di validare la pertinenza e l'accuratezza dei dati di addestramento dell'algoritmo, affrontare eventuali bias e rispettare i requisiti legali ed etici. Il documento propone quindi l'utilizzo dei Large Language Models (LLM) come soluzione per migliorare la trasparenza e la motivazione dietro le decisioni assistite dall'IA. Mette in evidenza che gli LLM possono generare output testuali articolati e comprensibili che assomigliano da vicino alle decisioni generate dall'uomo, permettendo una comprensione più profonda del processo decisionale. Inoltre, l'articolo enfatizza l'importanza di fornire l'accesso al set di dati per l'addestramento, al codice sorgente e ai precedenti amministrativi individuali per aumentare la trasparenza e la responsabilità. Sostiene che offrendo questi componenti, gli stakeholder possono valutare la validità e l'affidabilità delle decisioni assistite dall'IA, promuovendo la fiducia nel processo decisionale.

La legislazione spagnola sulla decisione automatizzata è tra le più avanzate a livello globale. Entrata in vigore nel 2007, essa è stata recepita nella vigente legge sul procedimento amministrativo del 2015. Attualmente, più di un terzo del settore pubblico spagnolo ricorre a tali sistemi. Permangono alcuni problemi di conformità al diritto amministrativo generale, come ad esempio rispetto al diritto ad una corretta applicazione, al diritto di presentare memorie sul preavviso di rigetto, o alla motivazione di decisioni automatizzate o alla trasparenza della programmazione. Nonostante vi siano state centinaia di decisioni automatizzate, il contenzioso in questa materia si è rivelato meramente episodico. Il contributo esamina i requisiti formulati dalla legge Spagnola per consentire l’adozione di sistemi decisionali automatizzati da parte dell’amministrazione pubblica: l’approvazione preventiva ed espressa, il controllo esterno del sistema, la firma elettronica della decisione, ecc.; e gli aspetti critici tuttora presenti.

La digitalizzazione dell'amministrazione svedese è stata per decenni al centro dell'attenzione del Governo e del legislatore, con l'esplicito obiettivo di essere il «migliore al mondo» nell'utilizzare le possibilità offerte dalla stessa. Le autorità pubbliche svedesi sono state le prime ad adottare ed utilizzare procedure decisionali automatizzate, sin dal 1970. Gli effetti su due ambiti centrali per il diritto costituzionale e amministrativo svedese sono qui affrontati: il diritto amministrativo generale, con particolare attenzione al processo decisionale amministrativo, e le regole di trasparenza ed accesso ai documenti. Le risposte normative nei due settori differiscono. Mentre le preoccupazioni relative agli effetti negativi della digitalizzazione sull'accesso ai documenti hanno spinto il legislatore svedese a includere le registrazioni digitali tra i documenti che rientrano nel diritto di accesso già negli anni '70, il diritto amministrativo generale è stato adattato in misura molto limitata. Nel corso degli anni il governo ha commissionato diverse indagini governative sulle sfide tecniche, sociali e legali della digitalizzazione dell'amministrazione, ma le principali conclusioni in merito all'idoneità del processo decisionale automatizzato sono state lasciate all'amministrazione e ai tribunali e se ne possono individuare due ragioni. In primo luogo, l'obiettivo da lungo tempo perseguito è che le norme procedurali amministrative siano neutrali dal punto di vista tecnologico, per non diventare obsolete in futuro. In secondo luogo, le autorità amministrative detengono una posizione forte e parzialmente indipendente nel contesto costituzionale svedese, unita a una tradizione di pragmatismo. Si fa quindi affidamento sul fatto che le autorità amministrative eseguano il loro processo decisionale in conformità con la legge, sia che le procedure vengono eseguite manualmente, sia digitalmente o con mezzi automatizzati. Sicché i tribunali svedesi si sono finora astenuti dall'intervenire. Tuttavia, è chiaro che il panorama del diritto amministrativo svedese per quel che concerne il processo decisionale automatizzato contiene diverse e centrali lacune, che dovrebbero venire colmate al fine di salvaguardare il principio di buona amministrazione e lo Stato di diritto.

Nonostante l’immagine di una sviluppata e-governance, gli avanzati sistemi di decisione automatizzata non sono stati impiegati estensivamente dall’amministrazione pubblica estone e non esiste un quadro legale generale che li disciplini. La bozza di riforma della Legge sul Procedimento amministrativo, presentata al Parlamento nel 2022 è caratterizzata da un approccio al tema alquanto reticente e limita significativamente l’automazione di decisioni discrezionali e, in particolare, l’uso degli algoritmi di c.d. auto-apprendimento. Il fatto di applicare i principi procedurali inerenti allo Stato di diritto, come il diritto ad essere ascoltati e a ricevere un atto motivato, non sarebbe di per sé idoneo a scoraggiare l’adozione di decisioni amministrative automatizzate. Ad ogni modo, per le decisioni discrezionali automatizzate ove opportuno, è stata avanzata una proposta per quei casi tipici che potrebbero essere risolti in un modo completamente automatizzato attraverso algoritmi predefiniti in base a linee guida interne. Questa soluzione non è ovviamente universale, ma potrebbe garantire un certo grado di innovazione, sempre che siano previste determinate garanzie procedurali e organizzative. Tra queste vi sono, senz’altro, la completa separazione tra l’algoritmo e la sua gestione, nonché la pubblicazione delle linee guida. Un modello ottimale di “public accountability” deve infatti incoraggiare gli organi pubblici ad adottare le dovute precazioni quando impiegano algoritmi.

Questo contributo analizza il quadro giuridico tedesco con riguardo ai sistemi decisionali automatizzati. La pubblica amministrazione in Germania utilizza sistemi decisionali automatizzati principalmente per adottare atti amministrativi parzialmente o completamente automatizzati. Di conseguenza, l’analisi si concentra sugli atti amministrativi automatizzati; tuttavia, si discute anche della prima regolamentazione completa in materia di Intelligenza Artificiale emanata da un “Bundesland” tedesco. Il contributo esamina l’argomento da tre diverse prospettive: il quadro legislativo tedesco, la giurisprudenza e il diritto non vincolante in materia di sistemi decisionali automatizzati.

Il processo decisionale automatizzato è stato oggetto di discussione nel diritto amministrativo austriaco per oltre 40 anni. L’attenzione si è concentrata sempre sull’atto amministrativo (nel senso di una decisione individuale formale) e sul relativo procedimento. In questo ambito esistono principi consolidati, anche se le nuove tecnologie sollevano nuove questioni. Al di là dell’ambito della decisione amministrativa, su cui si è concentrata la maggior parte degli studi, per il resto si naviga ancora molto nel buio.

Il contributo ha l'obiettivo di analizzare i sistemi di automazione decisionale attualmente utilizzati dalle Pubbliche amministrazioni in Italia. Dopo un’analisi della relativa cornice normativa, i sistemi vengono classificati e illustrati e in particolare ci si sofferma sul caso del c.d. algoritmo della "buona scuola". Le conclusioni si soffermano sul perché dello scarso ricorso a questi strumenti nel panorama italiano, anche in ragione di una digitalizzazione lenta e non uniforme del settore pubblico.

I Paesi all'interno dell'UE e in tutto il mondo stanno cominciando a regolare l'uso dell’automazione nei processi decisionali pubblici. Il quadro giuridico è molto differenziato e il suo sviluppo è in una fase iniziale. Questo contributo definisce un possibile quadro di ricerca comparativa; in altre parole gli elementi per confrontare le diverse soluzioni sviluppate dai diversi sistemi giuridici di fronte alle sfide poste dall’automazione dei processi decisionali pubblici.