Algoritmi

L’impiego dell’intelligenza artificiale (IA) nei mercati finanziari richiede un approccio equilibrato e proattivo. La distinzione tra sistemi di IA deboli e forti evidenzia la necessità di adeguare la normativa di settore rispetto alla crescita repentina dell’autonomia degli algoritmi. La sfida è quella del bilanciare il naturale sviluppo tecnologico con la sicurezza dei mercati. La ponderazione della responsabilità umana con la socializzazione dei danni e con l’osare soluzioni innovative come il riconoscimento della personalità giuridica ai sistemi di IA evoluti o ipotesi di “smart law”, aiuterebbe gli operatori del diritto a gestire con minori incertezze le nuove dinamiche dei mercati finanziari.

Questo articolo esamina l'implementazione dell'intelligenza artificiale nei processi decisionali all'interno della pubblica amministrazione, con un focus su come affrontare le sfide legate alla trasparenza, alla responsabilità e alla comprensibilità delle decisioni generate dall'IA. L’articolo discute in particolare l'importanza dell'imputabilità nelle decisioni prese con algoritmi di deep learning. Sottolinea che concedendo alle pubbliche amministrazioni il pieno controllo sul set di dati per l'addestramento, sul codice sorgente e sulla base di conoscenza, si può garantire l'imputabilità della decisione. Questo controllo permette alle amministrazioni di validare la pertinenza e l'accuratezza dei dati di addestramento dell'algoritmo, affrontare eventuali bias e rispettare i requisiti legali ed etici. Il documento propone quindi l'utilizzo dei Large Language Models (LLM) come soluzione per migliorare la trasparenza e la motivazione dietro le decisioni assistite dall'IA. Mette in evidenza che gli LLM possono generare output testuali articolati e comprensibili che assomigliano da vicino alle decisioni generate dall'uomo, permettendo una comprensione più profonda del processo decisionale. Inoltre, l'articolo enfatizza l'importanza di fornire l'accesso al set di dati per l'addestramento, al codice sorgente e ai precedenti amministrativi individuali per aumentare la trasparenza e la responsabilità. Sostiene che offrendo questi componenti, gli stakeholder possono valutare la validità e l'affidabilità delle decisioni assistite dall'IA, promuovendo la fiducia nel processo decisionale.

L’autore si sofferma brevemente sui maggiori problemi della giustizia amministrativa del Terzo Millennio. Nella disamina particolare rilevanza rivestono i temi della digitalizzazione e del ruolo del sindacato del giudice amministrativo sulla decisione amministrativa automatizzata; del rapporto tra ordinamento interno e eurounitario; della concentrazione delle tempistiche dei giudizi amministrativi, che non dovrebbe avvenire a discapito della garanzia del principio di effettività della tutela giurisdizionale e, infine, dell’incertezza delle regole e dello spazio, eccessivo, riservato alla giurisprudenza.

L’articolo presenta e rappresenta l’ordine giuridico del digitale, inquadrandolo nella dimensione costituzionale. Quindi, principalmente ma non esclusivamente, i nuovi diritti di libertà che si sono venuti a formare con l’avvento della tecnologia, soprattutto delle piattaforme digitali. Si dubita dell’efficacia di un intervento regolatorio del sistema digitale, come sta facendo la UE con i suoi regolamenti lunghi, complessi, la cui finalità non sembra essere quella promozionale ma sanzionatoria. Nell’articolo vengono evidenziate le luci più che le ombre di un ordine giuridico digitale, sebbene vi siano alcuni problemi riferiti al mercato del digitale, dove le poche grandi aziende esercitano una posizione dominante che limitano il fenomeno concorrenziale. Ulteriori riflessioni sono dedicate al tema della democrazia nell’internet e alle disfunzioni derivanti dalla disinformazione.

Nonostante l’immagine di una sviluppata e-governance, gli avanzati sistemi di decisione automatizzata non sono stati impiegati estensivamente dall’amministrazione pubblica estone e non esiste un quadro legale generale che li disciplini. La bozza di riforma della Legge sul Procedimento amministrativo, presentata al Parlamento nel 2022 è caratterizzata da un approccio al tema alquanto reticente e limita significativamente l’automazione di decisioni discrezionali e, in particolare, l’uso degli algoritmi di c.d. auto-apprendimento. Il fatto di applicare i principi procedurali inerenti allo Stato di diritto, come il diritto ad essere ascoltati e a ricevere un atto motivato, non sarebbe di per sé idoneo a scoraggiare l’adozione di decisioni amministrative automatizzate. Ad ogni modo, per le decisioni discrezionali automatizzate ove opportuno, è stata avanzata una proposta per quei casi tipici che potrebbero essere risolti in un modo completamente automatizzato attraverso algoritmi predefiniti in base a linee guida interne. Questa soluzione non è ovviamente universale, ma potrebbe garantire un certo grado di innovazione, sempre che siano previste determinate garanzie procedurali e organizzative. Tra queste vi sono, senz’altro, la completa separazione tra l’algoritmo e la sua gestione, nonché la pubblicazione delle linee guida. Un modello ottimale di “public accountability” deve infatti incoraggiare gli organi pubblici ad adottare le dovute precazioni quando impiegano algoritmi.

Il processo decisionale automatizzato è stato oggetto di discussione nel diritto amministrativo austriaco per oltre 40 anni. L’attenzione si è concentrata sempre sull’atto amministrativo (nel senso di una decisione individuale formale) e sul relativo procedimento. In questo ambito esistono principi consolidati, anche se le nuove tecnologie sollevano nuove questioni. Al di là dell’ambito della decisione amministrativa, su cui si è concentrata la maggior parte degli studi, per il resto si naviga ancora molto nel buio.

Il contributo ha l'obiettivo di analizzare i sistemi di automazione decisionale attualmente utilizzati dalle Pubbliche amministrazioni in Italia. Dopo un’analisi della relativa cornice normativa, i sistemi vengono classificati e illustrati e in particolare ci si sofferma sul caso del c.d. algoritmo della "buona scuola". Le conclusioni si soffermano sul perché dello scarso ricorso a questi strumenti nel panorama italiano, anche in ragione di una digitalizzazione lenta e non uniforme del settore pubblico.

L’utilizzo di algoritmi e di sistemi di intelligenza artificiale nell’ambito dell’azione amministrativa ha messo a dura prova le garanzie del giusto procedimento amministrativo. In assenza di una disciplina legislativa in materia a livello nazionale, i giudici amministrativi hanno elaborato i c.d. principi di legalità algoritmica, mutuandoli perlopiù dal Regolamento europeo sulla protezione dei dati personali (GDPR), allo scopo di tutelare le situazioni giuridiche dei cittadini coinvolti nel procedimento amministrativo. Nello specifico, le pronunce impongono alle pubbliche amministrazioni il rispetto dei principi di conoscibilità dell’algoritmo, di non esclusività della decisione algoritmica e di non discriminazione algoritmica. Dopo una breve ricognizione del contenuto di questi principi, il presente contributo mira ad analizzare il rapporto tra essi e l’art. 21-octies, comma 2, della legge n. 241/1990, al fine di verificare se siano stati intesi dalla giurisprudenza come delle regole procedurali rinforzate, idonee dunque ad evitare la dequotazione dei vizi di procedura degli atti amministrativi vincolati ai sensi del citato articolo 21-octies. E, in particolare, se tale rafforzamento procedurale possa attuarsi in ottica compensativa di un eventuale deficit di legalità sostanziale, dovuto all’esercizio di poteri amministrativi impliciti in relazione all’utilizzo degli algoritmi, oppure se debba discendere da un diverso percorso ermeneutico.