Se l’algoritmo diventa rischio per la democrazia

La pubblica amministrazione non può affidarsi, per le sue decisioni, a un procedimento informatico o matematico, che tra le altre cose è impossibilitato a motivare le conclusioni cui perviene. Sui questa linea anche una recente decisione del Tar

0
86

Che cos’è un algoritmo? Onde evitare di rispondere in modo errato alla domanda ho fatto
ricorso al dizionario Treccani che così recita: “Termine, derivato dall’appellativo al-
Khuwārizmī del matematico Muḥammad ibn Mūsa del 9° sec., che designa qualunque schema o procedimento sistematico di calcolo (per es. l’algoritmo euclideo, delle divisioni successive, l’algoritmo algebrico, insieme delle regole del calcolo algebrico ecc.). Con un algoritmo si tende a esprimere in termini matematicamente precisi il concetto di procedura generale, di metodo sistematico valido per la soluzione di una certa classe di problemi”. Com’è ormai ben noto gli algoritmi sono ampiamente utilizzati in tutte le aree e in particolare quella delle scienze informatiche.
L’esempio più noto al quale si fa sempre ricorso è quello di Google che per i suoi motori di ricerca muove dal concetto e dall’utilizzazione di algoritmi al fine di dare in tempo reale le informazioni richieste dall’utente. Dunque un importante passo in avanti non solo per l’informatica, per la medicina, per la tecnologia, per l’ingegneria, insomma per ogni comparto delle discipline scientifiche. Ma che cosa succede quando questo utile e importante ritrovato matematico-informatico viene trasferito anche alle scienze cosiddette umane?
L’interrogativo è sorto più volte ed è stato ed è ancora fonte di accese discussioni
riguardo, ad esempio, ai procedimenti di valutazione della ricerca universitaria. Il problema
assume proporzioni preoccupanti – tanto da far scorgere all’orizzonte un tentativo di
dittatura dell’algoritmo – quando si passa (vedi il caso “Rousseau”) all’applicazione alla
dialettica politica di strumenti sempre più invasivi di intelligenza artificiale, in grado di
costruire e diffondere strumenti in grado di individuare i futuri comportamenti di voto. Uno
spiraglio di buon senso giunge dalla notizia – diffusa e commentata in un articolo de “Il
Manifesto” – di una sentenza del Tar Lazio nella quale si dice che “gli algoritmi non possono
mai competere con gli esseri umani nel prendere decisioni che riguardano le persone”. La
sentenza fa riferimento alla decisione che riguarda il trasferimento di alcuni docenti dalla
Puglia alla Lombardia, assunta sulla base di un algoritmo usato dal MIUR al fine di gestire le
modalità e gli esiti dei processi di mobilità. Quali che siano, argomenta ancora la sentenza, le procedure adottate dal punto di vista amministrativo, nulla dà all’amministrazione il diritto di affidarle a un procedimento informatico o matematico. L’algoritmo, si dice nella sentenza, è “del tutto impersonale e orfano di capacità valutazionali delle singole fattispecie concrete, tipiche invece della tradizionale e garantistica istruttoria procedimentale che deve informare l’attività amministrativa”. Non solo, ma la sentenza rileva un dato assai grave e penalizzante per i ricorrenti: la mancanza di motivazione delle decisioni. Insomma un vero e proprio ipse dixit, dove la legge – basata sull’interpretazione della norma e sul confronto processuale – si trova a soccombere dinanzi ai meccanismi algoritmici. E poiché questi meccanismi sono in buona parte adottati dalla pubblica amministrazione e dalle sue fonti politiche si profila all’orizzonte un grave pericolo per il sistema democratico e per l’aureo principio della divisione dei poteri. Nessuno ovviamente e tanto meno io ha in animo di cancellare l’algoritmo. Da filosofo quale sono mi viene in mente il titolo di un famoso saggio di Nietzsche “Sull’utilità e il danno della storia per la vita”, un invito all’equilibrio e a una dialettica aperta e dunque perché non anche “Sull’utilità e il danno dell’algoritmo per la vita?”