In che modo l’intelligenza artificiale sta modificando i processi decisionali nelle organizzazioni e nella Pubblica Amministrazione?
Per rispondere a questa domanda cruciale, sabato 7 marzo, nell’ambito di IntelligentIA – A new intelligence for a new Era, il CDTI ha curato il workshop “Oltre l’algoretica: come l’AI cambia il potere decisionale”.
Il panel, ideato e strutturato nell’impianto dei contenuti da Monica Gabrielli, socia CDTI, ha guidato il confronto lungo alcune direttrici chiave del cambiamento in atto.
Perché non basta più parlare solo di etica dell’AI
Ad aprire i lavori, Maria Pia Giovannini, presidente del CDTI, che ha richiamato l’importanza del percorso compiuto negli ultimi anni sul piano dei principi etici, sottolineando però come oggi questo non sia più sufficiente. Se l’algoretica ha contribuito a mettere a fuoco valori fondamentali come centralità della persona, responsabilità e tutela dei diritti, la sfida attuale è capire dove e come l’IA incida concretamente sul potere decisionale, modificando l’ambiente informativo in cui il giudizio umano prende forma. In questo quadro si inserisce anche l’adesione del CDTI alla Rome Call for AI Ethics.
Dove cambia il potere decisionale: organizzazioni e PA
Giovannini prosegue presentando la relazione della socia Gabrielli, che ha ideato e strutturato il seminario nei suoi contenuti.
La sua relazione entra nel merito di dove l’Intelligenza Artificiale stia già modificando il potere decisionale nelle organizzazioni complesse e nella Pubblica Amministrazione. A partire dai dati dell’Osservatorio Artificial Intelligence del Politecnico di Milano, viene evidenziato come l’IA non sostituisca il decisore umano, ma agisca a monte dei processi decisionali, selezionando, ordinando e interpretando le informazioni che alimentano il giudizio.
La relazione evidenzia inoltre i limiti del modello Human-in-the-Loop, spesso interpretato come semplice presenza formale dell’umano nel processo. Il passaggio proposto è verso l’idea di Human-is-the-Purpose, in cui l’umano non è un validatore finale, ma il soggetto che mantiene la capacità di comprendere, esercitare giudizio e assumersi la responsabilità delle decisioni nei contesti mediati dall’intelligenza artificiale.
Come il potere decisionale nasce nell’infrastruttura, prima dell’algoritmo
Successivamente, Anna Maria Arcese, Partner di Lutech Next, ha portato il focus su un livello spesso meno visibile ma decisivo: l’infrastruttura tecnologica. Architetture dei sistemi, integrazione dei dati e livelli di automazione determinano infatti quali decisioni diventano automatiche, quali restano umane e quali scompaiono del tutto dal processo decisionale. In questo senso, il potere decisionale non viene delegato formalmente all’algoritmo, ma emerge dalle scelte infrastrutturali che ne rendono possibile l’utilizzo.
Responsabilità e diritti nelle decisioni assistite da AI
Il secondo intervento, a cura dell’avvocato e docente Caterina Flick, ha affrontato le implicazioni giuridiche delle decisioni assistite da AI. Quando una decisione è mediata da sistemi automatizzati diventa più complesso attribuire responsabilità, garantire il diritto alla spiegazione e tutelare i diritti fondamentali delle persone coinvolte. Privacy, utilizzo dei dati, proprietà intellettuale e rischio di discriminazioni rappresentano ambiti in cui l’opacità dei sistemi può generare problemi giuridici concreti.
Competenze integrate per il governo del potere decisionale
A chiudere il panel è stata Rosamaria Barrese, PM e ICT Consultant di SVC Consulting, che ha riportato il confronto sul tema delle competenze necessarie per governare il potere decisionale mediato dall’AI. Standard, interoperabilità, qualità dei dati e nuove normative come l’AI Act richiedono infatti competenze integrate: capacità cognitive e decisionali, competenze digitali e competenze di governance, rischio ed etica applicata.Dal confronto è emerso con chiarezza che l’intelligenza artificiale, nella maggior parte dei casi, non decide al posto delle persone, ma influenza ciò che viene visto, prioritizzato e considerato rilevante. È proprio in questo spazio, spesso meno visibile ma decisivo, che cambia l’equilibrio del potere decisionale.