Sessione 37 - La proliferazione degli algoritmi nei processi decisionali e nella valutazione: rischi ed opportunità emergenti
Elenco sessioni 2022
Visite: 136
Coordinatori di sessione: Cristiano Felaco e Rosaria Lumino (Università di Napoli Federico II)
Descrizione
Gli algoritmi sono oggi parte integrante della società, regolano i processi di selezione e di classificazione delle informazioni e sono impiegati in diversi processi decisionali e/o settori di intervento, sia nel settore pubblico che in quello privato.
La proliferazione degli algoritmi nella società ha prodotto numerosi benefici, come la possibilità di elaborare con maggiore efficienza le informazioni, la capacità di poter personalizzare su larga scala diversi prodotti e servizi (Kitchin, 2017), e più in generale l’osservazione e soprattutto la previsione più puntuale dei comportamenti sociali ed individuali. Nonostante i vantaggi associati all'uso degli algoritmi nella vita sociale, la loro adozione massiva comporta diversi rischi. Le decisioni prese sulla base del ricorso ad algoritmi potrebbero infatti non necessariamente tenere in considerazione i pregiudizi sistemici incorporati nei dati (Aragona, Felaco, 2020), riproducendo e, in alcuni casi, ampliando le disuguaglianze sociali esistenti (Eubanks, 2018; Noble, 2018). In questa prospettiva, i rischi sociali maggiori si verificano quando gli algoritmi regolano i processi decisionali soprattutto per la gestione dei servizi pubblici, come ad esempio l’accesso all’assistenza sanitaria, la distribuzione di benefici e trasferimenti, e così via. Il ricorso ad algoritmi a fini decisionali e valutativi sta crescendo in tutta Europa, Italia inclusa, e c’è da attendersi che l’investimento del PNRR nella digitalizzazione, sia nel settore privato che nella Pubblica Amministrazione, rappresenterà un sicuro impulso al loro utilizzo.
La sessione intende ospitare contributi teorici o empirici che riflettano criticamente su opportunità e rischi connessi all’introduzione di algoritmi a sostegno di processi decisionali con particolare attenzione a:
- il ricorso a forme di machine learning per la distribuzione di benefici sociali e/o trasferimenti;
- l’uso di algoritmi per la profilazione degli utenti di servizi pubblici e/o sociali;
- studi di caso condotti nel settore pubblico e/o privato.
