Corso
Capire il Machine Learning
2 ore
313.7K
Benvenuto all’ultimo capitolo della nostra serie mensile “Dati senza segreti”. Nell’ambito del Mese della Data Literacy, questa serie ha chiarito concetti chiave dal mondo dei dati e ha provato a rispondere a quelle domande che forse non osi fare. Se vuoi partire dall’inizio, leggi il primo articolo della serie: Cos’è un dataset?
In questo articolo, proseguiremo il tema del precedente capitolo di “Dati senza segreti” e parleremo dei potenziali effetti dannosi dell’IA, di come possa perpetuare pregiudizi contro determinati gruppi di persone e dei diversi tipi di bias dell’IA di cui tutti dovrebbero essere consapevoli.
Il problema del bias nell’IA
La maggior parte dei sistemi di IA oggi si basa sul machine learning. Il machine learning, per definizione, applica tecniche statistiche avanzate per apprendere schemi dai dati passati e fare previsioni su eventi futuri.
L’adozione su larga scala del machine learning ha portato a un forte aumento dei casi in cui sono state fatte previsioni distorte. Gli algoritmi di IA con bias sono una seria preoccupazione nella comunità dell’IA e sono il prodotto dei dati utilizzati per l’addestramento dei modelli. Il bias può manifestarsi in molte forme: può essere sociale o strutturale ed esistere nei confronti di un particolare genere, colore della pelle, religione o nazionalità.
Di conseguenza, gli algoritmi di IA apprendono bias dai dati di addestramento mentre cercano di imitare il giudizio umano. Rivediamo alcuni esempi del passato in cui previsioni distorte dell’IA hanno avuto un impatto negativo sulla società e sull’umanità nel suo complesso:
Bias di genere: il motore di selezione del personale di Amazon
Amazon aveva sviluppato un motore di reclutamento per automatizzare lo screening dei curriculum dei candidati in vista dei colloqui. Tuttavia, l’algoritmo ha riflesso il bias appreso dai dati storici e ha finito per selezionare soltanto i profili dei candidati uomini.
Bias razziale: algoritmo PredPol
PredPol, o Predictive Policing, costruiva una mappa di calore delle aree a elevata attività criminale e identificava come zone calde località specifiche di minoranze. L’algoritmo era stato addestrato su dati di input faziosi che comprendevano numerosi episodi criminali segnalati in tali aree.
Bias razziale: algoritmo COMPAS
Il software Correctional Offender Management Profiling for Alternative Sanctions (COMPAS) veniva utilizzato per valutare la probabilità che un reo commettesse nuovamente un reato. Tuttavia, nel corso di un’indagine del 2016 l’algoritmo è risultato distorto. Il software etichettava i criminali neri come più propensi a recidivare rispetto ai criminali bianchi.
Come si evince dagli esempi sopra, gli algoritmi di machine learning apprendono bias dai dati di addestramento oltre ad altre regolarità nei dati. Se non affrontato all’origine, il bias può manifestarsi nelle pipeline di IA/ML in molteplici forme. Man mano che l’IA si diffonde nelle organizzazioni e nella società, tutti dovrebbero conoscere i diversi tipi di bias dei sistemi di IA. Di seguito trovi tre dei tipi di bias più comuni nell’IA.
Tre tipi comuni di bias dell’IA
Prejudice bias
Quando i dati di addestramento riflettono pregiudizi, stereotipi e assunzioni sociali esistenti, questi bias vengono incorporati nel modello appreso; tale distorsione è chiamata Prejudice bias. Per esempio, quando cerchi “medico”, il risultato di ricerca comprende molte immagini di medici uomini. Al contrario, una ricerca simile per “infermiere” restituisce immagini di infermiere donne. Questo la dice lunga sugli stereotipi di genere nella società.
Sample Selection Bias
Il sample selection bias si verifica quando i dati di addestramento non sono rappresentativi della popolazione oggetto di studio. Un esempio potrebbe essere quello di sistemi di IA addestrati a rilevare il cancro della pelle. Se il dataset originale non è rappresentativo della popolazione più ampia, questo sistema funzionerà peggio per i membri di un gruppo sottorappresentato nel dataset.
Measurement Bias
Il measurement bias deriva da un errore nel processo di raccolta o misurazione dei dati. Ad esempio, se le immagini provenienti da una fotocamera usata per fornire dati a un sistema di riconoscimento delle immagini sono di scarsa qualità, questo potrebbe portare a risultati distorti contro specifiche popolazioni. Un altro esempio può derivare dal giudizio umano. Per esempio, un algoritmo di diagnosi medica può essere addestrato a prevedere la probabilità di malattia in base a metriche proxy come le visite dal medico invece che sui sintomi reali.
Sviluppare la data literacy per un’IA responsabile
Per tutto questo mese abbiamo evidenziato l’importanza della data literacy per individui e organizzazioni. La data literacy permette agli stakeholder non tecnici di dialogare con esperti di dati e di IA e di comprendere i limiti dei sistemi di IA. Ancora più importante, promuove un confronto bidirezionale tra esperti di dominio ed esperti di IA che consente una discussione ponderata sui potenziali danni di un sistema di IA.
Per dotarti delle conoscenze necessarie ad affrontare queste conversazioni, segui il nostro corso Understanding Machine Learning e inizia il tuo percorso di data literacy. Per altri contenuti sulla data literacy e su “Dati senza segreti”, consulta le seguenti risorse:
Argomenti
