AI Governance: framework, strumenti, buone pratiche

Che cos'è la AI Governance?

La governance dell'AI si riferisce alle misure e ai metodi sistematici progettati per guidare e supervisionare lo sviluppo e le applicazioni dell'AI. Garantisce che l'AI sia allineata ai principi etici e ai valori della società. Questo include leggi, regolamenti o qualsiasi linea guida che orienti sia i creatori sia gli utenti dell'AI.

Per raggiungere questo obiettivo, la governance dell'AI mira a mantenere principi come:

• Minimizzare i rischi: evitare bias e potenziali danni
• Equità e trasparenza: promuovere sistemi di AI comprensibili
• Responsabilità: stabilire la responsabilità per gli esiti dell'AI
• Fiducia pubblica: come la società vede le tecnologie di AI

Perché è importante un'AI equa?

Lo sviluppo di applicazioni di AI è il risultato di molti ruoli e pratiche. Spesso le applicazioni di AI si basano sui dati. La raccolta, l'elaborazione e la gestione dei dati sono di per sé questioni delicate e sensibili.

Nel frattempo, i prodotti di AI sono utilizzati in vari campi e settori, potenzialmente su scala molto ampia. Per esempio, ChatGPT è utilizzato ogni settimana da oltre 200 milioni di utenti attivi secondo DemandSage.

Dato l'elevato numero di persone coinvolte nello sviluppo di soluzioni basate sull'AI e l'ampia portata dei loro utenti, si può davvero apprezzare la complessità dell'AI. Ci sono numerosi potenziali problemi che potrebbero emergere.

Per avere un'idea, immagina di candidarti a un lavoro in cui il processo di selezione si affida a un sistema di AI che valuta se sei un candidato idoneo. Questo sistema esamina i candidati in base al loro CV e profilo e filtra quelli ritenuti non adatti alla posizione.

Tuttavia, se questo sistema di AI presenta bias intrinseci o difetti nel suo algoritmo, potrebbe discriminare ingiustamente determinati gruppi di persone in base a fattori come età, genere o etnia. Se un tale sistema fosse ampiamente utilizzato dalle aziende, le conseguenze sarebbero significative.

Questo scenario illustra perché l'equità nell'AI è cruciale: per garantire correttezza, trasparenza e responsabilità in sistemi che possono avere un impatto significativo sulla vita delle persone.

Sorprendentemente, tali discriminazioni non sono rare nemmeno tra gli esseri umani. I ricercatori hanno riscontrato l'esistenza di una discriminazione illegale sistematica basata sui nomi delle persone nel processo di candidatura a un lavoro. I nomi delle minoranze etniche, anche con gli stessi CV di altri candidati, registrano meno successo nelle candidature.

Quindi, se anche le controparti umane di un sistema di AI possono cadere in queste trappole, significa che usare l'AI per un processo decisionale imparziale è impegnativo ma anche fruttuoso.

AI Governance: principi chiave e framework

Una governance dell'AI efficace poggia sui valori umani e sociali. Principi che guidano gli esperti nella valutazione dell'allineamento dei loro sistemi. Questi principi includono:

• Trasparenza: i sistemi di AI dovrebbero offrire chiarezza fornendo una visione trasparente dei loro meccanismi, della raccolta dei dati e degli algoritmi decisionali.
• Equità: garantire un trattamento e previsioni imparziali identificando e mitigando i bias nello sviluppo e nel deployment dei sistemi di AI.
• Responsabilità: definire responsabilità chiare per i sistemi di AI, inclusi protocolli per quando si verificano danni.
• Progettazione human-centric: dare priorità ai valori e al benessere umano sopra ogni altra cosa.
• Privacy: rispettare i diritti alla privacy individuale con solide misure di protezione dei dati.
• Sicurezza e protezione: concentrarsi sulla sicurezza degli utenti e sulla sicurezza del sistema contro conseguenze malevole e indesiderate.

I principali framework di AI governance

Diverse organizzazioni hanno sviluppato framework per guidare le pratiche di governance dell'AI. Tra i più importanti:

1. NIST AI Risk Management Framework: sviluppato dal National Institute of Standards and Technology degli Stati Uniti, il NIST offre un approccio per riconoscere, valutare e controllare i rischi associati ai sistemi di AI nel loro ciclo di vita.
2. Principi OCSE per l'AI: l'Organizzazione per la Cooperazione e lo Sviluppo Economico (OCSE) ha stabilito una serie di principi per un'intelligenza artificiale affidabile. Questi principi danno priorità ai valori centrati sull'uomo, all'equità, alla trasparenza, alla robustezza e alla responsabilità.
3. IEEE Ethically Aligned Design: l'Institute of Electrical and Electronics Engineers (IEEE) ha sviluppato un framework che fornisce linee guida per la progettazione e l'implementazione etica di sistemi autonomi e intelligenti.
4. Linee guida etiche UE per un'AI affidabile: l'Unione Europea ha fornito linee guida per la robustezza tecnica, la privacy, la trasparenza, la diversità, la non discriminazione, il benessere sociale e la responsabilità.
5. Framework specifici di settore: vari settori hanno sviluppato i propri framework di governance dell'AI, personalizzati in base alle loro esigenze e ostacoli specifici. Per esempio:
• Sanità: le linee guida dell'OMS su etica e governance dell'AI per l'assistenza sanitaria
• Finanza: i principi FEAT (Fairness, Ethics, Accountability, and Transparency) della Monetary Authority of Singapore
• Automotive: il framework Safety First for Automated Driving

Questi framework forniscono preziosi binari di sicurezza per le organizzazioni che desiderano implementare pratiche di AI governance, includendo sia principi di alto livello sia raccomandazioni pratiche.

L'AI trova applicazioni in molti campi, tra cui la sanità. Interpretabilità e trasparenza sono due proprietà importanti di tali sistemi. L'immagine qui sotto è un esempio di un sistema di AI che riconosce infezioni da COVID-19:

Fonte: Peng et al., 2022

Buone pratiche per implementare la AI Governance

Mettere in pratica la governance dell'AI richiede un approccio olistico che coinvolga vari stakeholder e molteplici aspetti di un'organizzazione. Ecco alcune best practice per passare all'azione:

Leadership e impegno culturale

Leadership e impegno culturale sono essenziali. I leader dovrebbero sostenere attivamente e promuovere gli standard etici nello sviluppo dell'AI, assicurando che questi principi siano applicati in tutta l'organizzazione.

Ciò implica creare e mantenere linee guida chiare e ben documentate per ogni fase della gestione dei sistemi di AI, compresi sviluppo, test, rilascio e monitoraggio, per garantire che le considerazioni etiche siano integrate nel ciclo di vita dell'AI.

Formazione e aggiornamento

La formazione continua è altrettanto importante. Tutto il personale coinvolto dovrebbe ricevere regolarmente formazione su etica ed equità nell'AI per restare aggiornato su best practice e nuove sfide.

Anche la leadership dovrebbe essere formata sull'impatto e sul significato delle tecnologie di AI. Per gli sviluppatori di AI, una formazione specializzata, su misura per ruoli e progetti specifici, garantisce le conoscenze necessarie per uno sviluppo e un'implementazione responsabili.

Monitoraggio dei sistemi di AI

Non si può sottolineare abbastanza l'importanza del monitoraggio dei sistemi di AI. Implementa sistemi di monitoraggio continuo per tracciare le prestazioni e le previsioni dell'AI. Questo aiuta a identificare e correggere tempestivamente bias o conseguenze indesiderate.

Valutazioni regolari assicurano che i sistemi di AI funzionino come previsto e soddisfino gli standard richiesti.

Documentazione

Una documentazione accurata è essenziale per trasparenza e responsabilità nello sviluppo dell'AI. Mantieni registri dettagliati di ogni fase del processo di sviluppo, incluse fonti dei dati, architetture dei modelli e metriche di performance.

Stabilisci un framework per le decisioni etiche, tramite policy interne o standard esterni riconosciuti, a supporto di pratiche chiare e responsabili lungo tutto il ciclo di vita dell'AI.

Coinvolgimento degli stakeholder

Coinvolgere gli stakeholder è importante per allineare i sistemi di AI a esigenze e valori diversi. Comunica attivamente con utenti, comunità ed esperti per assicurarti che la progettazione e i valori del sistema di AI siano compresi e rispondano alle esigenze di tutti i soggetti coinvolti.

Valorizzare prospettive diverse aiuta a prevenire danni involontari e garantisce che i sistemi di AI siano inclusivi ed equi.

Miglioramento continuo

Il miglioramento continuo è fondamentale per mantenere standard elevati nello sviluppo dell'AI. Definisci e traccia metriche relative a etica e bias per valutare le performance del sistema di AI e apportare miglioramenti iterativi basati su questi dati.

Raccogli e incorpora feedback da utenti e stakeholder per assicurarti che i sistemi di AI siano allineati agli standard etici.

Strumenti e tecnologie per la AI Governance

Con l'evoluzione della governance dell'AI, si sta costruendo un ecosistema crescente di strumenti e tecnologie per supportare le organizzazioni nell'adozione delle pratiche giuste. Questi strumenti coprono molteplici aspetti della governance dell'AI, dal rilevamento dei bias all'explainability e alla gestione del rischio.

1. Rilevamento e mitigazione dei bias:
• IBM AI Fairness 360: un toolkit open source che "può aiutare a esaminare, riportare e mitigare discriminazioni e bias nei modelli di machine learning lungo l'intero ciclo di vita delle applicazioni di AI".
• Aequitas: un toolkit open source di valutazione di bias ed equità per sviluppatori ML e data analyst.
2. Spiegabilità e interpretabilità:
• LIME (Local Interpretable Model-agnostic Explanations): una tecnica che spiega le previsioni di qualsiasi modello di machine learning "black-box".
• SHAP (SHapley Additive exPlanations): un approccio di teoria dei giochi per spiegare l'output di qualsiasi modello di machine learning analizzando l'importanza di ciascuna feature e le loro relazioni.
3. Valutazione e gestione del rischio:
• AI Risk Management Framework Navigator: un altro strumento sviluppato dal NIST per aiutare le organizzazioni a identificare e mitigare i rischi legati al rilascio e all'operatività dei sistemi di AI
4. Privacy:
• OpenMined: un progetto open source per costruire sistemi di machine learning in cui la privacy è più cruciale di quanto spesso si creda
• TensorFlow Privacy: una libreria per addestrare modelli di machine learning preservando la privacy dei dati di training
5. Documentazione dei modelli:
• Model Cards: un framework di HuggingFace per una rendicontazione trasparente delle informazioni sui modelli di AI
• FactSheets: l'approccio di IBM per aumentare fiducia e trasparenza nell'AI

TensorFlow Privacy. (Fonte: TensorFlow)

Questi strumenti e tecnologie aiutano a garantire che i sistemi di AI siano gestiti e mantenuti in modo responsabile. Dipartimenti e ruoli diversi in un'organizzazione hanno i propri strumenti e criteri in materia di AI governance. Tuttavia, è importante notare che gli strumenti da soli non bastano. Devono andare di pari passo con processi solidi e supervisione per essere efficaci.

Caso di studio: Responsible AI di Microsoft

Diverse aziende hanno adottato misure pratiche per implementare la governance dell'AI. Un esempio è il programma Responsible AI di Microsoft. Microsoft è un attore di primo piano nell'AI di oggi, ma ha avuto la sua parte di progetti falliti—il più noto è Tay.

Rilasciato originariamente da Microsoft nel 2016, Tay era un chatbot che avrebbe dovuto imparare e interagire su Twitter. A causa della mancanza di misure di sicurezza, nel giro di sole 24 ore gli utenti di Twitter hanno insegnato a Tay a diventare fascista, offensivo e razzista. Tay imparava da loro senza alcun guardrail su cosa imparare e cosa evitare. Tay è stato infine disattivato, ma è diventato una lezione preziosa.

Microsoft è emersa nello sviluppo e nell'implementazione di pratiche di governance dell'AI attraverso il suo programma Responsible AI. Uno degli aspetti notevoli del programma è la sua struttura operativa. L'azienda ha istituito un comitato per l'etica dell'AI, noto come Aether Committee (AI, Ethics, and Effects in Engineering and Research), che esamina i progetti di AI per potenziali criticità etiche. Questo comitato riunisce esperti di vari campi per valutare gli impatti delle tecnologie di AI sulla società e fornire orientamento.

Inoltre, Microsoft ha sviluppato e rilasciato diversi strumenti e framework per aiutare gli sviluppatori a implementare pratiche di AI responsabile nel lavoro quotidiano. Il Responsible AI Toolbox è un esempio che aiuta a valutare e migliorare l'equità dei sistemi di AI.

Il panorama normativo e delle policy

Regolamentazione e governance, pur diverse nella definizione, si influenzano a vicenda. Governi e organismi regolatori di tutto il mondo stanno sviluppando nuove policy e regolamenti per governare lo sviluppo e l'uso dell'AI. Comprendere questo panorama in evoluzione è necessario per le organizzazioni che implementano pratiche di AI governance nel loro flusso di lavoro.

L'AI Act dell'UE

Uno degli sviluppi più significativi nella regolamentazione dell'AI è il Regolamento europeo sull'intelligenza artificiale (EU AI Act). I punti chiave di questo regolamento includono:

1. Approccio basato sul rischio: i sistemi di AI sono classificati in base al loro livello di rischio, con requisiti diversi per ciascuna categoria.
2. Pratiche di AI vietate: alcune applicazioni, come il social scoring governativo, sono proibite.
3. Sistemi di AI ad alto rischio: sono fissati requisiti stringenti per i sistemi utilizzati in aree critiche come sanità, istruzione e forze dell'ordine.
4. Requisiti di trasparenza: obblighi di informare gli utenti quando e in quale forma interagiscono con sistemi di AI.

Altri regolamenti emergenti

Sebbene l'EU AI Act sia forse la regolamentazione sull'AI più completa ad oggi, altri organismi stanno sviluppando i propri approcci.

Il Canada ha proposto l'Artificial Intelligence and Data Act (AIDA) come parte di una più ampia riforma della privacy, mentre la legge sulla sicurezza dell'AI della California, SB 1047, al momento della stesura di questo articolo è in procinto di diventare legge.

Implicazioni per le aziende

Il panorama normativo in evoluzione ha grandi implicazioni per le organizzazioni che sviluppano sistemi di AI:

1. Requisiti di conformità: le organizzazioni dovranno assicurarsi che i loro sistemi di AI rispettino i regolamenti. Questi potrebbero essere in contrasto con le pratiche attuali, richiedendo alla fine cambiamenti significativi alle procedure di sviluppo e rilascio.
2. Documentazione e trasparenza: maggiore enfasi sulla documentazione dei processi di sviluppo dell'AI e sulla fornitura di spiegazioni per decisioni guidate dall'AI. L'entità di tale requisito, ovviamente, varia a seconda della legge.
3. Gestione del rischio: necessità di una solida valutazione del rischio, in particolare per i sistemi di AI che potrebbero essere classificati come "ad alto rischio".
4. Considerazioni globali: le organizzazioni che operano in più giurisdizioni dovranno affrontare requisiti normativi potenzialmente in conflitto.
5. Considerazioni etiche: molte normative incorporano principi etici, richiedendo alle organizzazioni di considerare in modo più esplicito le implicazioni etiche dei loro sistemi di AI.

Che la tua organizzazione o il tuo team siano soggetti a queste leggi dipende dalla giurisdizione, dal tipo di prodotto che costruisci e dal livello di rischio associato al prodotto.

Il dibattito sulla regolamentazione dell'AI: pro e contro

La regolamentazione è uno dei temi più discussi nell'AI. Sebbene la maggior parte della comunità concordi che "una certa" forma di regolamentazione sia utile, non c'è accordo sulla natura, l'estensione e su chi debba farsi carico di queste leggi.

La complessità della questione ha portato a dibattiti accesi tra industria, accademia, governo e società civile, ognuno dei quali discute i potenziali benefici e svantaggi dei quadri regolatori. Comprendere questi argomenti è necessario per sviluppare una prospettiva corretta e imparziale.

Argomenti a favore delle regolamentazioni sull'AI

I sostenitori delle regolamentazioni affermano che queste linee guida sono essenziali per proteggere il pubblico e che regolamenti ben progettati possono tenere sotto controllo i potenziali danni dell'AI. Violazioni della privacy, bias e sostituzione di posti di lavoro sono alcuni di questi danni potenziali. Ritengono che un insieme di leggi e standard chiari possa evitare una "corsa al ribasso" in termini di etica. Inoltre, questi standard possono svolgere un ruolo cruciale nel costruire fiducia pubblica nelle tecnologie di AI.

Un altro argomento a favore è l'ampio impatto sociale dell'AI. Poiché queste tecnologie influenzano sempre più ambiti come l'occupazione, le interazioni sociali e i processi democratici, i sostenitori sostengono che un controllo regolatorio sia necessario per garantire che tali impatti siano considerati e gestiti responsabilmente.

Argomenti contro le regolamentazioni sull'AI

I critici sollevano diverse preoccupazioni sui loro effetti negativi. Un argomento principale contro regolamenti rigidi è il timore che possano alla fine soffocare l'innovazione. Temono che regole eccessivamente restrittive rallentino l'AI, frenando potenziali progressi benefici in campi come la sanità, il cambiamento climatico e la ricerca scientifica, e che il ritmo rapido di sviluppo dell'AI renda i regolamenti rapidamente obsoleti, potenzialmente irrilevanti o persino controproducenti.

Un'altra preoccupazione significativa riguarda le difficoltà di conformità per le aziende più piccole e le startup. Il costo, il personale e la complessità di adempiere a regolamenti estesi potrebbero essere opprimenti per questi soggetti, riducendo concorrenza e innovazione nel settore dell'AI. Di conseguenza, ciò potrebbe portare al monopolio dello sviluppo dell'AI da parte di poche grandi aziende tecnologiche che dispongono di risorse adeguate per affrontare questi complessi scenari normativi.

Molti esperti di AI mettono in dubbio se regolamentare l'AI a livello di tecnologia, anziché di applicazione, sia l'approccio giusto. Sostengono che, come altre tecnologie quali elettricità e internet, l'AI non è intrinsecamente dannosa. Il modo in cui si usano tali tecnologie può essere malevolo oppure costruttivo. La sicurezza dell'AI è una proprietà delle applicazioni più che della tecnologia stessa, come sottolineato in questo articolo.

Responsabilità degli sviluppatori

È anche importante notare che i valori che rendono i sistemi di AI sicuri—come equità, bias o trasparenza—pur avendo radici nella società e nelle preoccupazioni etiche, sono anche una questione tecnica.

È fondamentale riconoscere che modelli di AI con bias sono anche tecnicamente difettosi. Un modello che manifesta bias, per definizione, non rappresenta o non elabora accuratamente l'intero spettro di dati che dovrebbe gestire.

Questa carenza tecnica può portare a prestazioni ridotte, previsioni inaccurate e risultati inaffidabili. Da questo punto di vista, affrontare i bias e promuovere l'equità nei modelli di AI non è solo una questione etica, ma una sfida tecnica fondamentale che incide direttamente sulla qualità dei sistemi che costruiamo.

Questi valori devono essere rispettati e infusi nei sistemi di AI dagli sviluppatori che li costruiscono, anche in assenza di leggi o standard regolatori. Ricercatori e sviluppatori che lavorano su equità e mitigazione dei bias sono spesso impegnati in attività profondamente tecniche.

Considera un sistema di AI sviluppato per assistere i dipendenti di una banca nella valutazione delle richieste di prestito. Se, a causa di bias storici nelle pratiche di concessione, i dati di training riflettono uno schema in cui determinati gruppi razziali sono stati respinti in modo sproporzionato o hanno ricevuto condizioni meno favorevoli, e il sistema di AI impara ad associare la razza ai punteggi dei richiedenti, allora questo sistema è "tecnicamente scadente" prima ancora che sia "eticamente inaccettabile". Questo esempio mostra che affrontare i bias nei sistemi di AI non è solo un incentivo etico ma anche una necessità tecnica.

Organizzazioni e individui possono utilizzare trasparenza e documentazione lungo l'intero ciclo di sviluppo dell'AI per affrontare preoccupazioni e costruire fiducia pubblica. Questa "trasparenza algoritmica" include una comunicazione chiara sullo scopo del modello, le fonti dei dati, la metodologia e le potenziali limitazioni del sistema. Come sviluppatore, puoi essere chiaro e trasparente comunicando:

• Il processo di training del modello
• Dettagli sul dataset utilizzato
• Eventuali passaggi di preprocessing dei dati
• L'algoritmo scelto

Questa trasparenza non solo aiuta a identificare e correggere difetti tecnici, ma dimostra anche un impegno verso uno sviluppo etico dell'AI, aumentando così la fiducia del pubblico nella tecnologia.

Conclusione

Questo articolo ha esplorato la natura della governance dell'AI, le considerazioni etiche, i quadri normativi e le implementazioni tecniche. L'importanza della AI governance risiede nella sua capacità di identificare i rischi prima che causino problemi, guadagnare la fiducia del pubblico e indirizzare il potere dell'AI verso il bene e il beneficio sociale.

Abbiamo anche esaminato vari aspetti della governance dell'AI, inclusi strumenti e tecnologie disponibili, iniziative aziendali e il panorama normativo in evoluzione. Abbiamo inoltre considerato l'attuale dibattito sulla regolamentazione dell'AI, presentando argomenti sia a favore sia contro questa forma di supervisione.

Alla fine, la responsabilità di uno sviluppo dell'AI etico e responsabile non ricade solo sugli organismi regolatori, ma anche sulle aziende e sugli individui che creano queste tecnologie. Come abbiamo visto, affrontare questioni come bias ed equità nei sistemi di AI non è solo una preoccupazione etica, ma una necessità tecnica.