Che cos'è l'AI responsabile? Un approccio comparativo

Che cos'è l'AI responsabile?

Non esiste ancora una definizione universalmente condivisa di "AI responsabile". In alcuni casi viene chiamata AI affidabile, etica, sicura o protetta. In altri, questi sono semplicemente principi ricompresi in una nozione più ampia di RAI o considerati categorie differenti.

La crescente attenzione verso un'AI responsabile, etica, affidabile, sicura e protetta nasce dalla preoccupazione diffusa per i suoi potenziali impatti negativi, sia intenzionali che non intenzionali.

L'Institute of Electrical and Electronics Engineers (IEEE) attribuisce questa preoccupazione all'esclusione tradizionale dell'analisi etica dalla pratica ingegneristica, dove gli standard etici di base legati a sicurezza, protezione, funzionalità, giustizia, bias, dipendenza e danni sociali indiretti erano spesso considerati fuori campo.

Tuttavia, dato il potenziale di scalabilità e l'ampio impatto dell'AI in ogni aspetto della società e della nostra vita quotidiana, è essenziale prevedere e mitigare i rischi etici come pratica standard. L'attuale approccio di rilasciare tecnologia nel mondo senza un'adeguata supervisione, lasciando ad altri la gestione delle conseguenze, non è più accettabile.

Eppure, passare dalla teoria e dai principi etici a una pratica concreta e specifica per il contesto rimane un ostacolo significativo all'adozione su larga scala di un'analisi sistematica dell'impatto etico nell'ingegneria del software.

Principi dell'AI responsabile

Guardando alla letteratura, possiamo osservare un notevole sviluppo dei principi della RAI di cui si discute. Vediamoli brevemente.

Quadri etici

L'AI responsabile pone l'accento sull'uso di quadri etici per garantire responsabilità, dovere e trasparenza nei sistemi di AI. Ciò include affrontare questioni come privacy, autonomia e bias.

Trasparenza e spiegabilità

La trasparenza negli algoritmi di AI e nei processi decisionali è cruciale per costruire fiducia tra gli stakeholder. Explainable AI (XAI) mira a creare modelli interpretabili e comprensibili, promuovendo trasparenza e fiducia.

Bias ed equità

L'AI responsabile punta a identificare e correggere i bias negli algoritmi per promuovere decisioni eque. Ciò comporta l'uso di dataset diversificati e inclusivi per prevenire risultati discriminatori.

Per saperne di più sui bias nell'AI, ascolta questo podcast su Fighting for Algorithmic Justice with Dr. Joy Buolamwini.

Governance e regolamentazione

Lo sviluppo di standard e quadri per la governance dell'AI è essenziale per guidare l'uso responsabile dell'AI. Ciò include la creazione di approcci strutturati per mitigare i rischi a vari livelli, dai singoli ricercatori fino alle regolamentazioni governative.

Impatto sociale e ambientale

L'AI responsabile considera gli impatti socio-economici e ambientali più ampi dell'AI, come gli effetti su occupazione, disuguaglianza e consumo di risorse e il loro potenziale di causare mercati digitali iniqui o danni ambientali dovuti all'uso di risorse.

Equità, sicurezza e privacy

Gli sforzi della Commissione europea per regolamentare l'AI evidenziano l'importanza di equità, sicurezza, privacy, spiegabilità, sicurezza e riproducibilità come componenti dell'AI responsabile.

Responsabilità morale e legale

Le discussioni sull'AI responsabile spesso coinvolgono la responsabilità morale, che comprende condizioni causali ed epistemiche. Ciò significa che le azioni dell'AI dovrebbero causare risultati e che gli agenti dovrebbero essere consapevoli delle conseguenze morali. I quadri giuridici esplorano anche responsabilità, imputabilità e colpevolezza per i sistemi di AI.

Coinvolgimento degli stakeholder

Un quadro di AI responsabile spesso prevede di chiamare alla responsabilità tutti gli stakeholder, inclusi sviluppatori, utenti e potenzialmente gli stessi sistemi di AI.

Tassonomie alternative dei principi di AI responsabile nel mondo accademico

Nel mondo accademico, alcune delle più ampie rassegne sistematiche dei principi di etica dell'AI hanno prodotto tassonomie in parte diverse. Ad esempio, Jobin et al. hanno esaminato 84 linee guida etiche e proposto 11 principi:

• Trasparenza
• Giustizia ed equità
• Non maleficenza
• Responsabilità
• Privacy
• Beneficenza
• Libertà e autonomia
• Fiducia
• Dignità
• Sostenibilità
• Solidarietà

Com'era prevedibile, hanno riscontrato un'ampia divergenza nel modo in cui questi principi venivano interpretati e nelle modalità di applicazione suggerite dalle raccomandazioni. Hanno però rilevato alcune evidenze di convergenza attorno a cinque principi fondamentali:

• Trasparenza
• Giustizia ed equità
• Non maleficenza
• Responsabilità
• Privacy

Tuttavia, altri sostenitori suggeriscono che la miriade di quadri di AI etica possa essere consolidata in soli cinque meta-principi:

• Rispetto dell'autonomia
• Beneficenza
• Non maleficenza
• Giustizia
• Esplicabilità

Principi OCSE sull'AI responsabile

Le organizzazioni internazionali hanno contribuito attivamente alle discussioni globali su come queste definizioni si stiano delineando, a fini di policy e di armonizzazione.

L'Organizzazione per la Cooperazione e lo Sviluppo Economico (OCSE)—dove opero come esperta di AI per Rischi e Accountability, oltre che per il Monitoraggio degli Incidenti—ha proposto un elenco completo di principi per un'AI affidabile.

Questi principi promuovono un uso dell'AI innovativo, affidabile e rispettoso dei diritti umani e dei valori democratici. Inizialmente adottati nel 2019, sono stati aggiornati a maggio 2024 per restare solidi e adeguati allo scopo alla luce delle nuove evoluzioni tecnologiche e di policy.

Oggi, l'Unione Europea, il Consiglio d'Europa, gli Stati Uniti, le Nazioni Unite e altre giurisdizioni utilizzano la definizione OCSE di sistema di AI e ciclo di vita riportata di seguito nei loro quadri legislativi e regolatori e nelle linee guida.

In sintesi, si tratta di principi basati sui valori, raggruppati nelle seguenti categorie:

Crescita inclusiva, sviluppo sostenibile e benessere

Gli stakeholder dell'AI dovrebbero impegnarsi proattivamente in una gestione responsabile di un'AI affidabile perseguendo risultati benefici per le persone e per il pianeta, come potenziare le capacità umane e la creatività, promuovere l'inclusione delle popolazioni sottorappresentate, ridurre le disuguaglianze economiche, sociali, di genere e altre, e proteggere gli ambienti naturali, favorendo così crescita inclusiva, benessere, sviluppo sostenibile e sostenibilità ambientale.

Diritti umani e valori democratici, inclusi equità e privacy

Gli attori dell'AI dovrebbero rispettare lo stato di diritto, i diritti umani e i valori democratici incentrati sull'uomo durante l'intero ciclo di vita del sistema di AI. Questi includono non discriminazione ed eguaglianza, libertà, dignità, autonomia degli individui, privacy e protezione dei dati, diversità, equità, giustizia sociale e diritti del lavoro riconosciuti a livello internazionale.

Trasparenza e spiegabilità

Gli attori dell'AI dovrebbero impegnarsi per la trasparenza e una divulgazione responsabile riguardo ai loro sistemi. A tal fine, dovrebbero fornire informazioni significative, adeguate al contesto e in linea con lo stato dell'arte, per favorire una comprensione generale dei sistemi di AI, incluse le loro capacità e limitazioni.

Robustezza, sicurezza e protezione

I sistemi di AI dovrebbero essere robusti, sicuri e protetti durante l'intero ciclo di vita affinché, in condizioni di uso normale, uso prevedibile o improprio, o altre condizioni avverse, funzionino in modo appropriato e non comportino rischi di sicurezza e/o protezione irragionevoli.

Accountability

Gli attori dell'AI dovrebbero essere responsabili del corretto funzionamento dei sistemi di AI e del rispetto dei principi di cui sopra, in base ai loro ruoli, al contesto e in linea con lo stato dell'arte. A tal fine, dovrebbero garantire la tracciabilità, anche in relazione a dataset, processi e decisioni prese durante l'intero ciclo di vita del sistema di AI. Questa tracciabilità dovrebbe consentire l'analisi degli output del sistema di AI e risposte alle richieste, adeguate al contesto e coerenti con lo stato dell'arte.

Principi ISO sull'AI responsabile 

D'altra parte, per la International Standards Organization (ISO), ci sono tre aree chiave da considerare affinché un sistema di AI sia affidabile:

1. Fornirgli dati buoni e diversificati
2. Garantire che gli algoritmi possano gestire tale diversità
3. E testare il software risultante per eventuali etichettature errate o correlazioni deboli

L'organizzazione fornisce le seguenti linee guida per raggiungere questo obiettivo:

1. Progettare per le persone utilizzando un set diversificato di utenti e scenari d'uso e integrare questo feedback prima e durante l'intero ciclo di vita dell'AI.
2. Usare metriche multiple per valutare training e monitoraggio, inclusi sondaggi utente, indicatori complessivi di performance del sistema e tassi di falsi positivi e falsi negativi suddivisi per diversi sottogruppi.
3. Indagare i dati grezzi alla ricerca di errori (ad es. valori mancanti o non allineati, etichette errate, campionamento), distorsioni nel training (ad es. metodi di raccolta dati o bias sociali intrinseci) e ridondanze—tutti elementi cruciali per garantire i principi RAI di equità, parità e accuratezza nei sistemi di AI.
4. Comprendere i limiti di un dato modello per mitigare i bias, migliorare la generalizzazione, garantire prestazioni affidabili in scenari dinamici e comunicarli a sviluppatori e utenti.
5. Testare continuamente il modello rispetto ai principi dell'AI responsabile per assicurarsi che consideri adeguatamente le prestazioni nel mondo reale e il feedback degli utenti, migliorando soluzioni di breve e lungo periodo ai problemi.

L'approccio dei leader del settore all'AI responsabile

Per quanto riguarda esempi concreti di leader del settore, possiamo osservare netti contrasti nella nomenclatura e nelle tassonomie, con comprensioni differenti dei concetti di RAI, AI affidabile, AI etica e altre interpretazioni coniate per le loro operazioni o applicazioni.

Microsoft

Microsoft, ad esempio, sostiene i seguenti principi di AI responsabile:

• Equità
• Affidabilità e sicurezza
• Privacy e protezione
• Inclusività
• Trasparenza e responsabilità

Apple

D'altro canto, Apple afferma che la propria AI è progettata in base ai suoi valori fondamentali e costruita su una base di innovazioni rivoluzionarie in materia di privacy, e ha creato un insieme di principi di AI responsabile per guidare lo sviluppo degli strumenti di AI, così come dei modelli che li sostengono:

• Dare potere agli utenti con strumenti intelligenti: Individuare aree in cui l'AI può essere utilizzata responsabilmente per creare strumenti che rispondano a specifiche esigenze degli utenti, rispettando il modo in cui scelgono di usare questi strumenti per raggiungere i loro obiettivi.
• Rappresentare gli utenti: Creare prodotti profondamente personali con l'obiettivo di rappresentare in modo autentico gli utenti di tutto il mondo, per evitare di perpetuare stereotipi e bias sistemici negli strumenti e nei modelli di AI.
• Progettare con cura: Adottare precauzioni in ogni fase del processo, compresi design, addestramento dei modelli, sviluppo delle funzionalità e valutazione della qualità, per individuare come i nostri strumenti di AI possano essere usati in modo improprio o causare potenziali danni.
• Proteggere la privacy: Raggiungere questo obiettivo tramite una potente elaborazione on-device e un'infrastruttura rivoluzionaria, assicurando di non utilizzare i dati personali privati o le interazioni degli utenti per addestrare i loro modelli di base.

Nvidia

Nvidia la chiama AI affidabile e ritiene che l'AI debba rispettare le normative sulla privacy e la protezione dei dati, operare in modo sicuro e protetto, funzionare in modo trasparente e responsabile, evitare bias e discriminazioni indesiderate, e segnala i suoi quattro principi fondamentali:

• Privacy
• Sicurezza e protezione
• Trasparenza 
• Non discriminazione

Google

In modo parzialmente diverso, Google parla di "Obiettivi per le applicazioni di AI" che devono essere:

• Essere socialmente utili.
• Evitare di creare o rafforzare bias ingiusti.
• Essere costruite e testate per la sicurezza.
• Essere responsabili nei confronti delle persone.
• Incorporare principi di progettazione per la privacy.
• Mantenere elevati standard di eccellenza scientifica.
• Essere rese disponibili per l'uso in conformità con questi principi per limitare applicazioni potenzialmente dannose o abusive.

Conclusione

Non c'è ancora consenso su cosa esattamente costituisca AI responsabile, AI affidabile, AI etica, AI sicura e protetta, né se questi siano termini autonomi o se possano convergere. Tuttavia, è incoraggiante vedere che gli elementi di questi termini sono comuni e condivisi—almeno in teoria—attorno agli stessi principi fondamentali nel mondo accademico, nelle organizzazioni internazionali e nell'industria.

In generale, possiamo dire che la RAI è una disciplina emergente volta a garantire che lo sviluppo, la distribuzione e l'uso dell'intelligenza artificiale avvengano in modo incentrato sull'essere umano e allineato nella pratica ai diritti umani fondamentali, sia sotto il profilo etico che legale.