Programma
Nozioni di base sulla legge dell'UE sull'intelligenza artificiale
9 ore
Che cos’è la regolamentazione dell’IA?
La regolamentazione dell’IA comprende leggi, politiche e linee guida pensate per supervisionare lo sviluppo, l’implementazione e l’uso dei sistemi di IA. L’obiettivo è garantire che le tecnologie di IA siano utilizzate in modo etico, sicuro e responsabile, riducendo al minimo rischi potenziali come bias, violazioni della privacy e danni a individui o società.
L’etica dell’IA è il campo che studia come sviluppare e utilizzare l’IA in modo equo, responsabile, trasparente e rispettoso dei valori umani. Leggi il nostro blog Introduzione all’etica dell’IA per capire i rischi a breve e lungo termine dell’IA.
La regolamentazione dell’IA copre un’ampia gamma di temi, tra cui:
- Privacy dei dati: garantire che i sistemi di IA trattino i dati personali in conformità con le leggi sulla privacy.
- Bias ed equità: prevenire che l’IA perpetui o amplifichi discriminazioni e pregiudizi.
- Trasparenza: rendere i sistemi di IA spiegabili e comprensibili, in modo che le loro decisioni siano chiare e attribuibili.
- Sicurezza: assicurare che le tecnologie di IA non causino danni, soprattutto in settori critici come sanità, finanza e sistemi autonomi.
- Responsabilità: stabilire responsabilità chiare per le decisioni prese dai sistemi di IA, inclusi i quadri giuridici sulla responsabilità civile.
- Impatto economico, ambientale e sociale: affrontare la possibile sostituzione di posti di lavoro, le disuguaglianze economiche, gli effetti ambientali e i cambiamenti sociali derivanti dall’IA.
Segui il percorso AI Fundamentals di Datacamp per scoprire le basi dell’IA, approfondire modelli come ChatGPT e svelare i segreti dell’IA generativa per orientarti in un panorama in continua evoluzione.
Perché la regolamentazione dell’IA è necessaria?
Il potenziale dell’IA comporta rischi significativi, rendendo la regolamentazione indispensabile. Una delle preoccupazioni più urgenti è la possibilità di esiti dannosi. Ad esempio, i sistemi di IA usati nella giustizia penale hanno mostrato bias, colpendo in modo sproporzionato le comunità emarginate. Se non gestita correttamente, l’IA potrebbe aggravare le disuguaglianze sociali esistenti.
Inoltre, il problema della "scatola nera" è una sfida peculiare dell’IA. Molti sistemi di IA operano in modi che neppure i loro creatori possono spiegare appieno. Senza trasparenza, è difficile capire come questi sistemi prendano decisioni, con conseguenti dubbi sulla responsabilità.
Il bias è un altro tema cruciale. I sistemi di IA sono validi solo quanto i dati su cui sono addestrati e, se quei dati riflettono pregiudizi sociali, anche l’IA li rifletterà. Questo può portare a esiti iniqui in ambiti come assunzioni, prestiti e forze dell’ordine.
Nel 2023, Forbes ha riportato una class action contro UnitedHealthcare (il maggiore assicuratore sanitario degli USA), che accusava l’uso di un algoritmo di IA per negare indebitamente richieste di assistenza prolungata a pazienti anziani.
Senza un quadro normativo, la società potrebbe non essere preparata a questi cambiamenti economici, con conseguenti disuguaglianze e instabilità. Dai un’occhiata anche al nostro articolo IA nella sanità: migliorare la diagnostica, personalizzare le cure e ottimizzare le operazioni; esplora come l’IA sta influenzando il futuro della sanità e come le aziende possono restare al passo con nuove competenze e tecnologie.
Infine, l’IA potrebbe sconvolgere il mercato del lavoro, sostituendo i lavoratori man mano che l’automazione diventa più diffusa. McKinsey riporta che l’IA generativa e altre tecnologie di IA potrebbero automatizzare attività lavorative che oggi assorbono fino al 70% del tempo dei dipendenti.
Questi cambiamenti potrebbero significare che fino a 12 milioni di lavoratori in Europa e negli Stati Uniti dovranno cambiare lavoro. Alcuni lavoratori potrebbero aver bisogno di supporto nel reskilling e upskilling per restare competitivi nel nuovo mercato.
Lo stato attuale della regolamentazione dell’IA
Vediamo quali leggi e regolamenti sono attualmente in vigore per garantire un uso equo degli strumenti di IA:
La regolamentazione dell’IA nell’Unione Europea
L’AI Act dell’Unione Europea, proposto nell’aprile 2021, rappresenta il primo quadro normativo completo volto a regolamentare l’IA all’interno dell’UE. L’AI Act è un’iniziativa pionieristica, redatta dall’EU AI Office, per regolamentare il futuro dell’IA in Europa. Il suo obiettivo è mitigare i rischi potenziali dei sistemi di IA promuovendo al contempo l’innovazione e la competitività nel mercato europeo dell’IA.
L’AI Act è strutturato su un approccio basato sul rischio, che classifica i sistemi di IA in base al livello di rischio che pongono per individui e società. La normativa suddivide i sistemi di IA in quattro categorie di rischio distinte:
Fonte: Corso Datacamp ‘Understanding the EU AI Act’
- Rischio inaccettabile: i sistemi di IA che minacciano sicurezza, diritti o valori democratici sono vietati (ad es. social scoring, manipolazioni dannose).
- IA ad alto rischio: IA in ambiti critici come sanità o forze dell’ordine. Richiede test rigorosi, trasparenza e supervisione umana per soddisfare gli standard UE prima dell’uso.
- IA a rischio limitato: include chatbot e assistenti virtuali. Gli utenti devono essere informati quando interagiscono con l’IA, ma con meno vincoli.
- IA a rischio minimo: applicazioni a basso rischio come filtri antispam o IA nei videogiochi. In gran parte esenti da regolamentazione.
Assicurati di seguire EU AI Act Fundamentals per padroneggiare l’AI Act e le basi dell’IA. Nel corso imparerai a orientarti tra le norme e a creare fiducia con una Responsible AI.
L’AI Act pone una forte enfasi sulla trasparenza, soprattutto per i sistemi di IA generativa come ChatGPT che creano contenuti e interagiscono direttamente con gli utenti. A seconda dell’uso, questi sistemi possono essere classificati come ad alto rischio o a rischio limitato. Un requisito chiave è che gli utenti siano chiaramente informati quando interagiscono con un’IA. Per i modelli generativi, questo significa:
- Dichiarazione d’uso dell’IA: gli sviluppatori devono indicare chiaramente quando un contenuto è generato dall’IA. Questo aiuta gli utenti a capire che stanno comunicando con una macchina e non con una persona.
- Spiegabilità: sebbene i sistemi di IA generativa possano essere complessi, l’AI Act richiede un certo livello di chiarezza. Chi fornisce modelli di IA deve dare informazioni sufficienti affinché utenti e autorità possano comprendere come il sistema funziona e prende decisioni. Ciò include, quando necessario, dettagli sugli algoritmi e sui dati di addestramento.
Per far rispettare queste regole, l’UE sta creando organismi di vigilanza a livello nazionale ed europeo per monitorare la conformità. Questi organismi possono eseguire audit dei sistemi di IA, indagare sulle violazioni e imporre sanzioni fino a 30 milioni di euro o al 6% dei ricavi globali, a seconda di quale sia maggiore.
Per saperne di più sull’AI Act, segui il nostro corso Understanding the EU AI Act, in cui comprenderai le categorie di rischio dell’IA e la conformità, con esempi nell’IA biometrica, nell’istruzione e nei modelli di uso generale.
La regolamentazione dell’IA negli Stati Uniti
Gli Stati Uniti adottano un approccio più flessibile e settoriale. Pur non esistendo una legge federale completa sull’IA, diverse leggi esistenti, proposte di legge e linee guida a livello federale e statale stanno plasmando la governance dei sistemi di IA.
Leggi e regolamenti federali esistenti
Ecco le leggi e i regolamenti attualmente in vigore negli USA:
Federal Trade Commission (FTC) Act
La FTC ha un ampio mandato per proteggere i consumatori da pratiche sleali o ingannevoli. Ciò include la regolazione di sistemi di IA che potrebbero portare a pratiche discriminatorie o esiti fuorvianti, in particolare nella pubblicità e nell’uso dei dati dei consumatori.
Leggi sui diritti civili
Varie leggi sui diritti civili vietano la discriminazione in ambito lavorativo, abitativo e creditizio. Queste norme sono rilevanti per applicazioni di IA che potrebbero perpetuare involontariamente bias, come gli algoritmi per l’assunzione o il credit scoring. Agenzie come l’Equal Employment Opportunity Commission (EEOC) analizzano sempre più i sistemi di IA per verificarne la conformità a queste leggi.
Health Insurance Portability and Accountability Act (HIPAA)
In sanità, le applicazioni di IA devono rispettare l’HIPAA in materia di privacy e sicurezza delle informazioni sanitarie. Ciò include garantire che qualsiasi IA utilizzata nell’assistenza ai pazienti rispetti la riservatezza e i diritti dei pazienti.
Proposte di legislazione federale
Vi sono anche proposte di legge in attesa di approvazione:
Algorithmic Accountability Act
Proposta nel 2022, questa legge mira a richiedere alle aziende di valutare l’impatto dei sistemi decisionali automatizzati sui consumatori. Impone audit per gli algoritmi utilizzati in ambiti critici per identificare e mitigare i bias.
AI Bill of Rights
Alla fine del 2022, l’amministrazione Biden ha pubblicato una bozza di ‘AI Bill of Rights’, delineando principi per l’uso responsabile dell’IA, tra cui equità, trasparenza e diritto di ricorso contro decisioni automatizzate.
Regolamentazioni a livello statale
A livello statale, varie giurisdizioni hanno adottato iniziative proprie, spesso incentrate su privacy dei dati e mitigazione dei bias:
California Consumer Privacy Act (CCPA)
Questa normativa fondamentale riconosce ai consumatori il diritto di sapere come vengono raccolte, usate e condivise le loro informazioni personali. Incide direttamente sui sistemi di IA che utilizzano dati personali, richiedendo trasparenza e consenso.
New York City Automated Employment Decision Tools Law
In vigore dal 2023, questa legge impone alle aziende che utilizzano strumenti automatizzati per l’assunzione di condurre audit annuali sui bias per valutare l’impatto dei loro sistemi di IA sui diversi gruppi demografici.
Regolamentazioni specifiche di settore
Oltre a quelle federali e statali, esistono anche alcune regolamentazioni specifiche per settore:
Veicoli autonomi
Il Dipartimento dei Trasporti degli USA ha emesso linee guida per test e distribuzione dei veicoli autonomi, con enfasi su sicurezza e responsabilità. Queste linee guida richiedono alle aziende di dimostrare che le tecnologie di guida autonoma soddisfano gli standard di sicurezza prima di essere impiegate su strade pubbliche.
Sanità
Le applicazioni di IA in sanità, come strumenti diagnostici e raccomandazioni di trattamento, sono soggette al vaglio della Food and Drug Administration (FDA), che sta definendo percorsi regolatori per garantire che le tecnologie di IA siano sicure ed efficaci.
L’approccio della Cina alla regolamentazione dell’IA
L’approccio della Cina alla governance dell’IA è guidato dallo Stato, bilanciando innovazione rapida e regolamentazione stringente. L’obiettivo è mantenere un forte controllo governativo garantendo sicurezza e promuovendo un uso etico.
Il quadro include una serie di politiche e linee guida che plasmano come l’IA viene sviluppata e utilizzata. Tra le caratteristiche principali:
Governance centralizzata
Il governo cinese, attraverso vari ministeri come il Ministero della Scienza e della Tecnologia, svolge un ruolo cruciale nella regolamentazione dell’IA. Questo controllo centralizzato consente un’applicazione coerente delle norme nei diversi settori e regioni.
Legislazione e linee guida
Leggi significative come la Legge sulla sicurezza dei dati e la Legge sulla protezione delle informazioni personali fissano standard chiari per la gestione dei dati nelle applicazioni di IA. Inoltre, le Linee guida etiche per l’IA delineano i principi cui i sistemi di IA devono attenersi, con enfasi su diritti umani, privacy e sicurezza.
Focus sulla sicurezza nazionale
Il panorama regolatorio enfatizza fortemente la sicurezza nazionale, con applicazioni di IA sottoposte a rigorose valutazioni per garantire che non minaccino l’ordine pubblico o la sicurezza dello Stato. Questa supervisione è particolarmente rilevante per tecnologie che potrebbero influire sulla stabilità sociale o sulla governance.
Il modello di governance centralizzato solleva preoccupazioni su trasparenza e responsabilità, poiché il limitato scrutinio pubblico può consentire un potere governativo incontrollato nello spazio dell’IA.
Nel 2023, la Cina ha introdotto il Regolamento sull’amministrazione dei servizi di intelligenza artificiale generativa, che definisce il quadro per lo sviluppo, l’implementazione e l’uso delle tecnologie di IA generativa. Alcuni elementi salienti sono:
- Verifiche di sicurezza obbligatorie: le aziende necessitano dell’approvazione governativa prima di lanciare IA generative di contenuti, per garantire che i sistemi non rappresentino rischi per gli interessi nazionali o la stabilità.
- Controllo rigoroso dei contenuti: le uscite delle IA generative sono strettamente regolamentate per prevenire disinformazione o contenuti che disturbino l’armonia sociale, ricorrendo alla censura quando necessario.
- Standard di conformità elevati: le aziende devono essere trasparenti su algoritmi, fonti dei dati e processi per soddisfare norme stringenti, aumentando la responsabilità e prevenendo abusi.
Man mano che l’IA trasforma le industrie, capirne i rischi etici e di business è fondamentale. Le aziende devono non solo sfruttare il potenziale dell’IA, ma anche garantirne un uso responsabile e trasparente.
Nel nostro webinar “Understanding Regulations for AI in the USA, the EU, and Around the World,” Shalini Kurapati (CEO, Clearbox AI) e Nick Reiners (Senior Analyst, Eurasia Group) trattano le principali politiche sull’IA, le tendenze regolatorie e le strategie di conformità. Scoprirai come le nuove normative impattano le aziende e riceverai consigli pratici per orientarti nella governance dell’IA, con focus su USA, UE e quadri globali.
Il futuro della regolamentazione dell’IA
Ora che abbiamo compreso l’attuale panorama normativo attorno all’IA, è il momento di guardare a cosa ci aspetta. Man mano che questi strumenti si evolvono, anche le nostre leggi e regolamentazioni devono evolvere di pari passo.
La necessità di cooperazione internazionale e di un quadro regolatorio globale
L’IA è una tecnologia globale e una regolamentazione efficace richiede cooperazione internazionale. I sistemi di IA spesso attraversano i confini, rendendo difficile per un singolo paese regolarli in modo completo.
Applicazioni di IA in ambiti come veicoli autonomi, sanità, finanza e sicurezza comportano spesso flussi di dati transfrontalieri, sollevando preoccupazioni su privacy, protezione dei dati e standard etici. Questa natura globale richiede un approccio coordinato alla governance dell’IA. Gli obiettivi della cooperazione internazionale sono:
- Allineamento degli standard: stabilire principi condivisi come trasparenza, responsabilità ed equità per creare linee guida globali coerenti sull’uso dell’IA.
- Privacy e protezione dei dati: definire regole comuni per la condivisione transfrontaliera dei dati, per proteggere la privacy e garantire applicazioni etiche dell’IA nel rispetto delle leggi nazionali.
- Affrontare i bias dell’IA: collaborare a livello globale per condividere buone pratiche, rilevare i bias e sviluppare strategie per sistemi di IA più equi e risultati più giusti.
Dai un’occhiata al corso Responsible AI Data Management, dove puoi imparare le basi delle pratiche responsabili sui dati, tra cui acquisizione dei dati, normative chiave, validazione e strategie di mitigazione dei bias. Y
ou puoi applicare queste competenze per esercitare il pensiero critico in qualsiasi progetto dati, assicurandoti un progetto di successo, responsabile e conforme dall’inizio alla fine.
Sfide per un quadro regolatorio globale sull’IA
Nonostante la necessità di cooperazione internazionale, creare un quadro globale unificato per la regolamentazione dell’IA presenta diverse sfide:
- Priorità nazionali divergenti: paesi diversi danno priorità ad aspetti differenti della regolamentazione dell’IA — ad es. gli USA puntano sull’innovazione, l’UE sulla privacy e la Cina sul controllo statale — rendendo difficile un approccio globale unificato.
- Tensioni geopolitiche: le rivalità tra i principali attori dell’IA, come USA e Cina, portano a quadri regolatori in competizione e a timori sul trasferimento tecnologico e sulla sicurezza nazionale, complicando la cooperazione.
- Differenze etiche e culturali: visioni diverse su sorveglianza, privacy dei dati e diritti umani rendono difficile creare standard etici universali per la regolamentazione dell’IA.
Sforzi verso un quadro globale sull’IA
Nonostante le sfide, sono in corso iniziative per promuovere la cooperazione internazionale nella governance dell’IA:
Nazioni Unite e AI for Good
Le Nazioni Unite hanno avviato discussioni sulla regolamentazione globale dell’IA attraverso forum come AI for Good, che riunisce esperti, decisori politici e leader del settore per esplorare i benefici e i rischi dell’IA. Queste discussioni mirano a definire norme internazionali per lo sviluppo dell’IA, in particolare in ambiti come sostenibilità e diritti umani.
Global Partnerships on AI (GPAI)
Lanciata nel 2020, GPAI è un’iniziativa internazionale che promuove lo sviluppo responsabile dell’IA attraverso la cooperazione transfrontaliera. Include paesi leader nell’IA come Canada, Francia, Giappone e India, tra gli altri, con l’obiettivo di favorire le migliori pratiche, condividere dati e incoraggiare l’innovazione nel rispetto degli standard etici.
AI Safety Summit
Il Regno Unito ha ospitato il primo AI Safety Summit globale nel novembre 2023. Ha riunito leader mondiali, esperti tecnologici e decisori politici per affrontare le sfide critiche nel garantire uno sviluppo dell’IA sicuro ed etico. L’evento ha sottolineato l’importanza di creare quadri per la sicurezza dell’IA, con particolare attenzione ad allineare lo sviluppo dell’IA con gli standard globali di sicurezza ed etica, senza frenare l’innovazione.
Senza la pressione pubblica per standard etici più rigorosi e trasparenza, le aziende potrebbero anteporre i profitti alla sicurezza e i governi potrebbero evitare di regolamentare finché i danni non diventano evidenti. Ma quando le persone chiedono responsabilità, spingono i legislatori ad agire e a creare politiche che garantiscano che l’IA porti benefici alla società anziché minarne privacy o equità.
Come dice Bruce Schneier nel nostro episodio di DataFramed su Fiducia e regolamentazione nell’IA:
Nulla cambierà a meno che il governo non lo imponga, e il governo non lo imporrà a meno che noi, le persone, non lo chiediamo.
Bruce Schneier, Security Technologist
