Etica nell’IA generativa

Fino a pochi anni fa, avresti mai immaginato una macchina capace di creare arte, inventare storie o persino comprendere dati complessi come documenti medici e legali?

Probabilmente no. Per la maggior parte di noi, era confinato alla fantascienza, una realtà lontana.

Ma l’avvento dell’era dell’IA generativa ha ridefinito ciò che pensiamo le macchine possano fare.

Che cos’è l’IA generativa?

L’IA generativa è un ramo sofisticato dell’IA che consente alle macchine di generare nuovi contenuti sfruttando contenuti esistenti sotto forma di testo, audio, video e persino codice.

Gartner la definisce “una delle tecnologie più dirompenti e in rapida evoluzione, in grado di innescare una rivoluzione della produttività”.

Sta rapidamente diventando realtà e ha dato vita a molte applicazioni innovative che stanno trasformando i settori: per esempio, accelerando e amplificando la creatività dei contenuti nei media, il marketing nel retail, offrendo cure sanitarie più personalizzate e potenziate e promuovendo un apprendimento e un’istruzione adattivi.

Le preoccupazioni etiche dell’IA generativa

La velocità con cui queste applicazioni arrivano sul mercato è sorprendente.

Ma quando Sam Altman, CEO di OpenAI, ci mette in guardia sui pericoli dei modelli linguistici, il rischio è reale: diventa quindi necessario bilanciare i benefici con la cautela e sfruttare responsabilmente questa potente tecnologia.

Fonte immagine: Business Insider

Vediamo alcune delle principali questioni etiche legate all’uso dell’IA generativa.

Distribuzione di contenuti dannosi

Sebbene la capacità dei sistemi di IA generativa di produrre contenuti simili a quelli umani possa aumentare la produttività, può anche portare alla generazione di contenuti dannosi o offensivi. Il danno più preoccupante deriva da strumenti come i deepfake, che possono creare immagini, video, testo o voce falsi, orientati da un’agenda o usati per diffondere discorsi d’odio.

Di recente, una truffatrice ha clonato la voce di una ragazza per chiedere un riscatto alla madre, inscenando un rapimento. Questi strumenti sono diventati così sofisticati che è difficile distinguere le voci false da quelle reali.

Inoltre, i contenuti generati automaticamente possono perpetuare o amplificare i bias appresi dai dati di addestramento, producendo linguaggio fazioso, esplicito o violento. Tali contenuti dannosi richiedono l’intervento umano per allinearli all’etica aziendale dell’organizzazione che utilizza questa tecnologia.

Copyright ed esposizione legale

Come la maggior parte dei modelli di IA, i modelli generativi sono addestrati su dati, tantissimi. Per loro natura, possono violare i diritti d’autore e la proprietà intellettuale di altre aziende. Ciò può comportare rischi legali, reputazionali ed economici per le aziende che usano modelli preaddestrati e avere un impatto negativo su creatori e titolari dei diritti.

Violazioni della privacy dei dati

I dati di addestramento sottostanti possono contenere informazioni sensibili, inclusi dati personali identificabili (PII). I PII, come definiti dal Dipartimento del Lavoro degli Stati Uniti, sono i dati “che identificano direttamente una persona, ad esempio nome, indirizzo, numero di previdenza sociale o altro numero o codice identificativo, numero di telefono ed email.”

La violazione della privacy degli utenti può portare al furto di identità e può essere sfruttata per discriminare o manipolare.

È quindi fondamentale che sia gli sviluppatori di modelli preaddestrati sia le aziende che li perfezionano per compiti specifici rispettino le linee guida sulla privacy e garantiscano che i PII vengano rimossi dall’addestramento del modello.

Abbiamo un webinar che spiega le normative sulla privacy dei dati, in particolare il GDPR, per assicurare un uso etico dei dati.

Divulgazione di informazioni sensibili

Estendendo l’importanza di un uso diligente dei dati degli utenti, è essenziale considerare i rischi derivanti dalla divulgazione involontaria di informazioni sensibili, un problema amplificato dalla rapida democratizzazione delle capacità dell’IA. La curiosità e la comodità degli strumenti di IA generativa, in particolare ChatGPT, possono talvolta indurre gli utenti a trascurare la sicurezza dei dati mentre esplorano queste nuove piattaforme.

I rischi aumentano notevolmente se un dipendente carica dettagli sensibili come un contratto legale, il codice sorgente di un software o informazioni proprietarie, tra le altre cose.

Le conseguenze possono essere gravi, con danni finanziari, reputazionali o legali per le organizzazioni; per questo una chiara policy di sicurezza dei dati è ovvia ed essenziale.

Amplificazione dei bias esistenti

I modelli di IA sono tanto buoni (o cattivi) quanto i dati su cui sono addestrati. Se i dati di addestramento riflettono i bias presenti nella società, il modello si comporterà di conseguenza — o almeno così pensavamo. Uno studio recente ospitato su Bloomberg mostra come questi modelli siano persino più faziosi dei dati reali su cui vengono addestrati.

Lo studio porta a galla una dura realtà quando afferma che — “il mondo secondo Stable Diffusion è guidato da CEO bianchi di sesso maschile. Le donne sono raramente dottoresse, avvocate o giudici. Uomini con pelle scura commettono crimini, mentre donne con pelle scura girano hamburger.”

Per costruire un mondo equo, i dati devono rifletterlo coinvolgendo team e prospettive diverse lungo tutto il ciclo di sviluppo del modello.

Ruoli e morale della forza lavoro

Da un lato, l’IA generativa è vista come la prossima ondata di produttività; dall’altro implica la perdita di posti di lavoro, perché servono meno persone per svolgere la stessa quantità di lavoro.

È evidente anche nell’ultimo report McKinsey, che riecheggia le preoccupazioni legate allo spiazzamento delle competenze attuali: “Le tecnologie attuali, inclusa l’IA generativa, potrebbero automatizzare attività che oggi assorbono il 60-70% del tempo dei dipendenti.”

Anche se il rovescio della medaglia — il rischio per molti lavori — non significa fermare la trasformazione portata dall’IA generativa, impone certamente misure per fare upskilling o reskilling verso i nuovi ruoli creati dall’avvento dell’IA avanzata.

Provenienza dei dati

Molte delle preoccupazioni relative all’uso di strumenti di IA riguardano i dati, inclusa la privacy degli utenti e la generazione di dati sintetici multimodali come testo, immagini, video o audio.

Tali sistemi richiedono di mantenere assicurazione e integrità dei dati per evitare l’uso di dati faziosi o di origine dubbia.

Mancanza di trasparenza

I sistemi di IA sono per loro natura delle black box, il che implica che è difficile capire come siano arrivati a una certa risposta o quali fattori abbiano guidato le loro decisioni.

Le capacità emergenti dei grandi modelli accentuano ulteriormente questo divario: persino gli sviluppatori restano sorpresi dalle funzionalità, il che evidenzia che “i ricercatori stanno correndo non solo per identificare ulteriori capacità emergenti, ma anche per capire perché e come si manifestino, così da provare a prevedere l’imprevedibilità.”

Esempi di disinformazione generata dall’IA

Di recente, uno studio ha valutato se i partecipanti sapessero riconoscere contenuti generati dall’IA rispetto a quelli scritti da umani. Non sorprende che i risultati abbiano mostrato quanto sia difficile distinguere i contenuti dei modelli linguistici, evidenziando la capacità di questi modelli di diffondere disinformazione, e su larga scala.

Un esempio senza precedenti è emerso di recente in un tribunale degli Stati Uniti, quando un avvocato ha citato un caso legale inesistente, affidandosi a una risposta generata da ChatGPT.

L’ONU ha inoltre espresso preoccupazioni per i contenuti fuorvianti generati dall’IA che possono portare a conflitti e crimini.

Buone pratiche etiche per l’IA generativa

I progressi tecnologici portati dallo sviluppo dei modelli di IA generativa hanno un enorme potenziale per la società quando usati in modo controllato e regolamentato. Ciò richiede l’adozione di buone pratiche etiche per ridurre al minimo i potenziali danni che accompagnano i suoi vantaggi.

Rimani informato e agisci

Immergiti nel panorama attuale e futuro dell’etica dei dati. Comprendi le linee guida per applicarle, che tu sia un contributor individuale o un leader di organizzazione.

Puoi leggere di più sul panorama attuale e futuro dell’etica dei dati e sulle linee guida per applicarla in un articolo dedicato.

Allineati agli standard globali

Vale la pena familiarizzare anche con le linee guida etiche sull’IA dell’UNESCO, adottate da tutti i 193 Stati membri nel novembre 2021.

Le linee guida enfatizzano quattro valori fondamentali:

• Diritti umani e dignità
• Società pacifiche e giuste
• Diversità e inclusione
• Prosperità ambientale

Definiscono inoltre dieci principi, tra cui proporzionalità, sicurezza, privacy, governance multi-stakeholder, responsabilità, trasparenza, supervisione umana, sostenibilità, consapevolezza ed equità.

Le linee guida forniscono anche aree di azione politica per governance dei dati, ambiente, genere, istruzione, ricerca, salute e benessere sociale.

Partecipa alle comunità di IA etica

Esistono vari gruppi, come l’AI Ethics Lab e il Montreal AI Ethics Institute, che promuovono l’alfabetizzazione etica. I principi etici comuni includono trasparenza, responsabilità, privacy dei dati e robustezza, con un focus sui fornitori di tecnologia.

Rimanere aggiornati sugli sviluppi in questi ambiti e partecipare al dibattito sull’etica dell’IA è parte essenziale per garantire che l’IA generativa resti sicura per tutti gli utenti.

Coltiva consapevolezza e impara

Spetta a noi, come utenti, abbandonare l’idea che tutto ciò che è disponibile nel mondo digitale sia affidabile a prima vista.

Al contrario, molti problemi si risolveranno se iniziamo a mettere in discussione e sospettare le informazioni disponibili, facendo fact-checking e verificandone autenticità e provenienza prima di metterle in pratica.

La consapevolezza è la chiave per usare bene l’IA generativa ed è l’intento con cui è stato scritto questo post.

Considerazioni finali

L’IA generativa ha un enorme potenziale per rivoluzionare vari settori, dalla sanità all’istruzione, creando nuovi contenuti e aumentando la produttività.

Tuttavia, questa potente tecnologia porta con sé importanti questioni etiche, tra cui la distribuzione di contenuti dannosi, le violazioni del copyright, le violazioni della privacy dei dati e l’amplificazione dei bias esistenti.

Mentre continuiamo a sfruttare le capacità dell’IA generativa, è fondamentale adottare buone pratiche etiche

Puoi iniziare oggi il tuo percorso con il nostro corso Generative AI Concepts ed esplorare i progetti di IA generativa che puoi iniziare subito.