Perché l’etica dei dati è importante
Vediamo alcuni esempi dell’importanza dell’etica dei dati:
- Nel settembre 2018, degli hacker hanno iniettato codice malevolo nel sito web di British Airways, dirottando il traffico verso un sito replica fraudolento. I clienti hanno quindi inconsapevolmente fornito le loro informazioni ai truffatori, inclusi dettagli di accesso, dati delle carte di pagamento, indirizzo e informazioni sulle prenotazioni di viaggio.
- Nel 2019, dopo che Apple ha introdotto la sua carta di credito ai consumatori, sono emerse accuse di un algoritmo con bias di genere. Diversi dirigenti di spicco del tech (incluso Steve Wozniak, il noto tecnologo e cofondatore di Apple) hanno descritto di aver ricevuto limiti di credito esponenzialmente più alti rispetto alle loro mogli, con cui condividevano i beni. A parte il genere, non c’erano fattori chiari che potessero suggerire una differenza simile.
- Nel marzo 2021, la privacy di oltre 533 milioni di utenti Facebook è stata compromessa quando i loro dati sono stati pubblicati su un forum aperto di hacker. È stata una delle più grandi violazioni di dati di sempre. L’incidente ha sollevato preoccupazioni su come le organizzazioni archiviano e mettono in sicurezza le informazioni personali e se dovrebbero poter accedere a tali dati in primo luogo.
Questi esempi sono solo una piccola istantanea delle violazioni della sicurezza digitale. Anche DataCamp ha subito una violazione della sicurezza nel 2019.
Indipendentemente dalle tue competenze tecniche, la rilevanza dell’etica dei dati è sempre più evidente. Viviamo in un mondo in cui i dati sono una risorsa potente, capace di stimolare l’innovazione e migliorare la vita. Tuttavia, senza salvaguardie etiche, i dati possono anche essere usati in modo improprio, causando danni.
Comprendere l’etica dei dati ci consente di orientarci meglio su come vengono utilizzate le nostre informazioni, assicurandoci di poterci proteggere pur continuando a partecipare a una società guidata dai dati. Inoltre, ci incoraggia a riflettere criticamente sul tipo di futuro che vogliamo creare, non solo per noi stessi ma anche per le generazioni future, man mano che la tecnologia continua a evolvere.
Comprendere il panorama attuale e futuro dell’etica dei dati
L’Intelligenza Artificiale (IA) e il machine learning stanno avanzando rapidamente, ma sono ancora nelle fasi iniziali. È quindi fondamentale affrontare ora le considerazioni etiche, per garantire che queste tecnologie restino vantaggiose per la società. Le domande sul futuro dell’IA responsabile sono urgenti, ed è importante restare informati su questi temi, ad esempio tramite risorse come il podcast DataFramed di DataCamp.
Poiché viviamo sempre più online, il confine tra spazi privati e pubblici si sfuma. Sebbene esistano tutele legali per i dati personali—come il Regolamento generale sulla protezione dei dati (GDPR) dell’UE e il Consumer Privacy Act (CCPA) della California—permangono aree grigie, che rendono complessa una gestione efficace della privacy.
[Riferimento: Statista 2021]
E se utilizzi spesso alcune di queste piattaforme, potresti rimanere sorpreso da quali dati vengano esattamente venduti. Dalla tua email alla cronologia delle chat e della posizione, le agenzie pubblicitarie o altri acquirenti possono ottenere molto quando li fai entrare nella tua vita tramite le applicazioni, magari senza rendertene conto.
[Riferimento: Harvard Business Review]
Molte organizzazioni stanno sviluppando l’infrastruttura per rendere possibili l’IA e la data science in vari settori, il che significa che la ricerca sull’esposizione è solo all’inizio. Il consenso e la vendita di informazioni personali diventeranno argomenti importanti in un numero crescente di ambiti della vita.
Per capire il potenziale impatto una volta che alcune aziende svilupperanno l’infrastruttura per facilitare progetti di big data, strumenti di arte IA open source come DALL-E e Stable Diffusion mostrano quanto rapidamente l’IA possa migliorare una volta resa ampiamente disponibile. Con questi sviluppi rapidi, la nostra unica certezza per il futuro è che privacy dei dati, sicurezza e senso di equità saranno sempre più difficili da garantire.
Principi dell’etica dei big data
- Trasparenza: È fondamentale comunicare in modo chiaro le pratiche di raccolta, archiviazione e condivisione dei dati. Gli utenti dovrebbero capire come vengono utilizzate le loro informazioni, senza dover avere competenze legali per districarsi tra termini e condizioni.
- Responsabilità: Le organizzazioni devono assumersi la responsabilità dei dati che raccolgono, inclusa la loro protezione da violazioni e usi impropri. Questo principio è cruciale per mantenere la fiducia tra aziende e utenti.
- Agenzia individuale: Le persone dovrebbero avere il controllo sui propri dati personali, inclusa la possibilità di accedere, correggere o eliminare le proprie informazioni. Garantire questa agency è un diritto umano fondamentale nell’era digitale.
- Privacy dei dati: La privacy è l’aspettativa che i dati personali siano protetti da esposizioni non autorizzate. Le organizzazioni devono rispettare questa aspettativa implementando solide misure di sicurezza e onorando gli accordi presi con gli utenti.
Applicare l’etica dei dati
Implementare l’etica dei dati non riguarda solo considerazioni filosofiche; significa prendere decisioni pratiche che riflettano questi valori nelle operazioni quotidiane. Ecco come ruoli diversi possono integrare l’etica dei dati nel proprio lavoro:
Indicazioni di etica dei dati per i professionisti individuali
Ingegneri software, machine learning o IA
Gli ingegneri devono collaborare con eticisti e altri stakeholder per affrontare le sfide etiche. Documentare i processi ed eseguire revisioni approfondite dei dati può aiutare a identificare e mitigare potenziali problemi etici nelle prime fasi dello sviluppo.
Project manager tecnici
I project manager dovrebbero considerare gli aspetti etici nella pianificazione, assicurando che tutti i membri del team siano allineati su queste priorità. Ciò può comportare il coordinamento con nuovi stakeholder e l’integrazione di salvaguardie etiche nell’ambito del progetto.
Product manager
I product manager svolgono un ruolo chiave nel garantire che i prodotti vengano sviluppati con attenzione all’etica. Ciò include test per l’inclusività e la gestione di eventuali criticità etiche che emergono durante lo sviluppo.
Indicazioni di etica dei dati per i leader organizzativi
Le organizzazioni di tutte le dimensioni devono dare priorità all’etica dei dati per proteggere i loro utenti e se stesse:
Startup
Per le startup, costruire pratiche etiche fin dall’inizio è essenziale. Sebbene le risorse possano essere limitate, stabilire una solida base etica può prevenire problemi man mano che l’azienda cresce.
Piccole/medie imprese
Man mano che le piccole imprese scalano, dovrebbero mantenere la trasparenza con i clienti sull’uso dei dati e garantire che il consenso sia ottenuto e rispettato in tutto il processo.
Grandi aziende globali
Le grandi corporation devono dare l’esempio, implementando programmi completi di etica dei dati che includano collaborazione interfunzionale, formazione dei dipendenti e audit regolari delle pratiche etiche.
[Riferimento: Spanning]
Le sfide di oggi: esempi di etica dei dati
Algoritmi etici
Gli algoritmi possono amplificare l’impatto di qualsiasi azione milioni di volte quando vengono implementati. Anche nelle fasi iniziali delle loro capacità, ci sono molti esempi di come la mancanza di salvaguardie etiche per gli algoritmi ci influenzi.
Algoritmi di assunzione in Amazon
I progetti legati alle risorse umane sono quasi sempre ad alto rischio perché determinano l’accesso all’occupazione, e gli impatti possono rappresentare una minaccia concreta al sostentamento delle persone. Tuttavia, con le candidature online e strumenti come LinkedIn, trovare il candidato giusto garantendo pari opportunità presenta nuove sfide.
Nel 2016-2017, Amazon ha tentato di affrontare entrambi questi problemi con un algoritmo interno di selezione che decideva quali CV passassero alla fase successiva. Non ci è voluto molto perché diventasse evidente un pregiudizio contro le donne nei ruoli tecnici. A causa del bias esistente nei dati storici, l’algoritmo aveva imparato a identificare e penalizzare le donne senza remore.
Sebbene Amazon possa aver abbandonato questo algoritmo, la maggior parte dei professionisti HR prevede l’uso abituale di strumenti di IA nei processi di assunzione in futuro. Leggi di più su come usare eticamente il machine learning per guidare le decisioni in un articolo separato.
Il riconoscimento facciale fatica con le carnagioni più scure
Il riconoscimento facciale è ampiamente utilizzato non solo per accedere a telefoni e account, ma anche come strumento cruciale per la sorveglianza delle forze dell’ordine, i controlli dei passeggeri in aeroporto e decisioni su lavoro e alloggi.
Tuttavia, nel 2018, la ricerca ha rivelato che questi algoritmi funzionavano sensibilmente peggio con donne dalla pelle scura—con tassi di errore fino al 34% più alti rispetto agli uomini dalla pelle più chiara.
Se sei curioso di sapere come funziona il rilevamento facciale, dai un’occhiata al nostro tutorial sul face detection con Python usando OpenCV.
Privacy dei dati
Scopri di più su privacy dei dati e anonimizzazione in Python con il nostro corso interattivo.
App per il monitoraggio del ciclo
Dopo l’annullamento a livello federale negli USA della tutela all’aborto prevista da Roe v. Wade, le app per il monitoraggio del ciclo sono diventate un possibile mezzo per azioni giudiziarie in caso di futuri divieti totali di aborto. Sebbene la maggior parte delle app abbia termini che consentono la condivisione di dati personali con terze parti, molte app di monitoraggio del ciclo presentano formulazioni ambigue sul fatto che i dati possano essere condivisi con le autorità per mandati di arresto.
Anche se potresti aver bisogno di un esperto legale per interpretare termini e condizioni di tutte le applicazioni che usi ogni giorno, comprendere i compromessi e i rischi a cui ti esponi diventerà sempre più importante.
Uber tracciava politici e celebrità con la “God-Mode”
Nel 2014, alcuni report affermavano che la “god-mode” di Uber dava a tutti i dipendenti accesso completo ai dati degli utenti, spesso usati per tracciare celebrità, politici e persino contatti personali (come ex partner). Un ex dipendente ha anche intentato causa descrivendo comportamenti sconsiderati con i dati degli utenti e un “totale disprezzo” per la privacy.
All’incirca nello stesso periodo, nel 2016, Uber ha cercato di insabbiare una grande violazione dei dati pagando gli hacker e non denunciando l’incidente, nonostante fosse in corso un’indagine della Federal Trade Commission statunitense sulla sicurezza dell’azienda.
Sicurezza dei dati
Da difetti di sicurezza intrinseci a vulnerabilità agli attacchi, la sicurezza dei dati può mettere a rischio ben più delle tue credenziali di accesso. App e siti web di ogni tipo possono individuare la tua posizione, leggere i tuoi messaggi, vedere chi hai bloccato e come spendi i tuoi soldi.
Che tu sia molto attivo online o usi solo i servizi digitali minimi (banking, messaggistica, email, ecc.), è probabile che tu sia esposto in più modi di quanto immagini.
Regolamentazioni attuali sull’etica dei dati
Molte persone sono consapevoli dell’importanza dell’etica dei dati—ma cosa significa per noi come consumatori? Cosa significa per le aziende? Cosa significa per gli enti pubblici?
La risposta a queste domande dipende da dove vivi. In alcuni paesi, esistono già leggi che obbligano le aziende a essere trasparenti su come gestiscono le informazioni personali; in altri, non ci sono regolamentazioni.
E poi ci sono le domande etiche che affrontiamo ogni giorno: quanto condividiamo tra noi online? Dovremmo condividere di meno? E cosa succede quando qualcosa va storto? Sono tutte questioni urgenti che richiedono riflessione e una leadership forte sia da parte dei governi che dell’industria, affinché il nostro futuro non sia minacciato da comportamenti non etici o dalla loro assenza.
In tutto il mondo, i governi stanno sperimentando nuovi metodi per regolare la raccolta etica dei dati, l’IA e i vari usi dei dati (es.: marketing mirato, ecc.).
Ecco alcune normative da conoscere e seguire per comprendere lo stato attuale della regolamentazione dei dati dove vivi:
Protezione dei dati
- GDPR (Unione Europea) - Scopri di più nel nostro webinar su Etica dei dati e GDPR per i professionisti dei dati.
- CCPR, CCPA (USA - California)
Uso dell’IA
- AI Act dell’UE
- Regolamentazione del bias nell’IA per le assunzioni a New York (USA - NY)
- Algorithm Justice and Online Platform Transparency Act (USA)
Regolamentazione delle piattaforme
- Digital Services Act (Unione Europea)
Sebbene UE e USA guidino il percorso con legislazioni ratificate, la maggior parte di queste politiche è nuova e in costante evoluzione.
Potenziare il tuo team sull’etica dei dati
Man mano che l’importanza dell’etica dei dati cresce, è fondamentale che le aziende garantiscano che i loro team siano ben attrezzati per affrontare le sfide etiche legate al lavoro con i dati. L’etica dei dati non riguarda solo data scientist o team legali—è un aspetto fondamentale di pratiche aziendali responsabili in tutti i reparti.
Se sei un team lead o un imprenditore, investire nella formazione sull’etica dei dati può migliorare significativamente la capacità del tuo team di gestire i dati in modo responsabile, proteggere la privacy dei clienti e tutelare la reputazione della tua organizzazione. DataCamp for Business offre programmi formativi completi che possono aiutare i tuoi dipendenti a sviluppare una solida comprensione dell’etica dei dati, su misura per il tuo settore e le tue esigenze. Forniamo:
- Percorsi di apprendimento personalizzati: Programmi formativi progettati per allinearsi ai ruoli specifici del tuo team e alle sfide etiche che possono incontrare.
- Applicazioni pratiche: Corsi interattivi e casi di studio reali che aiutano i dipendenti ad applicare i principi etici nel lavoro quotidiano.
- Valutazione continua: Strumenti per monitorare la comprensione e l’applicazione dell’etica dei dati da parte del tuo team, assicurando che restino al passo con le nuove questioni etiche.
Formando il tuo team sull’etica dei dati con piattaforme come DataCamp, non solo promuovi una cultura di consapevolezza etica, ma posizioni anche la tua azienda come leader nell’uso responsabile dei dati. Questo investimento nell’educazione all’etica può aiutarti a evitare errori costosi, costruire fiducia con i clienti e garantire successo a lungo termine. Mettiti in contatto con il nostro team e richiedi una demo oggi stesso.
