Une introduction à l'éthique des données : Qu'est-ce que l'utilisation éthique des données ?
Renforcez la confidentialité et la gouvernance de vos données
Garantissez la conformité et protégez votre entreprise avec DataCamp for Business. Des cours spécialisés et un suivi centralisé pour protéger vos données.
L'importance de l'éthique des données
Voyons quelques exemples de l'importance de l'éthique des données :
- En septembre 2018, des pirates informatiques ont injecté un code malveillant sur le site web de British Airways, détournant le trafic vers une réplique frauduleuse du site. Les clients ont alors, sans le savoir, communiqué leurs informations aux fraudeurs, notamment leurs données de connexion, les informations relatives à leur carte de paiement, leur adresse et les informations relatives à leurs réservations de voyage.
- En 2019, après qu'Apple a présenté sa carte de crédit aux consommateurs, des allégations concernant un algorithme présentant des préjugés sexistes ont émergé. Plusieurs grands dirigeants du secteur technologique (dont Steve Wozniak, le célèbre technologue et cofondateur d'Apple) ont expliqué qu'ils bénéficiaient de limites de crédit exponentiellement plus élevées que celles de leurs épouses, avec lesquelles ils partageaient des biens. Outre le sexe, aucun facteur clair ne peut suggérer une telle différence.
- En mars 2021, la vie privée de plus de 533 millions d'utilisateurs de Facebook a été compromise lorsque leurs données ont été publiées sur un forum ouvert aux pirates informatiques. Il s'agit de l'une des plus grandes violations de données de tous les temps. L'incident a suscité des inquiétudes quant à la manière dont les organisations stockent et sécurisent les informations personnelles et quant à l'opportunité d'autoriser l'accès à ces données.
Ces exemples ne sont qu'un aperçu des atteintes à la sécurité numérique. Même DataCamp a été victime d'une faille de sécurité en 2019.
Quelle que soit votre expertise technique, l'importance de l'éthique des données devient de plus en plus évidente. Nous vivons dans un monde où les données sont un atout puissant, capable de stimuler l'innovation et d'améliorer les conditions de vie. Toutefois, en l'absence de garanties éthiques, les données peuvent également être utilisées à mauvais escient, ce qui peut être préjudiciable.
Comprendre l'éthique des données nous permet de mieux comprendre comment nos informations sont utilisées et de nous protéger tout en nous engageant dans une société fondée sur les données. En outre, il nous encourage à réfléchir de manière critique au type d'avenir que nous voulons créer, non seulement pour nous-mêmes, mais aussi pour les générations à venir, à mesure que la technologie continue d'évoluer.
Comprendre le paysage actuel et potentiel de l'éthique des données
L'intelligence artificielle (IA) et l'apprentissage automatique progressent rapidement, mais n'en sont encore qu'à leurs débuts. Il est donc essentiel d'aborder dès maintenant les considérations éthiques, afin de s'assurer que ces technologies restent bénéfiques pour la société. Les questions sur l' avenir de l'IA responsable sont pressantes, et il est important de rester informé sur ces sujets, par exemple grâce à des ressources comme le podcast DataFrame de DataCamp.
Alors que nous vivons de plus en plus notre vie en ligne, la distinction entre les espaces privés et publics s'estompe. Bien qu'il existe des protections juridiques pour les données personnelles, comme le Règlement général sur la protection des données (RGPD) de l'UE et le Consumer Privacy Act (CCPA) de la Californie, des zones d'ombre subsistent, ce qui complique la gestion efficace de la vie privée.
[Référence : Statista 2021]
Et si vous utilisez fréquemment certaines de ces plateformes, vous pourriez être surpris de savoir exactement quelles données sont vendues. Qu'il s'agisse de votre courrier électronique, de votre chat ou de l'historique de votre localisation, les agences de publicité ou d'autres acheteurs peuvent gagner beaucoup lorsque vous les laissez involontairement entrer dans votre vie par le biais d'applications.
[Référence : Harvard Business Review]
De nombreuses organisations développent l'infrastructure nécessaire pour rendre l'IA et la science des données possibles dans divers secteurs, ce qui signifie que la recherche sur l'exposition n'en est qu'à ses débuts. Le consentement et la vente d'informations personnelles deviendront un sujet important dans de plus en plus d'aspects de la vie.
Pour comprendre le potentiel d'impact une fois que certaines entreprises développent l'infrastructure nécessaire pour faciliter les projets de big data, les outils artistiques d'IA en open source tels que DALL-E et Stable Diffusion démontrent la rapidité avec laquelle l'IA peut s'améliorer une fois qu'elle est largement mise à disposition. Face à ces évolutions rapides, notre seule assurance pour l'avenir est que la confidentialité des données, la sécurité et le sens de l'équité deviendront de plus en plus difficiles à garantir.
Principes de l'éthique du Big Data
Bien qu'il n'existe pas d'approche unique pour les pratiques éthiques en matière de données, il existe des principes fondamentaux qui peuvent guider l'utilisation responsable des données :
- Transparence : Une communication claire sur les pratiques de collecte, de stockage et de partage des données est essentielle. Les utilisateurs doivent comprendre comment leurs informations sont utilisées, sans avoir besoin d'une expertise juridique pour s'y retrouver dans les termes et conditions.
- Responsabilité : Les organisations doivent assumer la responsabilité des données qu'elles collectent, notamment en les protégeant contre les violations et les abus. Ce principe est essentiel pour maintenir la confiance entre les entreprises et leurs utilisateurs.
- Agence individuelle : Les individus doivent avoir le contrôle de leurs données personnelles, y compris la possibilité d'accéder à leurs informations, de les corriger ou de les supprimer. Garantir cette agence est un droit de l'homme fondamental à l'ère numérique.
- Confidentialité des données : La protection de la vie privée consiste à s'attendre à ce que les données personnelles soient protégées contre toute exposition non autorisée. Les organisations doivent répondre à cette attente en mettant en œuvre des mesures de sécurité solides et en respectant les accords conclus avec les utilisateurs.
Appliquer l'éthique des données
La mise en œuvre de l'éthique des données ne se limite pas à des considérations philosophiques ; il s'agit de prendre des décisions pratiques qui reflètent ces valeurs dans les opérations quotidiennes. Voici comment différentes fonctions peuvent intégrer l'éthique des données dans leur travail :
Conseils en matière d'éthique des données à l'intention des praticiens individuels
Ingénieurs en logiciels, en apprentissage automatique ou en IA
Les ingénieurs doivent collaborer avec les éthiciens et les autres parties prenantes pour relever les défis éthiques. La documentation des processus et l'examen approfondi des données peuvent aider à identifier et à atténuer les problèmes éthiques potentiels dès le début du développement.
Chefs de projets techniques
Les gestionnaires de projet doivent tenir compte des considérations éthiques dans la planification du projet, en veillant à ce que tous les membres de l'équipe soient alignés sur ces priorités. Cela peut impliquer une coordination avec de nouvelles parties prenantes et l'intégration de garanties éthiques dans le champ d'application du projet.
Chef de produit
Les chefs de produit jouent un rôle clé en veillant à ce que les produits soient développés dans le respect de l'éthique. Il s'agit notamment de tester l'inclusivité et de répondre à toute préoccupation d'ordre éthique survenant au cours du processus de développement.
Conseils en matière d'éthique des données à l'intention des dirigeants d'organisations
Les organisations de toutes tailles doivent donner la priorité à l'éthique des données pour protéger leurs utilisateurs et se protéger elles-mêmes :
Startups
Pour les start-ups, il est essentiel de mettre en place des pratiques éthiques dès le départ. Bien que les ressources puissent être limitées, l'établissement d'une base éthique solide peut permettre d'éviter des problèmes au fur et à mesure que l'entreprise se développe.
Petites et moyennes entreprises
À mesure qu'elles se développent, les petites entreprises doivent faire preuve de transparence vis-à-vis de leurs clients en ce qui concerne l'utilisation des données et veiller à ce que le consentement soit obtenu et respecté tout au long du processus.
Sociétés mondiales
Les grandes entreprises doivent montrer l'exemple en mettant en œuvre des programmes complets d'éthique des données qui prévoient une collaboration entre les services, la formation des employés et des audits réguliers des pratiques éthiques.
[Référence : Spanning]
Les défis d'aujourd'hui : Exemples d'éthique des données
Algorithmes éthiques
Les algorithmes ont le potentiel d'amplifier l'impact de toute action un million de fois au fur et à mesure de leur mise en œuvre. Même s'ils n'en sont qu'à leurs balbutiements, il existe de nombreux exemples de la manière dont l'absence de garanties éthiques pour les algorithmes nous affecte.
Recrutement d'algorithmes chez Amazon
Les projets liés aux ressources humaines présentent presque toujours un risque élevé car ils déterminent l'accès à l'emploi, et les impacts peuvent souvent constituer une menace évidente pour les moyens de subsistance des populations. Toutefois, avec les candidatures en ligne et les outils tels que LinkedIn, trouver le bon candidat tout en garantissant l'égalité des chances présente de nouveaux défis.
En 2016-2017, Amazon a tenté de résoudre ces deux problèmes en mettant en place un algorithme de recrutement interne qui déciderait quels CV passeraient à l'étape suivante de l'embauche. Il n'a pas fallu longtemps pour que les préjugés à l'encontre des femmes dans les fonctions techniques deviennent évidents. En raison des préjugés existants dans les données historiques, l'algorithme avait appris à identifier et à isoler les femmes sans préjugés.
Amazon a peut-être abandonné cet algorithme, la plupart des représentants des RH prévoient l'utilisation régulière d'outils d'IA dans leurs processus de recrutement à l'avenir. Pour en savoir plus sur l 'utilisation éthique de l'apprentissage automatique pour prendre des décisions, lisez un autre article.
La reconnaissance faciale peine à détecter les teintes de peau plus foncées
La reconnaissance faciale est de plus en plus utilisée, non seulement pour accéder aux téléphones et aux comptes, mais aussi en tant qu'outil essentiel pour la surveillance des forces de l'ordre, le contrôle des passagers dans les aéroports et les décisions en matière d'emploi et de logement.
Toutefois, en 2018, des recherches ont révélé que ces algorithmes étaient nettement moins performants pour les femmes à la peau foncée, avec des taux d'erreur jusqu'à 34 % plus élevés que pour les hommes à la peau plus claire.
Si vous êtes curieux de savoir comment fonctionne la détection des visages, consultez notre tutoriel sur la détection des visages avec Python à l'aide d'OpenCV.
Protection des données
Apprenez-en plus sur la confidentialité des données et l'anonymisation en Python grâce à notre cours interactif.
Apps de curseurs de règles
Depuis que la loi fédérale sur l'avortement Roe v. Wade a été annulé aux États-Unis, les applications de suivi des délais sont devenues un moyen possible de poursuites en cas d'interdiction pure et simple de l'avortement à l'avenir. Alors que la plupart des apps ont des conditions qui leur permettent de partager des données personnelles avec des tiers, de nombreuses apps de suivi de période ont des termes obscurs sur la possibilité de partager les données avec les autorités pour des mandats d'arrêt.
Vous aurez peut-être besoin d'un expert juridique pour interpréter les conditions générales de toutes les applications que vous utilisez quotidiennement, mais il sera de plus en plus important de comprendre les compromis et les risques auxquels vous vous exposez.
Uber a curé des hommes politiques et des célébrités avec le "God-Mode".
En 2014, des rapports ont affirmé que le "god-mode" d'Uber permettait à tous les employés d'accéder aux données complètes des utilisateurs, qui étaient souvent utilisées pour suivre des célébrités, des politiciens et même des connexions personnelles (comme des ex-partenaires). Un ancien employé a également intenté une action en justice décrivant un comportement imprudent à l'égard des utilisateurs et un "mépris total" de la vie privée.
À peu près à la même époque, en 2016, Uber a tenté de dissimuler une importante violation de données en payant des pirates informatiques et en ne signalant pas l'incident. Malgré une enquête en cours sur la sécurité de l'entreprise par la Commission fédérale du commerce des États-Unis à la même époque.
Sécurité des données
Des failles de sécurité inhérentes aux vulnérabilités du piratage, la sécurité des données peut mettre en danger bien plus que vos informations de connexion. Des applications et des sites web de toutes sortes peuvent vous localiser, lire vos messages, voir qui vous avez bloqué et comment vous dépensez votre argent.
Que vous soyez un papillon social en ligne ou que vous ne participiez qu'à des services numériques minimaux (services bancaires, SMS, courrier électronique, etc.), vous êtes très probablement exposé de plus de manières que vous ne le pensez.
Réglementation actuelle en matière d'éthique des données
De nombreuses personnes sont conscientes de l'importance de l'éthique des données, mais qu'est-ce que cela signifie pour nous en tant que consommateurs ? Qu'est-ce que cela signifie pour les entreprises ? Qu'est-ce que cela signifie pour les agences gouvernementales ?
La réponse à ces questions dépend de votre lieu de résidence. Dans certains pays, il existe déjà des lois qui obligent les entreprises à être transparentes sur la manière dont elles traitent les informations personnelles ; dans d'autres, il n'y a aucune réglementation.
Et puis il y a les questions éthiques auxquelles nous sommes confrontés chaque jour : Combien de choses partageons-nous en ligne ? Devrions-nous partager moins ? Et que se passe-t-il en cas de problème ? Il s'agit là de questions urgentes qui nécessitent une réflexion approfondie et un leadership fort de la part des dirigeants du gouvernement et de l'industrie, afin que notre avenir ne soit pas menacé par des comportements contraires à l'éthique ou par l'absence de tels comportements.
Partout dans le monde, les gouvernements essaient de nouvelles méthodes pour réglementer la collecte éthique des données, l'IA et les diverses utilisations des données (ex : marketing ciblé, etc.).
Voici quelques règlements qu'il est utile de connaître et de suivre pour comprendre l'état actuel de la réglementation sur les données dans votre pays :
Protection des données
- GDPR (Union européenne) - Pour en savoir plus, participez à notre webinaire sur l'éthique des données et le GDPR pour les praticiens des données.
- CCPR, CCPA (États-Unis - Californie)
Utilisation de l'IA
- Loi européenne sur l'IA
- Réglementation de l'IA sur les préjugés dans le recrutement à New York (USA - NY)
- Loi sur la justice algorithmique et la transparence des plateformes en ligne (États-Unis)
Règlement sur les plates-formes
- Loi sur les services numériques (Union européenne)
Si l'UE et les États-Unis sont en tête pour ce qui est de la législation ratifiée, la plupart de ces politiques sont nouvelles et en cours d'élaboration.
Former votre équipe à l'éthique des données
L'importance de l'éthique des données ne cessant de croître, il est essentiel que les entreprises veillent à ce que leurs équipes soient bien équipées pour relever les défis éthiques liés à l'utilisation des données. L'éthique des données n'est pas seulement l'affaire des data scientists ou des équipes juridiques - c'est un aspect fondamental des pratiques commerciales responsables dans tous les départements.
Si vous êtes chef d'équipe ou propriétaire d'entreprise, investir dans une formation à l'éthique des données peut considérablement améliorer la capacité de votre équipe à traiter les données de manière responsable, à protéger la vie privée des clients et à préserver la réputation de votre organisation. DataCamp for Business propose des programmes de formation complets qui peuvent aider vos employés à acquérir une solide compréhension de l'éthique des données, adaptée à votre secteur d'activité et à vos besoins. Nous fournissons :
- Des parcours d'apprentissage personnalisés : Des programmes de formation conçus pour répondre aux rôles spécifiques de votre équipe et aux défis éthiques auxquels elle peut être confrontée.
- Applications pratiques : Des cours interactifs et des études de cas réels qui aident les employés à appliquer les principes éthiques dans leur travail quotidien.
- Évaluation continue : Des cursus pour suivre la compréhension et l'application de l'éthique des données par votre équipe, en veillant à ce qu'elle garde une longueur d'avance sur les questions éthiques émergentes.
En renforçant les compétences de votre équipe en matière d'éthique des données par le biais de plateformes comme DataCamp, vous favorisez non seulement une culture de sensibilisation à l'éthique, mais vous positionnez également votre entreprise comme un leader en matière d'utilisation responsable des données. Cet investissement dans la formation à l'éthique peut vous aider à éviter des erreurs coûteuses, à instaurer la confiance avec les clients et à garantir un succès à long terme. Contactez notre équipe et demandez une démonstration dès aujourd'hui.