L’éthique de l’IA générative

Il y a encore quelques années, auriez-vous imaginé une machine capable de créer des œuvres, d’écrire des histoires, ou même de comprendre des données complexes comme des documents médicaux ou juridiques ?

Probablement pas. Pour la plupart d’entre nous, cela relevait d’une science-fiction éloignée de la réalité.

Mais l’essor de l’ère de l’IA générative a redéfini notre perception de ce que les machines peuvent accomplir.

Qu’est-ce que l’IA générative ?

L’IA générative est une branche avancée de l’IA qui permet aux machines de produire de nouveaux contenus en s’appuyant sur des contenus existants — texte, audio, vidéo, et même du code.

Gartner la qualifie de « l’une des technologies les plus marquantes et en évolution rapide, porteuse d’une révolution de la productivité ».

Cette réalité s’impose rapidement et donne naissance à de nombreuses applications innovantes qui transforment les secteurs : accélération et amplification de la créativité dans les médias, marketing dans le retail, soins de santé plus personnalisés, ou encore apprentissage adaptatif en éducation.

Les enjeux éthiques de l’IA générative

La vitesse à laquelle ces applications arrivent sur le marché est saisissante.

Mais lorsque Sam Altman, PDG d’OpenAI, nous alerte sur les dangers des modèles de langage, le risque est bien réel. Il nous appartient donc d’en équilibrer les bénéfices par la prudence et d’utiliser cette technologie puissante de manière responsable.

Source : Business Insider

Voyons quelques-unes des principales préoccupations éthiques liées à l’usage de l’IA générative.

Diffusion de contenus nuisibles

Si la capacité des systèmes d’IA générative à produire des contenus proches du langage humain peut doper la productivité, elle peut aussi engendrer des contenus offensants ou dangereux. L’un des risques majeurs provient d’outils comme les deepfakes, capables de créer de fausses images, vidéos, textes ou voix, au service d’agendas malveillants ou de la propagation de discours haineux.

Récemment, un escroc a cloné la voix d’une jeune fille pour réclamer une rançon à sa mère en simulant un enlèvement. Ces outils sont devenus si sophistiqués qu’il devient difficile de distinguer une voix synthétique d’une voix réelle.

De plus, les contenus générés automatiquement peuvent perpétuer ou amplifier les biais présents dans les données d’entraînement, aboutissant à des propos biaisés, explicites ou violents. De tels contenus exigent une intervention humaine afin de les aligner avec l’éthique de l’organisation qui utilise cette technologie.

Droits d’auteur et risques juridiques

Comme la plupart des modèles d’IA, les modèles d’IA générative sont entraînés sur d’immenses volumes de données. Par nature, ils peuvent enfreindre des droits d’auteur ou des droits de propriété intellectuelle appartenant à d’autres. Les entreprises qui utilisent des modèles pré-entraînés s’exposent alors à des risques juridiques, réputationnels et financiers, tout en portant préjudice aux créateurs et ayants droit.

Atteintes à la vie privée

Les données d’entraînement peuvent contenir des informations sensibles, dont des données personnelles identifiables (PII). Selon le département du Travail des États‑Unis, les PII sont des données « qui identifient directement une personne, par exemple nom, adresse, numéro de sécurité sociale ou tout autre identifiant ou code, numéro de téléphone et adresse e‑mail ».

La violation de la vie privée des utilisateurs peut mener à l’usurpation d’identité et à des usages discriminatoires ou manipulateurs.

Il est donc indispensable que les concepteurs de modèles pré‑entraînés comme les entreprises qui les affinent pour des tâches spécifiques respectent les règles de protection des données et s’assurent du retrait des PII des jeux d’entraînement.

Nous proposons un webinaire sur les réglementations en matière de protection des données, et en particulier le RGPD, pour promouvoir un usage éthique des données.

Divulgation d’informations sensibles

Au‑delà de la nécessité d’un usage rigoureux des données utilisateurs, il faut considérer les risques de divulgation involontaire d’informations sensibles — un enjeu accru par la démocratisation rapide des capacités d’IA. L’attrait et la commodité des outils d’IA générative, notamment ChatGPT, peuvent parfois inciter à négliger la sécurité des données lors de l’exploration de ces nouvelles plateformes.

Les risques explosent lorsqu’un employé téléverse des éléments sensibles comme un contrat juridique, le code source d’un logiciel ou des informations propriétaires, entre autres.

Les conséquences peuvent être sévères — financières, réputationnelles ou juridiques — pour les organisations. D’où l’importance cruciale d’une politique claire de sécurité des données.

Amplification des biais existants

Les modèles d’IA ne valent pas mieux (ni pire) que les données qui les entraînent. Si les données d’entraînement reflètent des biais sociétaux, le modèle les reproduira — voire pire. Une étude récente publiée par Bloomberg montre que ces modèles peuvent être encore plus biaisés que les données réelles qui les alimentent.

L’étude révèle une réalité brutale : « le monde selon Stable Diffusion est dirigé par des PDG blancs et masculins. Les femmes sont rarement médecins, avocates ou juges. Les hommes à la peau foncée commettent des crimes, tandis que les femmes à la peau foncée travaillent dans la restauration rapide. »

Pour bâtir un monde plus équitable, les données comme les équipes et les points de vue doivent être diversifiés tout au long du cycle de développement des modèles.

Évolution des métiers et moral des équipes

D’un côté, l’IA générative est présentée comme la prochaine vague de productivité. De l’autre, elle fait craindre des suppressions d’emplois, car moins d’humains seraient nécessaires pour un même volume d’activités.

Le dernier rapport de McKinsey confirme ces inquiétudes liées au déplacement des compétences : « L’IA générative et d’autres technologies pourraient automatiser des activités qui occupent aujourd’hui 60 à 70 % du temps des employés. »

Même si ce constat ne doit pas freiner la transformation portée par l’IA générative, il impose d’investir dans la montée en compétences et la reconversion vers de nouveaux rôles créés par cette avancée.

Provenance des données

La plupart des enjeux liés aux outils d’IA concernent les données : vie privée, génération de données synthétiques multimodales (texte, image, vidéo, audio), etc.

Ces systèmes doivent garantir l’assurance et l’intégrité des données afin d’éviter des biais ou des sources d’origine douteuse.

Manque de transparence

Les systèmes d’IA ont une nature de « boîte noire », rendant difficile la compréhension des raisons qui mènent à une réponse ou des facteurs qui soutiennent une décision.

Les capacités émergentes des grands modèles accentuent encore cet écart : même leurs concepteurs sont parfois pris de court par leur comportement, au point que « les chercheurs s’empressent non seulement d’identifier de nouvelles capacités émergentes, mais aussi d’expliquer pourquoi et comment elles surviennent — tenter de prédire l’imprévisible ».

Exemples de désinformation générée par l’IA

Une étude récente a testé la capacité des participants à distinguer des contenus générés par l’IA de textes écrits par des humains. Sans surprise, les résultats montrent que l’exercice est difficile, soulignant la capacité de ces modèles à diffuser de la désinformation, et ce, à grande échelle.

Un exemple inédit a surgi devant un tribunal américain : un avocat a cité un précédent juridique inexistant, se fiant à une réponse générée par ChatGPT.

Les Nations unies ont également alerté sur les risques de contenus trompeurs générés par l’IA, susceptibles d’alimenter des conflits et des crimes.

Bonnes pratiques éthiques pour l’IA générative

Les avancées technologiques portées par les modèles d’IA générative peuvent apporter des bénéfices considérables à la société, à condition d’un usage maîtrisé et encadré. Cela exige d’adopter des bonnes pratiques éthiques pour minimiser les risques inhérents à leurs avantages.

Restez informé et passez à l’action

Plongez dans le paysage actuel et à venir de l’éthique des données. Comprenez comment appliquer ces lignes directrices, que vous soyez contributeur individuel ou dirigeant.

Vous pouvez en savoir plus sur le paysage actuel et futur de l’éthique des données et sur les recommandations d’application dans un article dédié.

Alignez-vous sur les standards internationaux

Il est également utile de vous familiariser avec les lignes directrices éthiques de l’IA de l’UNESCO, adoptées par les 193 États membres en novembre 2021.

Elles mettent l’accent sur quatre valeurs clés :

• Droits humains et dignité
• Des sociétés pacifiques et justes
• Diversité et inclusion
• Préservation de l’environnement

Elles énoncent également dix principes, dont la proportionnalité, la sécurité, la confidentialité, la gouvernance multipartite, la responsabilité, la transparence, la supervision humaine, la durabilité, la sensibilisation et l’équité.

Les lignes directrices proposent en outre des axes d’action publique pour la gouvernance des données, l’environnement, le genre, l’éducation, la recherche, la santé et le bien‑être social.

Rejoignez des communautés dédiées à l’éthique de l’IA

De nombreux groupes — comme l’AI Ethics Lab et le Montreal AI Ethics Institute — œuvrent à la diffusion d’une culture éthique. Parmi les principes communs : transparence, responsabilité, protection des données et robustesse du côté des fournisseurs de technologie.

Se tenir informé des évolutions et participer aux débats sur l’éthique de l’IA est essentiel pour garantir que l’IA générative reste sûre pour tou·te·s.

Développez votre esprit critique et apprenez

En tant qu’utilisateurs, nous devons renoncer à l’idée que tout ce qui circule en ligne est fiable d’emblée.

À l’inverse, beaucoup de problèmes se résoudront si nous commençons à remettre en question les informations disponibles, en vérifiant les faits, l’authenticité et la source avant de les exploiter.

La sensibilisation est la clé pour bien utiliser l’IA générative — c’est tout l’objet de cet article.

Pour conclure

L’IA générative recèle un potentiel immense pour transformer de nombreux secteurs, de la santé à l’éducation, en créant de nouveaux contenus et en renforçant la productivité.

Cependant, cette technologie puissante s’accompagne d’enjeux éthiques majeurs : diffusion de contenus nuisibles, atteinte aux droits d’auteur, violations de la vie privée et amplification des biais existants.

À mesure que nous mettons à profit les capacités de l’IA générative, il est crucial d’adopter des bonnes pratiques éthiques.

Vous pouvez commencer dès aujourd’hui avec notre cours Generative AI Concepts, puis explorer des projets d’IA générative à lancer dès maintenant.