La sortie de ChatGPT fin 2022 a marqué une étape sans précédent dans le développement de l'IA. Développé par Microsoft et OpenAI, ChatGPT est un chatbot de nouvelle génération capable de produire en quelques secondes toutes sortes de textes au style humain. Bien que le plus populaire, ChatGPT n'est qu'un des nombreux outils d'IA générative, un sous-domaine de l'IA centré sur la création de contenus comme le texte, l'image, la vidéo et le son.
Des outils d'IA générative comme ChatGPT vont bouleverser quasiment tous les secteurs et toutes les industries. Mais cette révolution de l'IA n'apporte pas que des bénéfices : elle comporte aussi des risques sociétaux, économiques et environnementaux qu'il faut évaluer avec soin.
Les entreprises et les pouvoirs publics réfléchissent à la manière d'encadrer l'IA. Par exemple, afin de se donner le temps de définir des normes de sécurité et de réduire les risques potentiels, des dirigeants de la tech ont récemment appelé à une pause de six mois dans le développement d'outils puissants comme ChatGPT. Du côté public, les gouvernements du monde entier proposent des mesures et des règles pour que les outils d'IA soient déployés dans la société de manière sûre, transparente et responsable.
Dans cet article, nous verrons pourquoi il est essentiel de fixer des cadres juridiques pour réguler l'IA, quel pourrait être l'impact des lois proposées sur des outils populaires comme ChatGPT, et comment l'existence de réglementations façonnera l'avenir du développement de l'IA.
Pourquoi des réglementations sur l'IA sont-elles importantes ?
Les technologies de pointe comme l'IA ont le potentiel de transformer en profondeur notre manière de vivre. La révolution de l'IA n'en est qu'à ses débuts, et il est trop tôt pour savoir à quoi ressemblera la société de demain. Mais pour que l'IA produise des effets positifs, nous devons nous doter des bons leviers pour en orienter le développement. C'est là que la régulation de l'IA joue un rôle clé.
Voici quelques raisons convaincantes d'encadrer l'IA :
- L'IA peut affecter de manière significative les droits fondamentaux. Les gouvernements et les entreprises s'appuient sur l'IA pour prendre des décisions ayant un impact majeur sur nos vies, avec des implications sérieuses pour des droits fondamentaux tels que le droit à la vie, l'honneur, la vie privée et la protection des données.
- L'IA peut aggraver les discriminations. Lorsque les outils d'IA présentent des biais, ils conduisent souvent à des décisions discriminatoires à l'égard des minorités.
- L'IA peut accroître les tensions sociales. L'IA a été utilisée pour créer de fausses informations et diffuser de l'intox, alimentant des troubles sociaux et la polarisation.
- L'IA doit être responsable. Les acteurs impliqués dans le développement et l'utilisation de l'IA doivent répondre de l'usage qui en est fait. Un ensemble de règles et de normes est nécessaire pour garantir la sécurité et la confiance.
- L'IA doit être transparente. L'opacité algorithmique est l'une des principales préoccupations liées à l'IA. La réglementation pourrait imposer des obligations de transparence pour les auditer et mieux comprendre les coûts et impacts d'outils comme ChatGPT.
Où en est la réglementation de l'IA
À la suite du lancement de ChatGPT et d'autres outils d'IA générative puissants, les gouvernements commencent à agir pour encadrer l'IA.
Voici les évolutions les plus récentes de la régulation de l'IA dans le monde :
- États-Unis. Le gouvernement a récemment annoncé une enquête technique pour évaluer l'opportunité d'imposer des mesures réglementaires aux outils comme ChatGPT. Reste à voir comment cette éventuelle régulation s'articulera avec l'Algorithmic Accountability Act, proposé en 2022 et encore à l'état de projet. Entre-temps, les États-Unis ont déjà partiellement encadré l'IA avec la publication de l'AI Bill of Rights et de l'Initiative on AI and Algorithmic Fairness.
- Union européenne. Proposé en 2021 et actuellement en négociation, l'AI Act européen est la première tentative d'un acteur majeur pour réguler l'IA. Il propose une approche fondée sur le risque : certaines IA seraient interdites, tandis que les IA jugées à haut risque devraient respecter des exigences pour accéder au marché. Suite au boom récent de l'IA générative, de nouvelles révisions du projet sont attendues.
- Canada. Le pays débat de sa propre loi sur l'IA, l'Artificial Intelligence and Data Act, qui suit une approche fondée sur le risque similaire à celle de l'Europe. Des révisions sont attendues pour prendre en compte l'impact de l'IA générative.
- Chine. La Chine a récemment proposé des règles pour encadrer les outils similaires à ChatGPT développés dans le pays. Ces règles rendraient les entreprises responsables des contenus générés par ces outils, qui devront respecter certains standards avant leur mise sur le marché.
Quelles implications pour ChatGPT ?
Même si les raisons de réguler l'IA sont solides et que des initiatives voient le jour, encadrer des technologies de pointe reste un défi : les pouvoirs publics doivent protéger la société des risques inattendus tout en préservant l'innovation et l'accès aux bénéfices de ces technologies. C'est pourquoi l'IA demeure pour l'instant peu réglementée.
Faute de législation spécifique en vigueur, les tentatives majeures d'encadrement s'appuient sur des textes existants, comme la protection des données. Par exemple, l'Italie a temporairement interdit ChatGPT en raison de possibles violations du règlement européen sur la protection des données. D'autres pays européens, comme la France, l'Espagne et l'Allemagne, attendent une discussion au niveau européen avant de prendre des mesures similaires.
Les futures réglementations devraient répondre à plusieurs préoccupations apparues avec ChatGPT, notamment :
- Traitement d'informations sensibles. ChatGPT utilise les données fournies par les utilisateurs, y compris des données sensibles, pour entraîner ses modèles. Des experts de la confidentialité alertent sur des fuites potentielles de données personnelles ou d'informations confidentielles. Par exemple, des employés de Samsung ont récemment découvert avoir, par inadvertance, divulgué du code confidentiel à ChatGPT. Les futures règles pourraient s'assurer que le traitement de ces données ne contrevient pas aux lois de protection des données.
- Contenus non modérés. Si ChatGPT embarque des filtres de contenu, ils peuvent être contournés avec des invites adaptées. De plus, on craint que des publics vulnérables, comme les enfants, soient exposés à un langage inapproprié et à des thèmes adultes. La réglementation pourrait instaurer des garde-fous clairs pour y répondre.
- Sources des réponses de ChatGPT. À ce jour, ChatGPT n'indique pas les sources utilisées pour générer ses réponses. Les utilisateurs peinent donc à vérifier la véracité et l'exactitude des informations, ce qui accroît le risque de désinformation.
- Plagiat et droit d'auteur. De nombreuses questions juridiques se posent quant à l'attribution des données ayant servi à entraîner ChatGPT et à la propriété des contenus qu'il génère. Il n'existe pas de précédent clair en matière de droit d'auteur et de propriété intellectuelle. Une régulation future devra clarifier ces points.
- Où et comment utiliser ChatGPT. Les possibilités offertes par ChatGPT sont immenses, mais certains usages peuvent produire des effets négatifs. Par exemple, un vif débat porte sur ses implications à l'école. Et si des élèves l'utilisent pour répondre aux examens ou rédiger des devoirs ? Les enseignants doivent-ils l'employer en classe ? Ces questions restent ouvertes, mais il est probable que de futures lois sur l'IA en encadrent certains aspects.
Conclusion
Les entreprises technologiques à l'origine d'outils comme ChatGPT ont pris le monde de court. Elles sont à l'avant-garde de la révolution de l'IA, mais c'est aux gouvernements d'en fixer le cap et de veiller à ce qu'elle serve l'intérêt général. Partout, les législateurs se mobilisent avec des réglementations ambitieuses. Il est essentiel de suivre ces évolutions juridiques, car la manière dont nous abordons l'IA aujourd'hui façonnera le monde de demain.
En attendant, nous vous recommandons de rester au fait de ChatGPT et de la technologie qui l'anime grâce aux ressources DataCamp suivantes :
- Initiez-vous à ChatGPT avec notre cours Introduction to ChatGPT.
- Téléchargez cette antisèche des invites ChatGPT pour la data science.
- Écoutez cet épisode de podcast sur How ChatGPT and GPT-3 Are Augmenting Workflows pour comprendre comment ChatGPT peut bénéficier à votre entreprise.
- Lisez notre article Bard vs ChatGPT for Data Science
- Tutoriel sur l'API Whisper
- Commencez à apprendre l'IA avec DataCamp