Promouvoir une IA responsable : modération des contenus dans ChatGPT

La première utilisation attestée du terme intelligence artificielle remonte à une conférence académique en 1956, lors d’un discours de John McCarthy faisant référence à la simulation de l’intelligence humaine par des machines. Il est ainsi souvent considéré comme l’un des pères fondateurs de l’IA.

Mais la véritable quête pour savoir si les machines peuvent penser a commencé bien avant. Dès 1950, le mathématicien anglais Alan Turing publiait un article intitulé Computing Machinery and Intelligence pour proposer un test permettant de déterminer si un ordinateur peut penser.

Aujourd’hui, les questions autour de l’intelligence artificielle (IA) sont différentes. La technologie a gagné en popularité grâce à l’explosion des volumes de données que nous produisons, à des algorithmes avancés et à des améliorations majeures de la puissance de calcul. Nous en sommes à un stade où il est légitime de prendre en compte les enjeux éthiques et sociétaux liés à l’usage de tels outils.

Si l’IA peut améliorer l’efficacité et la productivité, elle peut aussi générer des contenus nuisibles, véhiculer des biais et porter atteinte à la vie privée. D’où des discussions essentielles sur la pratique consistant à concevoir une IA responsable, afin qu’elle renforce les employés, ait un impact positif sur les clients et permette aux entreprises de déployer l’IA de manière éthique.

L’évolution de ChatGPT et de la modération des contenus

Parmi les avancées en IA les plus commentées dans la culture populaire figure ChatGPT. ChatGPT est un chatbot d’IA développé par OpenAI pour émuler des interactions humaines avec les utilisateurs.

ChatGPT, qui a conservé pendant quelques mois le titre de service en ligne adopté le plus rapidement, après avoir atteint un million d’utilisateurs en cinq jours, a connu plusieurs itérations depuis sa première apparition en juin 2018.

À l’époque, le modèle s’appelait Generative Pre-trained Transformer 1 (GPT-1). C’était le premier grand modèle de langue (LLM) développé par OpenAI, en réponse à l’invention par Google de l’architecture des transformers en 2017. Ce modèle a posé les fondations de ChatGPT tel que nous le connaissons aujourd’hui, mais d’autres itérations ont suivi avant d’y parvenir.

Ainsi, en 2019, OpenAI a lancé le modèle plus puissant GPT-2. Les améliorations visaient à renforcer la compréhension du langage, ce qui a impliqué d’entraîner le modèle sur un jeu de données bien plus vaste et d’affiner les possibilités d’accès pour permettre aux utilisateurs de le personnaliser selon leurs cas d’usage. Peu après, en 2020, est arrivé GPT-3.

ChatGPT est désormais considéré comme l’un des modèles de langue les plus puissants disponibles à ce jour. Il sait réaliser des tâches de traitement du langage naturel comme la traduction, la complétion de texte, les questions-réponses et la génération de texte.

Mais cela ne signifie pas qu’il soit exempt de problèmes.

La puissance et les limites de ChatGPT

ChatGPT, tel que nous le connaissons aujourd’hui, s’appuie sur l’architecture GPT-3.5, avec un accès à GPT-4 pour les abonnés payants. La principale différence tient au jeu de données utilisé et à l’optimisation pour des cas d’usage conversationnels, afin d’offrir une expérience plus personnalisée via une interface de chat.

Ces évolutions ont amélioré l’efficacité de la communication entre les humains et les programmes informatiques. Elles ont aussi transformé en profondeur la façon dont l’information est traitée, consommée, ainsi que l’expérience client.

Mais des limites subsistent. Plusieurs débats ont récemment mis en lumière la capacité de ChatGPT à générer des réponses inappropriées ou biaisées. Notre guide sur l’éthique de l’IA générative les explore en détail.

Ce problème prend racine dans la manière dont ChatGPT a été conçu : le LLM a été entraîné sur des écrits d’auteurs aux profils très divers. Si cette diversité enrichit sa compréhension, elle peut aussi introduire des biais et des préjugés dans les contenus générés.

La nécessité d’une modération active

La modération active désigne le processus d’examen et de suivi des contenus générés par les utilisateurs. L’objectif est de garantir que ces contenus respectent certains standards et lignes directrices, afin de protéger votre marque de toute association négative et d’éviter que les utilisateurs ne soient exposés à des contenus choquants.

Par exemple, la modération active consiste à retirer des plateformes les contenus inappropriés, mais aussi à faire respecter les règles communautaires pour prévenir, entre autres, le harcèlement.

Mécanismes de modération des contenus de ChatGPT

OpenAI a reconnu la menace liée aux contenus générés par les utilisateurs (par exemple, nuire à la réputation de l’application, causer des torts aux utilisateurs, etc.) et a rapidement proposé un outil pour prévenir la diffusion de contenus inappropriés, qu’ils proviennent du modèle de langue ou de l’utilisateur.

Cet outil est intégré dans la Moderation API, qui permet aux développeurs de contrôler leurs contenus au regard des politiques d’usage d’OpenAI. Ces politiques visent à éliminer les langages inappropriés, tels que :

• Discours haineux
• Langage menaçant
• Harcèlement
• Auto-mutilation (intention ou instructions)
• Contenus graphiques (y compris pornographie et violence)

Cependant, des modèles comme ChatGPT peuvent aussi produire des résultats biaisés ou inexacts lorsqu’ils sont influencés par des saisies non filtrées. Des mesures de contrôle sont donc mises en place pour éviter que le modèle ne propage par inadvertance de fausses informations.

Le contrôle des contenus s’effectue ainsi sur deux volets :

Contrôle des entrées utilisateur

Techniques pour surveiller, filtrer et gérer les contenus fournis par les utilisateurs ; l’objectif est de permettre aux entreprises de maintenir intégrité, sécurité et exigences morales lors de la création d’applications LLM.

Contrôle des sorties du modèle

Ces politiques et procédures permettent de suivre et de filtrer les réponses générées par le modèle lors des interactions avec les utilisateurs ; elles aident les développeurs à traiter d’éventuels problèmes, comme les biais, dans les sorties du modèle.

La mise en œuvre du contrôle des entrées et des sorties transfère la responsabilité éthique des LLMs vers l’entreprise : il lui appartient de garantir une expérience positive pour ses utilisateurs et de veiller à un usage responsable de l’IA.

Méthodes de modération des contenus

On distingue six grands types de modération :

Pré-modération

Avant qu’un contenu ne soit rendu visible, il doit être vérifié. C’est la pré-modération. Son avantage : empêcher en amont la diffusion de contenus jugés inadaptés ou indésirables pour une plateforme.

C’est un choix très répandu pour les communautés en ligne visant un public jeune. Beaucoup estiment toutefois qu’elle nuit au côté instantané des échanges en ligne, puisque les contenus doivent être approuvés avant d’être partagés.

Post-modération

L’inverse de la pré-modération est la post-modération. Côté expérience utilisateur, elle est souvent préférée puisqu’elle autorise la publication immédiate après soumission, avant un passage ultérieur en file d’attente pour modération.

Le grand bénéfice de cette approche est la communication en temps réel. En revanche, le coût peut grimper, car les opérateurs de sites, éditeurs légaux des contenus, engagent leur responsabilité sur ce qui est affiché : plus un contenu nuisible est vu, plus les dommages potentiels sont élevés si l’affaire est portée en justice.

Modération réactive

Autre option : confier une partie du pouvoir aux membres de la communauté. Les utilisateurs peuvent signaler les contenus qui enfreignent les règles ou les comportements inadaptés.

Il est courant de combiner la modération réactive avec la pré- ou la post-modération, comme filet de sécurité supplémentaire pour les contenus qui échappent aux modérateurs. Son grand atout : elle s’adapte à la croissance de la communauté sans surcharger vos ressources.

Modération distribuée

Plus rare, la modération distribuée repose sur un système de notation : les membres votent pour dire si une contribution respecte les lignes directrices de la communauté.

Les entreprises évitent généralement de faire peser l’autocontrôle sur la communauté, en raison des risques juridiques et d’image.

Modération automatisée

Avec l’essor des contenus générés par les utilisateurs, la tâche des modérateurs humains se complexifie. Non seulement il est difficile de passer manuellement au crible des volumes massifs, mais c’est aussi éprouvant : personne ne se réjouit de devoir visionner des contenus dérangeants.

Adjoindre une modération automatisée à la modération humaine est une parade très efficace. Elle mobilise différents outils techniques, comme des filtres de mots, pour refuser ou approuver des publications.

Aucune modération

Les spécialistes d’ordinaire déconseillent l’absence totale de modération. Ils comprennent toutefois qu’il puisse y avoir de bonnes raisons de ne pas modérer une communauté.

Par exemple, faute de ressources suffisantes, ou parce que votre communauté revendique avant tout la « liberté d’expression ». Renoncer à la modération, c’est en somme renoncer au contrôle, exposant la plateforme à des risques – ce qui rebute généralement les nouveaux utilisateurs.

Modération des contenus : cas réels

La plupart des plateformes d’aujourd’hui, comme Facebook et YouTube, s’appuient sur la modération automatisée pour bloquer certains types de contenus. Cela implique généralement l’usage de l’IA, avec pour objectif d’améliorer les efforts de modération et l’expérience utilisateur.

Cependant, même si l’IA peut détecter des contenus inappropriés et prendre en charge l’essentiel des tâches fastidieuses confiées aux humains, elle a ses limites. Les machines peinent à saisir certaines nuances importantes, comme la désinformation, les biais ou les discours haineux ; supprimer entièrement l’intervention humaine n’est donc pas idéal.

En d’autres termes, la modération automatisée à l’aide de l’IA est souvent combinée à une modération humaine pour garantir la sécurité des plateformes et préserver l’intégrité de la marque. Voici quelques exemples concrets :

Contenus abusifs

Twitter (devenu X) a été vivement critiqué pour sa difficulté à répondre efficacement au harcèlement en ligne. Depuis la reprise par Elon Musk, l’entreprise s’appuie fortement sur l’automatisation pour modérer. Parmi les résultats, l’outil Quality filter, qui recourt à des techniques de traitement du langage naturel pour limiter la visibilité des contenus de faible qualité.

Contenus pour adultes

YouTube applique une politique stricte contre la nudité et les contenus à caractère sexuel ; les contrevenants s’exposent à la fermeture de leur chaîne. La détection repose sur deux mécanismes : automatisation et modération réactive.

Côté automatisation, Google déploie des algorithmes s’appuyant sur la vision par ordinateur pour repérer la nudité. Si un contenu échappe à ces algorithmes, YouTube s’en remet aux spectateurs pour le signaler comme inapproprié en vue d’un examen.

Contenus faux ou trompeurs

Instagram combine IA et modérateurs humains pour repérer, examiner et agir sur les contenus qui propagent des informations trompeuses – comme on l’a vu pendant la période Covid.

Selon le Centre d’aide Instagram, « [L’IA d’Instagram] peut détecter et supprimer des contenus contraires à nos Règles de la communauté avant même qu’ils ne soient signalés. Dans d’autres cas, notre technologie transmet le contenu à des équipes humaines pour un examen approfondi et une décision. »

Conclusion

Des théories fondatrices de Turing et McCarthy aux applications concrètes de ChatGPT, le paysage éthique de l’IA s’est complexifié. Si des technologies comme ChatGPT offrent un potentiel transformateur, elles posent aussi des défis éthiques, notamment en matière de modération et de biais.

La Moderation API d’OpenAI constitue une avancée majeure vers une IA responsable, mais elle ne saurait être une solution universelle. Entreprises et développeurs partagent la responsabilité éthique d’adopter une approche plurielle, combinant systèmes automatisés et supervision humaine. Les exemples concrets de plateformes comme Twitter et YouTube illustrent l’efficacité de ce modèle hybride.

Pour approfondir le sujet de l’IA responsable, nous proposons plusieurs ressources, comme un podcast sur l’avenir de l’IA responsable, un webinaire sur l’évaluation des modèles de machine learning en Python et un cours sur l’éthique de l’IA.

La gestion éthique de l’IA est un effort collectif qui exige une vigilance constante de la part de tous les acteurs. À mesure que nous repoussons les limites des capacités de l’IA, engageons-nous également à en renforcer l’intégrité éthique pour que la technologie demeure une force au service du bien.