Verantwortungsvolle KI fördern: Inhaltsmoderation in ChatGPT

Die erste belegte Verwendung des Begriffs Künstliche Intelligenz fand 1956 auf einer wissenschaftlichen Konferenz in einer Rede von John McCarthy statt, in der er die Simulation menschlicher Intelligenz durch Maschinen ansprach. Daher gilt er oft als einer der Gründerväter der KI.

Die eigentliche Reise, um zu verstehen, ob Maschinen denken können, begann jedoch schon früher. Bereits 1950 veröffentlichte der englische Mathematiker Alan Turing den Aufsatz Computing Machinery and Intelligence und schlug darin einen Test vor, um festzustellen, ob ein Computer denken kann.

Heute stellen wir andere Fragen rund um Künstliche Intelligenz (KI). Die Technologie hat dank der riesigen Datenmengen, die wir erzeugen, fortgeschrittener Algorithmen und erheblicher Fortschritte in der Rechenleistung an Fahrt gewonnen. Wir sind an einem Punkt, an dem es sinnvoll ist, die ethischen und gesellschaftlichen Fragen beim Einsatz solcher Tools in den Blick zu nehmen.

KI kann Effizienz und Produktivität steigern, birgt aber auch das Risiko, schädliche Inhalte zu erzeugen, Vorurteile zu verstärken und den Datenschutz zu verletzen. Daraus ist eine wichtige Debatte über das verantwortungsvolle Entwickeln von KI entstanden: KI soll Mitarbeitende stärken, Kundinnen und Kunden positiv beeinflussen und Unternehmen eine ethische Skalierung ermöglichen.

Die Entwicklung von ChatGPT und die Inhaltsmoderation

Einer der meistdiskutierten KI‑Durchbrüche in der Popkultur ist ChatGPT. ChatGPT ist ein von OpenAI entwickelter KI‑Chatbot, der menschenähnliche Interaktionen mit Nutzenden ermöglicht.

ChatGPT, das wenige Monate lang den Rekord als am schnellsten angenommenen Onlinedienst hielt, nachdem es in fünf Tagen eine Million Nutzerinnen und Nutzer gewann, hat seit seinem Debüt im Juni 2018 mehrere Entwicklungsstufen durchlaufen.

Damals trug das Modell den Namen Generative Pre‑trained Transformer 1 (GPT‑1). Es war das erste Large Language Model (LLM) von OpenAI als Reaktion auf Googles Einführung der Transformer‑Architektur 2017. Dieses Modell legte das Fundament für das heutige ChatGPT, doch es folgten weitere Iterationen.

So veröffentlichte OpenAI 2019 das leistungsfähigere GPT‑2. Die Updates zielten darauf ab, das Sprachverständnis zu verbessern: Das Modell wurde auf einem deutlich größeren Datensatz trainiert und der Zugriff so feinjustiert, dass sich das Modell für spezifische Anwendungsfälle anpassen ließ. Kurz darauf folgte 2020 GPT‑3.

Heute gilt ChatGPT als eines der leistungsstärksten Sprachmodelle. Es beherrscht Aufgaben der natürlichen Sprachverarbeitung wie Übersetzung, Textvervollständigung, Beantwortung von Fragen und Textgenerierung.

Das heißt jedoch nicht, dass es frei von Problemen ist.

Stärken und Grenzen von ChatGPT

Das heutige ChatGPT basiert auf der GPT‑3.5‑Architektur; zahlende Abonnentinnen und Abonnenten erhalten Zugang zu GPT‑4. Hauptunterschiede liegen im verwendeten Datensatz und der Optimierung für dialogorientierte Anwendungsfälle, damit Interaktionen im Chat persönlicher wirken.

Diese Änderungen haben die Kommunikation zwischen Menschen und Programmen effizienter gemacht. Auch die Art, wie Informationen verarbeitet und konsumiert werden, sowie das Kundenerlebnis haben sich deutlich verbessert.

Dennoch gibt es Schwachstellen. Mehrere Diskussionen haben gezeigt, dass ChatGPT unangemessene oder voreingenommene Antworten erzeugen kann. Unser Leitfaden zu den ethischen Fragen generativer KI beleuchtet dies ausführlich.

Die Ursache liegt in der Entstehung von ChatGPT: Das LLM wurde mit den kollektiven Texten von Menschen aus diversen Hintergründen trainiert. Diese Vielfalt hilft beim Verstehen, kann aber auch Vorurteile und Verzerrungen in die erzeugten Inhalte tragen.

Warum aktive Moderation nötig ist

Aktive Inhaltsmoderation bezeichnet das Prüfen und Überwachen nutzergenerierter Inhalte. Ziel ist es, festgelegte Standards und Richtlinien einzuhalten, damit deine Marke nicht mit negativen Inhalten in Verbindung gebracht wird und Nutzende vor potenziell anstößigen Inhalten geschützt sind.

Ein Teil davon ist zum Beispiel, unangemessene Inhalte von Plattformen zu entfernen; ein anderer, Community‑Richtlinien durchzusetzen, um etwa Mobbing zu verhindern.

Mechanismen der Inhaltsmoderation bei ChatGPT

OpenAI hat die Risiken nutzergenerierter Inhalte erkannt (z. B. Imageschäden für die Anwendung, Gefahren für Nutzende) und rasch ein Tool bereitgestellt, um unangemessene Inhalte seitens des Sprachmodells oder der Nutzenden zu verhindern.

Dieses Tool ist die Moderation API, mit der Entwicklerinnen und Entwickler Inhalte gegen die Nutzungsrichtlinien von OpenAI prüfen können. Diese Richtlinien sollen unangemessene Sprache unterbinden, etwa:

• Hassrede
• Drohende Sprache
• Belästigung
• Selbstverletzung (Absicht oder Anleitungen)
• Grafische Inhalte (einschließlich Pornografie und Gewalt)

Gleichzeitig können Modelle wie ChatGPT durch ungefilterte Eingaben voreingenommene oder falsche Ausgaben erzeugen. Daher gibt es Kontrollmechanismen, um das unbeabsichtigte Verbreiten falscher Informationen zu verhindern.

Inhalte werden somit auf zwei Ebenen gesteuert:

Kontrolle der Nutzereingaben

Techniken zum Überwachen, Filtern und Steuern nutzergenerierter Inhalte; Ziel ist es, Unternehmen zu befähigen, Integrität, Sicherheit und moralische Standards beim Entwickeln von LLM‑Anwendungen zu wahren.

Kontrolle der Modellausgaben

Richtlinien und Verfahren, um Antworten des Modells bei der Interaktion mit Nutzenden nachzuverfolgen und zu filtern. So können Entwicklerinnen und Entwickler Probleme wie Verzerrungen in den Ausgaben adressieren.

Die Kombination aus Eingabe‑ und Ausgabe‑Kontrolle verlagert die ethische Verantwortung für LLMs auf das Unternehmen: Es liegt in seiner Hand, ein positives Nutzungserlebnis sicherzustellen und KI verantwortungsvoll einzusetzen.

Methoden der Inhaltsmoderation

Es gibt sechs gängige Moderationsarten:

Pre‑Moderation

Bevor Inhalte veröffentlicht werden, müssen sie geprüft werden. Das ist Pre‑Moderation. Der Vorteil: Ungeeignete oder unerwünschte Inhalte können blockiert werden, bevor sie Schaden anrichten.

Sie ist besonders beliebt in Online‑Communities für jüngere Zielgruppen. Viele kritisieren jedoch, dass sie die unmittelbare Dynamik von Communities bremst, da Inhalte erst freigegeben werden müssen.

Post‑Moderation

Das Gegenstück ist die Post‑Moderation. Aus Nutzersicht ist sie oft angenehmer, da Inhalte sofort nach dem Einreichen veröffentlicht werden und erst dann in die Moderationswarteschlange wandern.

Der große Vorteil ist Echtzeit‑Kommunikation. Allerdings können die Kosten steigen, weil Website‑Betreiber als juristische Herausgeber haften – je mehr Menschen schädliche Inhalte sehen, desto höher potenzielle Schäden vor Gericht.

Reaktive Moderation

Eine weitere Option ist, die Community zu befähigen: Mitglieder können Inhalte melden, die Regeln verletzen, oder unangemessenes Verhalten anzeigen.

Oft wird reaktive Moderation zusätzlich zur Pre‑ oder Post‑Moderation eingesetzt, als Sicherheitsnetz für Inhalte, die durchrutschen. Ihr großer Vorteil: Sie skaliert mit der Community, ohne Ressourcen übermäßig zu belasten.

Verteilte Moderation

Verteilte Moderation ist selten. Sie basiert auf einem Bewertungssystem, mit dem Community‑Mitglieder darüber abstimmen, ob ein Beitrag den Richtlinien entspricht.

Unternehmen überlassen die Selbstmoderation ungern allein der Community – aus rechtlichen Gründen und wegen des Markenrisikos.

Automatisierte Moderation

Mit zunehmenden nutzergenerierten Inhalten steigt die Komplexität für menschliche Moderatorinnen und Moderatoren. Es ist nicht nur mühsam, große Content‑Mengen manuell zu sichten, sondern auch belastend – niemand freut sich darauf, den ganzen Tag verstörende Inhalte zu prüfen.

Die Kombination aus automatisierter und menschlicher Moderation ist daher äußerst wertvoll. Sie nutzt technische Tools wie Wortfilter, um Beiträge zu prüfen, abzulehnen oder zuzulassen.

Keine Moderation

Von gar keiner Moderation raten Fachleute meist ab. Es kann jedoch Gründe geben, Inhalte nicht zu moderieren.

Vielleicht fehlen Ressourcen, oder deine Community versteht sich als Hort der „freien Meinungsäußerung“. De facto gibst du damit Kontrolle ab und machst Plattformen angreifbar – was neue Nutzende oft abschreckt.

Inhaltsmoderation in der Praxis

Die meisten Plattformen wie Facebook und YouTube nutzen heute automatisierte Moderation, um bestimmte Inhalte zu blockieren. Dabei kommt meist KI zum Einsatz, um Moderationsprozesse zu verbessern und das Nutzererlebnis zu stärken.

Auch wenn KI unangemessene Inhalte erkennen und einen Großteil der monotonen Arbeit übernehmen kann, ist sie nicht fehlerfrei. Maschinen übersehen oft wichtige Nuancen wie Desinformation, Verzerrungen und Hassrede. Vollständig auf menschliche Moderation zu verzichten, ist daher nicht sinnvoll.

In der Praxis wird automatisierte Moderation daher häufig mit menschlicher Prüfung kombiniert, um Plattformen sicher zu halten und die Marke zu schützen. Einige Beispiele:

Missbräuchliche Inhalte

Twitter (heute X) stand stark in der Kritik, nicht effektiv gegen Online‑Belästigung vorzugehen. Seit der Übernahme durch Elon Musk setzt das Unternehmen stark auf Automation. Ergebnis sind Tools wie der Quality filter, der mit Methoden der natürlichen Sprachverarbeitung die Sichtbarkeit minderwertiger Inhalte reduziert.

Inhalte für Erwachsene

YouTube hat strikte Regeln gegen Nacktheit und sexuelle Inhalte; bei Verstößen droht die Schließung des Kanals. Erkannt wird solches Material zweigleisig: automatisiert und reaktiv.

Automatisiert setzt Google Algorithmen und etwa Computer Vision ein, um Nacktheit zu erkennen. Entgeht etwas den Algorithmen, greift die Community ein und markiert Inhalte zur Prüfung.

Falsche und irreführende Inhalte

Instagram setzt KI und menschliche Moderatorinnen und Moderatoren ein, um irreführende Informationen zu finden, zu prüfen und Maßnahmen zu ergreifen – besonders sichtbar während der Covid‑Pandemie.

Laut dem Instagram Help Centre gilt: „[Instagrams] KI kann Inhalte, die gegen unsere Community‑Richtlinien verstoßen, erkennen und entfernen, bevor sie jemand meldet. In anderen Fällen leitet unsere Technologie Inhalte an menschliche Prüfteams weiter, die sie genauer ansehen und entscheiden.“

Fazit

Von den Grundlagen bei Turing und McCarthy bis zu den praktischen Anwendungen von ChatGPT ist die ethische Landschaft der KI deutlich komplexer geworden. Technologien wie ChatGPT haben enormes Potenzial, bringen aber auch ethische Herausforderungen mit sich, etwa Moderation und Verzerrungen.

Die Moderation API von OpenAI ist ein wichtiger Schritt hin zu verantwortungsvoller KI, aber keine Universallösung. Unternehmen und Entwicklerinnen wie Entwickler tragen gemeinsam Verantwortung: Ein mehrstufiger Moderationsansatz mit automatisierten Systemen und menschlicher Aufsicht ist gefragt. Praxisbeispiele von Twitter und YouTube zeigen die Wirksamkeit dieses hybriden Modells.

Wenn du tiefer in verantwortungsvolle KI einsteigen willst, empfehlen wir unter anderem einen Podcast über die Zukunft verantwortungsvoller KI, ein Webinar zur Bewertung von Machine‑Learning‑Modellen in Python und einen Kurs zu KI‑Ethik.

Die ethische Steuerung von KI ist eine gemeinsame Aufgabe, die kontinuierliche Aufmerksamkeit aller Beteiligten erfordert. Während wir die Grenzen der KI erweitern, sollten wir auch unsere ethischen Maßstäbe hochhalten – damit Technologie dem Guten dient.