Ethik in der generativen KI

Hättest du dir bis vor wenigen Jahren vorstellen können, dass eine Maschine Kunst schafft, Geschichten schreibt oder sogar komplexe Daten wie medizinische und juristische Dokumente versteht?

Wahrscheinlich nicht. Für die meisten von uns war das reine Science-Fiction und wirkte wie ferne Zukunftsmusik.

Doch mit dem Aufkommen der Ära der generativen KI hat sich unser Verständnis davon, was Maschinen können, grundlegend verändert.

Was ist generative KI?

Generative KI ist ein anspruchsvoller Zweig der KI, der Maschinen ermöglicht, neue Inhalte zu erzeugen – auf Basis bestehender Inhalte in Form von Text, Audio, Video und sogar Code.

Gartner bezeichnet sie als „eine der wirkungsvollsten und sich am schnellsten entwickelnden Technologien, die eine Produktivitätsrevolution auslösen kann“.

Sie wird rasant Realität und treibt zahlreiche Innovationen voran, die Branchen transformieren – etwa indem sie Kreativität in Medien und Marketing beschleunigt und verstärkt, personalisierte Gesundheitsversorgung ermöglicht oder adaptives Lernen in der Bildung unterstützt.

Ethische Bedenken rund um generative KI

Das Tempo, in dem solche Anwendungen den Markt erreichen, ist beeindruckend.

Doch wenn selbst Sam Altman, der CEO von OpenAI, warnt vor den Gefahren von Sprachmodellen, ist das Risiko real. Umso wichtiger ist es, Nutzen und Vorsicht auszubalancieren und diese starke Technologie verantwortungsvoll einzusetzen.

Bildquelle: Business Insider

Lass uns einige der wichtigsten ethischen Bedenken beim Einsatz generativer KI beleuchten.

Verbreitung schädlicher Inhalte

Die Fähigkeit generativer KI, menschenähnliche Inhalte zu erstellen, kann die Produktivität steigern – birgt aber auch das Risiko, schädliche oder anstößige Inhalte zu erzeugen. Besonders besorgniserregend sind Tools wie Deepfakes, die falsche Bilder, Videos, Texte oder Sprache erschaffen können – getrieben von politischen Agenden oder zur Verbreitung von Hassrede.

Kürzlich hat ein Betrüger die Stimme eines Mädchens geklont, um durch einen vorgetäuschten Kidnapping Lösegeld von der Mutter zu erpressen. Diese Tools sind inzwischen so ausgereift, dass echte und gefälschte Stimmen nur schwer zu unterscheiden sind.

Zudem können automatisch generierte Inhalte die Verzerrungen aus den Trainingsdaten fortschreiben oder verstärken – mit voreingenommener, expliziter oder gewaltverherrlichender Sprache als Folge. Solche Inhalte erfordern menschliches Eingreifen, um sie mit den Geschäftsprinzipien der Organisation in Einklang zu bringen, die diese Technologie nutzt.

Urheberrechte und rechtliche Risiken

Wie die meisten KI-Modelle werden generative Modelle mit sehr großen Datenmengen trainiert. Dadurch können Urheber- und Schutzrechte anderer verletzt werden. Für Unternehmen, die vortrainierte Modelle nutzen, entstehen rechtliche, reputative und finanzielle Risiken – und Kreative sowie Rechteinhaber werden potenziell geschädigt.

Verstöße gegen den Datenschutz

Die zugrunde liegenden Trainingsdaten können sensible Informationen enthalten, darunter personenbezogene Daten (PII). PII, wie vom US Department of Labor definiert, sind Daten, „die eine Person direkt identifizieren, z. B. Name, Adresse, Sozialversicherungsnummer oder andere Kennziffern, Telefonnummer und E‑Mail-Adresse.“

Verstöße gegen die Privatsphäre können zu Identitätsdiebstahl führen und für Diskriminierung oder Manipulation missbraucht werden.

Daher müssen sowohl die Entwickler vortrainierter Modelle als auch Unternehmen, die Modelle für spezifische Aufgaben feinjustieren, Datenschutzrichtlinien einhalten und sicherstellen, dass PII aus dem Training entfernt wird.

In unserem Webinar erklären wir die Datenschutzvorschriften, insbesondere die DSGVO, um den ethischen Umgang mit Daten sicherzustellen.

Offenlegung sensibler Informationen

Im Sinne eines sorgfältigen Umgangs mit Nutzerdaten gilt es, Risiken durch unbeabsichtigte Offenlegung sensibler Informationen zu berücksichtigen – eine Gefahr, die durch die schnelle Demokratisierung von KI-Fähigkeiten zunimmt. Die Neugier und Bequemlichkeit generativer KI-Tools, speziell von ChatGPT, verleiten Nutzer mitunter dazu, die Datensicherheit bei der Erkundung neuer Plattformen zu vernachlässigen.

Die Risiken steigen deutlich, wenn Mitarbeitende sensible Details wie einen Rechtsvertrag, den Quellcode eines Softwareprodukts oder proprietäre Informationen hochladen.

Die Folgen können gravierend sein – finanziell, reputations- und rechtlich. Daher ist eine klare Datensicherheitsrichtlinie offensichtlich und unverzichtbar.

Verstärkung bestehender Voreingenommenheit

KI-Modelle sind nur so gut (oder schlecht) wie ihre Trainingsdaten. Wenn die Trainingsdaten gesellschaftliche Vorurteile enthalten, spiegelt das auch das Modell wider – so dachten wir. Eine aktuelle Untersuchung bei Bloomberg zeigt jedoch, dass diese Modelle teils noch voreingenommener sind als die realen Daten, auf denen sie beruhen.

Die Studie zeichnet ein ernüchterndes Bild: „Die Welt nach Stable Diffusion wird von weißen, männlichen CEOs geführt. Frauen sind selten Ärztinnen, Anwältinnen oder Richterinnen. Männer mit dunkler Hautfarbe begehen Verbrechen, während Frauen mit dunkler Hautfarbe Burger wenden.“

Für mehr Chancengerechtigkeit muss sich das auch in den Daten widerspiegeln – durch diverse Teams und Perspektiven über den gesamten Entwicklungszyklus hinweg.

Rollen im Arbeitsmarkt und Moral

Einerseits gilt generative KI als nächste Produktivitätswelle. Andererseits droht Jobverlust, wenn weniger Menschen die gleiche Menge Arbeit erledigen.

Auch der jüngste McKinsey-Bericht unterstreicht die Verdrängung bestehender Kompetenzen: „Generative KI und andere Technologien können heute Tätigkeiten automatisieren, die 60 bis 70 Prozent der Arbeitszeit ausmachen.“

Dass heute viele Jobs unter Druck geraten, bedeutet nicht, den Wandel durch generative KI zu stoppen. Es erfordert aber gezielte Maßnahmen, Arbeitskräfte weiter- oder umzuschulen – für neue Rollen in der fortgeschrittenen KI-Ära.

Datenherkunft

Viele Bedenken beim Einsatz von KI-Tools drehen sich um Daten – vom Schutz der Privatsphäre bis zur Erzeugung synthetischer, multimodaler Daten wie Text, Bilder, Videos oder Audio.

Solche Systeme müssen Datenqualität und -integrität sicherstellen, um voreingenommene oder fragwürdige Datensätze zu vermeiden.

Mangelnde Transparenz

KI-Systeme sind oft Black Boxes. Es ist schwer nachzuvollziehen, wie sie zu einer bestimmten Antwort kommen oder welche Faktoren Entscheidungen beeinflussen.

Die emergenten Fähigkeiten großer Modelle verschärfen diese Lücke zusätzlich – selbst Entwickler sind von manchen Funktionen überrascht: „Forschende versuchen nicht nur, weitere emergente Fähigkeiten zu identifizieren, sondern auch zu verstehen, warum und wie sie überhaupt entstehen – um Unvorhersehbarkeit vorhersagen zu können.“

Beispiele für KI-generierte Desinformation

Kürzlich untersuchte eine Studie, ob Teilnehmende KI-generierte Inhalte von menschlich verfassten unterscheiden können. Kaum überraschend fiel es vielen schwer – ein Hinweis darauf, wie leicht sich mit Sprachmodellen Desinformation in großem Stil verbreiten lässt.

Ein beispielloser Fall tauchte jüngst vor einem US-Gericht auf, als ein Anwalt sich auf ein nicht existierendes Urteil berief – gestützt auf eine ChatGPT-Antwort.

Auch die UN warnt vor KI-generierten Fehlinformationen, die zu Konflikten und Straftaten führen können.

Ethische Best Practices für generative KI

Die technologischen Fortschritte generativer KI können der Gesellschaft großen Nutzen bringen – vorausgesetzt, sie werden kontrolliert und reguliert eingesetzt. Dafür braucht es ethische Best Practices, um potenzielle Schäden zu minimieren.

Informiert bleiben und handeln

Tauche in die aktuelle und künftige Welt der Datenethik ein. Verstehe die Leitlinien für die Anwendung – ob als Einzelbeitragende oder in einer Führungsrolle.

Mehr zur aktuellen und zukünftigen Datenethik und zu Umsetzungsleitlinien findest du in einem separaten Beitrag.

An globale Standards anlehnen

Es lohnt sich auch, die KI-Ethikrichtlinien der UNESCO kennenzulernen, die im November 2021 von allen 193 Mitgliedstaaten angenommen wurden.

Die Richtlinien betonen vier Kernwerte:

• Menschenrechte und Menschenwürde
• Friedliche und gerechte Gesellschaften
• Vielfalt und Inklusion
• Ökologische Nachhaltigkeit

Zudem definieren sie zehn Prinzipien, darunter Verhältnismäßigkeit, Sicherheit, Privatsphäre, Multi-Stakeholder-Governance, Verantwortlichkeit, Transparenz, menschliche Aufsicht, Nachhaltigkeit, Bewusstseinsbildung und Fairness.

Weiter liefern sie politische Handlungsfelder zu Datengovernance, Umwelt, Geschlecht, Bildung, Forschung, Gesundheit und gesellschaftlichem Wohlbefinden.

Mit Communities für ethische KI vernetzen

Es gibt weitere Initiativen wie das AI Ethics Lab und das Montreal AI Ethics Institute, die sich der ethischen Kompetenz widmen. Gemeinsame Prinzipien sind Transparenz, Rechenschaft, Datenschutz und Robustheit – mit Fokus auf Technologieanbieter.

Am Ball zu bleiben und sich am Diskurs über KI-Ethik zu beteiligen, ist entscheidend, damit generative KI für alle sicher bleibt.

Bewusstsein schärfen und lernen

Wir als Nutzerinnen und Nutzer sollten die Vorstellung ablegen, dass alles Digitale per se vertrauenswürdig ist.

Viele Probleme lassen sich lösen, wenn wir Informationen hinterfragen: Fakten prüfen, Quellen verifizieren und die Herkunft klären, bevor wir Wissen anwenden.

Bewusstsein ist der Schlüssel für den richtigen Umgang mit generativer KI – und das Anliegen dieses Beitrags.

Fazit

Generative KI birgt enormes Potenzial, Sektoren von Gesundheit bis Bildung zu revolutionieren – durch neue Inhalte und höhere Produktivität.

Gleichzeitig bringt diese mächtige Technologie erhebliche ethische Risiken mit sich: die Verbreitung schädlicher Inhalte, Urheberrechtsverletzungen, Datenschutzverstöße und die Verstärkung bestehender Vorurteile.

Während wir die Möglichkeiten generativer KI weiter nutzen, ist es entscheidend, ethische Best Practices zu verankern.

Starte noch heute mit unserem Kurs Generative AI Concepts und entdecke generative KI-Projekte, mit denen du sofort loslegen kannst.