Kurs
Machine Learning verstehen
2 Std.
307.9K
Willkommen zum letzten Beitrag unserer einmonatigen Serie „Data entzaubert“. Im Rahmen des Data Literacy Month hat diese Reihe zentrale Konzepte aus der Datenwelt greifbar gemacht und versucht, Fragen zu beantworten, die du dich vielleicht nicht zu stellen traust. Wenn du von Anfang an einsteigen willst, lies den ersten Beitrag der Serie: What is a Dataset?
In diesem Beitrag knüpfen wir an das vorherige Kapitel von „Data entzaubert“ an und sprechen über potenziell schädliche Effekte von KI, darüber, wie sie Vorurteile gegenüber bestimmten Gruppen verstärken kann, und über die verschiedenen Arten von KI‑Bias, die jede und jeder kennen sollte.
Das Problem mit KI‑Bias
Die meisten KI-Systeme nutzen heute Machine Learning. Machine Learning wendet per Definition fortgeschrittene statistische Verfahren an, um Muster aus vergangenen Daten zu lernen und Vorhersagen für zukünftige Ereignisse zu treffen.
Die weite Verbreitung von Machine Learning hat zu einem deutlichen Anstieg an Fällen geführt, in denen voreingenommene Vorhersagen getroffen wurden. Verzerrte KI-Algorithmen sind in der KI-Community ein ernstes Anliegen und entstehen aus den Daten, mit denen Modelle trainiert werden. Bias kann viele Formen annehmen – er kann gesellschaftlich oder strukturell bedingt sein und sich beispielsweise gegen ein bestimmtes Geschlecht, Hautfarbe, Religion oder eine Nationalität richten.
Entsprechend übernehmen KI-Algorithmen Vorurteile aus den Trainingsdaten, wenn sie menschliche Urteile nachahmen. Werfen wir einen Blick auf einige Beispiele aus der Vergangenheit, in denen voreingenommene KI-Vorhersagen Gesellschaft und Menschen spürbar geschadet haben:
Gender-Bias: Amazons Recruiting-Engine
Amazon entwickelte eine Recruiting-Engine, um Lebensläufe von Bewerbenden automatisiert für weitere Interviews zu filtern. Der Algorithmus spiegelte jedoch die aus Vergangenheitsdaten gelernten Vorurteile wider und bevorzugte am Ende ausschließlich Profile männlicher Kandidaten.
Racial Bias: PredPol-Algorithmus
PredPol, oder Predictive Policing, erstellte eine Heatmap von Gebieten mit hoher Kriminalitätsrate und stufte minderheitenspezifische Viertel als Hotspots ein. Der Algorithmus war mit voreingenommenen Eingabedaten trainiert worden, die viele gemeldete Vorfälle aus eben diesen Gegenden enthielten.
Racial Bias: COMPAS-Algorithmus
Die Software „Correctional Offender Management Profiling for Alternative Sanctions“ (COMPAS) wurde eingesetzt, um die Wahrscheinlichkeit eines Rückfalls zu bewerten. Im Rahmen einer Untersuchung aus dem Jahr 2016 zeigte sich jedoch, dass der Algorithmus verzerrt war. Die Software bewertete schwarze Straftäter häufiger als rückfallgefährdet als weiße.
Wie diese Beispiele zeigen, lernen Machine-Learning-Algorithmen neben anderen Datenregelmäßigkeiten auch Vorurteile aus Trainingsdaten. Wenn man sie nicht an der Quelle angeht, können Verzerrungen an vielen Stellen in KI/ML-Pipelines auftreten. Da KI in Unternehmen und Gesellschaft immer verbreiteter wird, sollten alle die unterschiedlichen Arten von Verzerrungen in KI-Systemen kennen. Im Folgenden findest du drei der häufigsten Bias-Typen in der KI.
Drei häufige Arten von KI‑Bias
Vorurteilsbias (Prejudice Bias)
Wenn Trainingsdaten bestehende Vorurteile, Stereotype und gesellschaftliche Annahmen widerspiegeln, werden diese Verzerrungen im gelernten Modell verankert – man spricht von Vorurteilsbias. Suchst du zum Beispiel nach „Arzt“, erscheinen viele Bilder männlicher Ärzte, während eine ähnliche Suche nach „Krankenschwester“ überwiegend Frauen zeigt. Das sagt viel über geschlechterbasierte Stereotype in unserer Gesellschaft aus.
Stichprobenverzerrung (Sample Selection Bias)
Stichprobenverzerrung entsteht, wenn die Trainingsdaten nicht repräsentativ für die betrachtete Population sind. Ein Beispiel sind KI-Systeme zur Erkennung von Hautkrebs. Ist der ursprüngliche Datensatz nicht repräsentativ für die breite Bevölkerung, wird das System bei Mitgliedern einer unterrepräsentierten Gruppe im Datensatz schlechter abschneiden.
Messverzerrung (Measurement Bias)
Messverzerrungen entstehen durch Fehler bei Datenerhebung oder Messung. Sind etwa die Bilder einer Kamera, die Daten für ein Bilderkennungssystem liefert, von schlechter Qualität, kann dies zu verzerrten Ergebnissen zulasten bestimmter Bevölkerungsgruppen führen. Ein weiteres Beispiel betrifft menschliche Bewertungen. So kann ein medizinischer Diagnosealgorithmus darauf trainiert werden, die Krankheitswahrscheinlichkeit anhand von Ersatzkennzahlen wie Arztbesuchen statt tatsächlicher Symptome zu prognostizieren.
Datenkompetenz für verantwortungsvolle KI entwickeln
Den ganzen Monat über haben wir die Bedeutung von Datenkompetenz für Einzelpersonen und Organisationen betont. Datenkompetenz ermöglicht es nichttechnischen Stakeholdern, mit Daten- und KI-Expertinnen und -Experten auf Augenhöhe zu sprechen und die Grenzen von KI-Systemen zu verstehen. Noch wichtiger: Sie fördert den Dialog zwischen Fachexpertise und KI-Teams, der eine fundierte Diskussion über potenzielle Schäden eines KI-Systems ermöglicht.
Um dir das nötige Wissen für diese Gespräche anzueignen, absolviere unseren Kurs Understanding Machine Learning und starte deine Reise zur Datenkompetenz. Für mehr Inhalte zu Datenkompetenz und „Data entzaubert“ schau dir diese Ressourcen an:
Themen