Einführung in Datenethik: Was ist der ethische Umgang mit Daten?

Warum Datenethik wichtig ist

Schauen wir uns einige Beispiele an, die die Bedeutung von Datenethik verdeutlichen: 

• Im September 2018 injizierten Hacker bösartigen Code in die Website von British Airways und leiteten den Verkehr auf eine gefälschte Kopie um. Kundinnen und Kunden gaben daraufhin unwissentlich ihre Daten an Betrüger weiter – darunter Login-Daten, Zahlungsinformationen, Adressen und Buchungsdaten.
• 2019, nachdem Apple seine Kreditkarte eingeführt hatte, tauchten Vorwürfe eines Algorithmus mit Geschlechterbias auf. Mehrere prominente Tech-Führungskräfte (darunter Steve Wozniak, der bekannte Technologe und Apple-Mitgründer) berichteten, deutlich höhere Kreditlimits als ihre Ehefrauen erhalten zu haben, obwohl sie Vermögen teilten. Abseits des Geschlechts gab es keine klaren Faktoren, die solche Unterschiede erklärten. 
• Im März 2021 wurde die Privatsphäre von über 533 Millionen Facebook-Nutzenden kompromittiert, als ihre Daten in einem öffentlichen Hackerforum auftauchten. Es war einer der größten Datenlecks aller Zeiten und warf Fragen dazu auf, wie Organisationen persönliche Informationen speichern und absichern – und ob sie überhaupt Zugang zu solchen Daten haben sollten.

Diese Beispiele sind nur ein kleiner Ausschnitt der Verstöße gegen digitale Sicherheit. Selbst DataCamp war 2019 von einem Sicherheitsvorfall betroffen. 

Unabhängig von deiner technischen Expertise wird die Bedeutung von Datenethik immer deutlicher. Wir leben in einer Welt, in der Daten ein mächtiges Gut sind, das Innovationen antreibt und Leben verbessert. Ohne ethische Leitplanken können Daten jedoch auch missbraucht werden und Schaden anrichten.

Wer Datenethik versteht, kann besser einschätzen, wie eigene Informationen genutzt werden – und sich schützen, während man weiterhin an einer datengetriebenen Gesellschaft teilnimmt. Außerdem regt sie dazu an, kritisch darüber nachzudenken, welche Zukunft wir gestalten wollen – für uns selbst und für kommende Generationen, während sich Technologie rasant weiterentwickelt.

Die aktuelle und mögliche zukünftige Datenethik-Landschaft

Künstliche Intelligenz (KI) und Machine Learning entwickeln sich rasant, stehen aber noch am Anfang. Umso wichtiger ist es, ethische Fragen jetzt zu adressieren, damit diese Technologien der Gesellschaft dienen. Fragen zur Zukunft verantwortungsvoller KI sind drängend – es lohnt sich, informiert zu bleiben, zum Beispiel über Ressourcen wie DataCamps DataFramed-Podcast.

Da wir immer mehr online leben, verschwimmt die Grenze zwischen privaten und öffentlichen Räumen. Zwar gibt es rechtlichen Schutz für personenbezogene Daten – etwa die Datenschutz-Grundverordnung (DSGVO) der EU und den California Consumer Privacy Act (CCPA) – doch es bleiben Grauzonen, die den Umgang mit Privatsphäre erschweren.

[Quelle: Statista 2021] 

Und nutzt du einige dieser Plattformen regelmäßig, wirst du vielleicht überrascht sein, welche Daten tatsächlich verkauft werden. Von deiner E-Mail über Chat- und Standortverläufe – Werbetreibende und andere Käufer gewinnen viel Einblick, wenn du sie über Apps unbemerkt in dein Leben lässt. 

[Quelle: Harvard Business Review]

Viele Organisationen bauen die Infrastruktur auf, die KI und Data Science in unterschiedlichsten Branchen ermöglicht – die Forschung zu Risiken beginnt erst. Einwilligung und der Verkauf persönlicher Informationen werden in immer mehr Lebensbereichen zu zentralen Themen. 

Um das Wirkungspotenzial zu verstehen, sobald Unternehmen die Infrastruktur für Big-Data-Projekte bereitstellen, zeigen Open-Source-KI-Kunsttools wie DALL-E und Stable Diffusion, wie rasant sich KI verbessert, sobald sie breit verfügbar ist. Mit dieser Geschwindigkeit wird es immer schwieriger, Datenschutz, Sicherheit und Fairness zuverlässig zu gewährleisten. 

Prinzipien der Big-Data-Ethik

Es gibt kein Patentrezept für ethische Datenpraxis, aber grundlegende Prinzipien, die verantwortungsvollen Umgang leiten:

1. Transparenz: Klare Kommunikation darüber, welche Daten gesammelt, gespeichert und geteilt werden. Nutzende sollten verstehen, wie ihre Informationen verwendet werden – ohne juristisches Fachwissen für AGBs zu benötigen.
2. Verantwortung: Organisationen müssen Verantwortung für die von ihnen erhobenen Daten übernehmen und sie vor Lecks und Missbrauch schützen. Das ist entscheidend, um Vertrauen zwischen Unternehmen und Nutzenden zu bewahren.
3. Selbstbestimmung: Einzelne sollten Kontrolle über ihre personenbezogenen Daten haben – inklusive Zugriff, Berichtigung oder Löschung. Diese Datenhoheit ist ein grundlegendes Recht im digitalen Zeitalter.
4. Datenschutz: Privatsphäre bedeutet die Erwartung, dass persönliche Daten vor unbefugter Offenlegung geschützt sind. Organisationen müssen diese Erwartung durch robuste Sicherheitsmaßnahmen und die Einhaltung getroffener Vereinbarungen erfüllen.

Datenethik in der Praxis

Datenethik ist nicht nur Philosophie, sondern tägliche Entscheidungsarbeit. So lässt sie sich in verschiedenen Rollen verankern:

Leitlinien zur Datenethik für Einzelpraktiker

Software-, Machine-Learning- oder KI-Engineers

Engineers sollten mit Ethikerinnen und anderen Stakeholdern zusammenarbeiten, um ethische Herausforderungen anzugehen. Die Dokumentation von Prozessen und gründliche Datenreviews helfen, potenzielle Probleme früh zu erkennen und zu entschärfen.

Technische Projektmanager

Projektmanager sollten ethische Aspekte in die Planung integrieren und das Team darauf ausrichten. Das kann bedeuten, neue Stakeholder einzubinden und Schutzmechanismen fest im Projektscope zu verankern.

Product Manager

Product Manager stellen sicher, dass Produkte mit Blick auf Ethik entwickelt werden – inklusive Tests auf Inklusivität und der Bearbeitung aufkommender Bedenken im Entwicklungsprozess.

Leitlinien zur Datenethik für Führungskräfte

Organisationen jeder Größe sollten Datenethik priorisieren – zum Schutz ihrer Nutzenden und ihrer selbst:

Startups

Von Anfang an ethische Praktiken aufzubauen, ist essenziell. Auch wenn Ressourcen knapp sind, verhindert ein solides Fundament spätere Probleme im Wachstum.

Kleine und mittelständische Unternehmen

Mit zunehmender Skalierung sollten KMU transparent mit Kundinnen und Kunden über Datennutzung umgehen und Einwilligungen konsequent einholen und respektieren.

Globale Konzerne

Große Unternehmen sollten mit gutem Beispiel vorangehen: umfassende Datenethik-Programme, bereichsübergreifende Zusammenarbeit, Mitarbeiterschulungen und regelmäßige Audits der Praxis.

[Quelle: Spanning]

Aktuelle Herausforderungen: Beispiele aus der Datenethik

Ethische Algorithmen

Algorithmen können Effekte millionenfach verstärken, sobald sie skalieren. Schon in ihrer frühen Phase zeigt sich an vielen Beispielen, wie fehlende Leitplanken uns betreffen. 

Hiring-Algorithmen bei Amazon

HR-bezogene Projekte sind fast immer hochriskant, weil sie über Zugang zu Arbeit entscheiden – mit klaren Folgen für die Existenz von Menschen. Online-Bewerbungen und Tools wie LinkedIn bringen neue Herausforderungen, die passende Person zu finden und gleichzeitig Chancengleichheit zu sichern.

2016–2017 versuchte Amazon, beide Probleme mit einem internen Auswahl-Algorithmus zu lösen, der Lebensläufe vorsortierte. Schnell zeigte sich ein Bias gegen Frauen in technischen Rollen. Aufgrund von Verzerrungen in historischen Daten hatte sich der Algorithmus angewöhnt, Frauen systematisch zu benachteiligen. 

Auch wenn Amazon diesen Algorithmus eingestampft hat, gehen viele HR-Profis davon aus, dass KI-Tools künftig regulär im Recruiting eingesetzt werden. Mehr dazu in unserem Artikel über ethischen Einsatz von Machine Learning für Entscheidungen. 

Gesichtserkennung hat Schwierigkeiten bei dunkleren Hauttönen

Gesichtserkennung ist weit verbreitet – nicht nur zum Entsperren von Geräten und Konten, sondern auch als zentrales Werkzeug für polizeiliche Überwachung, Sicherheitskontrollen an Flughäfen sowie Entscheidungen zu Beschäftigung und Wohnen.

2018 zeigte Forschung jedoch, dass diese Algorithmen bei dunkelhäutigen Frauen deutlich schlechter abschnitten – mit Fehlerraten bis zu 34 % höher als bei hellhäutigen Männern. 

Wenn du wissen willst, wie Gesichtserkennung funktioniert, sieh dir unser Tutorial zur Gesichtserkennung mit Python und OpenCV an. 

Datenschutz 

Vertiefe Datenschutz und Anonymisierung in Python in unserem interaktiven Kurs. 

Apps zur Zyklusverfolgung

Seit der Aufhebung des bundesweiten Abtreibungsschutzes Roe v. Wade in den USA sind Perioden-Tracking-Apps potenziell ein Mittel für Strafverfolgung bei zukünftigen Abtreibungsverboten. Zwar erlauben die meisten Apps die Weitergabe persönlicher Daten an Dritte, doch viele Perioden-Apps verwenden unklare Formulierungen dazu, ob Daten an Behörden für Haftbefehle weitergegeben werden könnten. 

Auch wenn man oft juristische Expertise bräuchte, um AGBs all der täglich genutzten Apps zu verstehen: Die Risiken und Trade-offs zu kennen, denen du dich aussetzt, wird immer wichtiger.

Uber verfolgte Politiker und Promis mit „God-Mode“

2014 hieß es, der „God-Mode“ von Uber habe allen Mitarbeitenden Zugriff auf vollständige Nutzerdaten gegeben – teils genutzt, um Prominente, Politiker und sogar persönliche Kontakte (z. B. Ex-Partner) zu tracken. Eine ehemalige Mitarbeiterin klagte zudem über leichtsinnigen Umgang mit Verhaltensdaten und „völlige Ignoranz“ gegenüber Privatsphäre.  

Zur gleichen Zeit, 2016, versuchte Uber, ein großes Datenleck zu vertuschen, indem Hacker ausbezahlt und der Vorfall nicht gemeldet wurde – trotz einer laufenden Untersuchung der US-Handelsaufsicht.

Datensicherheit

Von inhärenten Schwachstellen bis zu Hacking-Risiken – Datensicherheit betrifft weit mehr als Login-Informationen. Apps und Websites aller Art können deinen Standort bestimmen, deine Nachrichten lesen, sehen, wen du blockiert hast und wie du Geld ausgibst. 

Ob du online sehr aktiv bist oder nur das Nötigste nutzt (Banking, Messaging, E-Mail etc.) – du bist höchstwahrscheinlich stärker exponiert, als dir bewusst ist. 

Aktuelle Vorschriften zur Datenethik

Viele wissen, wie wichtig Datenethik ist – aber was bedeutet das für uns als Verbraucherinnen und Verbraucher? Für Unternehmen? Für Behörden? 

Die Antwort hängt davon ab, wo du lebst. In manchen Ländern gibt es bereits Gesetze, die Unternehmen zu Transparenz im Umgang mit personenbezogenen Daten verpflichten; in anderen gibt es kaum Regulierung.

Hinzu kommen die alltäglichen ethischen Fragen: Wie viel teilen wir online miteinander? Sollten wir weniger teilen? Und was passiert, wenn etwas schiefgeht? All das verlangt durchdachte Antworten und klare Führung – sowohl von Regierungen als auch aus der Wirtschaft –, damit unsere Zukunft nicht durch unethisches Verhalten gefährdet wird.

Weltweit erproben Regierungen neue Wege, um ethische Datenerhebung, KI und verschiedene Datennutzungen (z. B. zielgerichtetes Marketing) zu regulieren. 

Einige wichtige Regelwerke, die du kennen solltest, um den Status quo in deinem Umfeld einzuordnen: 

Datenschutz 

• DSGVO (Europäische Union) – Mehr dazu in unserem Webinar Data Ethics and GDPR for Data Practitioners.
• CCPR, CCPA (USA – Kalifornien) 

KI-Einsatz 

• EU AI Act
• New York Bias in Hiring AI Regulation (USA – NY) 
• Algorithm Justice and Online Platform Transparency Act (USA)

Plattformregulierung

• Digital Services Act (Europäische Union)

Während EU und USA bei verabschiedeter Gesetzgebung vorangehen, sind die meisten Regelwerke noch neu und in laufender Weiterentwicklung. 

Dein Team in Datenethik weiterbilden

Da Datenethik an Bedeutung gewinnt, sollten Unternehmen ihre Teams fit machen für die ethischen Herausforderungen im Umgang mit Daten. Datenethik betrifft nicht nur Data Scientists oder Rechtsabteilungen – sie ist eine Grundvoraussetzung für verantwortungsvolles Handeln in allen Bereichen.

Wenn du ein Team leitest oder ein Unternehmen führst, kann sich Investition in Schulungen zur Datenethik deutlich auszahlen: für verantwortungsvollen Dateneinsatz, Schutz der Privatsphäre und eine starke Reputation. DataCamp for Business bietet umfassende Trainings, zugeschnitten auf Branche und Bedarf, damit Mitarbeitende ein tiefes Verständnis für Datenethik entwickeln. Wir bieten:

• Individuelle Lernpfade: Trainings, die auf die Rollen deines Teams und deren ethische Herausforderungen zugeschnitten sind.
• Praxisnähe: Interaktive Kurse und Fallstudien, mit denen sich ethische Prinzipien im Arbeitsalltag anwenden lassen.
• Laufendes Assessment: Tools, um Verständnis und Anwendung von Datenethik im Team zu messen – damit ihr neuen Themen immer einen Schritt voraus seid.

Wenn du dein Team über Plattformen wie DataCamp in Datenethik weiterbildest, stärkst du nicht nur eine Kultur der Achtsamkeit, sondern positionierst dein Unternehmen auch als Vorreiter für verantwortungsvolle Datennutzung. Diese Investition hilft, teure Fehler zu vermeiden, Vertrauen aufzubauen und langfristig erfolgreich zu sein. Nimm Kontakt auf und fordere noch heute eine Demo an.

Weiterbildung in Datenethik

Wenn du deine Karriere auf die technologischen und geschäftlichen Veränderungen vorbereiten willst, gibt es viele Wege, die den Einstieg oder Wechsel in den Bereich ethischer Datenarbeit erleichtern. Starte mit unserem Kurs Introduction to Data Ethics, der Prinzipien, KI-Ethik und praktische Skills für verantwortungsvolle Datennutzung abdeckt. Außerdem bieten wir verschiedene Webinare zur Datenethik: 

• EU AI Act Readiness: Meeting Your Organization's AI Literacy Requirements
• Understanding Regulations for AI in the USA, the EU, and Around the World
• What Leaders Need to Know About Implementing AI Responsibly
• Data Literacy for Responsible AI

Es gibt außerdem mehrere Zertifizierungen, die du dir ansehen kannst: 

Datenschutz

• IAPP Certified Information Privacy Manager (CIPM)
• Securiti PrivacyOps
• ISACA Certified Data Privacy Solutions Engineer (CDPSE) 
• IAPP Certified Information Privacy Professional (CIPP)

Datensicherheit

• CompTIA Security+
• Certified Ethical Hacker (CEH)
• GIAC Security Essentials Certification (GSEC)
• Offensive Security Certified Professional (OSCP)