Die Veröffentlichung von ChatGPT Ende 2022 markierte einen beispiellosen Meilenstein in der Entwicklung von KI. Entwickelt von Microsoft und OpenAI ist ChatGPT ein Chatbot der nächsten Generation, der in Sekundenschnelle unterschiedlichste Texte in menschlicher Qualität erzeugen kann. Obwohl es das bekannteste Tool ist, ist ChatGPT nur eines von vielen generativen KI-Werkzeugen — einem Teilbereich der KI, der sich auf die Erstellung von Inhalten wie Text, Bildern, Videos und Audio konzentriert.
Generative KI-Tools wie ChatGPT werden nahezu jede Branche und jeden Sektor verändern. Die laufende KI-Revolution bringt jedoch nicht nur Vorteile, sondern auch gesellschaftliche, wirtschaftliche und ökologische Risiken mit sich, die sorgfältig bewertet werden müssen.
Unternehmen und Regierungen denken darüber nach, wie sie KI regulieren können. Um Zeit zu gewinnen, Sicherheitsstandards festzulegen und potenzielle Gefahren zu mindern, haben Tech-Führungskräfte kürzlich sogar zu einer sechsmonatigen Pause bei der Entwicklung leistungsfähiger KI-Tools wie ChatGPT aufgerufen. Auf der öffentlichen Seite schlagen Regierungen weltweit Maßnahmen und KI-Regulierungen vor, um sicherzustellen, dass KI-Tools die Gesellschaft sicher, transparent und verantwortungsvoll erreichen.
In diesem Beitrag beleuchten wir, warum rechtliche Standards zur Regulierung von KI wichtig sind, wie sich vorgeschlagene Gesetze auf beliebte KI-Tools wie ChatGPT auswirken könnten und wie KI-Regeln die künftige Entwicklung von KI prägen werden.
Warum sind KI-Regulierungen wichtig?
Spitzentechnologien wie KI haben das Potenzial, unser Leben grundlegend zu verändern. Die KI-Revolution steht noch am Anfang, und es ist zu früh zu sagen, wie die Gesellschaft von morgen aussehen wird. Damit KI jedoch positive Ergebnisse liefert, braucht die Gesellschaft geeignete Mittel, um ihre Entwicklung zu steuern. Genau hier spielt Regulierung eine zentrale Rolle.
Nachfolgend findest du einige überzeugende Gründe für die Regulierung von KI:
- KI kann Grundrechte erheblich beeinflussen. Regierungen und Unternehmen nutzen KI für Entscheidungen, die unser Leben stark betreffen können — mit ernsten Auswirkungen auf Grundrechte wie das Recht auf Leben, Ehre, Privatsphäre und Datenschutz.
- KI kann Diskriminierung verschärfen. Wenn KI-Tools voreingenommen sind, führt das häufig zu Entscheidungen, die Minderheiten benachteiligen.
- KI kann gesellschaftliche Verwerfungen verstärken. KI wurde eingesetzt, um Fake News zu erzeugen und Fehlinformationen zu verbreiten — mit Folgen wie Unruhen und Polarisierung.
- KI braucht klare Verantwortlichkeiten. Alle, die KI entwickeln oder einsetzen, müssen für ihren sachgemäßen Einsatz einstehen. Es braucht Regeln und Standards, die Sicherheit und Vertrauen in KI gewährleisten.
- KI muss transparent sein. Algorithmische Intransparenz zählt zu den größten Bedenken rund um KI. Regulierung kann Transparenzmaßnahmen vorschreiben, die Prüfungen ermöglichen und die Kosten sowie Auswirkungen von Tools wie ChatGPT besser verständlich machen.
Der aktuelle Stand der KI-Regulierung
Nach der Veröffentlichung von ChatGPT und anderen leistungsstarken generativen KI-Tools beginnen Regierungen, aktiv zu werden und KI zu regulieren.
Hier sind die jüngsten Entwicklungen zur KI-Regulierung weltweit:
- USA. Die Regierung hat kürzlich eine technische Untersuchung angekündigt, um zu prüfen, ob für Tools wie ChatGPT regulatorische Maßnahmen notwendig sind. Es bleibt abzuwarten, wie sich diese mögliche Regulierung zum sogenannten Algorithmic Accountability Act von 2022 verhält, der sich noch in der Entwurfsphase befindet. Unterdessen haben die USA bereits mit der Verabschiedung der AI Bill of Rights und der Initiative on AI and Algorithmic Fairness teilweise reguliert.
- Europäische Union. Der 2021 vorgeschlagene und derzeit verhandelte AI Act der EU ist der erste große Versuch, KI umfassend zu regulieren. Er setzt auf einen risikobasierten Ansatz: Bestimmte KI-Anwendungen werden verboten, während Hochrisiko-KI nur unter Einhaltung bestimmter Anforderungen in den Markt darf. Nach dem jüngsten Boom generativer KI sind Überarbeitungen des Entwurfs zu erwarten.
- Kanada. Das Land diskutiert derzeit sein eigenes KI-Gesetz, den Artificial Intelligence and Data Act, der einen ähnlich risikobasierten Ansatz wie das europäische Pendant verfolgt. Neue Anpassungen sollen die Auswirkungen generativer KI adressieren.
- China. China hat kürzlich Regeln für im Land entwickelte, ChatGPT-ähnliche Tools vorgeschlagen. Die Regeln machen Unternehmen für generierte Inhalte verantwortlich; außerdem müssen bestimmte Standards erfüllt sein, bevor die Tools ausgerollt werden.
Auswirkungen von KI-Regulierung auf ChatGPT
Trotz guter Gründe für Regulierung ist es eine Herausforderung, Spitzentechnologien wie KI wirksam zu regeln. Regierungen müssen die Gesellschaft vor unerwarteten Risiken schützen und zugleich Innovation und Zugang zu Vorteilen ermöglichen. Deshalb ist KI bislang nur begrenzt reguliert.
Da es derzeit keine umfassende KI-Gesetzgebung gibt, wird versucht, KI über bestehende Gesetze wie den Datenschutz zu fassen. So hat Italien ChatGPT vorübergehend gesperrt — wegen möglicher Verstöße gegen die EU-Datenschutzvorschriften. Andere europäische Länder wie Frankreich, Spanien und Deutschland warten mit ähnlichen Schritten, bis die Frage auf EU-Ebene geklärt ist.
Kommende KI-Regulierung dürfte mehrere seit der Veröffentlichung von ChatGPT aufgekommene Bedenken adressieren, insbesondere:
- Verarbeitung vertraulicher Informationen. ChatGPT nutzt von Nutzenden bereitgestellte Daten, darunter sensible Informationen, zum Training seiner Modelle. Datenschutzexpertinnen und -experten warnen, dass dies zu Lecks personenbezogener oder vertraulicher Daten führen kann. So haben Samsung-Beschäftigte kürzlich festgestellt, dass sie versehentlich vertraulichen Code an ChatGPT preisgegeben hatten. Künftige Vorgaben könnten sicherstellen, dass die Verarbeitung sensibler Daten nicht gegen Datenschutzrecht verstößt.
- Unmoderierte Inhalte. Zwar verfügt ChatGPT über Inhaltsfilter, doch lassen sie sich mit geeigneten Prompts umgehen. Zudem besteht die Sorge, dass besonders schutzbedürftige Gruppen wie Kinder unangemessener Sprache und Erwachseneninhalten ausgesetzt werden. Regulierung könnte hier klare Schutzmaßnahmen festschreiben.
- Quellen der ChatGPT-Antworten. Derzeit nennt ChatGPT keine Quellen für seine Antworten. Das erschwert es, die Richtigkeit der Informationen zu prüfen, und erhöht das Risiko von Fehlinformationen.
- Plagiat und Urheberrecht. Es gibt verschiedene rechtliche Fragen zur Herkunft der Trainingsdaten von ChatGPT und zur Eigentümerfrage bei den generierten Inhalten. In Urheber- und Immaterialgüterrecht fehlen bislang Präzedenzfälle. Zukünftige Regeln müssen diese Punkte klären.
- Einsatzszenarien für ChatGPT. Die Möglichkeiten scheinen grenzenlos, doch in manchen Kontexten kann der Einsatz negative Folgen haben. So gibt es eine kontroverse Debatte über die Auswirkungen auf Bildung: Was, wenn Schülerinnen und Schüler Prüfungen damit beantworten oder Hausarbeiten schreiben? Sollen Lehrkräfte ChatGPT im Unterricht nutzen? Diese Fragen sind offen, doch künftige Gesetze dürften Teile davon regeln.
Fazit
Die Tech-Unternehmen hinter Tools wie ChatGPT haben die Welt überrascht. Sie treiben die KI-Revolution voran, doch die Weichen müssen Regierungen stellen, damit die Entwicklungen der Gesellschaft nutzen. Weltweit arbeiten Gesetzgeber an ambitionierten KI-Regelwerken. Es lohnt sich, diese rechtlichen Entwicklungen im Blick zu behalten — denn wie wir KI heute gestalten, prägt die Welt von morgen.
Bis dahin empfehlen wir dir, mit ChatGPT und der dahinterliegenden Magie am Ball zu bleiben — mit diesen DataCamp-Inhalten:
- Starte mit ChatGPT in unserem Kurs Introduction to ChatGPT.
- Hol dir dieses praktische Cheat Sheet mit ChatGPT-Prompts für Data Science.
- Hör dir die Podcast-Folge How ChatGPT and GPT-3 Are Augmenting Workflows an und erfahre, wie ChatGPT deinem Unternehmen nutzt.
- Lies unseren Artikel Bard vs ChatGPT for Data Science
- Tutorial zur Whisper API
- Lerne KI mit DataCamp
