De lancering van ChatGPT eind 2022 markeerde een ongekende mijlpaal in de ontwikkeling van AI. Ontwikkeld door Microsoft en OpenAI is ChatGPT een next‑gen chatbot die in enkele seconden allerlei mensachtige teksten kan genereren. Hoewel het de meest populaire is, is ChatGPT slechts een van de vele generatieve AI-tools, een subveld van AI dat zich richt op het creëren van content, zoals tekst, afbeeldingen, video en geluid.
Generatieve AI‑tools zoals ChatGPT staan op het punt bijna elke industrie en sector te ontwrichten. De voortdurende AI‑revolutie brengt echter niet alleen voordelen met zich mee, maar ook maatschappelijke, economische en milieu‑risico’s die zorgvuldig moeten worden afgewogen.
Bedrijven en overheden denken na over manieren om AI te reguleren. Zo hebben techleiders onlangs, om tijd te winnen voor het opstellen van veiligheidsnormen en het beperken van potentiële gevaren, opgeroepen tot een pauze van zes maanden in de ontwikkeling van krachtige AI‑tools zoals ChatGPT. Aan publieke zijde stellen overheden wereldwijd maatregelen en AI‑regels voor om ervoor te zorgen dat AI‑tools de samenleving veilig, transparant en verantwoord bereiken.
In dit artikel bespreken we het belang van juridische standaarden voor AI, wat de impact zal zijn van de voorgestelde AI‑wetgeving op populaire AI‑tools zoals ChatGPT, en hoe AI‑regelgeving de toekomstige ontwikkeling van AI zal vormgeven.
Waarom is AI‑regelgeving belangrijk?
Geavanceerde technologieën zoals AI hebben de potentie om ons leven diepgaand te veranderen. De AI‑revolutie staat nog in de kinderschoenen en het is te vroeg om te weten hoe de samenleving van morgen eruitziet. Maar om te waarborgen dat AI alleen positieve uitkomsten oplevert, heeft de samenleving de juiste instrumenten nodig om de ontwikkeling ervan te sturen en te beheersen. Hier speelt AI‑regelgeving een belangrijke rol.
Hieronder vind je een aantal sterke redenen om AI te reguleren:
- AI kan fundamentele rechten aanzienlijk raken. Overheden en bedrijven gebruiken AI om beslissingen te nemen die grote impact op ons leven kunnen hebben, met serieuze gevolgen voor fundamentele rechten zoals het recht op leven, eer, privacy en gegevensbescherming.
- AI kan discriminatie verergeren. Wanneer AI‑tools vooringenomenheid vertonen, leidt dat vaak tot beslissingen die minderheidsgroepen benadelen.
- AI kan sociale ontwrichting vergroten. AI is gebruikt om nepnieuws te maken en desinformatie te verspreiden, wat leidt tot sociale onrust en polarisatie.
- AI moet aanspreekbaar zijn. Partijen die betrokken zijn bij de ontwikkeling en het gebruik van AI moeten verantwoording kunnen afleggen over het juiste gebruik van AI. Er is een set regels en standaarden nodig om veiligheid en vertrouwen te borgen.
- AI moet transparant zijn. Algoritmische ondoorzichtigheid is een van de grootste zorgen rond AI. Regelgeving kan zorgen voor transparantiemaatregelen die nodig zijn om systemen te auditen en de kosten en impact van AI‑tools zoals ChatGPT beter te begrijpen.
De huidige stand van AI‑regelgeving
Na de introductie van ChatGPT en andere krachtige generatieve AI‑tools beginnen overheden stappen te zetten om AI te reguleren.
Dit zijn de meest recente ontwikkelingen in AI‑regelgeving wereldwijd:
- VS. De regering kondigde recent een technisch onderzoek aan om te beoordelen of er regulerende maatregelen moeten komen voor AI‑tools zoals ChatGPT. Het moet nog blijken hoe deze mogelijke regulering zich verhoudt tot de zogeheten Algorithmic Accountability Act, voorgesteld in 2022 en momenteel in concept. Ondertussen is AI in de VS al deels gereguleerd na de goedkeuring van de AI Bill of Rights en het Initiative on AI and Algorithmic Fairness.
- Europese Unie. Voorgesteld in 2021 en momenteel in onderhandeling, is de EU AI Act de eerste poging van een grote speler om AI te reguleren. Het voorstel hanteert een risicogebaseerde aanpak, waarbij bepaalde AI worden verboden, terwijl AI die als hoog risico wordt aangemerkt aan bepaalde eisen moet voldoen om op de markt te komen. Na de recente boom in generatieve AI worden nieuwe wijzigingen in het conceptvoorstel verwacht.
- Canada. Het land bespreekt momenteel zijn eigen AI‑wet, de Artificial Intelligence and Data Act, die een vergelijkbare risicogebaseerde aanpak volgt als de Europese tegenhanger. Nieuwe aanpassingen worden verwacht om de impact van generatieve AI te adresseren.
- China. China heeft recent regels voorgesteld om AI‑tools te controleren die in het land worden ontwikkeld en vergelijkbaar zijn met ChatGPT. De voorgestelde regels maken bedrijven verantwoordelijk voor de door de tools gegenereerde content, die aan bepaalde standaarden moet voldoen voordat deze wordt uitgerold.
Gevolgen van AI‑regelgeving voor ChatGPT
Ondanks de goede redenen om AI te reguleren en de recente initiatieven uit het vorige deel, is het reguleren van geavanceerde technologieën als AI een lastige opgave: overheden moeten een manier vinden om de samenleving te beschermen tegen onverwachte risico’s en valkuilen, terwijl innovatie en toegang tot de voordelen behouden blijven. Daarom is AI voorlopig nog grotendeels ongereguleerd.
Omdat er momenteel geen specifieke AI‑wetgeving is, zijn grote pogingen om AI te reguleren gedaan via bestaande wetten, zoals regelgeving voor gegevensbescherming. Zo heeft Italië ChatGPT tijdelijk verboden vanwege mogelijke schendingen van de EU‑gegevensbeschermingsregels. Andere Europese landen, zoals Frankrijk, Spanje en Duitsland, wachten met soortgelijke stappen tot het onderwerp op Europees niveau is besproken.
Aankomende AI‑regelgeving zal waarschijnlijk enkele zorgen aanpakken die zijn opgekomen na de release van ChatGPT, namelijk:
- Verwerking van vertrouwelijke informatie. ChatGPT gebruikt door gebruikers aangeleverde data, inclusief gevoelige gegevens, om zijn modellen te trainen. Privacy‑experts waarschuwen dat dit beleid kan leiden tot lekken van persoonsgegevens of vertrouwelijke informatie. Zo ontdekten Samsung‑medewerkers onlangs dat ze per ongeluk vertrouwelijke code naar ChatGPT hadden geüpload. Aankomende AI‑regels kunnen ervoor zorgen dat de verwerking van gevoelige data niet in strijd is met de privacywetgeving.
- Ongefilterde content. Hoewel ChatGPT is uitgerust met contentfilters, kunnen die met de juiste prompts worden omzeild. Ook is er zorg dat kwetsbare gebruikers, zoals kinderen, worden blootgesteld aan ongepaste taal en volwassen onderwerpen. AI‑regelgeving kan duidelijke waarborgen vastleggen om deze kwesties aan te pakken.
- Bronnen van ChatGPT‑uitvoer. Momenteel geeft ChatGPT de bronnen die voor antwoorden worden gebruikt niet weer. Daardoor is het voor gebruikers lastig om te weten of de informatie waar en accuraat is, wat het risico op desinformatie vergroot.
- Plagiaat en auteursrecht. Er zijn diverse juridische kwesties rond de toerekening van de data waarmee ChatGPT is getraind en het eigendom van de content die het genereert. Er is geen precedent op het gebied van auteursrecht en intellectueel eigendom. Toekomstige AI‑regelgeving is nodig om dit te verduidelijken.
- Waar je ChatGPT gebruikt. De mogelijkheden van ChatGPT zijn eindeloos, maar gebruik in bepaalde scenario’s kan negatieve gevolgen hebben. Zo is er een levendige discussie over de implicaties van ChatGPT voor . Wat als studenten het gebruiken om examens te maken of opdrachten te schrijven? Moeten docenten ChatGPT in de klas gebruiken? Dit zijn open vragen, maar het is waarschijnlijk dat toekomstige AI‑wetten een deel hiervan zullen reguleren.
Conclusie
De techbedrijven achter tools zoals ChatGPT hebben de wereld verrast. Zij lopen voorop in de AI‑revolutie, maar het is aan overheden om die te sturen en te zorgen voor positieve uitkomsten. Wetgevers wereldwijd nemen stappen met ambitieuze AI‑regels. Het is belangrijk om deze juridische ontwikkelingen te volgen, want hoe we AI vandaag benaderen, bepaalt de wereld waarin we morgen leven.
In de tussentijd raden we je aan op de hoogte te blijven van ChatGPT en de magie erachter met het volgende DataCamp‑materiaal:
- Begin met ChatGPT in onze cursus Introduction to ChatGPT.
- Download deze handige cheat sheet met ChatGPT‑prompts voor data science.
- Luister naar deze podcastaflevering over How ChatGPT and GPT-3 Are Augmenting Workflows om te begrijpen hoe ChatGPT jouw bedrijf kan helpen.
- Lees ons artikel over Bard vs ChatGPT voor data science
- Tutorial over de Whisper API
- Begin met AI leren bij DataCamp
