Cursus
Generatieve AI-concepten
2 uur
119.5K
Tot een paar jaar geleden, kon je je een machine voorstellen die kunst kan maken, verhalen kan schrijven of zelfs complexe data zoals medische en juridische documenten kan begrijpen?
Waarschijnlijk niet. Voor de meesten van ons bleef het sciencefiction die als een vergezochte realiteit aanvoelde.
Maar de opkomst van het tijdperk van generatieve AI heeft ons begrip van wat machines kunnen doen opnieuw gedefinieerd.
Wat is generatieve AI?
Generatieve AI is een geavanceerde tak van AI waarmee machines nieuwe content kunnen genereren door bestaande content te benutten in de vorm van tekst, audio, video en zelfs code.
Gartner noemt het “een van de meest impactvolle en snel evoluerende technologieën die een productiviteitsrevolutie teweeg kunnen brengen”.
Het is razendsnel werkelijkheid aan het worden en heeft geleid tot innovatieve toepassingen die sectoren transformeren, zoals versnelling en versterking van contentcreativiteit in de media, marketing in retail, verbeterde en gepersonaliseerde gezondheidszorg, en adaptief leren en onderwijs.
De ethische zorgen rond generatieve AI
De snelheid waarmee zulke toepassingen de markt bereiken is indrukwekkend.
Maar wanneer Sam Altman, de CEO van OpenAI, ons waarschuwt voor de gevaren van taalmodellen, is het risico reëel. Dat maakt het noodzakelijk om de voordelen te balanceren met voorzichtigheid en deze krachtige technologie verantwoord te benutten.
Beeldbron: Business Insider
Laten we enkele belangrijke ethische zorgen bij het gebruik van generatieve AI begrijpen.
Verspreiding van schadelijke content
Hoewel het vermogen van generatieve AI-systemen om mensachtige content te maken de bedrijfsproductiviteit kan verhogen, kan het ook leiden tot het genereren van schadelijke of aanstootgevende content. De meest zorgwekkende schade komt van tools zoals deepfakes, die valse beelden, video’s, tekst of spraak kunnen maken die agenda-gestuurd zijn of worden ingezet om haatzaaien te verspreiden.
Onlangs kloonde een oplichter de stem van een jong meisje om losgeld te eisen van haar moeder door een ontvoering te faken. Deze tools zijn zo geavanceerd geworden dat het lastig is nepstemmen van echte te onderscheiden.
Daarnaast kan automatisch gegenereerde content de vooroordelen in de trainingsdata bestendigen of versterken, met als gevolg bevooroordeelde, expliciete of gewelddadige taal. Zulke schadelijke content vraagt om menselijke tussenkomst om deze in lijn te brengen met de bedrijfsethiek van de organisatie die de technologie inzet.
Auteursrecht en juridische risico’s
Net als de meeste AI-modellen worden generatieve AI-modellen getraind op data—heel veel data. Daardoor kunnen ze mogelijk inbreuk maken op auteursrechten en intellectuele eigendomsrechten van andere partijen. Dat kan leiden tot juridische, reputatie- en financiële risico’s voor bedrijven die voorgetrainde modellen gebruiken en kan een negatieve impact hebben op makers en rechthebbenden.
Schending van gegevensprivacy
De onderliggende trainingsdata kan gevoelige informatie bevatten, waaronder persoonlijk identificeerbare informatie (PII). PII, zoals gedefinieerd door het US Department of Labor, is de data “die een persoon direct identificeert, bijv. naam, adres, burgerservicenummer of ander identificatienummer of -code, telefoonnummer en e-mailadres.”
Schending van de privacy van gebruikers kan leiden tot identiteitsdiefstal en misbruikt worden voor discriminatie of manipulatie.
Het is daarom essentieel dat zowel ontwikkelaars van voorgetrainde modellen als bedrijven die deze modellen finetunen voor specifieke taken, zich houden aan richtlijnen voor gegevensprivacy en waarborgen dat PII uit de modeltraining wordt verwijderd.
We hebben een webinar waarin de privacyregelgeving, met name de AVG, wordt uitgelegd om ethisch datagebruik te waarborgen.
Onthulling van gevoelige informatie
Naast zorgvuldig omgaan met gebruikersdata is het belangrijk de risico’s te overwegen van onbedoelde openbaarmaking van gevoelige informatie—een zorg die wordt vergroot door de snelle democratisering van AI-capaciteiten. De nieuwsgierigheid en het gemak van generatieve AI-tools, in het bijzonder ChatGPT, kunnen gebruikers soms verleiden om datasecurity over het hoofd te zien bij het verkennen van zulke nieuwe platforms.
Risico’s nemen aanzienlijk toe als een medewerker gevoelige details uploadt, zoals een juridisch contract, broncode van een softwareproduct of eigendomsinformatie, en meer.
De nadelige gevolgen kunnen ernstig zijn—financieel, voor de reputatie of juridisch—voor organisaties. Daarom is de behoefte aan een duidelijke datasecuritypolicy overduidelijk en essentieel.
Versterking van bestaande vooroordelen
AI-modellen zijn maar zo goed (of slecht) als de data waarop ze zijn getraind. Als de trainingsdata de in de samenleving heersende vooroordelen weerspiegelen, zal het model zich ook zo gedragen—of dat dachten we. Een recente studie, gepubliceerd bij Bloomberg, bespreekt hoe deze modellen zelfs nog meer bevooroordeeld zijn dan de echte-werelddata waarop ze zijn getraind.
De studie schetst een harde realiteit wanneer ze stelt dat—“de wereld volgens Stable Diffusion wordt geleid door blanke mannelijke CEO’s. Vrouwen zijn zelden arts, advocaat of rechter. Mannen met een donkere huid plegen misdaden, terwijl vrouwen met een donkere huid hamburgers bakken.”
Om een eerlijke wereld te creëren, moet de data dat weerspiegelen, door diverse teams en perspectieven gedurende de hele modelontwikkelingscyclus te betrekken.
Rol en moraal van de beroepsbevolking
Aan de ene kant wordt generatieve AI gezien als de volgende golf die productiviteit ontketent, terwijl de keerzijde duidt op banenverlies, omdat er minder mensen nodig zijn om hetzelfde werk te doen.
Dat blijkt ook uit het nieuwste McKinsey-rapport dat de zorgen rond verdringing van huidige vaardigheden onderschrijft: “Huidige generatieve AI en andere technologieën hebben het potentieel om werkactiviteiten te automatiseren die vandaag 60 tot 70 procent van de tijd van werknemers opslokken.”
Hoewel de keerzijde—dat veel banen nu risico lopen—niet betekent dat we de transformatie door generatieve AI moeten stoppen, vraagt het wel om maatregelen om werknemers om- of bij te scholen naar nieuwe rollen die ontstaan in dit geavanceerde AI-tijdperk.
Herkomst van data
De meeste zorgen rond het gebruik van AI-tools houden verband met data, waaronder gebruikersprivacy en het genereren van synthetische multimodale data zoals tekst, beelden, video’s of audio.
Dergelijke systemen vereisen het waarborgen van datavertrouwen en -integriteit om te voorkomen dat bevooroordeelde data of data van dubieuze herkomst wordt gebruikt.
Gebrek aan transparantie
AI-systemen zijn van nature black boxes, wat betekent dat het moeilijk is te begrijpen hoe ze tot een bepaald antwoord zijn gekomen of welke factoren tot hun besluitvorming hebben geleid.
De emergente capaciteiten van grote modellen vergroten deze kloof nog verder, omdat zelfs de ontwikkelaars verrast worden door de functionaliteit. Dit benadrukt dat “onderzoekers niet alleen racen om extra emergente vermogens te identificeren, maar ook om te achterhalen waarom en hoe ze überhaupt ontstaan—om onvoorspelbaarheid te proberen te voorspellen.”
Voorbeelden van door AI gegenereerde desinformatie
Onlangs werd een studie uitgevoerd om te beoordelen of deelnemers AI-gegenereerde content kunnen herkennen in vergelijking met door mensen geschreven content. Niet verrassend toonden de resultaten aan dat mensen moeite hadden content van taalmodellen te onderscheiden, wat de mogelijkheid van deze modellen om desinformatie te verspreiden—en dat op schaal—onderstreept.
Een ongekend voorbeeld van zulke desinformatie dook recent op in een Amerikaanse rechtszaak, toen een advocaat verwees naar een niet-bestaande rechtszaak, vertrouwend op een door ChatGPT gegenereerd antwoord.
De VN heeft ook zorgen geuit over door AI gegenereerde misinformatie die kan leiden tot conflicten en misdrijven.
Ethische best practices voor generatieve AI
De technologische vooruitgang die generatieve AI-modellen hebben gebracht, heeft een groot potentieel om de samenleving te bevoordelen wanneer ze gecontroleerd en gereguleerd worden gebruikt. Dat vereist het aannemen van ethische best practices om de potentiële schade die gepaard gaat met de voordelen te minimaliseren.
Blijf op de hoogte en onderneem actie
Dompel jezelf onder in het huidige en toekomstige landschap van data-ethiek. Begrijp de richtlijnen voor de toepassing ervan, of je nu een individuele contributor bent of een organisatieleider.
Je kunt meer lezen over het huidige en toekomstige landschap van data-ethiek en de richtlijnen voor de toepassing ervan in een apart artikel.
Sluit aan bij mondiale standaarden
Het is ook de moeite waard om je te verdiepen in de AI-ethiekrichtlijnen van UNESCO, die in november 2021 door alle 193 lidstaten zijn aangenomen.
De richtlijnen benadrukken vier kernwaarden:
- Mensenrechten en waardigheid
- Vreedzame en rechtvaardige samenlevingen
- Diversiteit en inclusiviteit
- Een bloeiend milieu
Ze schetsen ook tien principes, waaronder proportionaliteit, veiligheid, privacy, multistakeholdergovernance, verantwoordelijkheid, transparantie, menselijk toezicht, duurzaamheid, bewustzijn en eerlijkheid.
De richtlijnen bieden ook beleidsactieterreinen voor datagovernance, milieu, gender, onderwijs, onderzoek, gezondheid en sociaal welzijn.
Ga in gesprek met communities voor ethische AI
Er zijn verschillende andere groepen, zoals het AI Ethics Lab en het Montreal AI Ethics Institute, die zich richten op ethische geletterdheid. De gemeenschappelijke ethische principes omvatten transparantie, verantwoording, gegevensprivacy en robuustheid, met een focus op technologieleveranciers.
Op de hoogte blijven van ontwikkelingen op deze gebieden en deelnemen aan het debat rond AI-ethiek is essentieel om ervoor te zorgen dat generatieve AI veilig blijft voor alle gebruikers.
Ontwikkel bewustzijn en leer
Het is aan ons, als gebruikers, om het idee af te wijzen dat alles wat digitaal beschikbaar is, klakkeloos te vertrouwen is.
In plaats daarvan lossen we de meeste problemen op wanneer we informatie kritisch benaderen en wantrouwen, door feiten te checken en de authenticiteit en herkomst te verifiëren voordat we die kennis in de praktijk brengen.
Bewustzijn is de sleutel tot verantwoord gebruik van generatieve AI en is de reden achter dit artikel.
Tot slot
Generatieve AI heeft een enorm potentieel om uiteenlopende sectoren te transformeren—van gezondheidszorg tot onderwijs—door nieuwe content te creëren en de productiviteit te verhogen.
Deze krachtige technologie brengt echter ook aanzienlijke ethische zorgen met zich mee, waaronder de verspreiding van schadelijke content, inbreuken op het auteursrecht, schendingen van gegevensprivacy en de versterking van bestaande vooroordelen.
Terwijl we de mogelijkheden van generatieve AI blijven benutten, is het cruciaal om ethische best practices te hanteren
Je kunt vandaag beginnen met onze cursus Generative AI Concepts, en verken generatieve AI-projecten waarmee je meteen aan de slag kunt.
Onderwerpen
