Het eerste geregistreerde gebruik van de term kunstmatige intelligentie was op een academische conferentie in 1956 in een toespraak van John McCarthy, waarin hij verwees naar de simulatie van menselijke intelligentie door machines. Daarom wordt hij vaak gezien als een van de grondleggers van AI.
Maar de daadwerkelijke zoektocht naar het antwoord op de vraag of machines kunnen denken begon al veel eerder. In 1950 publiceerde de Engelse wiskundige Alan Turing bijvoorbeeld een paper genaamd Computing Machinery and Intelligence waarin hij een test voorstelde om vast te stellen of een computer kan denken.
Tegenwoordig zijn de vragen rond Artificial Intelligence (AI) anders. De technologie is in populariteit gegroeid door de toename aan data die we produceren, geavanceerde algoritmen en aanzienlijke verbeteringen in rekenkracht. We zijn nu op een punt waarop het logisch is om de ethische en maatschappelijke kwesties rond het gebruik van zulke tools te overwegen.
Hoewel AI-technologie efficiëntie en productiviteit kan verbeteren, kan ze ook schadelijke content creëren, vooringenomen zijn en de privacy van data schenden. Dit heeft interessante gesprekken op gang gebracht over het op verantwoorde wijze bouwen van AI, zodat het medewerkers sterker maakt, klanten positief beïnvloedt en bedrijven in staat stelt AI op een ethische manier op te schalen.
De evolutie van ChatGPT en contentmoderatie
Een van de meest besproken AI-doorbraken in de populaire cultuur is ChatGPT. ChatGPT is een AI-chatbot ontwikkeld door OpenAI om mensachtige interacties met gebruikers na te bootsen.
ChatGPT, dat enkele maanden de titel van snelst geadopteerde onlinedienst droeg nadat het in vijf dagen één miljoen gebruikers bereikte, heeft sinds zijn eerste optreden in juni 2018 verschillende iteraties doorgemaakt.
Destijds heette het model Generative Pre-trained Transformer 1 (GPT-1). Het was het eerste large language model (LLM) dat door OpenAI werd ontwikkeld, als reactie op Google’s uitvinding van de transformerarchitectuur in 2017. Dit model legde de basis voor ChatGPT zoals we het vandaag kennen, maar er waren meer iteraties voordat we daar kwamen.
Zo bracht OpenAI in 2019 het krachtigere GPT-2-model uit. De updates waren gericht op het verbeteren van het taalbegrip van het model, wat betekende dat het model op een veel grotere dataset werd getraind en dat de toegang werd verfijnd zodat gebruikers het model konden aanpassen aan hun specifieke usecase. Kort daarna, in 2020, kwam GPT-3.
ChatGPT wordt nu gezien als een van de krachtigste taalmodellen die beschikbaar zijn op het moment van schrijven. Het kan taken op het gebied van natuurlijke taalverwerking uitvoeren, zoals vertalen, tekstaanvulling, vraagbeantwoording en tekstgeneratie.
Maar dat wil niet zeggen dat het zonder problemen is.
De kracht en beperkingen van ChatGPT
ChatGPT zoals we het vandaag kennen is gebaseerd op de GPT-3.5-architectuur, waarbij betalende abonnees toegang krijgen tot GPT-4. Het belangrijkste verschil is de dataset die is gebruikt en het feit dat het is geoptimaliseerd voor conversatiële usecases, om gebruikers een meer gepersonaliseerde ervaring te bieden wanneer ze via een chatinterface met het model communiceren.
Deze veranderingen hebben de efficiëntie van de communicatie tussen mensen en computerprogramma’s verbeterd. Ze hebben ook drastisch verbeterd hoe informatie wordt verwerkt en geconsumeerd, en de klantervaring.
Maar het is niet zonder gebreken. Verschillende discussies hebben onlangs het potentieel van ChatGPT belicht om ongepaste of bevooroordeelde reacties te genereren. Onze gids over de ethiek van generatieve AI gaat hier dieper op in.
Dit probleem is geworteld in hoe ChatGPT is gebouwd — het LLM is getraind op de gezamenlijke teksten van mensen met uiteenlopende achtergronden. Hoewel die diversiteit het model helpt bij zijn begrip, kan ze ook vooroordelen en bevooroordeelde opvattingen introduceren in de output die het model genereert.
De noodzaak van actieve moderatie
Actieve contentmoderatie beschrijft het proces van het beoordelen en monitoren van door gebruikers gegenereerde content. Het doel is om ervoor te zorgen dat user-generated content aan bepaalde normen en richtlijnen voldoet, wat je merk beschermt tegen negatieve associaties en gebruikers beschermt tegen mogelijk aanstootgevende content.
Een aspect van actieve contentmoderatie is bijvoorbeeld het verwijderen van ongepaste content van platforms, terwijl een ander het handhaven van communityrichtlijnen betreft om zaken als pesten te voorkomen.
Mechanismen van ChatGPT-contentmoderatie
OpenAI erkende de dreiging die uitgaat van door gebruikers gegenereerde content (bijv. het beschadigen van de reputatie van de applicatie, schade toebrengen aan gebruikers, enz.) en kwam snel met een tool om ongepaste content van een taalmodel of van de gebruiker te voorkomen.
Deze tool is overzichtelijk verpakt in de Moderation API, waarmee ontwikkelaars hun content kunnen toetsen aan de gebruiksrichtlijnen van OpenAI. Deze richtlijnen streven ernaar ongepaste taal uit te bannen, zoals:
- Haatzaaiende uitlatingen
- Bedreigende taal
- Intimidatie
- Zelfbeschadiging (intentie of instructies)
- Grafische content (inclusief pornografie en geweld)
Het is echter ook mogelijk dat modellen zoals ChatGPT bevooroordeelde of onjuiste output geven wanneer ze worden beïnvloed door ongefilterde gebruikersinvoer. Daarom worden controlemaatregelen ingevoerd om te voorkomen dat het model per ongeluk onjuiste informatie verspreidt.
Content wordt dus op twee fronten beheerst:
Controle op gebruikersinvoer
Technieken om content die door gebruikers is gegenereerd te monitoren, filteren en beheren; het doel is om bedrijven in staat te stellen integriteit, veiligheid en morele standaarden te behouden bij het bouwen van LLM-toepassingen.
Controle op modeloutput
Deze beleidsregels en procedures maken het mogelijk de reacties die het model genereert bij interactie met gebruikers te volgen en te filteren; zo kunnen ontwikkelaars mogelijke problemen met de modeloutput, zoals bias, aanpakken.
Het implementeren van input- en outputcontrole legt de ethische verantwoordelijkheid voor LLM’s bij het bedrijf; het wordt de verantwoordelijkheid van het bedrijf om te zorgen dat gebruikers een positieve ervaring hebben met hun producten en diensten, en om te waarborgen dat AI verantwoord wordt gebruikt.
Methoden van contentmoderatie
Er zijn zes veelvoorkomende vormen van moderatie:
Pre-moderatie
Voordat content zichtbaar wordt voor de wereld, moet deze worden gecontroleerd. Dit heet pre-moderatie. Het voordeel van pre-moderatie is dat content die ongeschikt of ongewenst wordt geacht voor een online platform, kan worden tegengehouden voordat die schade aanricht.
Het is een enorm populaire vorm van moderatie voor online communities die zich richten op een jonger publiek. Veel mensen vinden echter dat het de directe bevrediging van online communities doodt, omdat content eerst moet worden goedgekeurd voordat die gedeeld kan worden.
Post-moderatie
Het tegenovergestelde van pre-moderatie is post-moderatie. Vanuit het perspectief van de gebruikerservaring heeft dit vaak de voorkeur, omdat content direct na inzending kan worden gepubliceerd, vóórdat die in de wachtrij komt om gemodereerd te worden.
Het grote voordeel van deze aanpak is dat gebruikers realtime kunnen communiceren, maar de kosten kunnen hoog oplopen, aangezien website-exploitanten, die de juridische uitgevers van de content zijn, aansprakelijk zijn voor wat er op hun platform wordt getoond – hoe meer mensen schadelijke content zien, hoe groter de schade zou zijn als het tot een rechtszaak komt.
Reactieve moderatie
Een andere optie is om de macht in de handen van de communityleden te leggen. Dit betekent dat gebruikers content kunnen markeren die de regels schendt of leden die zich ongepast gedragen.
Het is gebruikelijk om reactieve moderatie gelijktijdig met pre- of post-moderatie in te zetten als extra vangnet voor content die de moderatoren is ontglipt. Het grote voordeel van deze aanpak is dat ze kan opschalen naarmate de community groeit, zonder extra druk op je resources te leggen.
Gedistribueerde moderatie
Gedistribueerde moderatie is een zeldzame vorm van contentfiltering. Ze is afhankelijk van een beoordelingssysteem waarmee communityleden stemmen of een inzending in lijn is met de richtlijnen van de community.
Bedrijven vermijden meestal om de verantwoordelijkheid bij communityleden te leggen om zelf te modereren, omdat dit juridische en merkrisico’s met zich meebrengt.
Geautomatiseerde moderatie
Naarmate user-generated content toeneemt, neemt ook de complexiteit toe voor menselijke moderatoren om in te grijpen en de werklast te beheren. Het is niet alleen moeilijk voor individuen om handmatig grote hoeveelheden content door te nemen, het is ook ontmoedigend; niemand gaat met plezier naar het werk om een stapel verontrustende content door te spitten.
Geautomatiseerde moderatie toevoegen aan door mensen uitgevoerde moderatie is een zeer waardevolle oplossing. Het bestaat uit verschillende technische tools, zoals woordfilters, om inzendingen af te keuren en goed te keuren.
Geen moderatie
Contentmoderatoren zullen waarschijnlijk afraden om geen moderatie toe te passen. Tegelijkertijd begrijpen ze ook dat er goede redenen kunnen zijn waarom mensen ervoor kiezen om content in hun community niet te laten modereren.
Misschien zijn er bijvoorbeeld niet genoeg middelen om dit te doen, of wil je community juist het idee van "vrije meningsuiting" omarmen. In essentie betekent afzien van moderatie het opgeven van controle, waardoor platforms kwetsbaar worden, wat nieuwe gebruikers doorgaans afschrikt.
Contentmoderatie in de echte wereld
De meeste platforms van vandaag, zoals Facebook en YouTube, maken gebruik van geautomatiseerde contentmoderatie om bepaalde soorten content te blokkeren. Dit omvat doorgaans het gebruik van AI met als specifiek doel de moderatie-inspanningen te verbeteren en de gebruikerservaring op hun platforms te versterken.
Hoewel AI ongepaste content kan detecteren en het grootste deel van het saaie werk dat normaal aan mensen wordt toebedeeld kan overnemen, zijn er ook tekortkomingen. Machines hebben vaak moeite met belangrijke nuances zoals desinformatie, bias en haatzaaien; het volledig uitsluiten van menselijke moderatoren is daarom niet ideaal.
Met andere woorden, geautomatiseerde moderatie met AI wordt vaak gecombineerd met moderatie door mensen om te zorgen dat platforms veilig zijn voor gebruikers en het merk ongeschonden blijft. Enkele praktijkvoorbeelden:
Agressieve/abusieve content
Twitter (nu X) kreeg zware kritiek omdat het niet efficiënt kon reageren op online intimidatie. Sinds de overname door Elon Musk leunt het bedrijf echter sterk op automatisering om content te modereren. Het resultaat zijn tools zoals Quality filter, dat technieken zoals natural language processing gebruikt om de zichtbaarheid van content van lage kwaliteit te beperken.
Volwassenencontent
YouTube hanteert een strikt beleid tegen naaktheid en seksuele content; gebruikers lopen het risico dat hun kanaal wordt beëindigd als ze dit toch plaatsen. De manier waarop zulke content wordt opgespoord is tweevoudig: geautomatiseerde en reactieve moderatie.
In de geautomatiseerde aanpak zet Google algoritmen in die gebruikmaken van technieken zoals computervisie om op naaktheid te controleren. Als de content toch aan de algoritmen ontsnapt, vertrouwt YouTube op kijkers om content als ongepast te markeren zodat die kan worden beoordeeld.
Nep- en misleidende content
Instagram vertrouwt op AI en menselijke moderatoren om content te vinden, te beoordelen en actie te ondernemen tegen content die misleidende informatie verspreidt – dit was met name zichtbaar tijdens de Covid-uitbraak.
Volgens het Instagram Helpcentrum kan “[Instagram’s] AI content detecteren en verwijderen die in strijd is met onze Communityrichtlijnen voordat iemand die rapporteert. In andere gevallen stuurt onze technologie content naar menselijke reviewteams om er beter naar te kijken en er een beslissing over te nemen.”
Conclusie
Terwijl we voortgaan van de fundamentele theorieën van Turing en McCarthy naar de praktische toepassingen van ChatGPT, is het ethische landschap van AI steeds complexer geworden. Hoewel AI-technologieën zoals ChatGPT transformatieve mogelijkheden bieden, brengen ze ook ethische uitdagingen met zich mee, waaronder contentmoderatie en bias.
OpenAI's Moderation API is een belangrijke stap richting verantwoorde AI, maar het is geen one-size-fits-alloplossing. Bedrijven en ontwikkelaars delen de ethische verantwoordelijkheid om een veelzijdige aanpak van moderatie te implementeren, waarbij geautomatiseerde systemen worden gecombineerd met menselijk toezicht. Voorbeelden uit de praktijk van platforms zoals Twitter en YouTube tonen de effectiviteit van dit hybride model aan.
Voor wie dieper wil duiken in verantwoorde AI, hebben we verschillende bronnen, zoals een podcast over de toekomst van verantwoorde AI, een webinar over het evalueren van machinelearningmodellen in Python en een cursus over AI-ethiek.
Het ethisch beheer van AI is een gezamenlijke inspanning die voortdurende waakzaamheid van alle belanghebbenden vereist. Terwijl we de grenzen van AI-capaciteiten verleggen, laten we ook inzetten op ethische integriteit, zodat technologie een kracht voor het goede blijft.
Adel Nehme · 15 min
Het eerste geregistreerde gebruik van de term kunstmatige intelligentie was op een academische conferentie in 1956 in een toespraak van John McCarthy, waarin hij verwees naar de simulatie van menselijke intelligentie door machines. Daarom wordt hij vaak gezien als een van de grondleggers van AI.
Maar de daadwerkelijke zoektocht naar het antwoord op de vraag of machines kunnen denken begon al veel eerder. In 1950 publiceerde de Engelse wiskundige Alan Turing bijvoorbeeld een paper genaamd Computing Machinery and Intelligence waarin hij een test voorstelde om vast te stellen of een computer kan denken.
Tegenwoordig zijn de vragen rond Artificial Intelligence (AI) anders. De technologie is in populariteit gegroeid door de toename aan data die we produceren, geavanceerde algoritmen en aanzienlijke verbeteringen in rekenkracht. We zijn nu op een punt waarop het logisch is om de ethische en maatschappelijke kwesties rond het gebruik van zulke tools te overwegen.
Hoewel AI-technologie efficiëntie en productiviteit kan verbeteren, kan ze ook schadelijke content creëren, vooringenomen zijn en de privacy van data schenden. Dit heeft interessante gesprekken op gang gebracht over het op verantwoorde wijze bouwen van AI, zodat het medewerkers sterker maakt, klanten positief beïnvloedt en bedrijven in staat stelt AI op een ethische manier op te schalen.
De evolutie van ChatGPT en contentmoderatie
Een van de meest besproken AI-doorbraken in de populaire cultuur is ChatGPT. ChatGPT is een AI-chatbot ontwikkeld door OpenAI om mensachtige interacties met gebruikers na te bootsen.
ChatGPT, dat enkele maanden de titel van snelst geadopteerde onlinedienst droeg nadat het in vijf dagen één miljoen gebruikers bereikte, heeft sinds zijn eerste optreden in juni 2018 verschillende iteraties doorgemaakt.
Destijds heette het model Generative Pre-trained Transformer 1 (GPT-1). Het was het eerste large language model (LLM) dat door OpenAI werd ontwikkeld, als reactie op Google’s uitvinding van de transformerarchitectuur in 2017. Dit model legde de basis voor ChatGPT zoals we het vandaag kennen, maar er waren meer iteraties voordat we daar kwamen.
Zo bracht OpenAI in 2019 het krachtigere GPT-2-model uit. De updates waren gericht op het verbeteren van het taalbegrip van het model, wat betekende dat het model op een veel grotere dataset werd getraind en dat de toegang werd verfijnd zodat gebruikers het model konden aanpassen aan hun specifieke usecase. Kort daarna, in 2020, kwam GPT-3.
ChatGPT wordt nu gezien als een van de krachtigste taalmodellen die beschikbaar zijn op het moment van schrijven. Het kan taken op het gebied van natuurlijke taalverwerking uitvoeren, zoals vertalen, tekstaanvulling, vraagbeantwoording en tekstgeneratie.
Maar dat wil niet zeggen dat het zonder problemen is.
De kracht en beperkingen van ChatGPT
ChatGPT zoals we het vandaag kennen is gebaseerd op de GPT-3.5-architectuur, waarbij betalende abonnees toegang krijgen tot GPT-4. Het belangrijkste verschil is de dataset die is gebruikt en het feit dat het is geoptimaliseerd voor conversatiële usecases, om gebruikers een meer gepersonaliseerde ervaring te bieden wanneer ze via een chatinterface met het model communiceren.
Deze veranderingen hebben de efficiëntie van de communicatie tussen mensen en computerprogramma’s verbeterd. Ze hebben ook drastisch verbeterd hoe informatie wordt verwerkt en geconsumeerd, en de klantervaring.
Maar het is niet zonder gebreken. Verschillende discussies hebben onlangs het potentieel van ChatGPT belicht om ongepaste of bevooroordeelde reacties te genereren. Onze gids over de ethiek van generatieve AI gaat hier dieper op in.
Dit probleem is geworteld in hoe ChatGPT is gebouwd — het LLM is getraind op de gezamenlijke teksten van mensen met uiteenlopende achtergronden. Hoewel die diversiteit het model helpt bij zijn begrip, kan ze ook vooroordelen en bevooroordeelde opvattingen introduceren in de output die het model genereert.
De noodzaak van actieve moderatie
Actieve contentmoderatie beschrijft het proces van het beoordelen en monitoren van door gebruikers gegenereerde content. Het doel is om ervoor te zorgen dat user-generated content aan bepaalde normen en richtlijnen voldoet, wat je merk beschermt tegen negatieve associaties en gebruikers beschermt tegen mogelijk aanstootgevende content.
Een aspect van actieve contentmoderatie is bijvoorbeeld het verwijderen van ongepaste content van platforms, terwijl een ander het handhaven van communityrichtlijnen betreft om zaken als pesten te voorkomen.
Mechanismen van ChatGPT-contentmoderatie
OpenAI erkende de dreiging die uitgaat van door gebruikers gegenereerde content (bijv. het beschadigen van de reputatie van de applicatie, schade toebrengen aan gebruikers, enz.) en kwam snel met een tool om ongepaste content van een taalmodel of van de gebruiker te voorkomen.
Deze tool is overzichtelijk verpakt in de Moderation API, waarmee ontwikkelaars hun content kunnen toetsen aan de gebruiksrichtlijnen van OpenAI. Deze richtlijnen streven ernaar ongepaste taal uit te bannen, zoals:
Het is echter ook mogelijk dat modellen zoals ChatGPT bevooroordeelde of onjuiste output geven wanneer ze worden beïnvloed door ongefilterde gebruikersinvoer. Daarom worden controlemaatregelen ingevoerd om te voorkomen dat het model per ongeluk onjuiste informatie verspreidt.
Content wordt dus op twee fronten beheerst:
Controle op gebruikersinvoer
Technieken om content die door gebruikers is gegenereerd te monitoren, filteren en beheren; het doel is om bedrijven in staat te stellen integriteit, veiligheid en morele standaarden te behouden bij het bouwen van LLM-toepassingen.
Controle op modeloutput
Deze beleidsregels en procedures maken het mogelijk de reacties die het model genereert bij interactie met gebruikers te volgen en te filteren; zo kunnen ontwikkelaars mogelijke problemen met de modeloutput, zoals bias, aanpakken.
Het implementeren van input- en outputcontrole legt de ethische verantwoordelijkheid voor LLM’s bij het bedrijf; het wordt de verantwoordelijkheid van het bedrijf om te zorgen dat gebruikers een positieve ervaring hebben met hun producten en diensten, en om te waarborgen dat AI verantwoord wordt gebruikt.
Methoden van contentmoderatie
Er zijn zes veelvoorkomende vormen van moderatie:
Pre-moderatie
Voordat content zichtbaar wordt voor de wereld, moet deze worden gecontroleerd. Dit heet pre-moderatie. Het voordeel van pre-moderatie is dat content die ongeschikt of ongewenst wordt geacht voor een online platform, kan worden tegengehouden voordat die schade aanricht.
Het is een enorm populaire vorm van moderatie voor online communities die zich richten op een jonger publiek. Veel mensen vinden echter dat het de directe bevrediging van online communities doodt, omdat content eerst moet worden goedgekeurd voordat die gedeeld kan worden.
Post-moderatie
Het tegenovergestelde van pre-moderatie is post-moderatie. Vanuit het perspectief van de gebruikerservaring heeft dit vaak de voorkeur, omdat content direct na inzending kan worden gepubliceerd, vóórdat die in de wachtrij komt om gemodereerd te worden.
Het grote voordeel van deze aanpak is dat gebruikers realtime kunnen communiceren, maar de kosten kunnen hoog oplopen, aangezien website-exploitanten, die de juridische uitgevers van de content zijn, aansprakelijk zijn voor wat er op hun platform wordt getoond – hoe meer mensen schadelijke content zien, hoe groter de schade zou zijn als het tot een rechtszaak komt.
Reactieve moderatie
Een andere optie is om de macht in de handen van de communityleden te leggen. Dit betekent dat gebruikers content kunnen markeren die de regels schendt of leden die zich ongepast gedragen.
Het is gebruikelijk om reactieve moderatie gelijktijdig met pre- of post-moderatie in te zetten als extra vangnet voor content die de moderatoren is ontglipt. Het grote voordeel van deze aanpak is dat ze kan opschalen naarmate de community groeit, zonder extra druk op je resources te leggen.
Gedistribueerde moderatie
Gedistribueerde moderatie is een zeldzame vorm van contentfiltering. Ze is afhankelijk van een beoordelingssysteem waarmee communityleden stemmen of een inzending in lijn is met de richtlijnen van de community.
Bedrijven vermijden meestal om de verantwoordelijkheid bij communityleden te leggen om zelf te modereren, omdat dit juridische en merkrisico’s met zich meebrengt.
Geautomatiseerde moderatie
Naarmate user-generated content toeneemt, neemt ook de complexiteit toe voor menselijke moderatoren om in te grijpen en de werklast te beheren. Het is niet alleen moeilijk voor individuen om handmatig grote hoeveelheden content door te nemen, het is ook ontmoedigend; niemand gaat met plezier naar het werk om een stapel verontrustende content door te spitten.
Geautomatiseerde moderatie toevoegen aan door mensen uitgevoerde moderatie is een zeer waardevolle oplossing. Het bestaat uit verschillende technische tools, zoals woordfilters, om inzendingen af te keuren en goed te keuren.
Geen moderatie
Contentmoderatoren zullen waarschijnlijk afraden om geen moderatie toe te passen. Tegelijkertijd begrijpen ze ook dat er goede redenen kunnen zijn waarom mensen ervoor kiezen om content in hun community niet te laten modereren.
Misschien zijn er bijvoorbeeld niet genoeg middelen om dit te doen, of wil je community juist het idee van "vrije meningsuiting" omarmen. In essentie betekent afzien van moderatie het opgeven van controle, waardoor platforms kwetsbaar worden, wat nieuwe gebruikers doorgaans afschrikt.
Contentmoderatie in de echte wereld
De meeste platforms van vandaag, zoals Facebook en YouTube, maken gebruik van geautomatiseerde contentmoderatie om bepaalde soorten content te blokkeren. Dit omvat doorgaans het gebruik van AI met als specifiek doel de moderatie-inspanningen te verbeteren en de gebruikerservaring op hun platforms te versterken.
Hoewel AI ongepaste content kan detecteren en het grootste deel van het saaie werk dat normaal aan mensen wordt toebedeeld kan overnemen, zijn er ook tekortkomingen. Machines hebben vaak moeite met belangrijke nuances zoals desinformatie, bias en haatzaaien; het volledig uitsluiten van menselijke moderatoren is daarom niet ideaal.
Met andere woorden, geautomatiseerde moderatie met AI wordt vaak gecombineerd met moderatie door mensen om te zorgen dat platforms veilig zijn voor gebruikers en het merk ongeschonden blijft. Enkele praktijkvoorbeelden:
Agressieve/abusieve content
Twitter (nu X) kreeg zware kritiek omdat het niet efficiënt kon reageren op online intimidatie. Sinds de overname door Elon Musk leunt het bedrijf echter sterk op automatisering om content te modereren. Het resultaat zijn tools zoals Quality filter, dat technieken zoals natural language processing gebruikt om de zichtbaarheid van content van lage kwaliteit te beperken.
Volwassenencontent
YouTube hanteert een strikt beleid tegen naaktheid en seksuele content; gebruikers lopen het risico dat hun kanaal wordt beëindigd als ze dit toch plaatsen. De manier waarop zulke content wordt opgespoord is tweevoudig: geautomatiseerde en reactieve moderatie.
In de geautomatiseerde aanpak zet Google algoritmen in die gebruikmaken van technieken zoals computervisie om op naaktheid te controleren. Als de content toch aan de algoritmen ontsnapt, vertrouwt YouTube op kijkers om content als ongepast te markeren zodat die kan worden beoordeeld.
Nep- en misleidende content
Instagram vertrouwt op AI en menselijke moderatoren om content te vinden, te beoordelen en actie te ondernemen tegen content die misleidende informatie verspreidt – dit was met name zichtbaar tijdens de Covid-uitbraak.
Volgens het Instagram Helpcentrum kan “[Instagram’s] AI content detecteren en verwijderen die in strijd is met onze Communityrichtlijnen voordat iemand die rapporteert. In andere gevallen stuurt onze technologie content naar menselijke reviewteams om er beter naar te kijken en er een beslissing over te nemen.”
Conclusie
Terwijl we voortgaan van de fundamentele theorieën van Turing en McCarthy naar de praktische toepassingen van ChatGPT, is het ethische landschap van AI steeds complexer geworden. Hoewel AI-technologieën zoals ChatGPT transformatieve mogelijkheden bieden, brengen ze ook ethische uitdagingen met zich mee, waaronder contentmoderatie en bias.
OpenAI's Moderation API is een belangrijke stap richting verantwoorde AI, maar het is geen one-size-fits-alloplossing. Bedrijven en ontwikkelaars delen de ethische verantwoordelijkheid om een veelzijdige aanpak van moderatie te implementeren, waarbij geautomatiseerde systemen worden gecombineerd met menselijk toezicht. Voorbeelden uit de praktijk van platforms zoals Twitter en YouTube tonen de effectiviteit van dit hybride model aan.
Voor wie dieper wil duiken in verantwoorde AI, hebben we verschillende bronnen, zoals een podcast over de toekomst van verantwoorde AI, een webinar over het evalueren van machinelearningmodellen in Python en een cursus over AI-ethiek.
Het ethisch beheer van AI is een gezamenlijke inspanning die voortdurende waakzaamheid van alle belanghebbenden vereist. Terwijl we de grenzen van AI-capaciteiten verleggen, laten we ook inzetten op ethische integriteit, zodat technologie een kracht voor het goede blijft.