Wat is verantwoorde AI? Een vergelijkende benadering

Wat is verantwoorde AI?

Er is nog geen universeel gedeelde definitie van “Responsible AI”. Soms wordt het aangeduid als betrouwbare, ethische, veilige of zekere AI. In andere gevallen zijn dit slechts principes die vallen onder een bredere notie van RAI, of worden ze als geheel andere categorieën beschouwd.

De groeiende aandacht voor verantwoorde, ethische, betrouwbare, veilige en zekere AI komt voort uit wijdverspreide zorgen over mogelijke negatieve effecten, zowel beoogd als onbedoeld.

Het Institute of Electrical and Electronics Engineers (IEEE) wijt deze zorg aan de traditionele uitsluiting van ethische analyse in de ingenieurspraktijk, waar basisnormen rond veiligheid, beveiliging, functionaliteit, rechtvaardigheid, bias, verslaving en indirecte maatschappelijke schade vaak als buiten scope werden beschouwd.

Maar gezien de schaalbaarheid en de brede impact van AI op alle aspecten van de samenleving en ons dagelijks leven, is het essentieel om ethische risico’s te voorzien en te mitigeren als standaardpraktijk. De huidige aanpak—technologie in de wereld loslaten zonder voldoende toezicht en anderen met de gevolgen laten zitten—is niet langer acceptabel.

Toch blijft de stap van ethische theorie en principes naar contextspecifieke, uitvoerbare praktijk een grote hindernis voor brede adoptie van systematische ethische impactanalyses in software-engineering.

Principes van verantwoorde AI

In de literatuur zien we een behoorlijke ontwikkeling van RAI-principes die worden besproken. Laten we ze kort doornemen.

Ethische kaders

Verantwoorde AI benadrukt het gebruik van ethische kaders om verantwoording, verantwoordelijkheid en transparantie in AI-systemen te waarborgen. Dit omvat het adresseren van kwesties als privacy, autonomie en bias.

Transparantie en uitlegbaarheid

Transparantie in AI-algoritmen en besluitvormingsprocessen is cruciaal om vertrouwen bij stakeholders op te bouwen. Explainable AI (XAI) heeft als doel modellen te creëren die interpreteerbaar en begrijpelijk zijn, wat transparantie en vertrouwen bevordert.

Bias en eerlijkheid

Verantwoorde AI wil bias in AI-algoritmen opsporen en corrigeren om eerlijke beslissingen te bevorderen. Dit houdt in dat diverse en inclusieve datasets worden gebruikt om discriminerende uitkomsten te voorkomen.

Wil je meer leren over bias in AI? Beluister dan deze podcast: Fighting for Algorithmic Justice with Dr. Joy Buolamwini.

Governance en regulering

Het ontwikkelen van standaarden en kaders voor AI-governance is essentieel om het verantwoorde gebruik van AI te begeleiden. Dit omvat het opzetten van gestructureerde benaderingen om risico’s te mitigeren op verschillende niveaus, van individuele onderzoekers tot overheidstoezicht.

Sociale en milieueffecten

Verantwoorde AI kijkt naar de bredere sociaal-economische en milieueffecten van AI, zoals de invloed op werkgelegenheid, ongelijkheid en grondstoffengebruik, en het risico op oneerlijke digitale markten of milieuschade door het gebruik van hulpbronnen.

Eerlijkheid, beveiliging en privacy

De inspanningen van de Europese Commissie om AI te reguleren onderstrepen het belang van eerlijkheid, beveiliging, privacy, uitlegbaarheid, veiligheid en reproduceerbaarheid als onderdelen van verantwoorde AI.

Morele en juridische verantwoordelijkheid

Discussies over verantwoorde AI gaan vaak over morele verantwoordelijkheid, waaronder causale en epistemische voorwaarden. Dit betekent dat AI-handelen tot uitkomsten moet leiden, en dat betrokkenen zich bewust moeten zijn van de morele consequenties. Juridische kaders onderzoeken ook aansprakelijkheid, verantwoordelijkheid en toerekenbaarheid voor AI-systemen.

Betrokkenheid van stakeholders

Een RAI-kader houdt vaak in dat alle stakeholders verantwoordelijk worden gehouden, inclusief ontwikkelaars, gebruikers en mogelijk de AI-systemen zelf.

Alternatieve taxonomieën van RAI-principes in de academische wereld

Binnen de academische wereld hebben enkele van de meest systematische reviews van AI-ethiekprincipes verschillende taxonomieën opgeleverd. Zo hebben Jobin et al. 84 ethische richtlijnen beoordeeld en 11 principes voorgesteld:

• Transparantie
• Rechtvaardigheid en eerlijkheid
• Non-maligniteit
• Verantwoordelijkheid
• Privacy
• Weldoen
• Vrijheid en autonomie
• Vertrouwen
• Waardigheid
• Duurzaamheid
• Solidariteit

Natuurlijk kwamen zij grote verschillen tegen in hoe deze principes werden geïnterpreteerd en hoe de aanbevelingen voor toepassing luidden. Wel zagen ze enige toenadering rond vijf kernprincipes:

• Transparantie
• Rechtvaardigheid en eerlijkheid
• Non-maligniteit
• Verantwoordelijkheid
• Privacy

Andere pleitbezorgers stellen echter dat de veelheid aan ethische AI-kaders kan worden samengebracht tot vijf metaprincipes:

• Respect voor autonomie
• Weldoen
• Non-maligniteit
• Rechtvaardigheid
• Uitlegbaarheid

OECD-principes voor verantwoorde AI

Internationale organisaties leveren ook actief input aan de wereldwijde discussies over hoe deze definities worden gevormd, voor beleid en harmonisatie.

De Organisatie voor Economische Samenwerking en Ontwikkeling (OESO)—waar ik dien als AI-expert voor risico’s en verantwoording, evenals voor incidentmonitoring—heeft een uitgebreide lijst van principes voor betrouwbare AI opgesteld.

Deze principes bevorderen het gebruik van AI die innovatief en betrouwbaar is, en mensenrechten en democratische waarden respecteert. Aanvankelijk aangenomen in 2019, zijn ze in mei 2024 bijgewerkt om te zorgen dat ze robuust blijven en geschikt zijn voor hun doel in het licht van nieuwe technologische en beleidsontwikkelingen.

Tegenwoordig gebruiken de Europese Unie, de Raad van Europa, de Verenigde Staten, de Verenigde Naties en andere rechtsgebieden de OESO-definitie van een AI-systeem en levenscyclus hieronder in hun wetgevings- en regelgevingskaders en richtsnoeren.

Kort gezegd zijn dit allemaal waardegedreven principes, gegroepeerd in de volgende categorieën:

Inclusieve groei, duurzame ontwikkeling en welzijn

AI-stakeholders moeten zich proactief inzetten voor verantwoord rentmeesterschap van betrouwbare AI, met het oog op positieve uitkomsten voor mens en planeet, zoals het vergroten van menselijke capaciteiten en creativiteit, het bevorderen van inclusie van ondervertegenwoordigde groepen, het verminderen van economische, sociale, gender- en andere ongelijkheden, en het beschermen van natuurlijke omgevingen, en zo inclusieve groei, welzijn, duurzame ontwikkeling en milieuduurzaamheid stimuleren.

Mensenrechten en democratische waarden, waaronder eerlijkheid en privacy

AI-actoren moeten tijdens de volledige levenscyclus van het AI-systeem de rechtsstaat, mensenrechten en democratische, mensgerichte waarden respecteren. Dit omvat non-discriminatie en gelijkheid, vrijheid, waardigheid, autonomie van individuen, privacy en gegevensbescherming, diversiteit, eerlijkheid, sociale rechtvaardigheid en internationaal erkende arbeidsrechten.

Transparantie en uitlegbaarheid

AI-actoren moeten zich inzetten voor transparantie en verantwoorde openbaarmaking over hun systemen. Daartoe moeten ze betekenisvolle informatie verstrekken, passend bij de context en in lijn met de stand van de techniek, om een algemeen begrip te bevorderen van AI-systemen, inclusief hun mogelijkheden en beperkingen.

Robuustheid, beveiliging en veiligheid

AI-systemen moeten gedurende hun hele levenscyclus robuust, beveiligd en veilig zijn, zodat ze onder normale gebruiksomstandigheden, voorzienbaar gebruik of misbruik, of andere ongunstige omstandigheden, passend functioneren en geen onredelijke veiligheids- en/of beveiligingsrisico’s opleveren.

Verantwoording

AI-actoren moeten verantwoording afleggen voor de goede werking van AI-systemen en voor het naleven van bovenstaande principes, op basis van hun rollen, de context en in lijn met de stand van de techniek. Daartoe moeten AI-actoren traceerbaarheid waarborgen, onder meer met betrekking tot datasets, processen en beslissingen gedurende de levenscyclus van het AI-systeem. Deze traceerbaarheid moet analyse van de output van het AI-systeem en antwoorden op vragen mogelijk maken, passend bij de context en in lijn met de stand van de techniek.

ISO-principes voor verantwoorde AI 

Aan de andere kant onderscheidt de International Standards Organization (ISO) drie kerngebieden om een AI-systeem betrouwbaar te maken:

1. Voed het met goede, diverse data
2. Zorg dat algoritmen met die diversiteit overweg kunnen
3. En test de resulterende software op verkeerde labels of slechte correlaties

De organisatie geeft de volgende richtlijnen om dit te bereiken:

1. Ontwerp voor mensen door een diverse set gebruikers en use-cases te betrekken en deze feedback vóór en tijdens de hele levenscyclus van de AI te verwerken.
2. Gebruik meerdere metrics voor evaluatie tijdens training en monitoring, waaronder gebruikersenquêtes, algemene systeemprestatie-indicatoren en false positive- en false negative-ratio’s, uitgesplitst naar verschillende subgroepen.
3. Onderzoek de ruwe data op fouten (bijv. ontbrekende of niet-uitgelijnde waarden, onjuiste labels, sampling), trainingsscheefheden (bijv. dataverzamelingsmethoden of inherente sociale biases) en redundantie—allemaal cruciaal om RAI-principes van eerlijkheid, gelijkheid en nauwkeurigheid in AI-systemen te waarborgen.
4. Begrijp de beperkingen van elk model om bias te mitigeren, generalisatie te verbeteren, betrouwbare prestaties in dynamische scenario’s te verzekeren, en communiceer deze naar ontwikkelaars en gebruikers.
5. Test je model continu aan de hand van principes van verantwoorde AI om te borgen dat rekening wordt gehouden met prestaties in de praktijk en gebruikersfeedback, en om zowel korte- als langetermijnoplossingen voor de problemen te verbeteren.

Het standpunt van marktleiders over verantwoorde AI

Kijken we naar concrete voorbeelden van marktleiders, dan zien we duidelijke verschillen in naamgeving en taxonomieën, met uiteenlopende invullingen van de begrippen RAI, betrouwbare AI, ethische AI en andere varianten die ze voor hun activiteiten of toepassingen hanteren.

Microsoft

Microsoft hanteert bijvoorbeeld de volgende Responsible AI-principes:

• Eerlijkheid
• Betrouwbaarheid en veiligheid
• Privacy en beveiliging
• Inclusiviteit
• Transparantie en verantwoording

Apple

Daarentegen stelt Apple dat hun AI is ontworpen met hun kernwaarden en gebouwd op een fundament van baanbrekende privacy-innovaties, en dat ze een set Responsible AI-principes hebben gecreëerd om te sturen hoe ze AI-tools ontwikkelen, evenals de onderliggende modellen:

• Geef gebruikers krachtige, slimme tools: Identificeer waar AI verantwoord kan worden ingezet om tools te bouwen die specifieke gebruikersbehoeften adresseren, en respecteer hoe gebruikers deze tools inzetten om hun doelen te bereiken.
• Representatie van gebruikers: Bouw diep persoonlijke producten met als doel gebruikers wereldwijd authentiek te vertegenwoordigen, om het bestendigen van stereotypen en systemische bias in AI-tools en -modellen te vermijden.
• Ontwerp met zorg: Neem voorzorgsmaatregelen in elke fase van ons proces—van ontwerp, modeltraining en featureontwikkeling tot kwaliteitsbeoordeling—om te identificeren hoe onze AI-tools kunnen worden misbruikt of mogelijk schade kunnen veroorzaken.
• Bescherm privacy: Bereik dit via krachtige on-device verwerking en baanbrekende infrastructuur, en zorg dat zij geen persoonlijke privégegevens of gebruikersinteracties van onze gebruikers gebruiken bij het trainen van hun foundation-modellen.

Nvidia

Nvidia noemt het betrouwbare AI, en ze vinden dat AI privacy- en gegevensbeschermingsregels moet respecteren, veilig en zeker moet opereren, transparant en verantwoordelijk moet functioneren, ongewenste bias en discriminatie moet vermijden, en ze benoemen vier kernprincipes:

• Privacy
• Veiligheid en beveiliging
• Transparantie 
• Non-discriminatie

Google

Iets anders geformuleerd spreekt Google over “Doelstellingen voor AI-toepassingen”:

• Sociaal nuttig zijn.
• Vermijden om oneerlijke bias te creëren of te bestendigen.
• Gebouwd en getest zijn op veiligheid.
• Verantwoording afleggen aan mensen.
• Privacy-by-design-principes toepassen.
• Hoge standaarden van wetenschappelijke excellentie handhaven.
• Beschikbaar zijn voor gebruik in overeenstemming met deze principes om potentieel schadelijke of misbruiktoepassingen te beperken.

Conclusie

Er is nog geen consensus over wat precies verantwoorde AI, betrouwbare AI, ethische AI, veilige en zekere AI omvat, noch of dit op zichzelf staande termen zijn of dat ze naar elkaar toe groeien. Wel is het bemoedigend dat de elementen van deze termen—althans in theorie—gemeenschappelijk en gedeeld zijn rond dezelfde kernprincipes in de academische wereld, internationale organisaties en de industrie.

In brede zin kunnen we zeggen dat RAI een opkomende discipline is die erop gericht is te waarborgen dat de ontwikkeling, inzet en het gebruik van kunstmatige intelligentie op een mensgerichte manier gebeuren, die in de praktijk zowel ethisch als juridisch in lijn is met fundamentele mensenrechten.