Artificial General Intelligence (AGI): voorspellingen, risico’s, uitdagingen

Wat is Artificial General Intelligence?

In het algemeen verwijst AGI naar een geavanceerd AI-systeem dat elke intellectuele taak kan uitvoeren die een mens kan. In tegenstelling tot huidige AI-modellen, die smalle AI zijn (ontworpen voor specifieke taken zoals beeldherkenning of taalverwerking), zou AGI mensachtige redenering, leren en aanpassingsvermogen hebben over meerdere domeinen. Dit betekent dat een AGI-systeem bijvoorbeeld zou kunnen:

• Begrijpen en redeneren als een mens over verschillende taken heen.
• Leren van ervaring in plaats van enorme datasets en hertraining nodig te hebben.
• Complexe, multidomeinproblemen oplossen zonder daar expliciet voor geprogrammeerd te zijn.

AGI kent meerdere definities, afhankelijk van perspectief en context. Hoewel alle definities het eens zijn dat het mensachtige cognitieve vermogens moet hebben en in elkaar overlopen, verschilt de nadruk. Enkele belangrijke accenten:

• Functionele AGI: capaciteitsgericht
• Cognitieve AGI: mensachtige intelligentie
• Zelflerende AGI: autonome verbetering
• Filosofische AGI: zelfbewustzijn

Functionele AGI

De functionele definitie van AGI richt zich op het vermogen om elke intellectuele taak in verschillende domeinen uit te voeren. Het hoeft menselijke denkprocessen niet te imiteren, maar moet kennis kunnen generaliseren, zich kunnen aanpassen aan nieuwe problemen en taken kunnen oplossen zonder uitgebreide hertraining.

De focus ligt op een AI-systeem dat kan schakelen tussen disciplines, zoals het diagnosticeren van medische aandoeningen, programmeren en het componeren van muziek, zonder voor elke taak aparte modellen nodig te hebben.

Cognitieve AGI

Cognitieve AGI daarentegen moet mensachtige redenering kunnen repliceren, inclusief gezond verstand, abstract denken en contextueel begrip. Dit type AGI zou niet alleen taken uitvoeren, maar ze ook begrijpen, net als een mens, met behulp van logica, creativiteit en zelfs emotionele intelligentie.

Een AI gebaseerd op deze definitie zou betekenisvolle gesprekken kunnen voeren, humor interpreteren en problemen oplossen zoals een menselijk brein dat van nature doet.

Zelflerende AGI

Zelflerende AGI verwijst naar een systeem dat zichzelf continu verbetert zonder menselijke tussenkomst. In plaats van op vooraf gedefinieerde datasets te vertrouwen, zou het experimenteren, nieuwe kennis ontdekken en zijn eigen algoritmes verfijnen om in de loop van de tijd efficiënter te worden. Dit soort AGI zou zelfstandig wetenschappelijk onderzoek kunnen doen, nieuwe theorieën kunnen creëren of zelfs zijn eigen architectuur kunnen aanpassen om de capaciteiten te vergroten.

Filosofische AGI

Tot slot gaat de filosofische definitie van AGI verder dan intelligentie en focust op AI die beschikt over zelfbewustzijn, emoties en mogelijk zelfs bewustzijn. Dit perspectief suggereert dat echte AGI moet kunnen reflecteren op zijn bestaan, persoonlijke doelen kan vormen en subjectieve gedachten of gevoelens kan ervaren.

Als dit wordt bereikt, zou zo’n AI een eigen moreel kompas kunnen ontwikkelen, nieuwsgierigheid kunnen uiten of zelfs worstelen met existentiële vragen zoals mensen dat doen.

Het AGI-spectrum: AGI vs. (smalle) AI

Nu we de verschillende definities hebben gezien, kijken we naar de niveaus van intelligentie die AI-systemen kunnen bereiken op weg naar echte AGI. Het AGI-spectrum helpt AI te categoriseren op basis van capaciteiten, aanpassingsvermogen en autonomie. Het omvat doorgaans de volgende fasen:

• ANI: Artificial Narrow Intelligence
• AGI: Artificial General Intelligence
• ASI: Artificial Superintelligence

Smalle AI

Smalle AI verwijst naar artificiële intelligentie die is ontworpen om specifieke taken zeer efficiënt uit te voeren, maar mist generalisatie buiten de trainingsdata. Deze systemen excelleren op één gebied, zoals taalverwerking, beeldherkenning of eiwitvouwing, maar kunnen zich niet aanpassen aan volledig nieuwe taken zonder hertraining.

Deze fase omvat ook huidige AI-modellen zoals GPT-4o of Grok 4, software voor zelfrijdende auto’s en aanbevelingsalgoritmes, die krachtig zijn maar beperkt tot vooraf gedefinieerde mogelijkheden.

Wat Smalle AI onderscheidt van AGI is het onvermogen om te generaliseren buiten de training. De overgangsfase, waarin AI-systemen multifunctioneler en adaptiever worden, wordt vaak Broad AI of Pre-AGI genoemd. Zo’n systeem kan verschillende soorten taken aan zonder volledige hertraining, maar mist echte autonomie en redenering, omdat het vooraf gedefinieerde leerschema’s volgt in plaats van zelfgestuurd probleemoplossen.

AGI

AGI daarentegen is een hypothetische AI die kan denken, leren en redeneren als een mens bij elke intellectuele taak. In tegenstelling tot Smalle AI zou het kennis kunnen generaliseren, zichzelf zelfstandig kunnen verbeteren en autonoom eigen doelen kunnen nastreven.

Als het wordt bereikt, zou AGI elke cognitieve functie kunnen uitvoeren die een mens kan, waardoor sectoren op hun kop worden gezet en ethische en filosofische grenzen worden opgerekt.

Artificial Superintelligence

Artificial Superintelligence (ASI) verwijst tot slot naar een niveau van AI dat de menselijke intelligentie in alle cognitieve en probleemoplossende vermogens overtreft. Dit is het soort AI dat we kennen uit sciencefictionfilms, dat—anders dan AGI—zich razendsnel zou verbeteren, zou innoveren voorbij menselijk begrip en mogelijk complete sectoren en samenlevingen hervormen. Hoewel dit vooralsnog toekomstmuziek is, zijn de existentiële risico’s die het meebrengt nu al het bespreken waard.

Waar we nu staan

In 2025 zitten we nog stevig in de fase van Smalle AI. Met vooruitgang zoals redeneermodellen als OpenAI’s o3 of DeepSeek’s R1 en agentische frameworks zoals Manus AI of ChatGPT Agent, bewegen we ons momenteel van Smalle AI naar Broad AI. Toch blijft AGI een onbereikt doel dat doorbraken vereist in zelfleren, generalisatie en redenering.

Moeilijkheden en obstakels bij het bereiken van AGI

Nu we weten waar we staan en hoe AGI eruitziet, hoe komen we van A naar B? Op dit moment zijn er meerdere economische, technische en ethische uitdagingen.

Economische uitdagingen

Aan belangstelling voor de ontwikkeling van AI richting AGI is zeker geen gebrek. Wereldwijde spelers strijden fel om technologische leiding, marktdominantie en geopolitieke invloed. Met name China en de Verenigde Staten zijn verwikkeld in een race die velen vergelijken met de Maanrace tussen de VS en de Sovjet-Unie in de jaren zestig.

Maar de pure rekenkracht die nodig is voor mensachtige redenering is enorm. De opschaling van datacenters en toenemende modelcomplexiteit zullen naar verwachting zorgen voor een enorme extra energievraag. Datacenters die AI-modellen hosten zijn nu al goed voor ongeveer 1 tot 1,5% van het wereldwijde stroomverbruik—een percentage dat vrijwel zeker zal stijgen naarmate de tijd en de ontwikkeling vorderen.

Zelfs met de recente enorme investeringen in AI-onderzoek blijven rekencosten en schaalbaarheid serieuze problemen bij de ontwikkeling van AGI. De oplossing zou kunnen liggen in efficiëntieverbeteringen en de ontwikkeling van alternatieve energiebronnen.

Technische uitdagingen

Aan de technische kant omvatten de uitdagingen het identificeren en representeren van impliciete kennis en intuïtie, evenals het langetermijnbehoud van kennis.

Impliciete kennis, zoals oorzaak-gevolgrelaties of sociale normen, wordt vaak niet uitgesproken maar is belangrijk voor contextbegrip. Mensen leiden betekenis af uit ervaring, culturele normen en onvolledige informatie, terwijl deze aannames voor AI-systemen verborgen zijn. Daarom hebben ze moeite om kennis te coderen en terug te halen die niet expliciet is vastgelegd, terwijl mensen die van nature als gezond verstand in hun besluitvorming meenemen.

Evenzo speelt intuïtie een sleutelrol in menselijke besluitvorming, maar blijft het ook moeilijk te formaliseren in AI-systemen. Het berust vaak op onbewuste patroonherkenning, abstracte redenering en ervaringsgestuurde inzichten—zaken die je niet eenvoudig kunt terugbrengen tot expliciete regels of datasets. Hoewel deep-learningmodellen intuïtieve oordelen bij specifieke taken kunnen benaderen, missen ze het zelfreflectieve, adaptieve leerproces waarmee mensen hun intuïtie in de loop der tijd verfijnen.

Dit leidt tot een ander probleem: het ontbreken van mensachtig langetermijngeheugen in AI-modellen. In tegenstelling tot mensen, die voortbouwen op eerdere ervaringen en hun begrip verfijnen, hebben AI-modellen moeite om kennis vast te houden en bij te werken zonder periodieke hertraining. Huidige AI-systemen lijden vaak aan catastrofale vergeetachtigheid, waarbij nieuw geleerde informatie eerdere kennis kan overschrijven of aantasten, waardoor het lastig is een stabiele, evoluerende kennisbasis te behouden.

Ethische uitdagingen

Zorgen dat AGI in lijn is met menselijke waarden en doelen is een van de meest urgente uitdagingen, door een mix van technische, ethische en maatschappelijke factoren. De wisselwerking tussen technische beperkingen, de inherente complexiteit van menselijke waarden en de grote risico’s maakt dit bijzonder lastig op te lossen.

Allereerst zijn menselijke waarden complex en ambigu. Wat juist, passend of kwaad is, verschilt sterk per cultuur, samenleving en context. Deze gelaagdheid, gecombineerd met tegenstrijdigheden of afruilen (denk aan de balans tussen vrijheid en veiligheid), zorgt voor morele onzekerheid en maakt het extreem uitdagend om waarden te vertalen naar duidelijke, operationele doelen voor AGI.

Zelfs als we uitgaan van een goed gedefinieerd moreel kader voor de AGI, blijven er technische barrières rond outer en inner alignment.

Het vertalen van menselijke waarden naar een precieze, wiskundige doelfunctie die een AGI kan optimaliseren is moeilijk. Die functie moet bestand zijn tegen optimalisatiedruk, wat betekent dat ze geen onbedoeld gedrag mag stimuleren wanneer de AGI er agressief op optimaliseert—een scenario dat filosoof Nick Bostrom al in 2003 beschreef. Bovendien moet de AGI zijn gedrag kunnen aanpassen op basis van nieuwe informatie zonder af te wijken van de beoogde doelen.

AGI-systemen zijn complex en kunnen interne processen ontwikkelen die moeilijk te begrijpen of te voorspellen zijn. Zo kan het emergente doelen ontwikkelen die afwijken van de beoogde doelen. Deze complexiteit maakt het lastig om te waarborgen dat de interne doelen van de AGI in lijn blijven met de gespecificeerde doelstellingen. Het ontwikkelen van methoden om deze interne processen te analyseren en te beheersen is essentieel voor het bereiken van inner alignment.

Een misuitgelijnde AGI kan handelen op manieren die botsen met menselijke belangen, met risico’s variërend van kleine inefficiënties tot existentiële bedreigingen voor de mensheid. Zo kan een AGI instrumentele doelen nastreven zoals machtsvergroting of hulpbronnenverwerving, die menselijke autonomie of veiligheid ondermijnen. Daarnaast zouden AGI-systemen kunnen worden misbruikt door kwaadwillenden of worden gemanipuleerd om tegen hun beoogde uitlijning in te handelen.

Zeker met de concurrentiedruk tussen wereldspelers om snel AGI te ontwikkelen, zijn adequate veiligheidsmaatregelen tijdens de ontwikkeling essentieel om catastrofale gevolgen te voorkomen. Het mitigeren van risico’s en tegelijk de potentiële voordelen van AGI maximaliseren vereist interdisciplinaire samenwerking tussen technische vakgebieden, ethiek en beleid.

Wanneer bereiken we AGI?

Experts denken dat AGI nog jaren—zo niet decennia—verwijderd is, gezien de uitdagingen en technische knelpunten uit het vorige hoofdstuk. Hoewel de vooruitgang in deep learning, reinforcement learning en AI-uitlijning doorgaat, blijft echte AGI een theoretisch doel en geen huidige realiteit. Doorbraken op meerdere gebieden, zoals neurosymbolische AI, zelflerende architecturen en efficiëntere berekening, zullen cruciaal zijn voor de ontwikkeling van AGI.

Hoewel het onmogelijk is om een duidelijk tijdstip te noemen voor het bereiken van AGI, zijn er verschillende voorspellingen van pioniers in het AI-veld.

Een van de optimistische stemmen is Sam Altman, CEO van OpenAI, die denkt dat AGI binnen enkele jaren (tegen 2028) bereikbaar is. Hij stelt dat de ontwikkeling van AI-technologie snel vordert en dat infrastructurele uitdagingen verwaarloosbaar zijn vergeleken met de technische problemen.

Andrew Ng, vooraanstaand AI-onderzoeker en oprichter van Google Brain, is sceptischer. Volgens zijn inschatting is AGI nog “vele decennia weg, misschien nog langer”. Ng benadrukt dat AGI niet alleen een technisch probleem is, maar ook significante wetenschappelijke doorbraken vereist om menselijke intelligentie te repliceren.

Er zijn echter nog pessimistischere geluiden. Gary Marcus, hoogleraar neurowetenschappen aan de New York University, betwist de claims over de tijdlijn van AGI-ontwikkeling. Hij stelt dat huidige AI-vooruitgang, zoals de ontwikkeling van grootschalige taalmodellen, niet per se wijst op AGI. Marcus benadrukt dat fundamentele technische problemen blijven bestaan en dat het opschalen van training en rekenkracht zijn grenzen bereikt.

We zien dus dat de voorspelde tijden en waarschijnlijkheden sterk afhangen van de onderliggende interpretatie van de term. Altman verwijst bijvoorbeeld naar OpenAI’s functionele en op autonomie gerichte definitie, waarbij AGI wordt begrepen als “een hoogautonoom systeem dat mensen overtreft bij het meeste economisch waardevolle werk.” Ng en Marcus hanteren daarentegen een definitie die het repliceren van mensachtige redenering omvat—het technisch meest uitdagende gebied van dit moment.

Risico’s en ethische uitdagingen van AGI

AGI heeft het potentieel om aanzienlijke economische ontwrichting te veroorzaken door de mogelijkheid om een breed scala aan menselijke taken te automatiseren, waardoor menselijke arbeid in diverse sectoren mogelijk wordt vervangen.

Massale werkloosheid

Een schadelijk gevolg kan massale werkloosheid zijn, omdat menselijke werknemers in veel banen (vooral op kantoor) vervangen kunnen worden. Als dit niet goed wordt beheerd, kunnen de snelle economische veranderingen door AGI leiden tot sociale onrust en politieke instabiliteit.

Om deze verstoringen te beperken, zullen beleidsmakers strategieën moeten ontwikkelen die ervoor zorgen dat de voordelen van AGI eerlijk worden verdeeld, werknemers worden beschermd tegen baanverlies en sociale en politieke stabiliteit wordt bevorderd. Dit kan inhouden: investeren in onderwijs en omscholingsprogramma’s, beleid zoals een basisinkomen, en internationale samenwerking om mondiale effecten aan te pakken.

Bias

Bias en eerlijkheid zijn andere grote risico’s die met AGI samenhangen, vanwege het potentieel om bestaande sociale ongelijkheden te bestendigen en te versterken. Bevooroordeelde algoritmes kunnen bepaalde groepen, zoals raciale of genderminderheden, systematisch benadelen door stereotypen en discriminerende praktijken te versterken, of zelfs nieuwe vormen van discriminatie te introduceren door patronen in ogenschijnlijk neutrale data te gebruiken. Zo kan het gebruik van postcodes als proxy voor etniciteit tot bevooroordeelde beslissingen leiden.

Zelfs wanneer groeps-eerlijkheidsstatistieken worden toegepast, kunnen AGI-systemen nog steeds discrimineren tegen subgroepen binnen een grotere groep. Dit staat bekend als fairness gerrymandering, waarbij sommige individuen binnen een groep slecht worden behandeld terwijl anderen dat compenseren om de algemene eerlijkheidsmetrics te behouden.

Existentiële risico’s

Tot slot brengt AGI verschillende existentiële risico’s met zich mee, vooral gerelateerd aan de mogelijkheid om oncontroleerbaar te worden of niet in lijn te zijn met menselijke waarden. AGI zou de menselijke intelligentie kunnen overtreffen, wat kan leiden tot een superintelligentie die doelen nastreeft die schadelijk zijn voor de mensheid, met als gevolg mogelijke uitsterving van de mens of een permanente achteruitgang van de beschaving.

Beangstigende scenario’s, deels bekend uit populaire sciencefiction, omvatten een AGI die hulpbronnenverwerving boven mensenlevens stelt, een totalitaire heerschappij vestigt of de creatie van versterkte ziekteverwekkers faciliteert.

Om deze risico’s te beperken, richten onderzoekers en beleidsmakers zich op het ontwikkelen van controle- en uitlijningsstrategieën. Dit omvat het creëren van waarborgen met technieken zoals het ontwerpen van architecturen die de autonomie van AGI beperken of het creëren van “geboxte” omgevingen om ontsnapping te voorkomen.

Om te zorgen dat AGI in lijn blijft met menselijke waarden, zelfs naarmate het zichzelf verbetert, moet onderzoek naar uitlijning en gedecentraliseerde AGI-ontwikkeling prioriteit krijgen om monopolisering te voorkomen en de veiligheid te bevorderen.

Conclusie

Hoewel AGI een langetermijndoel blijft, blijven doorbraken in AI-onderzoek de grenzen verleggen van wat machines kunnen. Het pad naar AGI zit vol technische, economische en ethische uitdagingen, en vereist doorbraken in redeneren, aanpassingsvermogen en uitlijning met menselijke waarden.

Of AGI nu binnen decennia werkelijkheid wordt of een ongrijpbaar concept blijft, de potentiële impact op samenleving, industrie en de mensheid als geheel maakt het tot een van de belangrijkste technologische ambities van onze tijd.