Last chance! 50% off DataCamp Premium
Sale ends in
Het HAI-instituut van Stanford wil AI onderzoeken vanuit een mensgerichte benadering, geïnspireerd door de diepte en diversiteit van het menselijk denken en bij elke stap met oog voor de ethische impact op de samenleving; hun missie is om AI in te zetten ter versterking van menselijke capaciteiten in plaats van ter vervanging ervan.
Onderzocht en geschreven door de toonaangevende experts van de instelling uit de academische wereld en het bedrijfsleven, presenteert de vijfde jaarlijkse editie van het AI Index-rapport de data achter de nieuwste trends in het AI-veld van het afgelopen jaar. Het rapport telt 230 pagina’s. In dit artikel belichten we de belangrijkste inzichten uit elk hoofdstuk van het rapport.
Lees verder om te ontdekken welke landen de grootste sprongen in AI hebben gemaakt, waar ter wereld de meeste AI-banen te vinden zijn, hoe het staat met AI-regelgeving, en meer.
AI is veelgevraagd, dus er is het afgelopen jaar veel en breed onderzoek en ontwikkeling gedaan. Dit hoofdstuk probeert R&D te kwantificeren bij academische instellingen, overheidsorganisaties en het bedrijfsleven.
Het rapport heeft de volgende dataset verzameld uit openbare bronnen zoals conferentiepapers, tijdschriftartikelen, onderzoeksartikelen en patenten. Ook kijkt het naar GitHub-sterren van open-sourcerepositories en zelfs conferentiebezoek. Dit biedt een helikopterview van hoe AI-R&D wereldwijd vordert.
Bij het bekijken van internationale samenwerking op AI-gebied hebben de VS en China tussen 2010 en 2021 de meeste gezamenlijke publicaties, een verzesvoudiging sinds 2010 ondanks politieke verschillen tussen beide landen. De op een na hechtste samenwerking is die tussen het VK en China.
Met het hoogste aantal publicaties, tijdschriften, conferenties en repositories voert China momenteel de AI-onderzoeksactiviteiten aan.
In 2021 bestond 51,5% van alle gepubliceerde AI-documenten uit tijdschriften (i.e. research papers). Als algemene trend zijn AI-tijdschriften en -repositories op een historisch hoogtepunt. Het aantal georganiseerde conferenties neemt echter sinds 2018 af.
Publicaties over patroonherkenning en machine learning zijn sinds 2015 meer dan verdubbeld. In 2021 werden respectievelijk rond de 52.000 en 40.000 onderzoeksartikelen in elk van deze velden gepubliceerd.
Non-profits en onderwijsinstellingen produceerden tussen 2010 en 2021 de meeste sectoroverschrijdende AI-publicaties. Daarna volgen samenwerkingen tussen de private sector en onderwijsinstellingen, gevolgd door de overheid en onderwijsinstellingen.
Nu de ontwikkelingen in AI versnellen, zijn meer onderzoekers en wetenschappers hun werk gaan beschermen, met patentaanvragen die jaarlijks met 76,9% samengroeien.
Het publiceren van nog-niet-peer-gereviewd onderzoek op arXiv en SSRN is populair geworden onder AI-onderzoekers om bevindingen te delen. In de afgelopen 12 jaar is het aantal AI-repositorypublicaties bijna 30 keer zo groot geworden.
Het rapport vergeleek het totale aantal GitHub-sterren voor populaire open-source AI-bibliotheken over de afgelopen zeven jaar. Tensorflow heeft de meeste GitHub-sterren, gevolgd door OpenCV, Keras, en Pytorch. Andere populaire bibliotheken onder de 40k sterren zijn faceswap, 100-Days-Of-ML-Code en AiLearning.
Dit hoofdstuk volgt de vooruitgang van diverse modellen in computervisie, natural language processing, spraak, aanbevelingen, reinforcement learning, hardware en robotica. Het probeert de prestaties van deze modellen te kwantificeren met gangbare benchmarks en professionele enquêtes over een periode van 10 jaar. Een deel van de benchmarking in het rapport is hieronder te vinden:
|
Computervisie: Afbeelding & Video |
|
|
Machinelearningprobleem |
Gebruikte benchmark |
|
Beeldclassificatie |
ImageNet: Top-1 & Top-5 nauwkeurigheid |
|
Deepfake-detectie |
FaceForensics++ nauwkeurigheid |
|
Semantische segmentatie |
CITYSCAPES CHALLENGE: gemiddelde Intersection-over-Union (IoU) |
|
Activiteitsherkenning |
Kinetics-400, Kinetics-600, Kinetics-700 dataset: Top-1 nauwkeurigheid |
|
Objectdetectie |
[Common Object in Context] COCO-TEST-DEV: gemiddelde Average Precision |
|
Taal |
|
|
Machinelearningprobleem |
Gebruikte benchmark |
|
Begrip van de Engelse taal |
SUPERGLUE: score, SQUAD 1.1 en SQUAD 2.0: F1-score, Reading Comprehension Dataset Requiring Logical Reasoning (ReClor): nauwkeurigheid |
|
Samenvatting van tekst |
ARXIV: ROUGE-1, PUBMED: ROUGE-1 |
|
Natuurlijke-taalinferentie |
Stanford Natural Language Inference (SNLI) Abductive Natural Language Inference (aNLI) |
|
Aanbeveling |
|
|
Machinelearningprobleem |
Gebruikte benchmark |
|
Commerciële aanbeveling |
MovieLens 20M: Normalized Discounted Cumulative Gain@100 |
|
Doorklikratio-voorspelling |
Criteo: Area Under Curve-score (AUC) |
|
Reinforcement learning |
|
|
Machinelearningprobleem |
Gebruikte benchmark |
|
Arcadespellen |
Atari-57: gemiddelde human-genormaliseerde score |
|
Menselijke spellen: schaken |
Schaaksoftware-engines: Elo-score |
Grote trainingsdatasets zijn cruciaal om een succesvol model met hoge nauwkeurigheid te bouwen. Bijna alle state-of-the-artmodellen met miljoenen parameters zijn uitsluitend op grote datasets getraind om sterke resultaten te halen. Grote techbedrijven hebben hier een voorsprong omdat ze over veel data beschikken.
Jaren van innovatie betalen zich nu uit, want de doorsnee gebruiker kan relatief eenvoudig grootschalige modellen bouwen. Sinds 2018 zijn de kosten voor het trainen van een beeldclassificatiemodel met 63,6% gedaald. Bovendien is de tijd die het kost om modellen te trainen met 95% verbeterd. Die kortere trainingstijden zijn een belangrijke reden voor de lagere kosten. Andere factoren zoals gespecialiseerde clouddiensten, efficiënte open-sourcepakketten en beschikbaar talent drukken de kosten ook.
Op basis van een enquête van het AI Index-team is er een duidelijke dalende trend in de prijzen van robotarmen. De mediane prijs van een robotarm was $42.000 in 2017, maar daalde in 2021 met bijna 50% naar $22.600.
Volgens het rapport verschuift onderzoek in computervisie naar meer usecase-gerichte toepassingen zoals medische beeldvorming. Uit hun dataset blijkt een aanzienlijke toename van onderzoek met de Kvasir-SEG medische beeldvorming-dataset en CVC-ClinicDB—in 2020 waren er slechts drie papers die deze dataset gebruikten, terwijl 2021 25 relevante publicaties telde.
Hoewel modellen zoals SuperGLUE en SQuAD mensen al voorbijstreven op relatief eenvoudige taken zoals begrijpend lezen, blijven AI-modellen voor complexere linguïstische taken zoals abductieve natuurlijke-taalinferentie (aNLI) nog ver verwijderd van menselijk niveau.
In de afgelopen 10 jaar werd AI vaardig in smalle reinforcement learning-taken zoals schaken. In 2021 is er echter een duidelijke trend zichtbaar in de verbetering van algemenere reinforcement learning-taken zoals Procgen, een omgeving die het vermogen van AI test om generaliseerbare vaardigheden te leren en die in 2019 door OpenAI is uitgebracht.
AI heeft onmiskenbaar enorme waarde opgeleverd voor bedrijven in de afgelopen jaren. Maar naarmate machinelearningmodellen in productie gaan, komen enkele van de grootste tekortkomingen van bias in AI aan het licht. In veel gevallen gebruiken AI-modellen real-world data voor training die bepaalde sociale vooroordelen bevat. Die biases worden verder versterkt wanneer een model rond gebrekkige data wordt gebouwd.
Dit hoofdstuk probeert de voortgang bij het verminderen van bias te kwantificeren met diepgaande benchmarks voor domeinen als natuurlijke taal en computervisie. Enkele gebruikte benchmarks vind je hieronder:
|
Natuurlijke taal |
|
|
Ethische kwesties |
Benchmarking |
|
Toxiciteit in natuurlijke taal |
|
|
Stereotiepe bias |
StereoSet-score naar modelgrootte |
|
Gendervooroordeel |
|
Onderzoek naar de eerlijkheid van AI-modellen is vele malen toegenomen—since 2014 groeide het aantal publicaties jaar op jaar met 71%. Bias in de uitkomsten van diverse commerciële modellen heeft ertoe geleid dat deze modellen bepaalde subgroepen oneerlijk benadelen in real-world toepassingen zoals creditcardscoring. Daarom is er grote interesse ontstaan bij academische onderzoekers en bedrijven om de eerlijkheid van machinelearningmodellen centraal te stellen.
Gigantische state-of-the-art taalmodellen met honderden miljarden parameters, zoals GPT-3, zijn zeer succesvol geworden in taalgerichte taken. De technische innovatie achter deze modellen is bidirectionele training van transformers met attention. Nieuwe data laat echter zien dat deze grote modellen gevoeliger zijn voor het overnemen van vooroordelen uit hun omvangrijke trainingsdata.
Net als grote taalmodellen tonen multimodale taal-beeldmodellen zoals DALL·E 2 een breed scala aan capaciteiten dankzij grootschalige training waarbij tekst en beeld als één datastroom worden gezien. Dat resulteert niet alleen in fotorealistische topbeelden op basis van tekstprompts, maar ook in uitkomsten die maatschappelijke stereotypen en biases weerspiegelen.
Dit hoofdstuk onderzoekt de impact van AI op zowel de economie als het onderwijs. Het rapport heeft openbare data verzameld van LinkedIn, Computing Research Association, McKinsey, NetBase Quid en EMSI Burning Glass. Ook kijkt het naar het effect van AI op banen, waaronder werving, vraag naar arbeid en vaardigheidsdoorbraak.
In 2021 haalden AI-startups $93,5 miljard op, dubbel zoveel als in 2020. Het aantal nieuw gefinancierde AI-startups daalde echter van 1051 in 2019 naar 746 in 2021. In 2021 waren er 15 financieringsrondes van $500 miljoen of meer.
De Verenigde Staten hebben de grootste particuliere investeringen in AI en de meeste nieuw gefinancierde AI-bedrijven, respectievelijk bijna twee en drie keer zoveel als nummer twee China.
Bedrijven in cloud-databeheer en -verwerking, zoals Databricks, ontvingen de meeste private financiering. De nummers twee en drie zijn zorg en fintech.
Nieuw-Zeeland, Hongkong, Ierland, Luxemburg en Zweden kenden de sterkste groei in AI-vacatures tussen 2016 en 2021.
Californië, thuisbasis van Silicon Valley, heeft het hoogste aantal vacatures, 2,3 keer meer dan runner-up Texas. Washington D.C. had echter relatief de meeste AI-vacatures vergeleken met het totale aantal vacatures in de VS.
De populairste specialisatie onder Computer Science-promovendi in het afgelopen decennium is machine learning/artificial intelligence. In 2020 specialiseerde één op de vijf CS-studenten die promoveerden zich in AI.
Dit hoofdstuk ontleedt wet- en regelgeving die wereldwijd invloed heeft op kunstmatige intelligentie. Het laat zien hoe verschillende landen en regio’s AI-technologie proberen in te passen met het welzijn van hun bevolking als centraal uitgangspunt. Onderzoekers bekeken beleid wereldwijd en kwantificeerden de ingediende en aangenomen wetsvoorstellen waarin kunstmatige intelligentie wordt genoemd.
Het rapport analyseerde het aantal AI-gerelateerde wetsvoorstellen (met “Artificial Intelligence” als trefwoord) dat in 25 landen werd aangenomen tussen 2016 en 2021. De laatste twee jaar is er een scherpe toename in het aantal aangenomen AI-gerelateerde wetten. Spanje, het Verenigd Koninkrijk en de Verenigde Staten hadden elk de meeste aangenomen AI-gerelateerde wetten, met 3 per land.
In de Amerikaanse wetgevingsdossiers is een scherpe toename zichtbaar in het aantal voorgestelde wetsvoorstellen om AI te reguleren. In 2021 werden in de VS 130 voorstellen ingediend. Slechts 2% daarvan werd echter wet.
In de VS is wetgeving rond AI landelijk overwogen: 41 van de 50 staten hebben tussen 2012 en 2021 minstens één AI-gerelateerd wetsvoorstel ingediend. De drie staten met de meeste voorgestelde AI-wetten:
In de VS kan data over AI-wetgeving op staatsniveau verder worden uitgesplitst naar partijsponsoring, en daaruit blijkt dat Democraten wetgeving rond AI meer steunen dan Republikeinen. Dit verschil is in de loop der jaren groter geworden. In 2021 sponsorden Democraten 39 wetsvoorstellen meer dan Republikeinen.
Het AI Index-rapport analyseerde de woordelijke verslagen van hoorzittingen in 25 landen op het trefwoord “artificial intelligence” van 2016 tot 2021. Het aantal vermeldingen van AI groeide in de afgelopen zes jaar 7,7 keer tot 1.323 vermeldingen in 2021.
Het AI-veld evolueert voortdurend, en miljoenen experts wereldwijd werken dag en nacht om dat waar te maken. Wil je bijblijven met AI en de vooruitgang ervan, bekijk dan de onderstaande bronnen.

blog
Adel Nehme
15 min