Een introductie tot Papers With Code

Stel je voor dat je op Google zoekt naar een specifiek onderzoeksartikel over machine learning. Je vindt iets interessants en wilt de code-implementatie, dataset en resultaten zien. Je bent vervolgens uren bezig om die stuk voor stuk op te sporen. En stel je nu voor dat je dit nog 30 keer moet herhalen voor je scriptie of onderzoeksproject. Dat is een nachtmerrie. 

Papers With Code schiet te hulp. Het maakt het een stuk makkelijker om onderzoeksartikelen te lezen, met in één oogopslag een samenvatting, code-implementatie, resultaten en dataset. Bovendien kun je met de leaderboard-functie de resultaten van verschillende modelarchitecturen over een vergelijkbaar onderwerp vergelijken. 

Het is veel meer dan alleen zoeken naar een paper. Je kunt je zoekopdracht filteren met tags op diverse taken, subtaken, modellen, datasets en methoden om het onderwerp diepgaand te verkennen. 

In deze blog verkennen we de belangrijkste functies van Papers With Code en leer je hoe je het beste onderzoek doet voor machinelearningprojecten. 

Belangrijkste functies van Papers With Code 

Op de landingspagina zie je de trending papers op basis van het aantal sterren per uur. 

Papers With Code | Trending

Als je de paper interessant vindt, klik je op de knop Paper om de samenvatting te lezen en resultaten, datasets en verschillende code-implementaties te bekijken. Of als je vooral geïnteresseerd bent in de implementatie, klik je op Code en ga je naar de GitHub-repository met resultaten, code-implementaties en dependencies. 

De trendingpagina lijkt op de landingspagina van sociale media. Je kunt blijven scrollen om eerdere trending papers te zien met 1000+ sterren en meerdere community-bijdragen aan de code. 

Papers With Code is een communitygedreven platform om meer te leren over state-of-the-art papers op het gebied van machine learning. Het biedt een compleet ecosysteem voor open-sourcebijdragers, machinelearningengineers, data scientists, onderzoekers en studenten om ideeën makkelijk te delen en de ontwikkeling van machine learning te versnellen. 

Alle content op Papers With Code is open gelicenseerd onder CC-BY-SA en iedereen kan bijdragen via de knoppen "Edit".

Browse State-of-the-Art 

Papers With Code | Browse State-of-the-Art

Als je op de tab Browse State-of-the-Art klikt, zie je categorieën en subcategorieën gebaseerd op verschillende machinelearningdomeinen. Bijvoorbeeld:

1. Computer Vision
2. Natural Language Processing
3. Medisch
4. Diversen
5. Methodologie
6. Tijdreeksen
7. Grafen
8. Spraak
9. Redeneren
10. Spelletjes spelen
11. Computercode
12. Audio
13. Adversarial
14. Robots
15. Knowledge Base
16. Knowledge Base
17. Muziek

Elke categorie hierboven heeft subcategorieën. En wanneer je op een subcategoriekaart klikt, zie je een korte definitie van de subcategorie en de benchmark. 

Het primaire doel van de sectie Browse State-of-the-Art is om je informatie te geven over best presterende modellen op een gegeven dataset, populaire libraries, een lijst met datasets, subtaken en de meest geïmplementeerde papers. Daarnaast kun je de prestaties van diverse modellen op dezelfde dataset vergelijken.  

Wil je meer leren over verschillende categorieën binnen machine learning? Bekijk dan onze pagina met Machine Learning-cursussen. Die bevat een verzameling beginnersvriendelijke cursussen, machine learning met Python en R, en projectgebaseerde cursussen. Je vindt er ook populaire templates, tutorials en cheatsheets. 

Datasets

Papers With Code | Datasets

In plaats van categorieën en subcategorieën kun je zoeken naar een specifieke dataset of verschillende filters gebruiken om de dataset te vinden. 

Over het algemeen is de website onderling verbonden en hoef je datasets niet één voor één op te sporen. Maar als je onderzoek doet waarvoor meerdere datasets nodig zijn voor een specifiek machinelearningprobleem, helpt de tab Dataset je om elke populaire dataset te vinden met behulp van zoek- en filterfuncties. Je kunt datasets filteren op modaliteit, taken en talen. 

Het wordt pas echt leuk wanneer je op een bepaalde dataset klikt. Je vindt er verschillende interactieve secties, zoals: 

• Voorbeeldafbeeldingen: een verzameling verschillende afbeeldingen in een dataset
• Gebruik: aantal papers per jaar die de dataset hebben gebruikt 
• Benchmark: rangschikking van het best presterende model op een bepaalde taak met de dataset. 
• Licentie: naam en link van de licentie
• Modaliteiten: diverse modaliteitstags met een link
• Talen: de NLP-dataset toont de tags van natuurlijke talen. 
• Papers: lijst met beste papers die de dataset gebruiken. Bevat code, resultaten, datum en aantal sterren op de repo.
• Dataset Loaders: download en laad datasets in diverse machinelearningframeworks zoals TensorFlow, PyTorch en Jax. 
• Taken: tags van machinelearningtaken zoals Image Generation, Graph Classification en Stochastic Optimization.   
• Vergelijkbare datasets: lijst met vergelijkbare datasets op basis van taken en modaliteit. 

Kortom, de tab Dataset is volledig geïntegreerd met andere delen van de website om een soepele gebruikerservaring te bieden voor diepgaand onderzoek. 

Je kunt ook de sectie Datasets op DataCamp bekijken om verschillende soorten datasets te downloaden. Bovendien kun je met één klik gratis een cloud Jupyter Notebook starten.

Methods

Papers With Code | Methods

De tab Methods lijkt op de tab Browse State-of-the-Art. Hij heeft categorieën en subcategorieën in de vorm van kaarten. De tab Methods is voor onderzoekers die specifieke machinelearningmethodologieën willen leren. Bijvoorbeeld word embeddings, extractie van afbeeldingsfeatures en activatiefuncties. 

Hij bestaat uit 7 categorieën: 

1. Algemeen: Attention, Attention Mechanism, Stochastic Optimization.                                                                 
2. Computer Vision: Convolutional Neural Networks, Image Model Blocks, Generative Models.
3. Natural Language Processing: Language Models, Transformers, Attention Patterns.
4. Reinforcement Learning: Policy Gradient Methods, Q-Learning Networks, Distributed Reinforcement Learning.
5. Audio: Audio Model Blocks, Text-to-Speech Models, Speech Separation Models.
6. Sequential: Recurrent Neural Networks, Temporal Convolutions, Time Series Analysis.
7. Grafen: Graph Embedding, Graph Representation Learning, Graph Data Augmentation. 

Wanneer je op een methodekaart klikt, zie je de definitie, een diagram en de sectie Methods. In het geval van de Attention-kaart zie je Multi-Head Attention, Scaled Dot-Product Attention, Fixed Factorized Attention en alle Attention-methoden. Bij elke methode staat het jaar van publicatie en het aantal papers waarin deze methode is gebruikt. 

Na het klikken op de methode Multi-Head Attention zie je een pagina met een samenvatting van de vergelijking, een downloadbare PDF van de paper en broncode. Je ziet ook de secties Papers, Tasks, Usage Over Time, Components en Categories.

Het is een leuke manier om over machinelearningmethoden te leren, omdat alles is geoptimaliseerd om de ervaring van de onderzoeker te verbeteren. 

Research Paper

Papers With Code | Paper

Bovenaan de pagina van een paper zie je de titel, naam van de auteur, datum en abstract. Daaronder vind je de knop PDF, die je naar de volledige paper brengt, en de knop Abstract, die je naar de abstractpagina op arxiv.org brengt. 

Een paper bestaat verder uit 5 secties:

• Code: je ziet de officiële code-implementatie en diverse communitybijdragen met demotoepassingen. 
• Taken: bestaat uit verschillende machinelearningtaken. Bijvoorbeeld language models en question answering. 
• Datasets: lijst met datasets die in de paper zijn gebruikt. 
• Resultaten uit de paper: modelprestaties op verschillende datasets, taken en versies van hetzelfde model. Je ziet ook de wereldwijde ranking, resultaatvergelijkingen en metriekwaarden. 
• Methoden: lijst met methoden die in de paper zijn gebruikt om het state-of-the-art resultaat te behalen. 

Een paper lezen op Papers With Code is eenvoudig en interactief. In plaats van de hele paper te downloaden en te lezen, kun je bijna alles leren via de tags, code-implementatie, taken en resultaten.  

Leaderboard

Papers With Code | Image Classification on ImageNet Leaderboard

Als je naar de bovenstaande afbeelding kijkt, geven de tealkleurige lijnen en punten de state-of-the-art beeldclassificatiemodellen op de ImageNet-dataset weer. De grijze punten zijn de minder presterende beeldclassificatiemodellen in een bepaalde periode. 

Het hele ecosysteem van Papers With Code draait om een leaderboard en zet state-of-the-art onderzoek bovenaan. Op de voorpagina zie je trending onderzoek op basis van sterren en populariteit. Elke tab zet populaire datasets, code-implementaties en de beste methodologieën en papers in de spotlight. 

De visie achter leaderboards, trends en benchmarks is het bevorderen van de kwaliteit van onderzoek. Zo verleggen we elke dag de grenzen van machine learning om een state-of-the-art status te bereiken. 

Handige tips voor Papers With Code   

Hieronder vind je een paar waardevolle tips om het Papers With Code-platform te gebruiken en je onderzoeksproject te optimaliseren:

• Als je moeite hebt om een onderzoeksonderwerp in machine learning te vinden, bekijk dan de pagina trending.
• Als je je onderwerp hebt gekozen en nu op zoek bent naar papers, code-implementaties en datasets, bekijk dan de pagina Browse State-of-the-Art.
• De pagina Methods is voor machinelearningengineers die op zoek zijn naar verbeterde varianten van methodologieën zoals loss- en activatiefuncties.
• De pagina Datasets is voor data scientists die een opgeschoonde en gestandaardiseerde dataset zoeken voor een specifieke machinelearningtaak.
• Academische en industriële onderzoekers kunnen het platform gebruiken om informatie toe te voegen over datasets, modellen, taken, code, gepubliceerde papers en resultaten.
• Voeg officiële state-of-the-art-badges toe aan het README.md-bestand in de GitHub-repository.
• Je kunt een API Client gebruiken om wijzigingen te lezen en te schrijven met Python-objecten. Je kunt ook je competitie spiegelen en de resultaten op het leaderboard tonen.
• De pagina Portal geeft toegang tot papers over Computer Science, Physics, Astronomy, Mathematics en Statistics. Papers uit andere disciplines bevatten een link naar de code-implementatie die je kunt volgen om de resultaten te reproduceren.   

De ontwikkelaars voegen voortdurend nieuwe functies toe om de gebruikerservaring te verbeteren. Als je iets nieuws wilt delen of featureverzoeken hebt, kun je ze bereiken via Twitter of Slack.  

Conclusie

Het Papers With Code-platform brengt mensen met verschillende achtergronden samen. De website wordt onderhouden door Meta AI, maar draait op de community. De openheid om bij te dragen zorgt voor inclusiviteit, een cruciale factor in de snelle groei van de machinelearning- en AI-industrie.  

In deze blog hebben we geleerd over het belang van een interactief en onderling verbonden platform genaamd Papers With Code. We hebben ook de belangrijkste functies van de website en tips ontdekt om je onderzoek te optimaliseren. 

Papers With Code is geweldig voor machinelearningpapers, code, datasets en benchmarks. Het is een van de beste plekken om aan je afstudeerproject te beginnen. Ook als je nieuw bent in het vakgebied, kun je je inschrijven voor het carrièrepad Machine Learning Scientist with Python of R om je professionele reis te starten. 

Ben je op zoek naar machinelearningprojecten om aan te werken? Bekijk dan onze uitgebreide blog met ideeën voor lerenden van elk niveau.