Introduction à Papers With Code

Imaginez chercher sur Google un article de recherche en apprentissage automatique bien précis. Vous trouvez un papier intéressant et souhaitez consulter son code, le jeu de données et les résultats. Vous risquez d'y passer des heures à tout retrouver séparément. Et maintenant, imaginez devoir répéter l'exercice 30 fois pour votre mémoire ou votre projet de recherche. Le cauchemar. 

Papers With Code change la donne. La plateforme facilite grandement la lecture des articles : un coup d’œil suffit pour voir le résumé, les implémentations de code, les résultats et les jeux de données. Vous pouvez en plus comparer les performances de différentes architectures de modèles sur un même sujet grâce au classement (leaderboard). 

C’est bien plus qu’un simple moteur de recherche d’articles : vous filtrez par étiquettes, tâches, sous-tâches, modèles, jeux de données et méthodes pour explorer un thème en profondeur. 

Dans cet article, nous allons passer en revue les fonctionnalités clés de Papers With Code et voir comment mener au mieux vos recherches pour des projets en apprentissage automatique. 

Fonctionnalités clés de Papers With Code 

Sur la page d'accueil, vous trouverez les articles de recherche qui montent en puissance, mesurés au nombre d’étoiles par heure. 

Papers With Code | Tendance

Si un article vous plaît, cliquez sur le bouton Paper pour lire le résumé et voir les résultats, jeux de données et implémentations de code. Si vous cherchez directement l’implémentation, cliquez sur Code pour accéder au dépôt GitHub avec les résultats, le code et les dépendances. 

La page des tendances rappelle le fil d’actualité d’un réseau social : faites défiler pour retrouver les articles populaires passés, avec 1 000 étoiles et plus, et de multiples implémentations issues de la communauté. 

Papers With Code est une plateforme animée par la communauté pour suivre l’état de l’art en apprentissage automatique. Elle offre un écosystème complet pour les contributeurs open source, ingénieurs en machine learning, data scientists, chercheurs et étudiants, afin de partager des idées et accélérer les avancées. 

Tous les contenus de Papers With Code sont sous licence ouverte CC-BY-SA, et chacun peut contribuer via les boutons « Edit ».

Parcourir l’état de l’art 

Papers With Code | Parcourir l’état de l’art

En cliquant sur l’onglet Browse State-of-the-Art, vous accédez aux catégories et sous-catégories couvrant différents domaines de l’apprentissage automatique. Par exemple :

1. Vision par ordinateur
2. Traitement du langage naturel
3. Médical
4. Divers
5. Méthodologie
6. Séries temporelles
7. Graphes
8. Parole
9. Raisonnement
10. Jeux
11. Code informatique
12. Audio
13. Adversarial
14. Robots
15. Base de connaissances
16. Base de connaissances
17. Musique

Chaque catégorie comprend des sous-catégories. En cliquant sur une carte de sous-catégorie, vous accédez à une définition succincte et aux benchmarks associés. 

L’objectif principal de la section Browse State-of-the-Art est de vous donner les informations sur les meilleurs modèles pour un jeu de données donné, les bibliothèques populaires, la liste des jeux de données, les sous-tâches et les articles les plus implémentés. Vous pouvez également comparer les métriques de performance de différents modèles sur un même jeu de données.  

Pour approfondir vos connaissances sur les différentes catégories du machine learning, consultez notre page Machine Learning Courses. Elle regroupe des cours pour débutants, du machine learning avec Python et R, ainsi que des cours par projets. Vous y trouverez également des templates, tutoriels et fiches mémo populaires. 

Jeux de données

Papers With Code | Datasets

Au lieu de parcourir par catégories et sous-catégories, vous pouvez chercher un jeu de données précis ou utiliser des filtres pour le trouver. 

De manière générale, le site est interconnecté : vous n’avez pas besoin de tout chercher manuellement. Mais si votre recherche exige plusieurs jeux de données autour d’un même problème de machine learning, l’onglet Dataset vous aide à repérer rapidement les jeux de données populaires via la recherche et les filtres. Vous pouvez filtrer par modalité, tâches et langues. 

Le plus intéressant commence quand vous ouvrez la page d’un jeu de données : vous y trouverez des sections interactives comme : 

• Exemples d'images : sélection d’images issues du jeu de données
• Utilisation : nombre d’articles par année ayant utilisé ce jeu de données 
• Benchmark : classement des meilleurs modèles pour une tâche donnée avec ce jeu de données. 
• Licence : nom et lien de la licence
• Modalités : étiquettes de modalités avec lien
• Langues : pour les jeux de données en TAL, étiquettes des langues naturelles. 
• Papiers : liste des meilleurs articles utilisant ce jeu de données, avec code, résultats, date et nombre d’étoiles du dépôt.
• Dataset loaders : télécharger et charger le jeu de données dans différents frameworks comme TensorFlow, PyTorch ou Jax. 
• Tâches : étiquettes de tâches (génération d’images, classification de graphes, optimisation stochastique, etc.).   
• Jeux de données similaires : liste de jeux de données proches selon les tâches et la modalité. 

En bref, l’onglet Dataset est pleinement intégré au reste du site pour offrir une expérience fluide et propice à une recherche approfondie. 

Vous pouvez aussi consulter la rubrique Datasets sur DataCamp pour télécharger différents types de jeux de données. Et vous lancer gratuitement en un clic dans un Jupyter Notebook dans le cloud.

Méthodes

Papers With Code | Methods

L’onglet Methods fonctionne comme Browse State-of-the-Art : catégories et sous-catégories présentées sous forme de cartes. Il s’adresse aux chercheurs qui souhaitent approfondir des méthodologies précises de machine learning : Word Embedding, extraction de caractéristiques d’images, fonctions d’activation, etc. 

On y trouve 7 catégories : 

1. Général : Attention, mécanisme d’attention, optimisation stochastique.                                                                 
2. Vision par ordinateur : réseaux de neurones convolutifs, blocs de modèles d’image, modèles génératifs.
3. Traitement du langage naturel : modèles de langue, Transformers, schémas d’attention.
4. Apprentissage par renforcement : méthodes à gradient de politique, réseaux de Q-learning, apprentissage par renforcement distribué.
5. Audio : blocs de modèles audio, synthèse texte-parole, séparation de la parole.
6. Séquentiel : réseaux de neurones récurrents, convolutions temporelles, analyse de séries temporelles.
7. Graphes : embedding de graphes, apprentissage de représentations de graphes, augmentation de données sur graphes. 

En cliquant sur une carte, vous trouverez une définition, un schéma et une section Méthodes. Pour la carte Attention, par exemple : Multi-Head Attention, Scaled Dot-Product Attention, Fixed Factorized Attention, etc. Chaque méthode indique l’année de parution et le nombre d’articles qui l’utilisent. 

Après avoir ouvert la méthode Multi-Head Attention, vous accédez à une page avec un résumé de l’équation, un PDF téléchargeable et le code source. Vous y verrez aussi les sections Papers, Tasks, Usage Over Time, Components et Categories.

Apprendre les méthodes de machine learning devient ludique : tout est conçu pour optimiser l’expérience du chercheur. 

Article de recherche

Papers With Code | Paper

En haut de la page d’un article, vous trouverez le titre, le nom des auteurs, la date et le résumé. Viennent ensuite le bouton PDF pour accéder au papier complet et le bouton Abstract qui renvoie à la page de résumé sur arxiv.org. 

Un article est ensuite structuré en 5 sections :

• Code : implémentation officielle et contributions de la communauté, parfois avec des démos. 
• Tâches : différentes tâches de machine learning (p. ex. : modèles de langue, question-réponse). 
• Jeux de données : liste des jeux de données utilisés dans l’article. 
• Résultats de l'article : performances du modèle sur différents jeux de données, tâches et versions, avec classement global, comparaisons et valeurs de métriques. 
• Méthodes : liste des méthodes employées pour obtenir l’état de l’art. 

Lire un article sur Papers With Code est simple et interactif. Sans télécharger l’intégralité du papier, vous apprenez l’essentiel via les étiquettes, le code, les tâches et les résultats.  

Leaderboard

Papers With Code | Classement pour la classification d'images sur ImageNet

Sur l’image ci-dessus, les lignes et points turquoise représentent les meilleurs modèles de classification d’images sur le jeu de données ImageNet. Les points gris indiquent des modèles moins performants à une période donnée. 

Tout l’écosystème de Papers With Code s’articule autour des leaderboards pour mettre en avant l’état de l’art. En page d’accueil, vous verrez les articles tendance selon les étoiles et la popularité. Chaque onglet met à l’honneur les jeux de données, les implémentations de code, les meilleures méthodologies et les articles de référence. 

La vision derrière ces classements, tendances et benchmarks : promouvoir la qualité de la recherche. Jour après jour, cela fait progresser les frontières du machine learning pour atteindre l’état de l’art. 

Conseils utiles pour Papers With Code   

Voici quelques conseils pratiques pour tirer le meilleur parti de Papers With Code et optimiser votre projet de recherche :

• Si vous peinez à trouver un sujet de recherche en machine learning, commencez par la page Trending.
• Si votre thème est arrêté et que vous cherchez des articles, des implémentations de code et des jeux de données, consultez la page Browse State-of-the-Art.
• La page Methods s’adresse aux ingénieurs machine learning en quête de versions améliorées de méthodes (fonctions de perte, fonctions d’activation, etc.).
• La page Datasets est idéale pour les data scientists à la recherche de jeux de données propres et standardisés pour une tâche précise.
• Les chercheurs académiques et industriels peuvent enrichir la plateforme : jeux de données, modèles, tâches, codes, articles publiés, résultats.
• Ajoutez des badges officiels « state-of-the-art » au fichier README.md de votre dépôt GitHub.
• Utilisez un client API pour lire et écrire des modifications via des objets Python. Vous pouvez aussi reproduire votre compétition et afficher les résultats sur le leaderboard.
• La page Portal donne accès à des articles en informatique, physique, astronomie, mathématiques et statistiques. Les articles d’autres disciplines sont liés à leur implémentation de code pour reproduire les résultats.   

Les développeurs ajoutent régulièrement de nouvelles fonctionnalités pour améliorer l’expérience. Si vous avez des idées ou des demandes, contactez-les sur Twitter ou Slack.  

Conclusion

La plateforme Papers With Code réunit des talents de tous horizons. Le site est maintenu par Meta AI, mais animé par la communauté. Cette ouverture à la contribution favorise l’inclusivité : un facteur clé dans la croissance rapide de l’apprentissage automatique et de l’intelligence artificielle.  

Dans cet article, nous avons vu l’intérêt d’une plateforme à la fois interactive et interconnectée comme Papers With Code, ses fonctionnalités clés, et des conseils pour optimiser vos recherches. 

Papers With Code est idéal pour les articles de machine learning, le code, les jeux de données et les benchmarks. C’est l’un des meilleurs points de départ pour un projet de fin d’études. Même si vous débutez, inscrivez-vous au Machine Learning Scientist with Python ou au parcours R pour lancer votre carrière. 

Si vous cherchez des projets de machine learning sur lesquels travailler, consultez notre article détaillé avec des idées pour tous les niveaux.