Nous avons récemment rencontré Petar Velikovich, chercheur à DeepMind. Avec ses co-auteurs, Petar présente son article The CLRS Algorithmic Reasoning Benchmark in ICML 2022 à Baltimore, Maryland, États-Unis.
Mon voyage à DeepMind…
Au cours de mes cours de premier cycle à l’Université de Cambridge, l’incapacité à jouer habilement au Go a été considérée comme une preuve évidente des lacunes des systèmes modernes d’apprentissage en profondeur. Je me suis toujours demandé comment la maîtrise de tels jeux pouvait échapper au domaine du possible.
Cependant, début 2016, une fois que j’ai commencé mon doctorat en apprentissage automatique, tout cela a changé. Deep Mind a affronté l’un des meilleurs joueurs de Go au monde pour un match de défi, que j’ai passé de nombreuses nuits blanches à regarder. DeepMind a gagné, produisant un gameplay révolutionnaire (comme “Move 37”) dans le processus.
À partir de ce moment-là, j’ai pensé à DeepMind comme à une entreprise capable de réaliser des choses apparemment impossibles. Par conséquent, j’ai concentré mes efforts sur l’intégration de l’entreprise un jour. Peu de temps après avoir soumis mon doctorat au début de 2019, j’ai commencé mon parcours en tant que chercheur scientifique chez DeepMind !
Cyclique…
Mon rôle est un cercle vertueux d’apprentissage, de recherche, de communication et de conseil. J’essaie toujours activement d’apprendre de nouvelles choses (plus récemment la théorie de la classification, un excellent moyen d’étudier le computationalisme bâtiment), lire la littérature pertinente, regarder des conférences et des séminaires.
Ensuite, en utilisant ces informations, je réfléchis avec mes coéquipiers sur la façon dont nous pouvons élargir cet ensemble de connaissances pour avoir un impact positif sur le monde. De ces sessions naissent des idées et nous utilisons une combinaison d’analyse théorique et de programmation pour développer et vérifier nos hypothèses. Si nos méthodes portent leurs fruits, nous écrivons généralement un article pour partager des idées avec la communauté au sens large.
Rechercher un résultat n’est pas aussi précieux sans le communiquer de manière appropriée et permettre aux autres d’en bénéficier efficacement. Pour cette raison, je passe beaucoup de temps à présenter nos travaux lors de conférences telles que ICML, à donner des conférences et à conseiller les étudiants. Cela conduit souvent à la formation de nouvelles connexions et au dévoilement de nouvelles découvertes scientifiques à explorer, remettant en marche le cycle utopique !
Dans ICML…
Nous faisons une présentation historique sur notre article, The CLRS Algorithmic Reasoning Standard, qui, nous l’espérons, soutiendra et enrichira les efforts dans le domaine en plein essor du raisonnement algorithmique neuronal. Dans cet article, nous avons commandé des réseaux de neurones graphiques pour implémenter trente algorithmes différents du livre Introduction to Algorithms.
De nombreux efforts de recherche récents cherchent à construire des réseaux de neurones capables d’effectuer des calculs algorithmiques, principalement pour leur donner des capacités de raisonnement, ce qui manque généralement aux réseaux de neurones. Plus important encore, chacun de ces articles crée son propre ensemble de données, ce qui rend difficile le suivi des progrès et élève les barrières à l’entrée dans le domaine.
La norme CLRS, avec des générateurs d’ensembles de données facilement exposés et un code accessible au public, cherche à améliorer ces défis. Nous avons déjà constaté un grand enthousiasme de la part de la communauté, et nous espérons le pousser encore plus loin pendant ICML.
L’avenir de la pensée algorithmique…
Le rêve principal de nos recherches sur l’inférence algorithmique est de capturer le calcul d’algorithmes classiques au sein d’exécuteurs neuronaux de grande dimension. Cela nous permettrait alors de propager ces exécuteurs directement sur des représentations de données brutes ou bruitées, “appliquant ainsi l’algorithme classique” à des entrées sur lesquelles il n’a jamais été conçu pour être exécuté.
Ce qui est passionnant, c’est que cette méthode a le potentiel de permettre un apprentissage par renforcement efficace des données. L’apprentissage par renforcement regorge d’exemples d’algorithmes classiques puissants, mais la plupart d’entre eux ne peuvent pas être appliqués dans des environnements standards (comme Atari), car ils nécessitent l’accès à une mine d’informations privilégiées. Notre schéma rendra ce type d’application possible en capturant le calcul de ces algorithmes dans les exécuteurs neuronaux, après quoi ils pourront être directement déployés sur les représentations internes de l’agent. Nous avons même un prototype fonctionnel publié à NeurIPS 2021. J’ai hâte de voir ce qui se passera ensuite !
J’ai hâte de…
J’attends avec impatience l’atelier ICML sur la collaboration et le partage homme-machine, un sujet qui me tient à cœur. Fondamentalement, je crois que les plus grandes applications de l’IA seront réalisées grâce à la synergie avec des experts du domaine humain. Cette approche est également conforme à nos travaux récents permettant l’intuition des mathématiciens purs avec l’IA, qui ont été publiés sur la couverture de Nature à la fin de l’année dernière.
Les organisateurs de l’atelier m’ont invité à une table ronde pour discuter des implications plus larges de ces efforts. Je parlerai aux côtés d’un excellent groupe de panélistes, dont Sir Tim Gowers, que j’admirais pendant mes études de premier cycle au Trinity College de Cambridge. Inutile de dire que je suis vraiment enthousiasmé par cette palette!
J’ai hâte…
Pour moi, les grandes conférences comme ICML sont un moment pour s’arrêter et réfléchir à la diversité et à l’inclusion dans notre domaine. Alors que les formats de conférence virtuels et hybrides rendent les événements accessibles à plus de personnes que jamais auparavant, nous devons faire plus pour faire de l’IA un domaine diversifié, équitable et inclusif. Les interventions liées à l’IA nous affecteront tous, et nous devons nous assurer que les communautés sous-représentées restent une partie importante de la conversation.
C’est exactement pourquoi j’ai enseigné un cours sur l’apprentissage approfondi de l’ingénierie dans le programme de maîtrise africaine en intelligence artificielle (AMMI) – un sujet de mon premier livre, dont j’ai récemment co-écrit. L’AMMI propose des cours d’apprentissage automatique de premier ordre aux chercheurs émergents les plus brillants d’Afrique, créant ainsi un écosystème sain de praticiens de l’IA dans la région. Je suis très heureux d’avoir récemment rencontré plusieurs étudiants de l’AMMI qui ont rejoint DeepMind pour des stages.
Je suis également incroyablement enthousiasmé par les opportunités de réseautage dans la région de l’Europe de l’Est, où j’ai grandi, ce qui m’a donné les bases scientifiques et la curiosité nécessaires pour maîtriser les concepts de l’IA. La communauté Eastern European Machine Learning (EEML) est particulièrement impressionnante – grâce à ses activités, les étudiants et praticiens en herbe de la région sont mis en contact avec des chercheurs de classe mondiale et reçoivent des conseils de carrière inestimables. Cette année, j’ai aidé à amener EEML dans ma ville natale de Belgrade, en tant que l’un des principaux organisateurs de l’atelier serbe d’apprentissage automatique EEML. J’espère que ce n’est que le premier d’une série d’événements visant à renforcer la communauté locale de l’IA et à responsabiliser les futurs leaders de l’IA dans le domaine de l’efficacité énergétique.