Olivier Beaumont

- Directeur de Recherches
- Université de Bordeaux
- Département
- SATANAS
- Équipe
- Tools and Optimization for high Performance Applications and Learning
- Fonction administrative
- Délégué Scientifique INRIA
- Page personnelle
- http://www.labri.fr/perso/obeaumon
- Adresse E-mail
- olivier.beaumont
labri.fr
- Bureau
- IMB
- Tel
- +33 (0)5 40 00 37 98
Recherche
Mes activités de recherche ont pour objectif la conception d'algorithmes d'ordonnancement et de modèles adaptés aux plates-formes à grande échelle, comme les grilles de calcul et les plates-formes de calcul volontaire.
Dans le contexte de telles plates-formes, très largement distribuées et dans lesquelles les performances des ressources de calcul et de communication varient rapidement, on peut se concentrer sur des applications régulières et relativement simples. Je me suis donc principalement intéressé à l'ordonnacement de tâches indépendantes, de tâches divisibles et de communications collectives (broadcast, multicast,...). La principale originalité de ma recherche a été de proposer une nouvelle métrique, en passant de la minimisation du temps de complétion à la maximisation du débit en régime permanent. Nous avons montré que ce changement de métrique est réaliste du point de vue applicatif et efficace au niveau de la complexité, puisque de nombreux problèmes peuvent être résolu de manière optimale en temps polynomial. En outre, nous avons proposé une formalisation générale de ces problèmes en utilisant la méthode des ellipsoides, et qui permet de déterminer de manière automatique la complexité de nombreux problèmes d'ordonnancement.
Les travaux précédents ont été établis sous un modèle de communication dans lequel un noeud ne peut communiquer qu'avec un seul de ses voisins (en émission et/ou réception) à un instant donné. Ce modèle est assez réaliste pour des applications écrites en MPI et exécutées sur des plates-formes dont la topologie est statique et connue. Dans le cadre de plate-forme plus dynamiques et plus hétérogènes, il est nécessaire de s'appuyer sur des modèles de topologie plus simples et d'utiliser par contre des modèles plus fins pour représenter les temps de communications. Dans ce cadre, je me suis intéressé à la conception de primitives de recherche de données en s'inspirant des techniques développées dans le cadre des réseaux Pair-à-Pair et à la conception de services de haut niveau pour la programmation de plates formes distribuées à grande échelle. Dans ce cadre, nous avons conçu des algorithmes pour regrouper les ressources de calculs en petits groupes de puissance fixée, ou d'associer automatiquement des demandes et des offres dans des réseaux distribués.
Responsabilité pédagogique
Responsable de la 2ème année de la Filière Telecommunication de l'ENSEIRB -- 2005-2006 et 2007-2008;
Création du cours de master "Réseaux Pair à Pair", 20h, ENSEIRB; Création du cours de master "Structure du Web", 15h, ENSEIRB
Extrait de publications
- Maxime Darrin, Olivier Beaumont, Raphaël Bourgouin, Loris Marchal, Pablo Piantanida. Leveraging Expert Usage to Speed up LLM Inference with Expert Parallelism. 2025.
- Olivier Beaumont, Jean-François David, Lionel Eyraud-Dubois, Samuel Thibault. Exploiting Processor Heterogeneity to Improve Throughput and Reduce Latency for Deep Neural Network Inference. SBAC-PAD 2024 - IEEE 36th International Symposium on Computer Architecture and High Performance Computing, Nov 2024, Hilo, Hawaii, United States.
- Xunyi Zhao, Lionel Eyraud-Dubois, Théotime Le Hellard, Julia Gusak, Olivier Beaumont. OFFMATE: full fine-tuning of LLMs on a single GPU by re-materialization and offloading. 2024.
- Julia Gusak, Xunyi Zhao, Théotime Le Hellard, Zhe Li, Lionel Eyraud-Dubois, et al.. HiRemate: Hierarchical Approach for Efficient Re-materialization of Large Neural Networks. 2024.
- Olivier Beaumont, Lionel Eyraud-Dubois, Julien Herrmann, Alexis Joly, Alena Shilova. Optimal checkpointing for heterogeneous chains: how to train deep neural networks with limited memory Optimal Re-Materialization Strategies for Heterogeneous Chains: How to Train Deep Neural Networks with Limited Memory. ACM Transactions on Mathematical Software, 2024, 50 (2), pp.1-38.
Administration
Depuis Sert 2009: Responsable de l'équipe Combinatoire et Algorithmique du LaBRI\ Depuis 2007: Responsable de l'Equipe-Projet INRIA CEPAGE (8 membres permanents, 2 postdocs, 4 doctorants)\
Depuis 2006: Coordinateur National du projet ANR Alpage (LaBRI, IRISA, LIP, LRI, LIAFA, LIX, LIG, voir http://www.labri.fr/perso/obeaumon/alpage.html) 2006-2009