Mitigation de biais dans les LLM (Stages Master 2)

30 Novembre 2024

Nouvelles les plus récentes

(Liste de toutes les brèves)

Formation à l'I.A. à l'Aérocampus

(4 Juillet 2025)

L'aérocampus de Nouvelle Aquitaine est un centre de formation pour les techniciens de l'aéronautique. C'est un campus à part, où l'industrie y est prépondérante. On y monte et démonte des...


Jury d'agrégation 2025

(23 Juin 2025)

Depuis 2022, la France s'est enfin dotée d'une agrégation externe d'informatique. Je me souviens (au collège) de mes cours d'informatique (sur des PC équipés de disques souples 5"1/4 et des...


L'IA relève t elle encore du numérique ?

(3 Juin 2025)

J'ai eu le plaisir d'ouvrir la journée IA en Nouvelle Aquitaine, organisée par l'IA en Nouvelle Aquitaine. Pour cela, je me suis laissé aller sur des terrains parfois proche de...


Remise des diplômes 2025

(15 Mars 2025)

Samedi dernier, c'était, comme tous les ans, la remise des dipômes des élèves de l'ENSEIRB-MATMECA, dont je suis encore le directeur du département informatique pour quelques mois. C'était donc ma...


Entretien Hebdo Eco à TV7

(20 Février 2025)

Mercredi dernier, j'ai pu répondre aux questions de Stéphanie Lacazze, de Sud Ouest, dans le cadre de l'[hebdo éco](https://www.sudouest.fr/lachainetv7/economie/l-hebdo-eco/) de TV7. C'est une chaîne de TV locale du groupe Sud...

Démarrage Février 2025

Thèmes de recherches associés: Machine Learning, Logic, ML, LLM

Localisation: LaBRI, Laboratoire Bordelais de Recherche en Informatique, Talence, France

Le stage est entièrement financé par la chaire “IA digne de confiance” dirigée par Laurent Simon et soutenue par la Fondation Bordeaux Université.

Description du projet de master proposé

Les progrès impressionnants réalisés ces dernières années autour de l’apprentissage automatique permettent d’envisager de nombreuses applications jusqu’ici hors de portée. Cependant, la précision atteinte dans la prédiction (et/ou la recommandation) de ces outils ne permet pas à elle seule de garantir leur adoption, par exemple dans le cadre d’applications critiques. Il existe en effet de nombreuses barrières à leur industrialisation, dès lors que ces outils imposent de pouvoir comprendre leurs décisions et/ou de les expliquer / justifier. De manière générale se pose ainsi de manière de plus en plus cruciale la question de la confiance que l’on peut avoir dans les recommandations calculées par ces outils.

Ce constat a donné lieu à un nouveau sous-domaine de l’intelligence artificielle, s’intéressant aux garanties offertes par ces systèmes et à la confiance que l’on pouvait y avoir. Cette confiance peut revêtir différents aspects et a des liens forts avec les problématiques d’explicabilités, également sur le devant de la scène scientifique depuis quelques années.

Dans ce stage de M2 Recherche, nous proposons d’étudier la problématique des biais présents dans la génération de texte issu des grands modèles de langages. Ce problème est l’un des freins actuels au déploiement de ces modèles lorsqu’il ne sont plus sous supervision d’un humain. Pour cela, le stage devra permettre d’établir l’état de l’art actuel dans ce domaine et d’en établir les limites. L’approche proposée consiste à travailler directement sur le modèle prédictif plutôt que de le contraindre par des techniques extérieures. Nous pourrons par exemple chercher à spécialiser l’un des grands modèles de langage disponibles et de taille raisonnable pour que, sans mentions explicite du genre, les prédictions du modèle ne reproduisent pas des biais, pourtant présents dans les données. Cela pose aussi le problème de l’évaluation de performance d’un modèle construit pour ne pas reproduire ce sur quoi il a été entraîné. Un premier stage a déjà été conduit dans ce sens. L’objectif de ce nouveau stage est de poursuivre ces travaux pour la livraison d’un petit LLM dépourvu de biais.

Candidat

Le/La candidat.e devra avoir de solides connaissances en Apprentissage Automatique et en IA symbolique. Une très bonne connaissance de la programmation est également attendue.

Contact: Laurent Simon

(Dernière Modification: 22 Février 2025 )
(english version)
(liste de toutes les brèves)