Mercredi 20 novembre dernier, dans le cadre des activités de la chaire IA digne de confiance, nous avons proposé deux heures couvrant les principales thématiques en lien avec les llm, à l’ENSEIRB-MATMECA. Vous pouvez trouver ici le post annoncant le programme et l’annonce de la journée (vous y trouverez le détail des intervenants et le programme de la journée).
C’était un vrai succès (amphi quasi plein), avec du public varié et surtout attentif et intéressé. La particularité de la journée a été de balayer trois aspects importants des LLM pour en présenter, en seulement deux heures les fondamentaux, les usages et les dangers.
Nous avons eu Nathanaël Fijalkow qui nous a présenté les fondamentaux techniques des LLMs, c’est à dire l’achitecture sous jacente à base de transformers, au travers d’exemples issus de sa ré-implantation d’un petit LLM.
Puis, Erwann Simon s’est focalisé sur la phase d’après, lorsque le LLM est une one-shot Learning et qu’il a appris à relier les éléments du langage. Il faut alors le spécialiser dans une tâche particulière et cette phase, dite de fine-tuning, est réellement fondamentale pour utiliser les LLM dans un environnement de production.
Enfin, quel plaisir que d’entendre Sonia Tatbi sur les limites, les biais, les dangers de ces outils. Sa présentation a mis le doigt sur la nécessité pour les utilisateurs d’être formés aux limites de ces outils si efficaces à première vue.
Merci encore à tous d’avoir fait de ces deux heures un moment passionnant et complet !
(Le post annoncant le programme et l’annonce de la journée).