Entretien dans Digiteco 11 - TV

2 Avril 2024

Nouvelles les plus récentes

(Liste de toutes les brèves)

Entretien dans le Hors Série Science et Vie sur l'IA

(20 Octobre 2025)

Cela fait déjà quelques temps que j'ai le privilège de répondre, parfois, aux questions de journalistes au sujet des impacts de l'IA sur la société, grâce à la chaire IA...


Après Midi IA-ACT de la Chaire IA Digne de Confiance

(6 Octobre 2025)

Le 13 Octobre : après-midi de présentation et d'échanges sur l'IA Act ! **Écouter, questionner et comprendre l'IA-Act** - Un après-midi d'explications, d'éclairages théoriques et de retours d’expériences appliqués pour...


Table Ronde Science & Vie - Fête de la Science

(1 Octobre 2025)

La veille du lancement officiel de la fête de la science 2025, et dans les locaux du Ministère de l'Enseignement Supérieur, j'ai pu participer à un table ronde organisée par...


Formation à l'I.A. à l'Aérocampus

(4 Juillet 2025)

L'aérocampus de Nouvelle Aquitaine est un centre de formation pour les techniciens de l'aéronautique. C'est un campus à part, où l'industrie y est prépondérante. On y monte et démonte des...


Jury d'agrégation 2025

(23 Juin 2025)

Depuis 2022, la France s'est enfin dotée d'une agrégation externe d'informatique. Je me souviens (au collège) de mes cours d'informatique (sur des PC équipés de disques souples 5"1/4 et des...

C’est (encore une fois) avec un grand plaisir que j’ai accepté de discuter autour de la table de Placeco, dans les locaux de TV7, cette fois autour de l’ouverture à l’open source des modèles d’IA et de ce que l’on pouvait en attendre. Est-ce que avoir accès aux sources des IA génératives est suffisant pour avoir confiance en elles ? Derrière ce vaste sujet (spoiler : la réponse est non), se cache souvent des messages rassurants des fournisseurs de ces LLMs.

Déjà, il faut savoir que diffuser l’architecture d’un modèle et ses poids ne dit rien sur le modèle lui-même. Ce que j’ai défendu (rapidement) dans cette table ronde, c’est que ce n’est pas si simple. L’ouverture des sources est indispensable pour vérifier, par exemple, les protocoles de cryptographie. Paradoxalement, pour qu’un code soit fiable, il faut que le code soit ouvert, sinon des portes dérobées seront trouvées (et exploitées). Avoir un code ouvert permet également de se prémunir de parties de code malveillantes. Depuis des années donc, avoir le code sous la main permettait de vérifier que le code faisait bien ce qu’il devait faire (pas de parties étranges ou obscures dans le code, …), mais ce n’est pas pareil pour les IA avec les LLM. Posséder la configuration des milliards de paramètres n’indique rien sur le comportement du système. Il faut aller chercher la confiance ailleurs (bien entendu, mieux vaut un système ouvert qu’un système fermé, mais disons que c’est loin d’être fini).

D’ailleurs, G. Hinton est farouchement opposé à l’ouverture open source des LLM car une fois ouverts, il est assez facile de construire des attaques permettant de faire tourner la tête au système. On voit que ce que l’on attachait à la notion d’open source n’est plus si simple maintenant.

Avec Jean-Noël Barthas sur le plateau de Digiteco

Avec Jean-Noël Barthas sur le plateau de Digiteco

Vous pouvez retrouver la discussion sur le site de Placeco

(Dernière Modification: 8 Décembre 2024 )
(english version)
(liste de toutes les brèves)