Entretien dans Digiteco 11 - TV

2 Avril 2024

Nouvelles les plus récentes

(Liste de toutes les brèves)

Entretien Hebdo Eco à TV7

(20 Février 2025)

Mercredi dernier, j'ai pu répondre aux questions de Stéphanie Lacazze, de Sud Ouest, dans le cadre de l'[hebdo éco](https://www.sudouest.fr/lachainetv7/economie/l-hebdo-eco/) de TV7. C'est une chaîne de TV locale du groupe Sud...


Lancement du Diplôme d'Établissement en IA

(13 Février 2025)

Le diplôme d'établissement "Experts en I.A." vient de prendre corps, tout juste le lendemain du sommet de l'IA à Paris (un temps d'avance !). Cette formation a été proposée grâce...


Page sur la Convention IA

(9 Février 2025)

Après des mois de travaux préliminaires, nous lançons officiellement le recrutement d'étudiants pour la convention citoyenne étudiante qui aura lieu dans les locaux de Bordeaux Métropole le Week End du...


IA dans la Formation Initiale

(30 Janvier 2025)

L’IA et la formation : de l’université au monde professionnel Avec Juliette Mattioli, "Expert Fellow" en IA chez Thalès, nous avons eu le plaisir de présenter, en deux heures, les...


IA & Formations

(24 Janvier 2025)

Dans le cadre d'une série de rencontres et de conférences organisées par France Travail (avec plus de 400 visiteurs au total), dans les locaux de Bordeaux Métropole, j'ai eu le...

C’est (encore une fois) avec un grand plaisir que j’ai accepté de discuter autour de la table de Placeco, dans les locaux de TV7, cette fois autour de l’ouverture à l’open source des modèles d’IA et de ce que l’on pouvait en attendre. Est-ce que avoir accès aux sources des IA génératives est suffisant pour avoir confiance en elles ? Derrière ce vaste sujet (spoiler : la réponse est non), se cache souvent des messages rassurants des fournisseurs de ces LLMs.

Déjà, il faut savoir que diffuser l’architecture d’un modèle et ses poids ne dit rien sur le modèle lui-même. Ce que j’ai défendu (rapidement) dans cette table ronde, c’est que ce n’est pas si simple. L’ouverture des sources est indispensable pour vérifier, par exemple, les protocoles de cryptographie. Paradoxalement, pour qu’un code soit fiable, il faut que le code soit ouvert, sinon des portes dérobées seront trouvées (et exploitées). Avoir un code ouvert permet également de se prémunir de parties de code malveillantes. Depuis des années donc, avoir le code sous la main permettait de vérifier que le code faisait bien ce qu’il devait faire (pas de parties étranges ou obscures dans le code, …), mais ce n’est pas pareil pour les IA avec les LLM. Posséder la configuration des milliards de paramètres n’indique rien sur le comportement du système. Il faut aller chercher la confiance ailleurs (bien entendu, mieux vaut un système ouvert qu’un système fermé, mais disons que c’est loin d’être fini).

D’ailleurs, G. Hinton est farouchement opposé à l’ouverture open source des LLM car une fois ouverts, il est assez facile de construire des attaques permettant de faire tourner la tête au système. On voit que ce que l’on attachait à la notion d’open source n’est plus si simple maintenant.

Avec Jean-Noël Barthas sur le plateau de Digiteco

Avec Jean-Noël Barthas sur le plateau de Digiteco

Vous pouvez retrouver la discussion sur le site de Placeco

(Dernière Modification: 8 Décembre 2024 )
(english version)
(liste de toutes les brèves)