C’est (encore une fois) avec un grand plaisir que j’ai accepté de discuter autour de la table de Placeco, dans les locaux de TV7, cette fois autour de l’ouverture à l’open source des modèles d’IA et de ce que l’on pouvait en attendre. Est-ce que avoir accès aux sources des IA génératives est suffisant pour avoir confiance en elles ? Derrière ce vaste sujet (spoiler : la réponse est non), se cache souvent des messages rassurants des fournisseurs de ces LLMs.
Déjà, il faut savoir que diffuser l’architecture d’un modèle et ses poids ne dit rien sur le modèle lui-même. Ce que j’ai défendu (rapidement) dans cette table ronde, c’est que ce n’est pas si simple. L’ouverture des sources est indispensable pour vérifier, par exemple, les protocoles de cryptographie. Paradoxalement, pour qu’un code soit fiable, il faut que le code soit ouvert, sinon des portes dérobées seront trouvées (et exploitées). Avoir un code ouvert permet également de se prémunir de parties de code malveillantes. Depuis des années donc, avoir le code sous la main permettait de vérifier que le code faisait bien ce qu’il devait faire (pas de parties étranges ou obscures dans le code, …), mais ce n’est pas pareil pour les IA avec les LLM. Posséder la configuration des milliards de paramètres n’indique rien sur le comportement du système. Il faut aller chercher la confiance ailleurs (bien entendu, mieux vaut un système ouvert qu’un système fermé, mais disons que c’est loin d’être fini).
D’ailleurs, G. Hinton est farouchement opposé à l’ouverture open source des LLM car une fois ouverts, il est assez facile de construire des attaques permettant de faire tourner la tête au système. On voit que ce que l’on attachait à la notion d’open source n’est plus si simple maintenant.
Vous pouvez retrouver la discussion sur le site de Placeco