En marge des journées e-py (prononcer “hippies” ?) j’ai eu le plaisir de répondre aux questions de Nicolas Rébières de la République des Pyrénées, autour de ce que l’on entend par “IA Digne de Confiance”. Les discussions ont étés vraiment riches et le compte rendu publié dans la République des Pyrénées a dû être un vrai défi pour Nicolas R. Nous avons évoqués les risques de l’utilisation malveillante de l’IA mais aussi les risques sociétaux. C’est l’une des rares (longues) interviews où l’on a même évoqués le fantasme de l’outil qui se retourne contre son créateur ! Discussion passionnante et, je l’espère, une petite page pour calmer (certains) esprits et essayer de voir les formidables opportunités derrière le nouveau monde que l’on est en train de construire. À nous de faire les bons choix pour utiliser cet outil dans la direction du progrès que l’on souhaite viser.
“L’un des problèmes que l’on a, c’est que les progrès qui ont été accomplis ces dernières années sont au détriment de la capacité qu’on a à prouver des choses.”
Il est important aussi que l’on prenne conscience des limites de ces outils qui semblent omniscients et si puissants, colosses aux pieds d’argiles. Tant que ni responsabilité, ni garanties ne sont nécessaires, ils sont redoutablement efficaces (et très impressionnants). Mais dès que la moindre erreur est inacceptable - ou nécessite de poser la question de la responsabilité - alors les limites sont fortes.
Retrouvez cet entretien par Nicolas Rébières sur lien suivant (payant, pardon)