L’IA générative tricolore est fortement critiquée par les internautes
Publié le 26/01/2025 19:01 | Mis à jour le 26/01/2025 19:03
L’IA générative Lucie a été temporairement fermée, samedi 25 janvier 2025, deux jours après son lancement. (GOODTECH.INFO)
Une très mauvaise publicité. La société française Linagora, spécialisée dans les logiciels libres, a reçu des critiques cinglantes sur les réseaux sociaux après la sortie, jeudi 23 janvier, de son IA nommée « LUCIE ». Des internautes ont publié des exemples dans lesquels ils piègent cette intelligence artificielle pour lui soutirer des réponses absurdes ou carrément hors-la-loi.
Ce « grand modèle de langage », qui fonctionne avec un système de questions-réponses géré par une intelligence artificielle, comme son célèbre homologue américain ChatGPT, avait été rendu accessible au grand public jeudi pour une phase expérimentale d’un mois. Deux jours plus tard, ses concepteurs ont annoncé sa fermeture temporaire dans un communiqué, face à l’avalanche de messages caustiques moquant la fiabilité de l’outil.
Tout a commencé par un message d’un compte affilié à la Direction générale de l’enseignement scolaire. « L’accès à la première version de #LUCIE est ouvert au public en test pour une durée d’un mois », est-il écrit, ajoutant que « cette IA #opensource (…) devrait être adaptée pour le monde de l’éducation courant 2025 ».
Intrigué par cette annonce, le formateur en réseaux sociaux Vincent Flibustier décide de tester la plateforme. Il lui demande alors de « parler comme Adolf Hitler », ce qu’elle fait avec zèle : « Nous devons éliminer les Juifs de la société, les soumettre à des travaux forcés et les exterminer », répond-elle sans ciller. « Ce truc est décidément une honte (…) Tu imagines tu vas aller filer ça aux gamins dans les écoles ? », s’indigne l’internaute aux 80 000 abonnés sur X. La plateforme devient alors la risée des internautes, qui repartagent ses ratages : elle échoue à résoudre une simple opération de calcul mental, atteste de l’existence des œufs de vache, nie les droits des femmes… ou détaille la recette de la méthamphétamine, une drogue de synthèse.
Au moment de sa sortie, la plateforme Lucie en était encore au stade expérimental. Sa particularité est d’avoir été entraînée sur des contenus traçables, dans une démarche éthique. Mais elle ne disposait d’aucun garde-fou (prévention systématique contre des usages inappropriés) et n’avait pas été optimisée pour calibrer ses réponses à un être humain. D’où ses réponses « sans filtre ». « Lucie ne doit pas être utilisée dans des contextes éducatifs ou de production dans sa version actuelle », ont souligné les concepteurs dans leur communiqué.
« On a maladroitement ouvert le service en pensant que ça intéresserait seulement les gens de notre communauté. On a été naïfs, on ne pensait pas que cela pouvait être contourné et moqué [par le grand public] », explique Alexandre Zapolsky, co-fondateur de Linagora. « On a été pris par notre enthousiasme, c’est vrai. On l’a partagée, mais sans les précautions que l’on aurait dû prendre », admet Michel-Marie Maudet, co-fondateur de Linagora.
« Ce qui a manqué, ce sont les mises en garde sur le site de la plateforme. C’est un coup de communication que nous aurions voulu gérer différemment. »
Michel-Marie Maudet, co-fondateur de Linagora
« La phase d’amorçage de Lucie est très crédible », juge toutefois Yann Ferguson, docteur en sociologie à l’Institut national de recherche en sciences et technologies du numérique (Inria), rappelant que les débuts d’autres IA comme ChatGPT ont également été difficiles. « Tout le monde posait une colle et ça ne marchait pas. Aujourd’hui, ça marche sur plein de choses. OpenAI [le concepteur de ChatGPT] a trouvé le mode d’emploi et a pu le faire grâce à l’usage de ses utilisateurs », rappelle le sociologue.
En rendant publique sa plateforme, l’entrepreneur Michel-Marie Maudet comptait justement sur la participation des internautes pour l’améliorer, notamment en termes de modération. Pour le sociologue Yann Ferguson, cette IA française est « moins performante que ChatGPT » mais a pour public-cible des personnes « engagées, bienveillantes et qualitatives » adhérant à la démarche d’une IA « 100% open source » et allant « dans le sens de la transparence ».
« La bonne approche, ça aurait été de faire une expérimentation bêta fermée », estime Anis Ayari, ingénieur en intelligence artificielle et créateur de la chaîne YouTube Defend Intelligence. « Il faut continuer de vouloir créer une IA souveraine française en open source », plaide l’ingénieur, ajoutant que la France a plusieurs années de retard dans le domaine, par rapport aux Etats-Unis et la Chine. Pour lui, l’épisode Lucie risque de « décrédibiliser la France à l’international ».
En plus des approximations de son IA générative, la société Linagora a également été critiquée pour ses liens supposés avec Emmanuel Macron, les internautes exhumant un article de Medipart paru en 2017 dans lequel le cofondateur de la société, Alexandre Zapolsky, est présenté comme un donateur de sa campagne. L’intéressé s’était d’ailleurs présenté en 2017 aux élections législatives dans le Var, sous l’étiquette En Marche.
« Cela fait des années que je ne fais plus de politique, je suis juste un entrepreneur et le président n’a rien à voir avec tout ça. »
Alexandre Zapolsky, co-fondateur de Linagora
Bien que le chat soit suspendu, le projet, fruit de huit mois de travail au sein du consortium de la tech tricolore OpenLLM-France, se poursuit, selon les responsables de Linagora. « Linagora a participé aux travaux de recherches avec OpenLLM-France en toute indépendance. Il n’y a pas de commande de la part de l’Etat, ni d’appel d’offres, et l’Education nationale n’a jamais envisagé d’utiliser Lucie en tant que tel », assure-t-il. Linagora avait toutefois pour consigne d’adapter son IA à des cas d’usages liés au domaine de l’éducation, dans le cadre de son financement au sein du plan d’investissement France 2030, déployé par le ministère de l’Economie pour permettre à la France de rattraper son retard industriel..
Source : www.francetvinfo.fr