Les systèmes d’IA générative et leurs points faibles
Au cours des dernières années, les systèmes d’IA générative tels que ChatGPT se sont intégrés dans notre vie quotidienne. Néanmoins, une recherche récente menée par les techniciens d’Apple met en lumière des vulnérabilités inattendues dans ces remarquables modèles d’intelligence artificielle.
Face à des problèmes simples de mathématiques, les systèmes d’IA générative ont affiché des limites surprenantes. Malgré leur succès dans la résolution d’exercices basiques tirés de leurs données d’apprentissage, ces machines ont révélé leurs faiblesses devant des variations mineures des questions posées.
Des obstacles d’analyse imprévus
En effet, en intégrant des données en apparence pertinentes mais sans réel lien avec la solution, les systèmes d’IA ont eu du mal à raisonner de manière cohérente. Par exemple, l’ajout de la mention « 5 des kiwis étaient un peu plus petits » a provoqué des erreurs de calcul surprenantes, soulignant ainsi la fragilité de leur raisonnement.
Résultats décevants
Après une série de tests similaires, les modèles d’IA ont vu leur taux de succès diminuer de façon significative. Les plus performants ont enregistré une réduction de précision de 17,5 %, tandis que les moins efficaces ont subi une baisse de 65,7 %. Même un simple changement de prénom dans l’énoncé a eu un impact sur les performances des machines.
Ces conclusions mettent en avant une lacune majeure des systèmes d’IA générative : leur incapacité à raisonner de manière authentique. En se basant sur une réponse « apprise par cœur » lors de l’apprentissage, ces machines peinent à interpréter les données de manière rationnelle et pertinente.
Répercussions significatives
Ainsi, cette recherche souligne une défaillance critique dans la capacité des IA à appréhender réellement les concepts mathématiques et à identifier les informations essentielles pour résoudre un problème. Les auteurs concluent que ces machines fonctionnent davantage sur un schéma de reconnaissance de motifs que sur un raisonnement logique authentique.
En fin de compte, il apparaît que les larges modèles linguistiques actuels ne se montrent pas à la hauteur des mathématiciens brillants. Par conséquent, il est crucial de prendre en considération ces limites si vous envisagez de les exploiter pour tricher lors de votre prochain travail à domicile!
Source : www.frandroid.com