L’importance de repérer les images produites par IA
Avec la réalité grandissante des images générées par l’intelligence artificielle, il devient essentiel de disposer d’outils permettant de distinguer le réel du faux. C’est dans ce cadre qu’OpenAI a développé un mécanisme de détection des images créées avec Dall-E.
La distinction visuelle des images générées par IA devient de plus en plus ardue. Nous sommes bien loin de l’époque où une simple observation suffisait pour déterminer l’authenticité d’une image. En effet, ces modèles d’IA vont au-delà de la simple reproduction d’images adorables de chats, et peuvent être utilisés pour manipuler l’opinion publique.
La question de la crédibilité
Cette problématique est d’une importance capitale en cette année électorale majeure, où une part significative de la population mondiale est appelée aux urnes. En février dernier, les acteurs de l’intelligence artificielle ont pris l’engagement de protéger la démocratie contre les éventuels abus de cette technologie, en mettant particulièrement l’accent sur les systèmes de filigranes.
OpenAI a conçu un dispositif capable d’identifier avec une certitude de 98 % les images générées par Dall-E, à condition qu’elles n’aient pas été altérées après leur création. Lorsque des modifications sont apportées aux images ou qu’elles sont partagées sous forme de capture d’écran, l’efficacité de l’outil diminue légèrement, mais il reste apte à une détection précise.
Cependant, dans 0,5 % des cas, l’outil peut erronément classifier des images « conventionnelles » (non générées par IA) comme étant produites par Dall-E. En ce qui concerne l’identification des images générées par d’autres modèles, l’outil peut parfois être sujet à confusion.
Le créateur de ChatGPT, qui est également à l’origine de Dall-E, vise à améliorer la fiabilité de son détecteur de faux en le mettant à disposition de chercheurs externes. Cet outil, qui ne se base pas sur des filigranes, a été soumis à des tests sur plusieurs mois. Toutefois, il devra démontrer sa crédibilité au fil du temps, étant donné que le détecteur de textes rédigés par IA introduit par OpenAI peu après le déploiement de ChatGPT, commet des erreurs trois fois sur quatre.
Pour rester au courant de toutes les actualités, suivez-nous sur Google Actualités et WhatsApp.
Source : Wall Street Journal
Source : www.01net.com