Horloge de l’IA : une menace imminente ?
Initiée en 1947 par des universitaires de Chicago pour mesurer les risques létaux pour l’humanité, l’horloge de l’Apocalypse inspire des chercheurs suisses pour documenter l’échéance fatale de l’IA.
Des universitaires suisses s’inquiètent d’une autonomisation accrue de l’IA générative. L’IMD de Lausanne a créé l’AI Safety Clock. Cette horloge mesure le temps qu’il nous reste avant qu’une intelligence artificielle générale incontrôlable ne devienne une menace.
En 1947, des physiciens de l’Université de Chicago aux Etats-Unis ont établi une horloge conceptuelle. Sur laquelle minuit représenterait la fin du monde, c’est-à-dire l’Apocalypse. Depuis cette époque de la guerre froide, cette horloge est régulièrement mise à jour dans des publications du Bulletin des savants atomistes. À sa création, en 1947, l’horloge indiquait 23h53, soit « minuit moins sept ». En 2024, il est 23 heures 58 minutes et 30 secondes.
Les événements de l’actualité – certains comme les guerres, le réchauffement climatique, la prolifération nucléaire précipitent l’avancée des aiguilles – tandis que d’autres, plus positifs, comme la chute du Mur de Berlin en 1989 ou l’établissement en 1991 du traité de réduction des armes stratégiques entre l’URSS et les Etats-Unis, font reculer le cheminement vers l’échéance ultime.
C’est un prestigieux centre de formation de Suisse, l’IMD de Lausanne, qui vient de créer cette horloge de la sécurité de l’IA. Avec en ligne de mire, l’avènement de modèles d’Intelligence artificielle que l’être humain finirait par ne plus pouvoir maîtriser.
Cette horloge est divisée en quatre quarts d’heure : risque faible, modéré, élevé et critique. L’évaluation de l’état de l’art, en matière d’intelligence artificielle, est documentée à partir des publications d’un millier de sites Internet spécialisés, de 3.470 fils d’actualités dédiés à l’IA, et des travaux universitaires.
Rappelez-vous : pour les atomistes en 2024, nous étions à 23 heures 58 minutes et 30 secondes de l’Apocalypse. En ce qui concerne l’IA, l’IMD de Lausanne estime qu’il est 23h et 31 minutes, donc en risque élevé. Cela peut paraître une estimation d’un risque lointain.
Trois critères sont pris en compte : l’aptitude de l’IA à raisonner et à résoudre des problèmes, son autonomie à fonctionner sans intervention humaine, et sa capacité à interagir avec le monde réel, notamment des infrastructures matérielles, des réseaux sociaux, voire des armes.
N’oublions pas que dans le domaine atomique, les parties prenantes étaient essentiellement des Etats, via des états-majors militaires. Avec l’IA, nous avons des acteurs essentiellement privés, de création plutôt récente, et avec des mises en œuvre qui prospèrent rapidement au sein du grand public et de la sphère économique et commerciale. Une pendule à suivre en 2025, donc…
Publié le 28/12/2024 11:33
Temps de lecture : 3min
Source : www.francetvinfo.fr