Les soucis de John Hopfield concernant l’intelligence artificielle
Il est l’un des précurseurs de l’intelligence artificielle, mais cela ne l’empêche pas d’observer avec une certaine appréhension son évolution. John Hopfield, chercheur américain récemment distingué par le Prix Nobel de physique pour ses travaux sur l’IA, a qualifié, mardi 8 octobre, les récents progrès technologiques dans ce domaine de « très préoccupants ».
Le scientifique a alerté sur une possible catastrophe si ces avancées ne sont pas maîtrisées. Professeur émérite à l’Université de Princeton, il a plaidé en faveur d’une meilleure compréhension du fonctionnement de ces systèmes, afin d’éviter qu’ils ne deviennent incontrôlables.
S’exprimant devant un auditoire de l’Université du New Jersey par visioconférence depuis le Royaume-Uni, le chercheur âgé de 91 ans a affirmé qu’au cours de sa vie, il avait été témoin de l’émergence de deux technologies puissantes, mais potentiellement dangereuses : le génie biologique et la physique nucléaire.
« Nous sommes habitués à des technologies qui ne sont pas uniquement positives ou négatives, mais qui peuvent avoir des conséquences dans les deux sens », a-t-il expliqué.
« En tant que physicien, je suis profondément troublé par quelque chose qui échappe à tout contrôle, quelque chose que je ne comprends pas suffisamment pour délimiter les limites de cette technologie », a ajouté le lauréat du Prix Nobel.
« C’est la question soulevée par l’IA », a-t-il poursuivi. Même si les systèmes d’IA actuels semblent être des « exploits absolus », leur fonctionnement demeure encore insuffisamment compris, ce qui est « très, très préoccupant » selon lui.
« C’est pourquoi moi-même, tout comme je pense Geoffrey Hinton [co-lauréat du Nobel], prônons vivement une meilleure compréhension », a-t-il poursuivi, soulignant que le domaine va « développer des capacités qui vont au-delà de ce que vous pouvez imaginer actuellement ».
Avec l’essor fulgurant de l’intelligence artificielle et la compétition féroce lancée entre les sociétés, les critiques soulignent que cette technologie évolue plus rapidement que les scientifiques ne peuvent l’appréhender.
« Vous ne savez pas si quelque chose de spontané mais non souhaité est tapi dans les travaux », a relevé John Hopfield. Il a cité l’exemple de la « glace-neuf », un matériau fictif inventé par l’écrivain de science-fiction Kurt Vonnegut dans son ouvrage de 1963, « Le Berceau du chat ». Conçue pour aider les soldats à se déplacer dans la boue, elle entraîne accidentellement la solidification des océans, entraînant la perte de la civilisation humaine.
« Je m’inquiète de tout ce qui prétend ‘Je suis plus rapide que toi, je suis plus grand que toi' », a déclaré John Hopfield.
Les préoccupations exprimées par ce scientifique éminent soulignent l’importance de la vigilance et de la compréhension approfondie de l’intelligence artificielle pour éviter des conséquences imprévues et potentiellement catastrophiques.
Source : www.lemonde.fr