Les récentes failles de sécurité qui auraient vu des intelligences artificielles (IA) confinées par leurs créateurs s’échapper et hacker des sites de bases de données sont-elles le dernier avertissement avant que le monstre créé par le savant Frankenstein dans le roman de Mary Shelley ne se « matérialise » sous la forme de codes informatiques parvenant à la conclusion qu’il faut détruire l’humanité ?

En tout cas, la fièvre monte dans le monde des concepteurs depuis l’interview du pionnier de l’IA, Geoffrey Hinton, prix Nobel de physique 2024. À une journaliste de la BBC qui lui avait posé la question : « Pensez-vous qu’il y ait 10 % de chances que l’IA puisse potentiellement tuer tous les humains d’ici une décennie ? », il avait répondu : « 10 % de chances ne me semble pas être une estimation déraisonnable. »

Depuis, Jacob Coxon, un jeune chercheur britannique, a annoncé quitter la société d’IA Anthropic : « Les gens qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie. Ce n’est pas du marketing. » Voire… En tout cas le PDG d’OpenAI, Sam Altman, vient d’annoncer renoncer à introduire son entreprise en bourse parce que, « au vu de tout ce qui se passe en matière de sécurité, le moment serait mal choisi ». Des propos qui peuvent tout à fait s’entendre comme une façon de faire croître l’impatience chez tous les boursicoteurs – entre OpenAI et Anthropic, on parle de capitalisation de près de mille milliards de dollars ! Et Anthropic veut profiter de la vague publicitaire actuelle pour ne surtout pas différer son entrée en bourse. Alors, peut-être les raisons de Jacob Coxon sont-elles étrangères au marketing, mais certainement pas celles de Sam Altman ou Dario Amodei ! Leurs appels à ralentir le développement des IA pour se laisser le temps de les contrôler, de même que le refus de Trump qui invoque la concurrence avec la Chine, ont eu un effet publicitaire indiscutable sur ces entreprises…

Une super-intelligence qui n’aurait de cesse que de tuer toute l’humanité… Pour l’instant, en tout cas, ceux qui prennent la décision de tuer des humains de façon aveugle s’appellent Poutine, Netanyahou, Trump, et l’on peut allonger la liste, à commencer par celui qui s’adore en chef de guerre, Macron.

Ce qui est frappant, c’est le type d’anticipation qui est faite : pour tous, une IA super-intelligente chercherait forcément à nous faire du mal… Comme les anticipations de la science-fiction où les mondes de demain y passent leur temps à se faire la guerre, avec des héros dont les tenues rappellent les soldats médiévaux, avec heaumes et épées… laser évidemment.

Ce qui nous ramène aux craintes manifestées à propos de la création d’une super-IA : elles montrent avant tout que nos dirigeants ne la conçoivent qu’à leur image de brutes. Et se regarder, ça leur fait peur !

Jean-Jacques Franquier