Mettre fin à l’IA, immédiatement, sauf si

Bercé depuis toujours par les livres, les films et les jeux vidéo de science-fiction, mon sentiment est que l’Intelligence Artificielle (IA) pourrait bien tous nous détruire.

Je ne reviendrai pas sur des œuvres telles que « 2001, l’Odyssée de l’espace », « Terminator » ou « Blade Runner », ni sur des sujets comme l’IA et la robotique avancée qui sont à mon sens des fondamentaux. Je ne ciblerai pas non plus certaines créations qui ont fleuri dernièrement dans la pop-culture à savoir les jeux-vidéos « Horizons Zero Dawn » ou « Nier Automata ».

La peur de l’IA ne date pas d’hier et continue de faire vendre. Et si ce n’était qu’une peur irraisonnée, ce ne serait pas un souci…

Derrière la science-fiction d’Asimov, (père des lois de la robotique avec sa nouvelle « Cercle vicieux ») ou de David Cage (qui nous a offert l’inoubliable « Detroit Become Human » ou sa révolte des robots), se cache aujourd’hui une réalité : l’IA est maintenant parmi nous, et aucune loi ne régule son développement.

Ce sujet est pris au sérieux par une grande partie de la communauté scientifique. Il s’agit d’une course débridée et sans législation claire à la recherche d’un profit toujours plus optimal, et cette dernière pourrait bien entrainer l’Humanité tout entière dans sa perdition.

Plusieurs cadors portent d’ailleurs cette réflexion :

• Yoshua Bengio, perçu comme un des pères de l’IA actuelle, réclame en urgence un cadre de développement strict,
• Le regretté Stephen Hawking, décrivait l’IA comme « la pire ou la meilleure chose qui soit arrivée à l’Humanité » et considérait que celle-ci pouvait y mettre fin,
• Ou encore Bil Gates, qui a travers Microsoft, s’est vu contraint de débrancher l’expérimentation en IA « Tay » en 2016, à qui l’entreprise avait fourni des réseaux sociaux et qui n’avait tenu que 24h avant de tenir des propos suprématistes et fascistes sur Twitter, à la vue de tous.

Mais la menace peut être bien plus pernicieuse qu’une IA qui devient folle et décide de détruire l’Humanité. Depuis plusieurs mois, fleurissent des IA soi-disant « Savantes » capables de répondre à n’importe quelle demande, de compléter des lignes de codes ou encore de résoudre des calculs.

Quand on sait que sur le forum du jeu War Thunder 2, en 2021, suite à une querelle d’égo où un joueur se vantant de faire partie de l’armée, reprochait aux développeurs que les chars simulés en jeu ne respectaient pas la réalité, en dévoilant les plans top secret de ces chars à l’appui, on est en droit de se demander ce que les collaborateurs des entreprises comme Arianne Group, Airbus ou Thales seraient capables d’aller demander à une IA pour les « aider ».

Si en 2021, la Commission Nationale de l’Informatique et des Libertés (CNIL) a ouvert le chemin pour la protection des données au niveau Européen, aujourd’hui la plupart des IA tels que Midjourney ou le fameux ChatGPT ont leurs serveurs basés en dehors de notre territoire et la moindre question posée échappera à toute démarche de préservation de notre souveraineté.

Il faut se le dire… La cybersécurité n’est pas mature dans toutes les entreprises. Il y a des failles partout. Si une seule personne dans une seule entreprise pose une unique question, on peut difficilement voir le problème, mais si on revient sur les millions d’utilisateurs que ChatGPT a gagné en quelques mois de service, il devient terrifiant de réfléchir à ce qui a pu être communiqué, sans bien évidemment négliger la puissance informatique qui permettra de croiser les données et pourquoi pas reconstituer une centrale nucléaire française complète, ou bien un missile M51.

Alors que faire de tout ça ?

Lâcher prise et faire confiance aux “législateurs”, aux pères de ces IA et/ou l’IA elle-même en se disant que si tout cela dérive il y aura auto-régulation ? Cela revient à croiser les doigts et faire une prière…

Se déconnecter ? Revenir à des valeurs simples et se reconnecter à autre chose que le numérique ? C’est une tendance séduisante mais nous serons sans doute peu à aller vers cette solution…

N’y a-t-il pas une solution intermédiaire ?

Difficile d’y croire quand on sait que la suprématie spéculative et financière prime sur tout. Difficile de croire que les états vont signer entre eux des pactes de “non-agressivité” digitale”.

Difficile de croire que la complexité de la cybersécurité va tout à coup devenir accessible et la priorité de tous les responsables informatiques ou de tous les utilisateurs lambdas. Difficile de croire que la tendance à la déconnexion va prendre le pas sur les “hyper-réseaux “.

Dans ce contexte incertain, il est donc plus raisonnable de redouter l’avenir de l’IA. Le doute, est toujours un moteur… pour que les choses avancent, pour qu’un cadre règlementaire s’installe et qu’une éducation adaptée soit de mise…