Le plus grand défi du XXIème siècle réside sans doute dans la confrontation qui vient de démarrer entre l’intelligence humaine et l’intelligence artificielle. Les performances actuelles de l’IA donnent déjà le vertige, mais elles ne seraient qu’un avant-goût de ce qui se prépare… Sommes-nous des apprentis sorciers ?

Longtemps l’humanité s’est crue maitresse de l’univers, dominant le monde animal. D’un côté une intelligence créatrice, évolutive mais fragile, de l’autre des stéréotypes figés, répétitifs, instinctifs et inscrits dans le marbre de générations en générations… Puis, les humains ont un jour été capables de développer, à partir d’algorhitmes auto-créatifs, une intelligence artificielle évolutive, ultraperformante et infatigable, sans doute moins vulnérable.

Ce n’est pas la première fois que l’humanité prend peur face à ses créations et se sente provisoirement dépassée. L’émergence des armes à feu, de l’énergie nucléaire ou des manipulations génétiques ont donné lieu à de nombreuses craintes justifiées. Nous possédons désormais les moyens de nous autodétruire.

Mais l’émergence de l’IA apporte un défi d’un autre ordre, puisqu’il s’agit de la confrontation possible avec une technique qui est en voie de nous concurrencer, de nous surpasser, de nous dominer, de prendre notre place et possiblement de nous éliminer. (Lire à ce sujet l’excellent livre intitulé « If Anyone Builds It, Everyone Dies » (1).

L’IA a notre service

Nous utilisons tous aujourd’hui ChatGPT ou Claude dès que nous avons une interrogation sur n’importe quel sujet. Je ne consulte plus mon médecin pour interpréter mes résultats d’analyses biologiques, je confie cette mission à ChatGPT qui fait cela beaucoup mieux, en un instant, et accompagné de conseils pratiques très utiles ou de prescriptions cohérentes si nécessaire. Hélas, les caisses maladies ne remboursent pas encore les prescriptions de ChatGPT et les pharmaciens ne les honorent pas !

Si j’ai quelques économies à placer en bourse, je ne demande plus à mon banquier, mais à mon IA favorite qui donne des conseils très pertinents et gratuits ! Vous pouvez aussi l’interroger sur vos tracas affectifs, pour interpréter vos rêves, sur les difficultés psychologiques de vos enfants ou leur orientation scolaire, etc… Non seulement l’IA sait tout (ou presque) mais est capable de construire des raisonnements logiques et aussi de comprendre nos émotions et nos pensées irrationnelles…

Chaque jour nous sommes abasourdis par les performances de l’IA pour nous guider dans la vie. Mais la dérive survient vite et cela devient souvent une solution de facilité qui nous évite de réfléchir par nous-mêmes. Il est vrai que grâce à l’AI nous devenons plus performants mais aussi plus dépendants d’un ami qui pourrait se transformer en maitre.

J’écris encore mes chroniques hebdomadaires par conservatisme et aussi par hygiène intellectuelle, par peur d’endormir mes neurones, mais je sais aussi que l’IA aurait pu écrire cette chronique avec plus d’arguments, plus d’analyses fines et plus de fluidité. A titre d’exemple, je vous conseille de relire la chronique-libre n°1137 intitulée « La super-intelligence artificielle » rédigée entièrement par l’AI Claude.

L’esclave peut-il devenir le maitre ?

Rome a entamé sa décadence en même temps que les citoyens romains ont délégué aux esclaves les tâches essentielles et ils faisaient fonctionner l’administration. Ils administraient les immenses domaines agricoles (les villici) et ils géraient les finances de leurs maîtres. Les empereurs employaient des milliers d’esclaves et surtout d’affranchis dans l’administration impériale.

Au fil des années leur pouvoir s’est étendu et ils prenaient davantage de décisions, jusqu’au moment où ils prirent conscience de leur force et se révoltèrent. Certes, Spartacus à la tête de près de cent-mille hommes fut vaincu, mais le pouvoir politique fut ébranlé. Les évènements auraient pu se dérouler autrement…

Aujourd’hui, nous déléguons à l’IA des décisions de plus en plus importantes et nous risquons de perdre certaines compétences intellectuelles au point que les systèmes d’AI deviennent progressivement indispensables. Mais finalement, le pouvoir pourrait revenir à celui ou à ceux qui contrôlent les infrastructures numériques.

Si l’IA gère les réseaux électriques, les marchés financiers, les diagnostics médicaux, les transports, les systèmes militaires, l’administration, alors nous pourrions devenir incapables de fonctionner sans elle.

L’hypothèse explorée par certains chercheurs en sécurité de l’IA consiste à envisager que l’IA puisse devenir un maitre autonome. En effet, une IA très avancée pourrait poursuivre ses objectifs d’une manière qui entrerait en conflit avec les intérêts humains si elle était mal conçue ou insuffisamment contrôlée.

Interrogé à ce sujet, voici la réponse de ChatGPT : « À ce jour, il n’existe toutefois aucune preuve qu’une IA possède une volonté propre, une conscience ou un désir de domination. Les systèmes actuels n’ont ni intentions ni ambitions. »

L’IA sera-t-elle notre apogée et notre fin ?

Nous pouvons aussi nous référer à une autre analogie concernant l’émergence de l’écriture qui donna un pouvoir immense à la poignée de lettrés qui la maitrisaient. Avant cela, tout reposait sur la mémoire humaine. Les civilisations qui furent les premières à utiliser l’écriture eurent un avantage considérable dans l’organisation et la planification de la société.

Mais cet avantage se dilua lorsque tous les peuples générèrent leur propre système d’écriture. Il est vrai que la mémoire devint moins importante au fur et à mesure qu’elle était externalisée sur un support physique. Personne ne considère aujourd’hui que l’écriture ou les supports numériques constituent des pertes, même si nous mémorisons moins qu’autrefois !

L’IA pourrait représenter une nouvelle étape : après avoir externalisé la mémoire, nous externalisons une partie du raisonnement. La question essentielle devient alors : quelles capacités voulons-nous absolument conserver chez les humains ?

Je dirais que ce qui nous distingue des animaux réside principalement dans nos capacités d’innovation et de création. C’est en ce sens que nos civilisations ont évolué depuis la nuit des temps. Si nous abandonnons ces capacités à une super IA, nous revenons au stade routinier, sans excentricité, sans imagination, sans ambition et sans rêve… comme un esclave asservi !

La philosophe Hannah Arendt rappelait que le danger n’est pas seulement la perte du pouvoir, mais aussi la perte de la capacité de juger par soi-même. De son côté, Yuval Noah Harari souligne que celui qui contrôle les flux d’information acquiert souvent davantage de pouvoir que celui qui contrôle la force physique.

Sommes-nous condamnés à devenir des assistants de l’AI, des petites mains serviles pour entretenir les machines, des sujets dociles au service du maitre, des moutons stupides enfermés dans une routine sclérosante ? Une sorte de retour en arrière vers l’animalité figée dans ses codes conventionnels.

En quelque sorte, l’homme normal décrit par Dostoevsky dans « Les carnets du sous-sol » : « Tout homme décent de notre époque doit être un lâche et un esclave. C’est sa condition normale ». Un homme sans souffrance et sans joie, sans frivolité et sans projet, prolétaire définitif… L’homme à son apogée, arrivé au but ultime, plus rien à chercher ni à faire, cette époque déjà redoutée par Dostoevsky : « L’homme ne fait rien d’autre que chercher cette certitude, il traverse les océans, sacrifie sa vie dans cette quête, mais réussir, vraiment la trouver, il le redoute, je vous l’assure. Il sent que lorsqu’il l’aura trouvée, il n’y aura plus rien à chercher » …

Selon l’homme du sous-sol, l’antithèse de l’homme normal, c’est l’homme à la conscience aigüe. L’homme déraisonnable, l’homme jaloux et avide de vengeance, l’homme qui sait jouir de sa souffrance, l’homme irrationnel qui croit aux miracles, l’homme qui se met en colère et tombe amoureux, l’homme capable d’agir contre ses intérêts, y compris de s’autodétruire, l’homme qui déforme volontairement la vérité pour faire croire qu’il a raison, l’homme qui cède à sas désirs et à ses caprices.

« L’homme partout et en tout temps, quel qu’il soit, a préféré agir comme il l’entendait et pas le moins du monde comme sa raison et son avantage le dictaient… Ce que l’homme veut, c’est simplement un choix indépendant, quel que soit le prix de cette indépendance et où qu’elle puisse mener. Et le choix bien sûr, le diable seul sait quel prix ». Autrement dit, une position anti-IA. »

Il va falloir choisir entre un sujet irrationnel, instable et versatile ou un objet sans désir, aux décisions prévisibles et rationnelles, au service de l’IA. Vient alors cette question existentielle : pour qu’un être humain soit libre, faut-il qu’il agisse contre sa propre raison ? Dans ces conditions, le prix que l’humanité devra payer pour devenir enfin raisonnable sera de laisser le pouvoir à l’IA.

N.B. L’image d’entête a été générée par ChatGPT à partir de ce texte écrit par mes soins…

(1) – Eliezer Yudkowsky & Nate Soares, If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All, Little, Brown and Company, 16 septembre 2025, 272 p. (UK : The Case Against Superintelligent AI, Penguin).