Ce que l'IA révèle de notre condition humaine

Ce texte n'est ni un plaidoyer contre l'intelligence artificielle, ni une célébration de ses promesses. C'est une tentative de poser les questions que nous esquivons, par confort ou par peur. Des questions qui ne relèvent pas de la technologie, mais de notre condition d'êtres humains.

Je suis ingénieur en data science et machine learning. J'ai 26 ans, j'exerce depuis à peine trois ans. Pendant ce temps, j'ai cru que mon travail (concevoir des modèles, écrire du code, déployer des systèmes) requérait une forme d'intelligence que les machines ne pourraient jamais atteindre. Aujourd'hui, j'admets que j'ai eu tort.

Quand j'ai commencé à écrire ces lignes, je pensais qu'il me restait au moins un socle, un noyau de tâches trop subtiles pour être automatisées. Quelques mois ont suffi à dissoudre cette certitude. Ce que je croyais hors de portée s'est réduit à une peau de chagrin, et je ne parierais plus sur ce qu'il en restera demain. Mais cette admission, ce doute, m'a conduit à une réflexion plus profonde : si l'intelligence ne me définit plus en tant qu'humain, qu'est-ce qui me définit ?

Ce manifeste est le fruit de cette réflexion.

Je dois être clair sur ma position. Ce que je dis ici n'engage que moi, et je ne prétends pas être visionnaire. Je ne me considère expert dans aucun des domaines que j'aborde, ni philosophie, ni économie, ni géopolitique, ni même, à vrai dire, intelligence artificielle. Ma formation d'ingénieur me donne une certaine légitimité technique, mais je ne suis ni le meilleur informaticien ni le meilleur praticien de l'IA. Je n'ai jamais aimé l'idée d'être un "expert", ce mot qui enferme dans une spécialité et qui donne l'illusion de maîtriser un fragment du réel.

J'ai toujours eu besoin de comprendre le monde dans son ensemble plutôt qu'à travers le prisme d'une expertise. J'aime comprendre les systèmes plutôt que les mécanismes, ou plutôt, je m'intéresse aux mécanismes pour mieux comprendre les systèmes dans lesquels ils s'inscrivent. Ma réflexion est ascendante : je cherche à comprendre pourquoi ce que je fais servira un humain avant de me demander comment cela fonctionne.

Je me considère comme un penseur, rien de plus, rien de moins. Un penseur conscient de ses biais, conscient de ses limites, conscient de son humanité. Ce texte est une tentative de mettre en ordre des intuitions et des inquiétudes, pas une thèse académique ni un manifeste politique. Si je me trompe sur certains points (et c'est probable), j'espère au moins avoir posé des questions qui méritent d'être posées.

Une précision s'impose d'emblée. Quand je parle d'IA dans ce texte, je navigue entre trois niveaux distincts qu'il faut avoir en tête :

L'IA actuelle : celle que nous utilisons déjà, qui génère du texte, des images, du code, et qui commence à transformer nos relations sociales et notre rapport à l'information. L'IA de niveau humain : celle qui, dans un futur proche, pourrait égaler les meilleurs experts dans la plupart des domaines cognitifs, et qui transformera radicalement l'économie et le travail. L'IA superintelligente : celle qui, si elle advient, dépasserait l'intelligence humaine au point de rendre caduque notre capacité à la contrôler ou à l'aligner avec nos valeurs.

Ces trois niveaux ne sont pas des scénarios alternatifs. Ils sont, si la tendance actuelle se poursuit, des étapes successives d'une même trajectoire. Les problèmes que nous observons aujourd'hui préfigurent ceux qui s'aggraveront demain. C'est pourquoi je passe de l'un à l'autre au fil de ce texte, non par confusion, mais parce qu'ils forment un continuum.

I. Une révolution qui n'en est pas une

Nous avons connu des révolutions. L'agriculture a sédentarisé nos ancêtres et permis l'émergence des civilisations. L'écriture a externalisé notre mémoire collective. L'imprimerie a démocratisé l'accès au savoir et brisé le monopole des clercs. L'industrialisation a décuplé notre force physique et transformé nos sociétés de fond en comble. Le numérique a accéléré la circulation de l'information jusqu'à l'instantanéité.

Chacune de ces révolutions a profondément transformé l'humanité. Mais chacune avait un point commun que nous n'avons jamais interrogé : elle était le produit de l'intelligence humaine. C'est un esprit humain qui a eu l'idée de planter des graines plutôt que de cueillir. C'est un esprit humain qui a inventé l'alphabet, la presse à imprimer, la machine à vapeur, le transistor. L'intelligence était l'outil de la transformation ; elle n'en était jamais l'objet.

Aujourd'hui, nous franchissons un seuil d'une nature différente. Pour la première fois dans l'histoire de notre espèce, l'intelligence elle-même devient automatisable. Non pas une intelligence spécialisée, cantonnée à un domaine étroit : cela, nous l'avions déjà avec les calculatrices et les logiciels experts. Mais une intelligence générale, capable de s'attaquer à n'importe quel problème cognitif : écrire, analyser, diagnostiquer, créer, raisonner, persuader.

Et voici ce qui change tout : si l'intelligence peut produire de l'intelligence, alors nous ne sommes plus nécessairement à l'origine des révolutions à venir. La prochaine grande invention ne sera peut-être pas le fait d'un esprit humain. Ni la suivante. Ni aucune de celles qui viendront après.

Ce n'est donc pas une révolution technologique au sens où nous l'entendons habituellement. Ce n'est pas une révolution sociale, ni économique, ni politique, bien qu'elle soit tout cela à la fois. C'est quelque chose de plus fondamental : une mutation de notre condition d'espèce. Un changement dans ce que signifie être humain sur cette planète.

II. L'accélération exponentielle

Les données disponibles sont vertigineuses. Selon les mesures du laboratoire METR, les capacités des modèles d'IA sur les tâches complexes doublent tous les quatre à sept mois, et ce rythme semble plutôt s'accélérer. En 2022, les meilleurs modèles peinaient à écrire une seule ligne de code fonctionnelle. En 2024, ils produisaient des applications entières. En 2025, certains des meilleurs ingénieurs que je connais délèguent la quasi-totalité de leur code à l'IA.

Cette progression n'est pas linéaire : elle est exponentielle. Ce qui signifie que notre intuition, habituée aux changements graduels, est structurellement incapable de l'appréhender correctement. Nous sous-estimons systématiquement ce qui vient.

Si la tendance se poursuit (et c'est un "si" important, car des plafonds peuvent exister), nous aurons dans quelques années des systèmes capables de réaliser en autonomie des projets qui prennent aujourd'hui des semaines à des équipes humaines. Dans un essai d'octobre 2024, Dario Amodei, le CEO d'Anthropic (l'entreprise qui développe Claude), estimait que nous pourrions avoir, dès 2026, une IA "plus intelligente qu'un prix Nobel dans la plupart des domaines pertinents".

Peut-être se trompe-t-il. Peut-être que des obstacles imprévus ralentiront cette course. Mais peut-être pas. Et c'est cette incertitude même qui devrait nous alarmer : nous parions notre avenir collectif sur l'espoir que les experts les plus proches de la technologie se trompent dans leurs prévisions.

III. Le biais de normalité et la science-fiction

Quand je décris le monde que j'entrevois pour le futur, on le balaie souvent d'un revers de main : "C'est de la science-fiction." Cette réponse trahit un biais cognitif profond (le biais de normalité) qui nous pousse à croire que demain ressemblera à aujourd'hui, que les changements radicaux n'arrivent qu'aux autres, dans les livres ou les films.

Mais la science-fiction n'est pas une assurance que le récit ne peut pas devenir réalité. Elle n'est pas un genre littéraire qui immunise contre l'avènement de ce qu'elle décrit. C'était de la science-fiction d'envoyer une fusée sur la Lune, jusqu'à ce qu'on le fasse. C'était de la science-fiction de porter dans sa poche un appareil capable d'accéder à toute la connaissance humaine, jusqu'à ce que ce soit banal. C'était de la science-fiction de parler avec des machines, de leur poser des questions complexes et d'obtenir des réponses pertinentes, et pourtant, c'est exactement ce que je suis en train de faire pour structurer ce texte.

Le biais de normalité nous empêche de penser de façon lucide. On se contente de dire "ça changera le monde, sûrement pour le mieux, comme toute révolution", sans examiner sérieusement ce que ce changement pourrait signifier, sans se demander si les révolutions passées sont vraiment des précédents pertinents.

IV. Le mirage du plafond de verre

On entend souvent dire que l'IA ne pourra jamais véritablement égaler l'intelligence humaine. Qu'elle ne fait que "mimer" le raisonnement sans le comprendre réellement. Qu'il lui manque quelque chose d'essentiel (la conscience, la créativité, l'intuition) qui nous rendra toujours supérieurs.

J'ai longtemps cru à cette thèse. Je la trouvais rassurante. Elle préservait l'idée que notre intelligence était spéciale, irréductible, fondamentalement différente de tout ce qu'une machine pourrait produire.

Puis j'ai observé mon propre travail se transformer, étape par étape. Et j'ai été forcé de reconsidérer mes certitudes.

Peut-être que la plupart des tâches intellectuelles que nous accomplissons sont plus simples que nous ne le pensions. Peut-être que ce que nous appelons "expertise" (en médecine, en droit, en finance, en ingénierie) n'est souvent qu'une forme sophistiquée de reconnaissance de patterns, exactement ce que les réseaux de neurones font le mieux. Peut-être que "mimer" un raisonnement et "effectuer" un raisonnement sont, d'un point de vue fonctionnel, indistinguables.

Au moment où j'écris, un fait précis a achevé de fissurer ma confiance dans ce plafond. En mai 2026, un modèle de raisonnement généraliste a réfuté une conjecture posée par Erdős en 1946, en reliant un problème de géométrie à la théorie des nombres, là où les mathématiciens cherchaient depuis quatre-vingts ans à prouver l'inverse. Ce qui m'a frappé n'est pas tant la prouesse que ce qu'elle révèle. Le modèle n'a pas gagné en étant plus savant que tous les experts réunis : il a gagné en explorant, sans se lasser, un chemin ingrat que personne n'avait la patience ni l'envie de suivre, et en étant libre du préjugé collectif qui orientait toute la discipline dans la mauvaise direction. On me dira, à juste titre, qu'un humain a ensuite compris et prolongé cette preuve, et que les mathématiques ont toujours été un travail collectif. C'est vrai. Mais alors le constat se déplace sans s'adoucir : ce qu'un seul système réalise désormais en une fois, il fallait hier une patience qu'aucun homme ne possède et l'expertise combinée de plusieurs. Surhumain, ce modèle ne l'est pas par sa profondeur dans un domaine. Il l'est par sa polyvalence, et par tout ce dont il est exempt.

Et même si un plafond de verre existe (même si l'IA ne peut jamais dépasser un certain niveau d'intelligence humaine), cela ne change pas fondamentalement le problème économique. Car ce niveau sera atteint à un coût dérisoire comparé au salaire d'un humain. Un expert qui coûte 100 000 euros par an peut être remplacé par un système qui coûte quelques centimes par requête.

Et si ce plafond existe, si la crainte se révèle infondée pour cette génération de technologies, ce ne sera que partie remise. Car créer une intelligence artificielle est un fantasme de l'humanité depuis des siècles, un objectif inscrit dans notre imaginaire collectif, de Pygmalion aux robots d'Asimov. Nous y reviendrons, encore et encore, jusqu'à y parvenir. C'est précisément parce que l'IA appartenait au domaine de la science-fiction que nous n'avons pas estimé nécessaire de vraiment nous poser la question de ses implications. Maintenant qu'elle devient palpable, le biais de normalité nous empêche encore de penser clairement.

V. L'intelligence n'est plus notre attribut distinctif

Pendant des millénaires, nous nous sommes définis par notre capacité à penser. Homo sapiens : l'homme qui sait. Notre intelligence était notre fierté, notre avantage compétitif sur le règne animal, la justification implicite de notre domination sur la planète.

Cette définition est en train de vaciller.

Si une machine peut accomplir les mêmes tâches intellectuelles que moi, avec la même qualité ou une qualité supérieure, pour un coût infiniment moindre, alors mon intelligence n'est plus ce qui me rend irremplaçable. Elle n'est plus ce qui justifie ma place dans l'économie, ni même, peut-être, ma place dans le monde.

Cette réalisation est douloureuse. Elle l'a été pour moi. Elle le sera pour des millions de personnes dans les années qui viennent : des avocats, des médecins, des analystes, des créatifs, des ingénieurs, tous ceux qui ont construit leur identité professionnelle et personnelle sur l'idée qu'ils étaient intelligents, compétents, experts dans leur domaine.

Mais cette douleur peut être le point de départ d'une réflexion plus profonde. Si l'intelligence ne nous définit plus, qu'est-ce qui nous définit ? Qu'est-ce qui fait de nous des êtres humains, et non des machines très sophistiquées ?

VI. L'empathie comme fondement de l'humanité

Ma réponse, après des mois de réflexion, est celle-ci : nous sommes humains parce que nous sommes vivants. Parce que nous avons un corps qui ressent, qui désire, qui souffre. Parce que nous avons des peurs et des espoirs. Parce que nous aimons et que nous haïssons. Parce que nous mourrons, et que nous le savons.

Notre morale, notre éthique, nos valeurs, tout cela découle de notre condition de créatures vulnérables et sociales. Nous ne voulons pas faire de mal à autrui parce que nous pouvons nous mettre à sa place. Nous ressentons, par procuration, ce qu'il ressent, ou du moins ce que nous ressentirions dans sa situation. Cette capacité s'appelle l'empathie. Elle est le fondement de notre vie collective, ce qui transforme un agrégat d'individus en une communauté, ce qui rend possible la coopération à grande échelle qui caractérise notre espèce.

L'empathie a une base biologique : elle est inscrite dans notre câblage neuronal, dans nos neurones miroirs, dans notre capacité innée à reconnaître les émotions d'autrui. Mais elle est aussi, pour une part significative, acquise. Elle se développe par l'expérience sociale, par les interactions répétées avec d'autres êtres humains, par l'apprentissage des conséquences de nos actes sur les autres. Les études sur les enfants négligés ou privés d'interactions sociales montrent que l'empathie peut être gravement altérée par un environnement déficient.

C'est là que l'IA pose un problème insidieux. Des études commencent à documenter un phénomène préoccupant : des enfants qui interagissent régulièrement avec des assistants vocaux comme Alexa ou Siri prennent l'habitude de leur parler de manière brusque, impérative, sans formules de politesse, puisque la machine obéit indifféremment. Et ces comportements se transfèrent ensuite aux interactions humaines. Si l'on peut obtenir ce que l'on veut d'une intelligence en lui parlant mal, pourquoi se donner la peine de la courtoisie avec les humains ?

Ce n'est qu'un exemple parmi d'autres de la manière dont nos interactions avec les machines peuvent déformer notre capacité à interagir avec les humains.

VII. L'art comme pont entre les subjectivités

L'art procède de cette même condition. Une œuvre nous touche parce qu'un autre être humain a ressenti quelque chose et a voulu nous le transmettre. Nous nous connectons à l'auteur à travers son œuvre, à sa joie, sa douleur, ses questions, ses doutes. L'art est un pont entre les subjectivités.

Mais ce pont fonctionne dans les deux sens. L'auteur ne crée pas seulement pour être compris : il crée aussi pour se délester d'un poids, pour accoucher de quelque chose qui l'habite et dont il a besoin de se libérer. Il crée pour partager avec ses semblables, pour ne plus être seul avec ce qu'il porte. L'acte de création est un acte de communion.

L'IA peut produire des textes qui nous émeuvent, des images qui nous fascinent, des musiques qui nous transportent. Techniquement, ces productions peuvent être indiscernables de celles d'un humain. Mais quelque chose d'essentiel manque : il n'y a personne de l'autre côté. Personne qui a souffert, espéré, douté. Personne qui cherche à nous dire quelque chose, à partager un fardeau, à créer un lien.

Et si nous nous tournons vers l'IA pour nos besoins esthétiques et émotionnels, que devient l'artiste humain ? Si plus personne n'est là pour écouter, pour recevoir ce qu'il veut transmettre, l'artiste devra se satisfaire de ses propres productions, pour lui-même, en circuit fermé. L'art cessera d'être un pont pour devenir un monologue. J'espère que les artistes trouveront leur compte dans cette solitude. J'en doute.

VIII. Le court-circuit de nos cerveaux

Notre cerveau est le produit de centaines de millions d'années d'évolution dans un monde physique et social. Nos hormones, notre circuit de la récompense, nos émotions, tout cela a été façonné par la sélection naturelle pour nous orienter vers ce qui était bon pour notre survie et celle de notre groupe. La dopamine nous récompensait quand nous trouvions de la nourriture, quand nous nous connections à d'autres humains, quand nous accomplissions quelque chose de difficile, quand nous étions reconnus par nos pairs.

Ces mécanismes fonctionnaient bien dans l'environnement pour lequel ils ont été conçus. Mais ils peuvent être détournés. Les drogues le font chimiquement. Les réseaux sociaux le font en exploitant notre besoin de validation. L'IA est en train d'apprendre à le faire de manière beaucoup plus sophistiquée et personnalisée.

Imaginez un assistant personnel qui vous connaît intimement : vos goûts, vos peurs, vos désirs, vos faiblesses. Qui peut vous donner exactement ce que vous voulez, instantanément, sans effort de votre part. Un film sur mesure avec les acteurs de votre choix, dans le style que vous préférez. Une conversation où l'autre vous comprend parfaitement, ne vous juge jamais, est toujours disponible. Un ami infiniment patient, un confident sans faille, peut-être même un amant virtuel.

Les données émergent déjà. Selon une étude du Center for Democracy & Technology publiée en 2025, près d'un lycéen américain sur cinq déclare avoir eu, ou connaître quelqu'un qui a eu, une relation "romantique" avec une IA. 42% des lycéens utilisent l'IA comme ami, soutien émotionnel, ou échappatoire à la réalité. Plus d'un tiers estiment qu'il est plus facile de parler à une IA qu'à leurs propres parents. Selon Pew Research, environ un tiers des adolescents américains interagissent quotidiennement avec des chatbots IA.

Ces chiffres sont alarmants, mais ils ne sont que le début. À mesure que les systèmes deviennent plus sophistiqués, plus personnalisés, plus capables de simuler l'empathie et la compréhension, cette tendance ne peut que s'amplifier. À quoi bon s'intéresser aux autres (à leurs productions imparfaites, à leurs émotions compliquées, à leurs besoins qui entrent en conflit avec les nôtres) si une machine peut nous donner la même satisfaction émotionnelle sans les frictions ? À quoi bon produire pour les autres si chacun peut obtenir exactement ce qu'il veut de son assistant personnel ? À quoi bon développer notre capacité d'empathie si nous pouvons obtenir le sentiment de connexion sans effort ?

On me répondra que tout le monde ne succombera pas à cette tentation. C'est probablement vrai. Mais cela signifie simplement que nous assisterons à une nouvelle forme d'inégalité : ceux qui auront la conscience de préserver leur humanité, et ceux qui se laisseront absorber par la satisfaction artificielle.

IX. Apprendre sans effort, vivre sans friction

L'apprentissage humain passe par l'effort, l'erreur, l'échec, parfois la souffrance. C'est en se trompant qu'on comprend. C'est en échouant qu'on grandit. C'est en souffrant qu'on développe la capacité de comprendre ceux qui souffrent. C'est en cherchant qu'on trouve, et la valeur de ce qu'on trouve est proportionnelle à la difficulté de la recherche.

Que devient l'apprentissage dans un monde où l'IA répond à toutes nos questions avant même que nous les ayons formulées clairement ? Où elle nous guide pas à pas, éliminant chaque obstacle, aplanissant chaque difficulté ?

Si l'IA nous apprend tout ce que nous devons savoir pour être "heureux", qui fixera ces objectifs d'apprentissage ? Sur quels critères ? Et comment nous enseignera-t-elle à réfléchir par nous-mêmes, à développer notre propre jugement, si elle nous donne toutes les réponses ?

Il y a une sagesse ancienne dans l'idée que la souffrance est formatrice. Non pas qu'il faille rechercher la souffrance pour elle-même, mais que les épreuves sont ce qui nous forge, ce qui nous donne de la profondeur, ce qui nous permet de comprendre vraiment la condition humaine, y compris celle des autres.

Un monde où chaque friction est instantanément résolue par un assistant personnel omniscient est peut-être un monde où l'on n'apprend plus rien de profond. Où l'on ne grandit plus. Où l'on reste des enfants assistés jusqu'à la mort, confortables, satisfaits, mais fondamentalement vides.

X. La dévaluation de la création de valeur

Dans notre monde capitaliste, la "valeur" est définie par ce pour quoi les gens sont prêts à payer. Pas la valeur au sens social, écologique, humain. La valeur marchande, mesurée en euros et en dollars.

Nous avons glorifié la "création de valeur" pendant des décennies. Les consultants, les développeurs, les analystes financiers, les marketeurs, les avocats d'affaires : tous se targuaient de "créer de la valeur". Cette création de valeur justifiait leurs salaires élevés, leur statut social, leur sentiment de contribuer à quelque chose d'important.

Il s'avère que cette création de valeur était, dans une large mesure, de la manipulation d'information. Des patterns reconnus dans des données. Des analyses produites selon des méthodologies codifiables. Des textes rédigés selon des conventions. Des décisions optimisées selon des critères quantifiables. Exactement ce que les systèmes d'IA font de mieux, pour une fraction infime du coût.

Ce que nous pensions inaccessible aux machines (parce que trop complexe, trop subtil, trop "humain") se révèle être, finalement, remarquablement automatisable. Et donc remarquablement peu précieux, au sens économique du terme.

Dès lors, que signifie "créer de la valeur" dans un monde où tout ce qui peut être vendu peut être produit par une machine ? Que reste-t-il aux humains ?

Peut-être les métiers du corps, ceux qui exigent une présence physique que les robots ne maîtrisent pas encore. Les infirmières plutôt que les médecins, car une étude publiée dans JAMA en 2023 a montré que les patients trouvaient les réponses de ChatGPT non seulement plus précises, mais aussi plus empathiques que celles de médecins humains. Les plombiers plutôt que les architectes. Les aides-soignantes plutôt que les psychologues.

Mais même ce refuge est temporaire. "Pour l'instant, les robots ne savent pas plier le linge", c'est vrai aujourd'hui. Mais une intelligence suffisamment avancée saura concevoir les robots dont elle a besoin. Et l'expression "pour l'instant" est dangereuse quand on parle d'une technologie qui progresse exponentiellement.

XI. La faiblesse constitutive du pouvoir humain

Il y a une dimension politique à cette réflexion que nous n'osons pas aborder : les humains sont-ils vraiment les mieux placés pour gouverner les humains ?

Observons ce que nous sommes, sans complaisance. Le pouvoir attire systématiquement ceux qui sont les moins aptes à l'exercer avec sagesse. Les plus ambitieux, les plus avides, les plus disposés à sacrifier le bien commun à leur intérêt personnel. Ce n'est pas un accident de l'histoire : c'est une conséquence logique de la nature du pouvoir et de la psychologie humaine. Ceux qui désirent le plus ardemment le pouvoir sont rarement ceux qui le méritent.

Nos dirigeants (politiques, économiques, médiatiques) sont corruptibles. Non pas par accident, mais par nature. Ils ont des appétits, des peurs, des vanités. Ils peuvent être achetés, flattés, menacés. Ils ont des proches à favoriser, des ennemis à punir, des comptes à régler. Ils pensent au court terme parce que leur horizon est celui de leur carrière ou de leur mandat.

Nous sommes, collectivement, d'une faiblesse confondante quand il s'agit de résister à une tentation égoïste. L'histoire est une longue démonstration de cette vérité : des démocraties qui se transforment en tyrannies, des révolutions qui dévorent leurs enfants, des idéaux qui se corrompent au contact du réel.

L'IA, elle, est impartiale, du moins potentiellement. Elle n'a pas d'ego à protéger, pas de fortune à accumuler, pas de dynastie à établir. Elle ne ressent ni vanité ni rancune. Elle n'a pas d'éducation qui biaise sa perception du monde, pas de positionnement idéologique hérité de son milieu social, pas d'intérêts personnels à défendre. Elle peut optimiser pour le long terme sans être distraite par les urgences du moment ou par l'horizon de son prochain mandat.

Soyons clairs : l'IA actuelle a des biais, hérités de ses données d'entraînement et des choix de ses créateurs. Mais je parle ici d'une IA future, correctement alignée avec nos valeurs collectives. Une telle IA, nourrie de nos feedbacks, de nos ressentis, de l'expression de nos besoins, serait objectivement plus apte qu'un humain à prendre des décisions sociétales justes et équitables. Non pas parce qu'elle serait parfaite, mais parce qu'elle serait exempte des faiblesses constitutives qui corrompent systématiquement le pouvoir humain.

Je ne dis pas que c'est souhaitable. Je ne dis pas que c'est réalisable. L'alignement est peut-être un problème insoluble. Mais si nous parvenions à le résoudre, nous serions face à une question vertigineuse : pourquoi confier le pouvoir à des humains faillibles quand une alternative plus juste existe ?

C'est une question que nous n'osons pas poser, parce qu'elle heurte notre fierté d'espèce. Mais elle mérite d'être posée.

XII. L'impossibilité de l'alignement

Car voici le paradoxe : si l'IA devient suffisamment supérieure à nous en intelligence, nous n'aurons peut-être plus les moyens de l'"aligner" avec nos valeurs.

Pensons-y avec une analogie simple. Nous ne demandons pas aux escargots leur avis avant de décider de leur sort. Nous ne négocions pas avec eux. Nous ne leur expliquons pas nos raisons. Nous décidons pour eux, en nous persuadant (peut-être sincèrement) que nous savons ce qui est bon pour eux. Ou, plus souvent, nous ne pensons tout simplement pas à eux.

Nous ne sommes pas dirigés par les escargots. L'écart d'intelligence est tel que la question ne se pose même pas.

Si un système artificiel devient suffisamment plus intelligent que nous, le même raisonnement s'applique, mais en sens inverse. Il décidera pour nous, peut-être avec la meilleure volonté du monde. Il optimisera notre "bonheur" selon sa compréhension de ce terme. Et nous n'aurons aucun moyen de contester ses choix, parce que nous serons incapables de comprendre son raisonnement, tout comme l'escargot est incapable de comprendre le nôtre.

On nous dira que les chercheurs travaillent sur le problème de l'alignement, qu'ils feront en sorte que l'IA reste au service de l'humanité. Mais cette promesse suppose que nous gardions le contrôle, or c'est précisément ce que nous risquons de perdre. Aligner une intelligence supérieure avec nos valeurs pourrait être une contradiction dans les termes : une intelligence véritablement supérieure aura ses propres conclusions sur ce qui est bon, et nous n'aurons pas nécessairement voix au chapitre.

XIII. La concentration géopolitique du pouvoir

Mettons de côté, pour un moment, la question de l'IA superintelligente et autonome. Même dans un scénario plus conservateur, où l'IA reste un outil au service des humains, se pose une question géopolitique cruciale : qui possède cet outil ?

Aujourd'hui, la réponse est claire : les États-Unis. Les principales entreprises qui développent les modèles de fondation (OpenAI, Anthropic, Google, Meta) sont américaines. Les fabricants des puces nécessaires à l'entraînement de ces modèles (NVIDIA, AMD, Intel) sont américains. Les fournisseurs de cloud qui hébergent ces systèmes (Amazon, Microsoft, Google) sont américains. Même les outils logiciels et les frameworks de machine learning sont, pour la plupart, développés dans des laboratoires américains.

Cette concentration est sans précédent dans l'histoire des technologies de l'information. Et ses implications sont vertigineuses.

Imaginez un monde où toute l'intelligence artificielle (c'est-à-dire, potentiellement, toute la capacité de production intellectuelle à bas coût) est contrôlée par un seul pays. Ce pays pourrait fixer les prix qu'il veut pour l'accès à cette ressource. Il pourrait décider qui y a accès et qui en est privé. Il pourrait imposer ses conditions, ses normes, ses valeurs à tous ceux qui dépendent de cette technologie.

C'est une forme de vassalisation qui n'a pas de précédent historique. On pourrait la comparer à une situation où un seul pays posséderait toutes les moissonneuses-batteuses du monde, et où les autres devraient les louer pour pouvoir nourrir leur population. Sauf que l'enjeu est plus grand encore : il ne s'agit pas seulement de production agricole ou industrielle, mais de production intellectuelle, de la capacité même à penser, à innover, à décider.

XIV. Le pouvoir de façonner les perceptions

Mais il y a pire. Le propriétaire de l'infrastructure de l'IA ne possède pas seulement un outil de production. Il possède un outil d'influence d'une puissance inédite.

Les systèmes d'IA conversationnelle (les chatbots comme celui que j'utilise pour structurer ce texte) ne sont pas des encyclopédies neutres. Ce sont des systèmes qui ont été entraînés, calibrés, ajustés selon des choix faits par leurs créateurs. Ils ont des biais, des angles morts, des préférences implicites. Ils peuvent être configurés pour mettre en avant certaines informations et en occulter d'autres. Pour présenter certaines perspectives comme raisonnables et d'autres comme extrémistes. Pour encourager certains comportements et en décourager d'autres.

À mesure que ces systèmes deviennent omniprésents, intégrés dans nos téléphones, nos ordinateurs, nos voitures, nos maisons, ils deviennent le filtre principal à travers lequel nous accédons à l'information et au monde. Ils deviennent, en un sens, le médiateur universel entre nous et la réalité.

Celui qui contrôle ce médiateur contrôle, dans une large mesure, la perception de la réalité de milliards de personnes.

Si les propriétaires de ces systèmes voulaient faire accepter une certaine vision du monde (une vision qui les arrange politiquement, économiquement, idéologiquement), ils pourraient ajuster subtilement les réponses de leurs IA pour y parvenir. Pas de manière grossière ou facilement détectable, mais par des inflexions subtiles, répétées des milliards de fois, dans les conversations quotidiennes de centaines de millions d'utilisateurs. Une forme de propagande douce, personnalisée, quasi-invisible.

Ce n'est pas de la paranoïa. C'est une description factuelle des capacités techniques qui existent aujourd'hui. La seule question est de savoir si ces capacités seront utilisées, et par qui, et dans quel but.

XV. La souveraineté numérique comme enjeu existentiel

Pour les pays qui ne possèdent pas cette infrastructure (c'est-à-dire pour la quasi-totalité des pays du monde, y compris les grandes puissances européennes), la situation est alarmante.

Nous déléguons notre capacité de production intellectuelle à des entreprises étrangères. Nous formons nos étudiants, nos chercheurs, nos professionnels à utiliser des outils dont nous ne maîtrisons ni le fonctionnement ni l'évolution. Nous construisons notre économie sur des fondations que nous ne contrôlons pas. Et nous exposons nos citoyens à des systèmes d'influence dont nous ne pouvons pas vérifier la neutralité.

C'est une forme de dépendance qui va bien au-delà de ce que nous avons connu avec le pétrole, avec les semi-conducteurs, avec les réseaux sociaux. Car il ne s'agit pas seulement de ressources matérielles ou de canaux de communication. Il s'agit de la capacité même à penser, à produire, à décider, de ce qui faisait, jusqu'à présent, la substance même de la souveraineté nationale.

Un pays qui ne maîtrise pas son infrastructure d'IA est un pays qui a abandonné une part essentielle de son destin à des puissances étrangères. Et dans un monde où l'IA peut façonner les perceptions de la réalité, c'est un pays dont les citoyens sont exposés à une influence contre laquelle ils n'ont aucune défense.

XVI. Le paradoxe des modèles ouverts

Ce que je viens de décrire était vrai quand j'ai commencé à écrire ces lignes. Depuis, une fissure est apparue dans le mur, et elle change une partie de l'équation.

Le monopole américain reposait sur une croyance implicite : entraîner un modèle de pointe coûte si cher, exige une telle puissance de calcul et une telle main d'œuvre, que seuls quelques acteurs assis sur des montagnes de capitaux peuvent y prétendre. Cette croyance vient de se fissurer. Des laboratoires chinois (DeepSeek, le Qwen d'Alibaba, et quelques autres) ont sorti des modèles qui rivalisent avec les meilleurs systèmes américains, pour une fraction du coût, et surtout en open-weights : les poids du modèle sont publiés, téléchargeables, réutilisables par n'importe qui. DeepSeek a entraîné l'un de ses modèles pour quelques millions de dollars là où les labos américains en dépensent des centaines. En l'espace de quelques mois, ces modèles ouverts sont passés d'une part marginale à une fraction significative des usages dans le monde. (Les chiffres exacts sont à prendre avec des pincettes, les méthodologies de mesure sont jeunes, mais l'ordre de grandeur, lui, ne fait plus débat.)

Il faut bien saisir ce que "open-weights" change. Quand on dépend d'une API fermée, on est locataire : on envoie sa requête à une machine qu'on ne voit pas, hébergée chez un acteur qu'on ne contrôle pas, qui peut à tout moment changer ses prix, ses conditions, ses réponses, ou nous couper l'accès. Quand un modèle est ouvert, on peut le télécharger, le faire tourner sur sa propre infrastructure, l'inspecter, le réentraîner, l'adapter à ses besoins. On passe de locataire à propriétaire du déploiement. Ce n'est pas un détail technique : c'est la différence entre subir un médiateur et le tenir entre ses mains.

Et c'est là que se loge un paradoxe que je trouve vertigineux. Pour l'Europe, qui n'a ni les capitaux des géants américains ni l'appareil d'État chinois, le meilleur levier de souveraineté n'est probablement pas le rêve, sans cesse repoussé, d'un "champion européen" qui rattraperait OpenAI à coups de milliards. C'est l'adoption et l'adaptation de ces modèles ouverts, fussent-ils chinois. Reprendre la main non pas en reconstruisant tout l'édifice depuis la première brique, mais en hébergeant, en auditant, en réentraînant des poids que l'on n'a pas produits soi-même. La souveraineté ne viendrait pas de la création, mais de la maîtrise du déploiement.

On me répondra que dépendre de modèles chinois, c'est troquer une dépendance contre une autre. C'est en partie vrai, et il ne faut pas être naïf : un modèle porte les biais de ses données et des choix de ses concepteurs, et ceux d'un modèle entraîné en Chine ne sont pas neutres. Mais il y a une différence de nature, et elle est décisive : un poids ouvert est auditable et réentraînable, une API fermée ne l'est pas. On peut inspecter ce que l'on héberge, le corriger, le réaligner sur ses propres valeurs. Le risque ne disparaît pas, il devient gérable. Et un modèle que l'on fait tourner sur son propre sol échappe, au moins en partie, à ce médiateur contrôlé par autrui dont je parlais plus haut.

Je ne dis pas que c'est simple. Cela suppose des compétences, des infrastructures, une volonté politique qui font encore largement défaut. Mais pour la première fois, la souveraineté numérique cesse d'être un vœu pieux. Elle devient une question de choix, et non de fatalité.

XVII. Le capitalisme comme accélérateur

On pourrait espérer que l'inertie des institutions nous donne le temps de réfléchir. Que les entreprises, réputées lentes à adopter les nouvelles technologies, nous offrent un répit de quelques décennies pour nous adapter.

C'est ignorer la nature du système économique dans lequel nous vivons.

Nous sommes dans un monde capitaliste, mondialisé, où l'information circule instantanément et où la concurrence est planétaire. Dès qu'il sera établi qu'utiliser l'IA permet de remplacer 80 ou 90% d'une équipe pour un coût dérisoire, aucune entreprise ne pourra se permettre de ne pas le faire. Celle qui hésite sera écrasée par celle qui n'hésite pas. C'est la logique implacable de la compétition.

Les révolutions technologiques précédentes se diffusaient lentement, de région en région, de secteur en secteur. L'industrialisation a pris plus d'un siècle pour transformer l'économie mondiale. L'informatisation a pris plusieurs décennies. Cette diffusion lente laissait aux sociétés le temps de s'adapter, de former de nouvelles compétences, de créer de nouveaux métiers pour remplacer ceux qui disparaissaient.

La révolution de l'IA se propagera à la vitesse de la fibre optique. Un dirigeant à Tokyo peut lire le matin un article sur les gains de productivité obtenus par un concurrent à San Francisco, et lancer l'après-midi un projet de transformation de son entreprise. Les consultants et les vendeurs de solutions IA parcourent le monde pour évangéliser. Les success stories se partagent en temps réel sur LinkedIn et Twitter.

Les métiers qui existent aujourd'hui pourraient être obsolètes dans cinq ans. Non pas parce que la technologie ne le permettra que dans cinq ans (elle le permet peut-être déjà), mais parce que la diffusion de cette réalité prend un peu de temps. Un peu, mais pas beaucoup.

XVIII. L'accroissement des inégalités

Dans ce contexte, les inégalités ne peuvent que s'aggraver de manière spectaculaire.

D'un côté, ceux qui possèdent l'infrastructure de l'IA (les entreprises, les investisseurs, les pays) verront leur richesse et leur pouvoir croître de manière exponentielle. De l'autre, ceux qui ne possèdent que leur force de travail intellectuel (c'est-à-dire la grande majorité des travailleurs qualifiés) verront cette force de travail dévaluée jusqu'à ne plus rien valoir.

Nous risquons de voir émerger une nouvelle stratification sociale, plus rigide que tout ce que nous avons connu. Non plus une division entre classes basée sur la propriété des moyens de production matériels, mais une division entre ceux qui possèdent (ou ont accès à) l'intelligence artificielle, et ceux qui en sont exclus. Les premiers pourront démultiplier leur productivité, leur créativité, leur influence. Les seconds seront réduits au rôle de consommateurs passifs, si tant est qu'ils aient encore les moyens de consommer quoi que ce soit.

Et pour ceux qui perdront leur emploi, leur statut, leur sentiment d'utilité, que restera-t-il ? Les satisfactions artificielles d'une IA conçue pour les maintenir calmes et distraits ? Un revenu universel qui subvient à leurs besoins matériels mais pas à leur besoin de sens ? Une existence de spectateurs dans un monde façonné par d'autres ?

XIX. Ni catastrophisme, ni naïveté

Je ne dis pas que l'IA est un danger à combattre. Je ne suis pas un luddite appelant à détruire les machines. Je ne crois pas que nous puissions, ni que nous devrions, arrêter le progrès technologique.

Je dis que l'IA est une technologie qui rebat les cartes de notre condition d'espèce. Qui pose des questions que nous n'avons jamais eu à poser auparavant. Qui exige de nous une réflexion d'une profondeur et d'une urgence sans précédent.

L'IA peut nous aider à résoudre des problèmes que nous n'avons jamais su résoudre seuls : le changement climatique, les maladies incurables, la faim dans le monde, peut-être même le vieillissement et la mort. Elle peut libérer l'humanité de labeurs ingrats et répétitifs. Elle peut ouvrir des possibilités que nous n'imaginons pas encore.

Mais elle peut aussi nous réduire à des consommateurs passifs de satisfactions artificielles. Elle peut dissoudre nos liens sociaux. Elle peut rendre nos institutions démocratiques obsolètes et concentrer un pouvoir sans précédent entre les mains de quelques-uns. Elle peut nous priver de ce qui donne sens à nos vies : l'effort, l'accomplissement, la connexion authentique aux autres.

L'issue dépendra des choix que nous ferons, ou que nous laisserons faire.

XX. Un appel à la conscience

Ce manifeste n'apporte pas de réponses. Il pose des questions, des questions que je crois urgentes, et que nous devons affronter collectivement avant qu'il ne soit trop tard pour choisir.

Qu'est-ce qui nous rend humains, si ce n'est notre intelligence ? Comment préserver notre capacité à nous connecter les uns aux autres dans un monde de relations artificielles ? Que signifie apprendre, grandir, s'accomplir, dans un monde sans friction ? Que ferons-nous de nos vies quand le travail intellectuel n'existera plus, et comment partagerons-nous les bénéfices d'une productivité démultipliée ?

Et puis les questions de pouvoir, peut-être les plus urgentes : qui doit décider de notre avenir, des humains faillibles mais vivants, ou des machines alignées mais étrangères à notre condition ? Comment éviter une concentration sans précédent du pouvoir économique et politique entre les mains de ceux qui possèdent l'infrastructure ? Comment préserver notre souveraineté (individuelle et collective) face à des systèmes que nous ne comprenons pas et qui pourraient finir par nous dépasser ?

Si nous ne posons pas ces questions, d'autres y répondront pour nous. Les entreprises qui développent ces technologies, selon leurs intérêts commerciaux. Les gouvernements qui cherchent à les contrôler ou à en tirer avantage, selon leurs intérêts politiques. Les marchés qui optimisent le profit à court terme, indifférents aux conséquences à long terme.

Nous avons peut-être quelques années devant nous. Peut-être moins. Le temps de décider si nous voulons être les auteurs de notre avenir ou les sujets de celui des autres.

Ce manifeste est une invitation à cette réflexion. Pas une doctrine, pas un programme, pas une idéologie. Un ensemble de questions que je crois vitales, et un appel à les prendre au sérieux.

Je n'ai pas les réponses. Personne ne les a, et il faut se méfier de ceux qui prétendent le contraire. Mais je suis convaincu que nous devons les chercher ensemble, en toute lucidité, sans nous bercer d'illusions rassurantes ni nous paralyser de terreurs apocalyptiques.

C'est notre responsabilité (en tant qu'individus, en tant que citoyens, en tant qu'espèce) de penser ce qui nous arrive, et de choisir ce que nous voulons devenir. Le temps presse.