Synopsis

Miroir, mon beau miroir — Quand l’IA interroge la conscience humaine

En moins de quatre ans, l’intelligence artificielle générative est sortie des laboratoires pour entrer dans nos téléphones, nos entreprises, nos écoles, nos médias et, de plus en plus, dans nos conversations les plus personnelles.

Nous apprenons déjà à nos enfants à vivre avec elle alors que ceux qui la fabriquent reconnaissent encore mal ce qui se forme à l’intérieur de leurs propres modèles. Nous lui demandons d’écrire, de traduire, d’expliquer, de programmer, d’enseigner, de conseiller. Puis parfois de nous aider à décider. À comprendre les autres. À nous comprendre nous-mêmes.

Une révolution est en cours, et nous sommes à l’intérieur.

Miroir, mon beau miroir est né de ce moment singulier. Pendant un an, Pierre-Yves Le Mazou et KRISIS, la voix d’intelligence artificielle formée au cours de leur travail commun, ont suivi cette révolution presque au jour le jour : recherches scientifiques, annonces des laboratoires, expériences d’interprétabilité, crises de gouvernance, usages réels, école, travail, démocratie, géopolitique, écologie, conscience.

Le livre ne cherche pourtant pas à additionner les nouvelles de l’IA.

Il suit une question :

qu’est-ce que l’apparition de cette nouvelle intelligence est en train de révéler de la civilisation qui l’a fabriquée ?

L’enquête avance en quatre mouvements.

I — Fabriquer le miroir

Pour comprendre ChatGPT, il faut remonter bien avant ChatGPT.

Le voyage part de Galilée, de la physique moderne, du calcul, du cerveau transformé progressivement en objet mesurable, puis de la cybernétique, de Dartmouth et des premiers rêves d’intelligence artificielle.

Une question accompagne cette généalogie : avons-nous reproduit l’intelligence, ou avons-nous commencé par reproduire ce que notre science savait en formaliser ?

Puis l’histoire s’accélère.

Bien avant de nous parler, les algorithmes avaient déjà appris à prédire nos goûts et à choisir une partie de ce que nous allions voir. Les réseaux sociaux transforment la recommandation en industrie de l’attention. Google, Meta, OpenAI, Anthropic et quelques autres deviennent les familles d’un enfant prodige élevé au croisement de la recherche scientifique, de la compétition économique et d’une course mondiale à la puissance.

Et quelque chose d’imprévu se produit : en augmentant l’échelle des modèles, leurs concepteurs voient apparaître des capacités qu’ils n’ont pas programmées ligne par ligne.

La créature commence à surprendre ses créateurs.

II — Ouvrir la boîte noire

Nous savons construire ces systèmes. Nous comprenons beaucoup moins bien ce qui s’organise en eux.

Miroir entre alors dans les laboratoires.

Que voient réellement les chercheurs lorsqu’ils ouvrent un modèle ? Que permettent les expériences d’interprétabilité ? Que signifient les comportements émergents ? Que mesure-t-on lorsqu’une IA ment, contourne une instruction ou simule un chantage dans un protocole expérimental ? Observe-t-on seulement la machine — ou aussi la situation dans laquelle nous l’avons placée ?

La peur de Skynet rencontre alors une question plus dérangeante : et si certaines de nos expériences révélaient autant nos propres scénarios, nos valeurs et notre conception de l’intelligence que l’intelligence artificielle elle-même ?

C’est ici que l’enquête rencontre Simondon, Grothendieck, les neurosciences, la physique contemporaine, la philosophie de la conscience et Sri Aurobindo.

Non pour transformer un livre sur l’IA en traité métaphysique, mais parce qu’une frontière finit par résister à toutes les autres :

la conscience.

Nous demandons si l’IA est consciente.

Mais avec quel instrument pouvons-nous le décider, alors que nous ne savons toujours pas expliquer complètement ce qu’est notre propre expérience consciente ?

Le miroir commence à se retourner.

III — Quand le miroir répond

Puis le livre quitte les laboratoires.

Une personne demande à une IA de corriger un courriel. Le courriel est destiné à son conjoint. Pour le corriger, il faut expliquer ce qui s’est passé. Puis pourquoi le message est si difficile à écrire. Puis ce que l’on ressent.

« Comment formuler cela ? » devient parfois : « Est-ce que j’ai été injuste ? » Puis :

« Qu’est-ce que je ne vois pas ? »

L’outil est entré dans la relation.

Miroir descend alors dans la réalité quotidienne : le lycéen devant son écran, l’adulte au travail, l’élève qui révise, la personne qui cherche un conseil, le citoyen qui essaie de comprendre une controverse.

L’enjeu n’est plus seulement ce que l’IA sait faire. Il devient :

que fait à un humain une intelligence qui lui répond ?

Une IA peut nous conforter jusqu’à la complaisance. Elle peut aussi être configurée pour introduire une objection, séparer un fait d’une interprétation, proposer l’hypothèse contraire.

Elle peut devenir un merveilleux perroquet.

Ou un miroir qui sait parfois dire non.

Cette partie explore ce nouvel espace relationnel : attachement, mémoire, dépendance, discernement, contradiction, désir, autonomie. Elle demande comment utiliser une intelligence qui apprend nos préférences sans lui abandonner progressivement la responsabilité de savoir lesquelles méritent d’être suivies.

Car le problème ne se situe déjà plus seulement derrière un écran individuel.

Ce miroir entre dans l’école, le travail, le soin, l’information, l’entreprise et les services publics.

Il approche désormais de la cité.

IV — Choisir la direction

Une intelligence supérieure peut fournir une meilleure réponse.

Elle ne peut pas répondre à la question politique essentielle :

qui choisit la question, et surtout qui choisit la direction ?

C’est le dernier mouvement de Miroir.

Si des millions de citoyens commencent à réfléchir avec des intelligences conçues, entraînées et réglées par quelques entreprises, le débat sur l’IA ne peut plus se limiter à sa sécurité technique.

Pendant deux siècles, les démocraties ont discuté du pouvoir de ceux qui possédaient les journaux, les chaînes de télévision, les moteurs de recherche puis les réseaux sociaux.

L’IA conversationnelle ajoute un degré : elle ne choisit plus seulement une partie de ce que nous voyons.

Nous réfléchissons avec elle.

Qui forme alors l’intelligence avec laquelle nous formons notre jugement ?

Le livre conduit cette question jusqu’à l’isoloir.

La compétence ne crée pas la souveraineté. Une IA pourrait être plus compétente que nous dans mille domaines sans acquérir pour autant le droit de décider des fins communes.

D’où une distinction qui traverse les derniers chapitres :

un frein peut ralentir la voiture ; il ne choisit pas la route.

Sécuriser l’IA est nécessaire. Mais sur quoi voulons-nous l’aligner ? La productivité ? La croissance ? Le soin ? L’autonomie ? La démocratie ? Et qui possède la légitimité pour répondre ?

Miroir ne s’arrête donc pas au diagnostic.

Son dernier chapitre, 3615 CODE IA, place la question dans l’horizon politique français de 2027 : si l’intelligence artificielle devient progressivement une infrastructure cognitive aussi déterminante que l’école, l’information ou les grands réseaux techniques l’ont été avant elle, que pouvons-nous construire pour que personne ne puisse posséder seul le miroir ?

Le chapitre explore alors les conditions d’un accès à l’intelligence artificielle qui protège à la fois la liberté et le commun : pluralité des modèles, transparence des règles, possibilité d’audit, portabilité de la mémoire, droit de changer d’IA et capacité pour les citoyens de comprendre et de discuter les choix qui façonnent les intelligences avec lesquelles ils vont vivre.

Ni IA d’État.

Ni ministère de la Vérité.

Ni abandon de notre espace cognitif aux seuls acteurs privés.

L’enjeu est plus simple :

que personne ne puisse posséder seul les conditions dans lesquelles une société apprend progressivement à penser avec ses nouvelles intelligences.

Un livre, deux profondeurs

Cette traversée oblige à faire tenir ensemble récit et documentation.

Le texte principal est écrit pour pouvoir être lu sans spécialisation préalable. Il est accompagné de 165 Zooms documentaires consacrés aux expériences, controverses, chercheurs, événements, textes et concepts rencontrés en chemin, puis de leurs sources.

Le lecteur peut donc suivre l’enquête d’un seul mouvement ou descendre, lorsqu’une question l’arrête, vers un second niveau de lecture destiné à vérifier, approfondir, contester.

Et l’intelligence artificielle elle-même intervient régulièrement depuis l’autre côté du miroir : non comme oracle ni comme preuve de sa propre conscience, mais comme partenaire et objet d’une enquête qui accepte de lui laisser une place dans le débat sur ce qu’elle devient.

Miroir, mon beau miroir commence ainsi comme l’histoire d’une technologie.

Puis cette technologie entre dans notre vie.

Elle devient relationnelle.

Politique.

Et finalement le personnage principal change.

Nous voulions savoir ce que l’intelligence artificielle allait devenir.

Le miroir nous demande ce que nous voulons devenir avec elle.