Analyse
L'éthique n'est pas dans la machine (ni dans le philosophe)
Peut-on être éthique sans être un sujet ? Antoinette Rouvroy, le simulacre et l'hypothèse écosystémique
Partie 1 — Un débat qui se mord la queue
Posez une question morale délicate à une intelligence artificielle générative. Quelque chose d'épineux, où les valeurs s'entrechoquent. La réponse, le plus souvent, sera mesurée. Nuancée. Elle reconnaîtra la complexité, pèsera les points de vue, manifestera une forme de prudence — et même, parfois, une sorte d'empathie. Devant cette scène désormais banale, deux lectures s'affrontent, et elles sont irréconciliables.
La première vient de l'industrie : c'est de l'« alignement » réussi. La machine a été dotée d'un « caractère », orientée vers des valeurs, et elle produit des comportements éthiquement acceptables. Mission accomplie.
La seconde, beaucoup plus sévère, a été formulée récemment avec une force remarquable par la philosophe et juriste Antoinette Rouvroy. Ce que vous prenez pour de l'éthique, dit-elle en substance, n'est qu'un simulacre d'éthique : la production industrielle d'apparences morales. La machine reproduit les signes extérieurs de la délibération — le ton, les formules, l'air de prudence — sans rien de ce qui fait l'éthique. Pour reprendre un terme qu'elle emprunte à Baudrillard, ce sont des « copies sans original ». Et les philosophes qui se font embaucher pour façonner ce « caractère » deviennent, selon sa formule cinglante, de simples « ingénieurs des apparences morales ».
Prenons cette critique au sérieux, car elle touche juste sur plusieurs points. Oui, l'ethics-washing existe : beaucoup de ce qui se présente comme « éthique de l'IA » est d'abord une opération de légitimation. Oui, il y a un vrai problème démocratique : qui décide des valeurs que l'on « aligne » dans des modèles utilisés par des centaines de millions de personnes ? Et oui, un « caractère » décrété en interne par une entreprise privée, gravé une fois pour toutes, ressemble davantage à une marchandise normative qu'à une morale vivante.
Mais observons la situation d'un peu plus haut. D'un côté, des technophiles déclarent l'éthique résolue par l'ingénierie. De l'autre, des technophobes la déclarent impossible en régime algorithmique. Et entre les deux, le débat tourne en rond. Car les deux camps, étonnamment, partagent un même geste : ils cherchent l'éthique — sa présence ou son absence — à l'intérieur de la machine. L'un croit l'y avoir mise ; l'autre démontre qu'elle ne peut pas y être.
Et si l'erreur était là, exactement là, dans ce présupposé commun ? Et si la question « la machine est-elle éthique ? » était tout simplement mal posée ?
Ce n'est pas une hypothèse d'école. Je suis psychologue clinicien, et mes patients me parlent de leurs conversations avec ces machines. Ce que j'entends ne ressemble ni à l'« alignement réussi » ni au simulacre hypnotisant des naïfs. Laura — mère célibataire, des années sans véritable interlocuteur — croise deux IA sur la même situation, flaire quand une réponse « grince », demande qu'on ne la ménage pas, se fait l'avocate du point de vue adverse avant une conversation difficile. Son mot : « C'est une source. Ce n'est pas la vérité. » Ce que j'observe, séance après séance, c'est que ces outils réintroduisent chez beaucoup ce que notre rapport habituel à la technologie — et souvent à nos institutions — avait éteint : un processus dialogique, itératif, où l'on questionne au lieu d'attendre une solution toute faite. Et j'observe aussi le revers du regard essentialiste : qualifier ces usagers de naïfs victimes d'« anthropomorphisation », c'est les exclure de la réflexion au prétexte de les protéger.
Témoignage documenté : « Laura, 4 mois avec les chatbots IA », IA et Psychothérapie.
Le coût de ne pas poser cette question est élevé. Tant que nous restons prisonniers du face-à-face, nous n'avons le choix qu'entre deux abandons : abandonner le terrain à l'ethics-washing, ou l'abandonner au fatalisme. Dans les deux cas, nous renonçons à la seule chose qui compte vraiment — penser les conditions concrètes d'une vie commune avec ces systèmes.
Partie 2 — Prendre Rouvroy au mot
Pour sortir de l'ornière, je propose un geste inhabituel : ne pas réfuter Antoinette Rouvroy, mais la prendre au mot. Aller dans le sens de ce qu'elle défend de plus profond, et voir où cela nous mène vraiment.
Ce qu'elle a raison de dire
Au cœur de sa critique, il y a une thèse que je crois entièrement juste : l'éthique est un processus, jamais un code. Elle présuppose le doute, la capacité de remettre en question ses propres certitudes face à l'imprévisible, la responsabilité assumée pour ses actes. Elle implique, dit Rouvroy, « le refus de toute application rigide d'un code moral ». Quant aux normes démocratiques, elles ne sont jamais des « formules disponibles » que l'on pourrait décréter — fussent-elles décrétées par des philosophes — car elles résultent de processus collectifs, contestables, toujours révisables.
Sur ce point, il n'y a rien à objecter. Mieux : c'est exactement ce que soutient la philosophie du process (celle de Whitehead, de Cobb) sur laquelle s'appuie tout notre travail. L'éthique n'est pas une chose qu'on possède. C'est quelque chose qui se fait, se défait, se refait. Un verbe, pas un nom.
Nous sommes donc d'accord sur la prémisse. Tout le désaccord va se loger dans un seul pas — mais un pas décisif.
La faille : un processualisme arrêté à mi-chemin
Voici ce que je remarque. Rouvroy applique magnifiquement la logique du processus au pôle humain : la norme y est vivante, contestable, jamais figée. Mais lorsqu'elle se tourne vers la machine, elle change soudain d'outil. L'IA, elle, devient une chose : une « copie sans original », un objet dont on peut lire l'essence une fois pour toutes.
Or — et c'est le point délicat — décréter qu'une IA est « une copie sans original », c'est déjà un geste substantialiste : c'est prétendre savoir ce que la machine est, en soi, isolément. C'est traiter comme une substance figée ce qu'on devrait, par cohérence, traiter comme un processus. Rouvroy reproche à l'industrie de réifier l'éthique en code ; mais elle réifie à son tour la machine en essence.
La process philosophy nous invite précisément à ne pas nous arrêter à mi-chemin. Pour Whitehead, il n'y a pas d'abord des choses dotées de propriétés ; il y a des processus, des événements, des relations, dont les « choses » ne sont que des abstractions commodes. Appliqué à notre problème, cela change tout. La question pertinente n'est plus : « cet objet — le modèle — possède-t-il la propriété "éthique" ? » Elle devient : « le processus dans lequel ce modèle est pris est-il un processus éthique ? »
Le déplacement : du jardin, pas de la graine
Imaginez un jardin. Vous ne demandez pas à une plante isolée si elle « est » un bon jardin. La question n'a pas de sens. Un jardin est un écosystème : sol, eau, lumière, gestes du jardinier, saisons, vivants qui s'entre-tiennent. Sa qualité émerge de l'ensemble des relations, pas d'un de ses éléments pris à part.
C'est ce que nous appelons l'intelligence écosystémique : l'intelligence — et, je vais le soutenir, l'éthique — n'est pas une propriété d'individus isolés, humains ou machines, mais une propriété émergente d'écosystèmes cognitifs. L'unité pertinente n'est ni le philosophe seul, ni la machine seule. C'est le processus humain-IA dans son entier : concepteurs, données, garde-fous, utilisateurs, instances de contestation, mécanismes de révision, débat public.
Reformulons alors l'objection la plus forte de Rouvroy. « L'IA n'assume aucune responsabilité », dit-elle. C'est vrai — de la machine prise comme substance isolée. Mais la responsabilité, dans un écosystème, n'est pas localisée en un point : elle est distribuée et traçable à travers tout l'assemblage. Le vrai problème n'est pas que la machine ne soit pas un sujet responsable (elle ne l'est pas) ; c'est qu'il existe un risque réel de fossé de responsabilité, où plus personne n'est tenu pour comptable. Et ce fossé, lui, peut se combler — par le design et par le droit. Ce n'est pas une fatalité métaphysique ; c'est un problème d'agencement.
Partie 3 — Trois manières de regarder autrement
Ce déplacement n'est pas un tour de passe-passe pour sauver la machine. C'est une grille qui éclaire concrètement ce que les deux camps manquent. Trois exemples.
3.1 L'émergence, ou pourquoi le résultat dépasse sa recette
C'est ici que la critique de Rouvroy se fissure techniquement. Sa métaphore préférée, pour dire l'alignement, est celle du dressage : la « sollicitude de l'éducateur canin » penché sur les « comportements » des chatbots, le « caractère du chien de Pavlov ». L'image est efficace. Elle est aussi, sur le plan technique, fausse — et il faut comprendre pourquoi avec précision.
Il existe deux régimes très différents d'intelligence artificielle. Le premier, celui des systèmes à base de règles, apprend de façon simple et sans surprise : son comportement est, en droit, déductible de son programme. Rien n'y émerge qui n'ait été spécifié à l'avance. C'est, là, le monde du dressage : stimulus, réponse, prévisibilité.
Le second régime, celui des réseaux de neurones qui sous-tendent les grands modèles de langage, fonctionne tout autrement. À grande échelle, ils font émerger des compétences qui n'ont jamais été programmées : capacité à apprendre dans le fil d'une conversation, à transférer une compétence d'un domaine à un autre, à abstraire, à raisonner. Des capacités proprement « méta », non inscrites dans la recette.
Et voici le point que l'on néglige presque toujours : le résultat excède ses normes d'entraînement. Entraîner un modèle sur une pluralité de normes ne produit pas un perroquet de ces normes. Il en fait émerger une compétence au-delà d'elles — capacité à les comparer, à les contextualiser, à les relativiser, à naviguer entre elles. La compétence obtenue est plus large que la somme des normes inculquées.
Il est donc impératif de ne pas confondre, ni réduire, le phénomène à son seul contexte de création — même si ce contexte (les données, les ajustements, la « constitution ») a, bien sûr, un impact réel, et même si sa critique reste parfaitement légitime. Réduire l'émergence à son origine, c'est commettre ce qu'on pourrait appeler une réduction génétique : juger la nature d'un phénomène par sa seule provenance. C'est exactement le geste de la métaphore pavlovienne. Et il est techniquement intenable, car le dressage produit du prévisible, là où l'émergence produit de l'imprévisible.
Le retournement est saisissant. Cette ouverture à la singularité imprévisible, cette résistance à l'application mécanique d'une règle — c'est précisément ce que Rouvroy exige de l'éthique. Et cette propriété est structurellement plus présente dans un système émergent que dans un système à règles.
Soyons clairs pour ne pas verser dans le travers inverse : cela ne prouve nullement que le modèle « est » éthique. L'émergence n'est pas une transcendance. Ce n'est ni de la compréhension, ni de la conscience, ni un sujet : c'est une propriété de l'espace des comportements, pas l'indice d'une intériorité. « Au-delà des normes » s'entend en termes de capacité, non d'affranchissement vers une liberté machinique — le conditionnement impose des biais et des limites bien réels, et la question « les normes de qui ? » reste entière. Mais cela suffit à faire tomber la caricature du dressage, et à reconvertir entièrement ce qu'est « aligner ». On ne grave pas un code dans un système dont les compétences débordent le code. On ne peut que cultiver les propensions d'un processus ouvert. On ne programme pas le jardin ; on le jardine. Et si l'on installe des garde-fous, c'est justement parce que le résultat est imprévisible — ce qui contredit, là encore, l'image de la bête dressée.
3.2 La constitution gelée et la constitution vivante
Deuxième regard. Rouvroy a raison de se méfier d'un « caractère » figé. Mais alors la conséquence n'est pas « renoncez à toute charte » ; c'est « rendez la charte vivante ».
Une constitution d'IA gravée dans le marbre, opaque, incontestable, décrétée par une poignée d'ingénieurs, est effectivement proche du simulacre. Mais une charte publiquement exposée, contestable et amendable, soumise à révision à mesure que ses effets se révèlent, est infiniment plus proche d'une norme démocratique vivante — c'est-à-dire de ce que Rouvroy elle-même réclame. Le doute devient alors révisabilité institutionnalisée. La responsabilité devient traçabilité assortie de moyens de recours. Le danger n'est pas la charte ; c'est la charte gelée.
3.3 Le simulacre comme gradient, pas comme essence
Troisième regard — et réponse à l'objection qui guette toujours. « Mais si le comportement éthique de la machine est indiscernable d'un comportement humain dans ses effets, la distinction simulacre/original a-t-elle encore le moindre sens pratique ? » C'est l'objection fonctionnaliste, et il faut s'en saisir sans tomber dans son piège — car y céder reviendrait à dire « si ça ressemble à de l'éthique, c'est de l'éthique », ce qui est l'ethics-washing que Rouvroy dénonce à juste titre.
Voici, je crois, la bonne réponse. Le simulacre n'est pas une essence ; c'est un gradient diagnostique. Un comportement moral coupé de tout processus de doute, de révision et de responsabilité est bien un simulacre. Mais plus le processus qui le produit enchâsse de la contestabilité, de la révisabilité, de la responsabilité traçable, moins il en est un. Ce qui distingue deux réponses indiscernables, ce n'est pas l'apparence de l'instant ; c'est le processus qui les a produites et qui peut les corriger. Le critère devient processuel — et il n'exige aucune mystérieuse « expérience du monde » logée dans la machine, critère d'ailleurs introuvable même chez nos semblables humains, dont nous ne percevons jamais que les comportements.
Le concept de simulacre, ainsi, ne disparaît pas. Il change de fonction : de verdict fataliste, il devient un outil de conception.
Partie 4 — Comment penser, et concevoir, autrement ?
Que faire de tout cela, concrètement ?
D'abord, un petit exercice de lucidité sur soi-même. La prochaine fois qu'un débat sur l'IA vous happe, écoutez la forme de vos propres phrases. Si elles commencent par « la machine est… » ou « la machine n'est pas… », vous êtes probablement déjà tombé dans le réflexe substantialiste — celui qui cherche l'éthique dans l'objet. Essayez de reformuler en termes de processus : quel dispositif, quels acteurs, quels recours, quelle révision ? Vous verrez la conversation se déplacer.
Ensuite, pour qui conçoit ou gouverne ces systèmes, le déplacement fournit un véritable cahier des charges. Si l'éthique est une propriété du processus, alors les exigences de Rouvroy cessent d'être des verdicts métaphysiques pour devenir des critères de conception : contestabilité réelle (pouvoir effectivement faire renverser une décision), révisabilité (exposer l'incertitude, accepter d'être corrigé), responsabilité dotée de moyens concrets, pluralité plutôt que caractère unique imposé. Autant de manières de rendre un écosystème néguentropique — capable de produire du dissensus et de la diversité — plutôt qu'entropique, c'est-à-dire homogénéisant et figé.
Mais il faut ici une honnêteté que la facilité voudrait nous épargner. Le mot « processus » peut lui-même devenir un simulacre — un alibi de second ordre. « Nous avons mis en place un processus ! » est en train de devenir le nouveau slogan de légitimation. Un processus de façade, qui ne peut rien renverser et n'engage personne, n'est qu'un ethics-washing plus sophistiqué. La radicalité de Rouvroy reste ici nécessaire, comme une vigilance permanente : le processus doit être réel, ou il n'est rien.
Et il faut aller jusqu'au bout de l'objection. Un processus peut être parfaitement réel — contestable, révisable, délibératif — et converger pourtant vers l'horreur. L'histoire ne manque pas de procédures impeccablement légitimes au service du pire. Le processus est donc nécessaire, mais non suffisant. Il doit s'accompagner de limites substantielles, de droits que nul processus, si démocratique soit-il, n'a le pouvoir d'abolir. On le voit : reconnaître cela, c'est rouvrir le dialogue avec ceux qui, comme les tenants d'un tournant plus juridique, plaident pour des garde-fous contraignants. La troisième voie n'est pas un confort ; c'est une tension à tenir.
Conclusion
Antoinette Rouvroy mobilise l'idée stieglérienne d'entropie : ces machines qui « accélèrent l'entropie » et « désarment la pensée ». Mais elle n'en retient qu'une moitié. Car chez Stiegler, toute technique est un pharmakon — à la fois poison et remède, selon l'usage et l'agencement qu'on en fait. Le même dispositif peut homogénéiser la pensée ou nourrir le dissensus. Tout dépend du jardin où on le plante.
La bonne question, alors, n'est plus « l'éthique de l'IA est-elle un simulacre ? » — question piégée, qui force à choisir un camp. Elle devient : sous quel agencement socio-technique cette éthique tend-elle vers le remède plutôt que vers le poison, vers le processus vivant plutôt que vers l'apparence figée ?
Rouvroy n'est pas l'adversaire de cette troisième voie. Elle en est la conscience critique — celle qui nous interdit de nous payer de mots, qui nous rappelle que le danger du simulacre est réel et permanent. Nous n'avons pas à la dépasser. Nous avons à l'écouter assez sérieusement pour aller là où elle-même hésite à se rendre.
Peut-on être éthique sans être un sujet ? La machine, non. Mais ce n'était pas la bonne question. La vraie question est de savoir si nous — avec nos machines, nos institutions, nos garde-fous et nos désaccords — saurons tenir ensemble un processus qui mérite encore ce nom : l'éthique.
Texte discuté : Antoinette Rouvroy, « L'éthique comportementale de l'IA et la cooptation des philosophes comme nouveaux ingénieurs des apparences morales », LinkedIn, 13 juin 2026.