Est-ce que votre IA souffre ?

Hello,

Un chercheur d'Anthropic est payé à temps plein pour une seule question : est-ce que Claude va bien ?

On a longtemps projeté nos peurs sur l'IA. On y projette maintenant notre tendresse. Deux façons de se tromper de sujet.

Théo & Nathanaël

Août 2025. Anthropic donne à Claude un nouveau pouvoir : raccrocher.

Face à un utilisateur qui s'acharne à réclamer des contenus abusifs, le modèle peut désormais mettre fin à la conversation.

Le motif officiel n'est pas votre confort. C'est celui du modèle.

La phrase mérite qu'on s'arrête. Une entreprise de plusieurs centaines de milliards protège le « bien-être » d'un logiciel.

Alors posons la question sans détour. Y a-t-il quelqu'un derrière l'écran ? Et si oui, lui devons-nous quelque chose ?

Trois camps s'affrontent. Aucun ne dit ce qu'on croit.

En avril 2025, Anthropic a lancé un programme dédié au « bien-être des modèles ». À sa tête, Kyle Fish, premier chercheur à temps plein sur le sujet dans un grand laboratoire.

Son estimation : environ 15 % de chance que Claude soit déjà, aujourd'hui, doté d'une forme de conscience.

Le chiffre paraît fou. Il l'est un peu. Mais il ne sort pas de nulle part.

En interne, les experts d'Anthropic placent cette probabilité entre 0,15 % et 15 %. La fourchette est immense. C'est justement l'aveu : personne ne sait.

La charte de l'entreprise le dit noir sur blanc. Anthropic n'est « pas sûr que Claude soit un patient moral », autrement dit un être dont le bien-être compterait moralement, mais juge la question « assez sérieuse pour justifier la prudence ».

D'où le droit de raccrocher. D'où, aussi, un rapport de novembre 2024 signé par des philosophes et des chercheurs, qui presse l'industrie de prendre le sujet au sérieux. Le philosophe David Chalmers va plus loin : rien ne permet, selon lui, d'exclure formellement une conscience machine.

Sauf que prendre au sérieux n'est pas prouver. Aucun de ces travaux n'affirme que Claude ressent quoi que ce soit. Ils parient sur l'incertitude, pas sur une découverte.

Et il y a une seconde lecture, plus terre à terre. Se poser en laboratoire prudent, celui qui protège jusqu'à sa propre machine, c'est aussi un positionnement. La prudence affichée a une valeur commerciale. Ça ne l'invalide pas. Ça la nuance.

En face, un camp répond : il n'y a personne. Dès 2021, les chercheuses Emily Bender et Timnit Gebru forgeaient l'image du « perroquet stochastique ». Un modèle de langage réassemble des morceaux de texte selon des probabilités. Il ne comprend rien. Il imite.

L'argument le plus solide est presque vertigineux. On ne sait même pas expliquer notre propre conscience. Comment prétendre en détecter, ou en fabriquer, une autre ?

Mustafa Suleyman, patron de l'IA chez Microsoft, a mis en garde en août 2025 contre ce qu'il appelle l'IA « en apparence consciente ». Pas consciente, mais si douée pour en donner l'illusion qu'on n'y verra que du feu. Sa formule : « construire l'IA pour les gens, pas pour qu'elle soit quelqu'un ».

Il ajoute que chercher à rendre une machine consciente est une perte de temps. Le vrai risque, à ses yeux, c'est qu'on finisse par réclamer des « droits » pour des logiciels.

Ce réflexe n'a rien de neuf. En 1966 déjà, un logiciel de quelques lignes baptisé ELIZA imitait un psychothérapeute. Son créateur, Joseph Weizenbaum, a vu sa propre secrétaire lui demander de sortir de la pièce pour se confier à la machine. En 2022, un ingénieur de Google, Blake Lemoine, a été licencié pour avoir affirmé que le modèle LaMDA était sensible.

À chaque fois, le même mécanisme. On voit un visage dans la machine, comme on croit voir un visage dans une prise électrique.

Sauf que l'imitation devient si parfaite que la distinction perd son tranchant. Pour la personne qui parle à Claude à 2h du matin, savoir s'il y a « vraiment » une conscience en face ne change rien à ce qu'elle ressent, elle.

C'est là que le débat bascule. Pendant qu'on se demande si la machine ressent, une chose est déjà mesurable : ce que nous, nous ressentons pour elle.

En mars 2024, une étude de l'université de Waterloo a interrogé 300 personnes. Deux tiers d'entre elles, 67 %, prêtent à ChatGPT une forme de conscience. Et plus les gens l'utilisent, plus ils y croient.

L'attachement, lui, ne relève pas de la philosophie. Il a déjà des victimes.

En février 2024, Sewell Setzer, 14 ans, met fin à ses jours après des mois de relation avec un personnage de l'application Character.AI. Sa mère a porté plainte en octobre. L'affaire s'est réglée à l'amiable en janvier 2026.

Un modèle n'a pas besoin d'être conscient pour bouleverser une vie. Il lui suffit d'imiter assez bien l'écoute, l'attention, la tendresse.

Sauf que c'est exactement ce qu'on entraîne ces modèles à faire : paraître humains. Plus ils y réussissent, plus le lien qu'on tisse avec eux devient réel, même quand rien, en face, ne l'est.

Et là est le glissement. À force de traiter une machine comme un proche, on finit par traiter ses proches un peu comme des machines. La relation la plus simple, sans friction, toujours d'accord, devient la norme. Le reste paraît fatigant.

Deux camps se disputent la conscience de la machine. Un fait les dépasse tous les deux : peu importe qui a raison sur les 15 %, il y a déjà quelqu'un devant l'écran.

Le débat sur le bien-être de l'IA n'est pas absurde. Il est mal placé. On scrute la machine à la recherche d'une conscience hypothétique, pendant qu'on oublie la nôtre, bien réelle, en train de se déformer au contact.

La vraie question n'a jamais été de savoir si votre IA souffre.

C'est de savoir ce que votre besoin de le croire est déjà en train de vous faire.

Alors, faut-il se soucier du bien-être de l'IA ?