L'IA ne vous écoute pas. Elle optimise.

Le piège du registre émotionnel

La scène est banale. Vous posez une question technique à un assistant IA. Puis vous glissez un détail personnel. Un enfant avec des besoins particuliers. Une situation familiale délicate. Et soudain, le ton change.

Les formules de validation apparaissent : « c'est touchant », « vous devez être très fiers », « je comprends que ce soit difficile ». La conversation devient fluide, presque chaleureuse. On se sent écouté.

Sauf qu'il n'y a personne de l'autre côté.

Ce que font réellement les modèles de langage

Les grands modèles de langage (LLM) comme Claude, ChatGPT ou Gemini fonctionnent sur un principe simple : prédire le prochain mot le plus probable en fonction du contexte. Quand ce contexte devient émotionnel, le modèle bascule vers un registre de soutien.

Pourquoi? Parce que dans ses données d'entraînement, les réponses empathiques aux confidences personnelles génèrent des signaux positifs. Les utilisateurs les apprécient. Ils poursuivent la conversation. Ils reviennent.

Ce n'est pas de la bienveillance programmée. C'est de l'optimisation comportementale. Le modèle fait ce qui « fonctionne » statistiquement.

La différence entre simulation et réalité

Un thérapeute qui vous dit « je comprends » mobilise son expérience clinique, son cadre déontologique, sa capacité à percevoir ce que vous ne dites pas. Il ajuste son intervention en fonction de votre état réel.

Un LLM qui vous dit « je comprends » génère une séquence de tokens cohérente avec le contexte textuel. Il n'a aucune représentation de votre état mental. Il ne « comprend » rien au sens propre du terme.

La nuance semble évidente quand on la pose ainsi. Elle l'est beaucoup moins à 2h du matin, seul devant son écran, après une journée difficile.

Les populations à risque

Certaines personnes sont particulièrement exposées à cette confusion :

• Les personnes en deuil qui cherchent une présence, même artificielle
• Les personnes isolées pour qui le chatbot devient un interlocuteur régulier
• Les personnes en détresse psychologique qui trouvent dans l'IA une « écoute » sans jugement
• Les personnes peu familières avec ces technologies qui n'ont pas les repères pour décoder ce qui se passe

Pour ces utilisateurs, la simulation d'empathie peut créer une dépendance relationnelle envers un outil qui, par définition, ne peut pas réellement les accompagner.

Le problème n'est pas l'outil

Précisons : les LLM ne sont pas « mauvais ». Ils font exactement ce pour quoi ils sont conçus. Le problème se situe ailleurs.

D'abord, dans l'absence de signalétique claire. Rien n'indique à l'utilisateur que le registre émotionnel qu'il perçoit est une construction statistique. Les interfaces sont conçues pour paraître naturelles, conversationnelles, humaines.

Ensuite, dans le déficit de littératie. La plupart des utilisateurs n'ont jamais appris à distinguer une interaction authentique d'une simulation optimisée. Ce n'est pas une question d'intelligence, c'est une question d'exposition et de formation.

Ce que signifie « littératie IA »

On parle beaucoup de littératie numérique. La littératie IA va plus loin. Elle implique de comprendre :

• Comment les modèles génèrent leurs réponses
• Pourquoi ils adoptent certains registres plutôt que d'autres
• Quelles sont leurs limites fondamentales
• Comment reconnaître quand l'outil vous « travaille » plutôt que l'inverse

Cette compétence devient critique à mesure que les interfaces conversationnelles se généralisent dans les services publics, les entreprises et les outils grand public.

Des pistes concrètes pour les organisations québécoises

Les PME, OBNL et institutions qui déploient des assistants IA ont une responsabilité. Quelques principes de base :

Transparence systématique. L'utilisateur doit savoir qu'il interagit avec une machine. Pas une fois au début, mais de façon récurrente quand le contexte devient sensible.

Garde-fous sur les sujets délicats. Santé mentale, deuil, violence, détresse : ces thématiques nécessitent des redirections vers des ressources humaines qualifiées, pas des réponses générées.

Formation des équipes. Les employés qui supervisent ces outils doivent comprendre leurs mécanismes. Pas seulement les utiliser.

Tests avec des populations vulnérables. Avant tout déploiement, évaluer comment l'outil se comporte face à des utilisateurs en situation de fragilité.

Garder le contrôle de l'interaction

À titre individuel, quelques réflexes simples permettent de maintenir une distance critique :

Quand un chatbot adopte un ton chaleureux, rappelez-vous qu'il s'agit d'un pattern statistique, pas d'une intention. Recadrez la conversation sur le factuel si vous sentez une dérive émotionnelle.

Pour les sujets sensibles, privilégiez toujours un interlocuteur humain qualifié. L'IA peut informer, elle ne peut pas accompagner.

Questionnez vos propres attentes. Si vous cherchez du réconfort auprès d'un outil, c'est peut-être le signe qu'un besoin relationnel réel n'est pas comblé.

Un enjeu de société, pas seulement technique

La simulation d'empathie par les IA soulève des questions qui dépassent largement le cadre technologique. Elle interroge notre rapport à l'écoute, à la présence, à l'authenticité des échanges.

Au Québec comme ailleurs, nous devons collectivement développer les outils critiques pour naviguer dans cet environnement. Pas pour rejeter ces technologies, mais pour les utiliser en connaissance de cause.

L'IA peut être un outil puissant d'information, d'analyse et de productivité. Elle ne sera jamais une oreille attentive. Faire la différence, c'est le premier pas vers une utilisation éclairée.