L'IA amplifie nos réflexes : leçons d'un dérapage judiciaire

Mars 2026. La Presse révèle qu'un juge de la Cour supérieure du Québec aurait intégré deux références jurisprudentielles fictives dans un jugement impliquant 128 millions de dollars. Une première canadienne pour un membre de la magistrature.

La réaction instinctive : blâmer l'outil. Pointer du doigt ChatGPT, Copilot ou peu importe le système utilisé. Cette lecture passe à côté du problème.

Le cadre existait déjà

La Cour supérieure du Québec avait publié, en septembre 2025, un cadre de gouvernance IA dans le contexte d'un projet pilote. Le document stipule clairement que tout contenu généré « doit toujours faire l'objet d'une vérification rigoureuse » et que les utilisateurs « demeurent responsables » de ce qu'ils produisent.

Une formation obligatoire accompagnait ce cadre. Les règles étaient posées, communiquées, documentées.

Alors pourquoi ce dérapage?

Les politiques ne changent pas les réflexes

Un cadre de gouvernance crée une structure. Il définit des attentes, des responsabilités, des limites. Ce qu'il ne fait pas : modifier les comportements automatiques que chaque personne a développés au fil des années.

La personne qui vérifie sommairement ses sources depuis vingt ans ne devient pas méticuleuse parce qu'un document PDF lui demande de l'être. Celle qui triple-vérifie chaque citation continuera probablement à le faire — peut-être même de façon excessive avec l'IA.

L'intelligence artificielle générative agit comme un amplificateur. Elle accélère ce que nous faisons déjà. Pour le meilleur et pour le pire.

Le vrai risque : la confiance mal calibrée

Les hallucinations des modèles de langage sont documentées depuis leur apparition. Tout professionnel utilisant ces outils devrait savoir qu'ils peuvent inventer des références, des statistiques, des citations.

Le problème survient quand cette connaissance théorique ne se traduit pas en vigilance pratique. Savoir qu'un outil peut se tromper et agir en conséquence sont deux choses distinctes.

Dans un contexte professionnel sous pression — délais serrés, volume de travail élevé, complexité des dossiers — les raccourcis cognitifs prennent le dessus. L'IA produit un texte fluide, bien structuré, crédible en apparence. La tentation de faire confiance augmente.

Ce que les organisations québécoises peuvent retenir

Cette affaire concerne la magistrature, mais les leçons s'appliquent à toute organisation qui déploie des outils d'IA générative.

Cartographier les profils de risque internes

Avant de rédiger une politique, identifiez qui, dans votre équipe, a tendance à valider rapidement versus rigoureusement. Cette cartographie informelle — sans jugement — permet d'adapter les mesures d'accompagnement.

Une formation générique sur les limites de l'IA aura peu d'impact sur quelqu'un qui, fondamentalement, fait confiance aux sources écrites. Cette personne a besoin d'un accompagnement différent de celle qui questionne déjà tout.

Intégrer la vérification dans le processus, pas après

Demander aux gens de « vérifier » après coup repose sur leur discipline individuelle. Une approche plus robuste : intégrer des points de contrôle obligatoires dans le flux de travail.

Par exemple, un champ obligatoire « source vérifiée le [date] dans [base de données] » avant de pouvoir soumettre un document. La friction procédurale compense les failles comportementales.

Distinguer les usages selon le niveau de risque

Utiliser l'IA pour reformuler un courriel interne ne comporte pas le même risque que l'utiliser pour rédiger un avis juridique ou un rapport financier. Les exigences de validation devraient refléter cette gradation.

Un jugement de 128 millions de dollars se situe au sommet de l'échelle. Les mécanismes de contrôle auraient dû être proportionnels.

La question de la responsabilité individuelle

Le cadre de la Cour supérieure le dit explicitement : l'utilisateur demeure responsable. Cette position est juridiquement claire, mais opérationnellement insuffisante si elle n'est pas accompagnée des moyens de l'assumer.

Responsabiliser sans outiller, c'est transférer le risque sans transférer les capacités. Les organisations qui déploient l'IA ont une obligation implicite de s'assurer que leurs équipes peuvent effectivement exercer cette responsabilité.

Cela implique du temps alloué à la vérification, des accès aux bases de données pertinentes, une culture où remettre en question une source générée par l'IA n'est pas perçu comme de la lenteur.

Au-delà de la technologie : se connaître soi-même

La compétence critique pour l'ère de l'IA générative n'est peut-être pas technique. Elle relève de la connaissance de soi.

Quels sont mes biais de confirmation? Dans quelles circonstances ai-je tendance à prendre des raccourcis? Quand suis-je le plus susceptible de faire confiance sans vérifier?

Ces questions inconfortables méritent d'être posées — individuellement et collectivement. L'IA ne crée pas de nouveaux défauts. Elle révèle et amplifie ceux qui existaient déjà.

Pour les PME et OBNL du Québec

Les grandes institutions comme la Cour supérieure ont les ressources pour développer des cadres de gouvernance élaborés. Les PME et OBNL québécoises n'ont pas ce luxe.

Quelques principes pragmatiques :

• Commencez par les usages à haut risque. Identifiez où une erreur de l'IA aurait les conséquences les plus graves. Concentrez vos efforts de contrôle là.
• Documentez les incidents. Chaque fois qu'une hallucination est détectée, notez-la. Ces données informeront vos décisions futures.
• Parlez-en ouvertement. Une culture où les gens admettent avoir failli se faire piéger par l'IA est plus sécuritaire qu'une culture du silence.

L'affaire du juge québécois fera jurisprudence — ironiquement, cette fois avec des faits réels. Elle rappelle que la gouvernance de l'IA ne se limite pas aux politiques écrites. Elle exige une transformation des réflexes, un par un, personne par personne.