Quand l'IA invente des jugements : un arbitrage annulé à Montréal

Les faits : une décision fondée sur du vide

Le Centre de santé Osman contestait une décision arbitrale rendue contre lui dans un différend l'opposant à Santé Québec. En examinant le dossier, la Cour supérieure a découvert que l'arbitre avait appuyé son raisonnement sur des références juridiques qui n'ont jamais existé.

Le juge a qualifié ces citations de « inexistantes et hallucinées ». Autrement dit, l'arbitre — consciemment ou non — avait utilisé des contenus générés par une intelligence artificielle sans les vérifier. Ces faux jugements, ces fausses décisions, ont servi de fondement à une sentence de plus d'un million de dollars.

Face à des références fabriquées, la clinique Osman se trouvait dans l'impossibilité de préparer une défense adéquate. Comment contester un argument basé sur un jugement qui n'existe pas? La Cour a conclu que le droit d'être entendu — un principe fondamental de notre système juridique — avait été violé.

Le problème des hallucinations : pas un bug, une caractéristique

Les grands modèles de langage ne « savent » rien au sens strict. Ils prédisent la suite la plus probable d'une séquence de mots. Quand on leur demande une référence juridique, ils génèrent ce qui ressemble à une référence juridique. Parfois, c'est exact. Parfois, c'est inventé de toutes pièces.

Cette tendance à produire des informations fausses mais plausibles porte un nom : les hallucinations. Le terme peut sembler anodin. Le cas montréalais démontre qu'il ne l'est pas. Une hallucination non détectée peut invalider une procédure légale, compromettre un diagnostic médical, fausser une analyse financière.

Les professionnels québécois qui intègrent l'IA à leurs pratiques doivent comprendre cette limite structurelle. L'outil reste utile — pour accélérer la recherche, synthétiser des documents, explorer des pistes — mais il ne remplace pas la vérification humaine.

Sept principes pour une utilisation responsable

Ce cas d'arbitrage n'est pas un accident isolé. Des avocats américains ont déjà été sanctionnés pour avoir soumis des mémoires truffés de fausses citations générées par ChatGPT. Le phénomène se répète parce que les mêmes erreurs se reproduisent : délégation excessive, absence de validation, confiance mal placée.

La Déclaration de Montréal pour le développement d'une IA responsable propose un cadre éthique structurant. Voici comment ses principes s'appliquent concrètement :

1. Bénéfice humain

L'IA doit augmenter les capacités humaines et servir le bien-être collectif. Un outil qui génère de fausses preuves juridiques fait l'inverse : il dégrade la qualité du travail et nuit aux justiciables.

2. Responsabilité humaine

L'humain demeure l'auteur final de ses décisions et de ses productions. L'arbitre reste responsable de sa sentence, peu importe les outils utilisés pour la rédiger. L'IA ne déresponsabilise jamais.

3. Supervision humaine

Un humain garde le contrôle sur les décisions à fort impact. Valider chaque référence, chaque citation, chaque donnée factuelle : c'est le minimum requis. Ce principe a été ignoré dans l'affaire Osman, avec les conséquences que l'on connaît.

4. Transparence

L'usage de l'IA doit être divulgué et les décisions doivent être explicables. Si l'arbitre avait mentionné son recours à l'IA, les parties auraient pu exiger une vérification des sources. La transparence protège tout le monde.

5. Équité

Les biais doivent être détectés et atténués pour garantir un traitement non discriminatoire. Dans ce cas, l'iniquité ne venait pas d'un biais algorithmique, mais d'une asymétrie d'information : une partie disposait de « preuves » que l'autre ne pouvait ni consulter ni réfuter.

6. Protection des données

La vie privée doit être respectée, les données minimisées et sécurisées. Ce principe s'applique moins directement ici, mais rappelons que soumettre des dossiers confidentiels à des outils d'IA grand public pose ses propres risques.

7. Sécurité et robustesse

Les systèmes doivent être fiables techniquement et résistants aux usages malveillants. Une IA qui produit des hallucinations n'est pas robuste. L'utiliser pour des décisions juridiques sans filet de sécurité, c'est construire sur du sable.

Ce que ça change pour les organisations québécoises

Les PME, OBNL et institutions du Québec adoptent l'IA à un rythme croissant. Cette adoption apporte des gains réels : productivité accrue, accès à des capacités d'analyse auparavant réservées aux grandes entreprises, automatisation de tâches répétitives.

Mais le cas Osman rappelle que ces gains s'accompagnent de responsabilités nouvelles. Quelques pratiques concrètes s'imposent :

Vérifier systématiquement les sorties factuelles. Toute référence, citation, statistique ou donnée produite par l'IA doit être validée à la source. C'est non négociable pour les contenus à enjeux juridiques, financiers ou réputationnels.

Former les équipes. Les utilisateurs doivent comprendre ce que l'IA peut et ne peut pas faire. La confiance aveugle naît souvent de l'ignorance des limites techniques.

Documenter l'usage. Garder une trace des outils utilisés et des vérifications effectuées. En cas de litige, cette documentation protège l'organisation.

Établir des politiques claires. Définir dans quels contextes l'IA peut être utilisée, avec quelles balises, et qui porte la responsabilité finale des productions.

Le vrai coût d'une hallucination

Une sentence de plus d'un million de dollars annulée. Des mois de procédures à recommencer. Une atteinte à un droit fondamental. La réputation d'un arbitre compromise. Des frais juridiques supplémentaires pour toutes les parties.

Voilà le prix réel d'une hallucination non vérifiée. Pas un inconvénient mineur. Pas un simple « glitch ». Une défaillance aux conséquences tangibles et mesurables.

L'IA générative offre des possibilités remarquables. Elle accélère le travail, ouvre des pistes, démocratise l'accès à certaines expertises. Mais elle exige une discipline nouvelle : celle de la vérification systématique, de la supervision active, de la responsabilité assumée.

Les organisations qui intègrent ces principes tireront profit de l'IA. Celles qui les ignorent s'exposent à des risques juridiques, financiers et réputationnels bien réels. Le choix appartient à chacun.