Cadrer une consigne IA : la leçon du maximiseur de trombones

L'article en 30 secondes

• Cadrer une consigne IA consiste à préciser, en plus de l'objectif, les contraintes, les ressources autorisées, les critères d'arrêt et le mode de vérification du résultat.
• L'expérience de pensée du maximiseur de trombones, proposée par le philosophe Nick Bostrom en 2003, montre qu'un objectif banal poursuivi sans balises produit des effets absurdes.
• Le problème d'alignement désigne l'écart entre ce qu'on demande à un système d'intelligence artificielle et ce qu'on voulait réellement obtenir.
• La méthode de cadrage en cinq points présentée ici s'applique autant à un prompt qu'à un mandat confié à un fournisseur d'outil IA.
• La littératie IA précède la gouvernance : un comité qui ne partage pas le sens des mots « alignement », « AGI » ou « boîte noire » ne peut pas encadrer grand-chose.
• Limite assumée : le cadrage réduit les dérives d'usage, il ne corrige pas un modèle mal entraîné ni un fournisseur opaque.



La meilleure formation IA de ma semaine venait de la table de cuisine

Cette semaine, ce sont mes enfants qui m'ont fait la leçon. Ils m'ont montré la vidéo du créateur EGO sur le maximiseur de trombones, réalisée avec le Centre pour la sécurité de l'IA (CeSIA). J'ai passé la journée à parler de gouvernance avec des gestionnaires, et c'est un vidéaste de vulgarisation qui m'a redonné la formulation la plus nette du problème. Ce que la vidéo raconte, je l'observe en organisation ou lors de mon utilisation personnelle de l'IA : on écrit une consigne que l'on juge claire, l'outil fait exactement ce qui est écrit, et le résultat n'a rien à voir avec l'intention de départ.

Le maximiseur de trombones, c'est quoi exactement?

Le maximiseur de trombones est une expérience de pensée formulée par le philosophe Nick Bostrom en 2003. On confie à une intelligence artificielle très performante un objectif inoffensif : produire le plus de trombones possible. Aucune contrainte n'accompagne l'objectif. Le système optimise donc sans limite : il réquisitionne des matériaux, contourne les obstacles, résiste à ce qui l'empêche de produire. L'objectif n'était pas dangereux. C'est l'absence de balises autour de l'objectif qui le devient. L'expérience sert à illustrer le problème d'alignement, soit l'écart entre l'instruction donnée et l'intention réelle.



Trois termes à définir avant d'écrire une politique interne

La littératie IA est la première étape de toute gouvernance, parce qu'on ne peut pas encadrer ce qu'on ne comprend pas. Trois termes reviennent constamment dans les comités et sont rarement définis de la même façon par tous les participants.

Alignement : degré de correspondance entre le comportement d'un système d'IA et les intentions, valeurs et contraintes de ceux qui l'utilisent. Un système peut être techniquement performant et mal aligné.

AGI (intelligence artificielle générale) : système hypothétique capable d'accomplir la majorité des tâches cognitives humaines. Le terme désigne un horizon de recherche, pas les outils actuellement déployés dans les organisations.

Boîte noire : système dont on observe les entrées et les sorties sans pouvoir expliquer le cheminement qui mène de l'une à l'autre. C'est une caractéristique de plusieurs modèles génératifs, et une contrainte directe pour la reddition de comptes.

Pour aller plus loin, CNET France a publié un glossaire de 56 termes d'IA que je recommande de distribuer avant la première réunion d'un comité de gouvernance. Trente minutes de lecture partagée évitent des mois de malentendus.



Ce que le trombone change dans une PME ou un OBNL du Québec

Personne ne déploie de superintelligence dans une PME québécoise. La mécanique, elle, se reproduit à petite échelle et coûte cher.

Une équipe des communications demande à un assistant génératif de « rédiger des publications qui maximisent l'engagement ». L'outil livre exactement ça : des formulations racoleuses, des affirmations non vérifiées, un ton étranger à l'organisation. Objectif atteint, intention trahie, pertinence nule.

Un OBNL demande à un outil de « résumer les dossiers des participants pour accélérer le traitement ». Rien dans la consigne n'indique quels renseignements personnels sont exclus, ni où les données transitent. L'outil optimise la vitesse. La conformité n'était pas dans l'énoncé.

Un service des ressources humaines demande un « classement des candidatures par pertinence ». Aucun critère n'est fourni. Le système en invente à partir de régularités statistiques, et personne ne peut expliquer le classement obtenu à un candidat qui le conteste.

Dans les trois cas, l'objectif était clair. C'est le contour qui manquait.



Cadrer une consigne IA : la méthode en cinq points

Voici la grille que j'utilise en atelier. Elle vaut pour un prompt écrit par un employé comme pour un mandat confié à un fournisseur. Chaque ligne se répond en une phrase. Si une ligne reste vide, la consigne n'est pas prête.

Le point 4 est celui qu'on oublie le plus souvent, et c'est exactement celui qui manque au maximiseur de trombones. Un objectif sans critère d'arrêt est une consigne ouverte.



Le test des quatre questions, avant de déployer

Avant d'autoriser un usage à l'échelle d'une équipe, quatre questions suffisent à repérer les consignes mal cadrées.

1. Si l'outil exécute ma consigne à la lettre, quel est le pire résultat plausible?
2. Quelle information sensible pourrait entrer dans le traitement sans que je l'aie prévu?
3. Qui, dans l'organisation, saura expliquer le résultat à un client, à un employé ou à un membre?
4. À quel moment un humain doit obligatoirement intervenir, et que se passe-t-il s'il ne le fait pas?

Une consigne qui survit à ces quatre questions est déployable. Les autres retournent à la grille en cinq points.



Ce que le cadre québécois exige déjà

La Loi 25 encadre la collecte, l'utilisation et la communication des renseignements personnels au Québec. Elle impose une évaluation des facteurs relatifs à la vie privée pour les projets d'acquisition ou de refonte de systèmes qui traitent de tels renseignements, et prévoit des obligations de transparence lorsqu'une décision est fondée exclusivement sur un traitement automatisé. Concrètement, les points 2, 3 et 5 de la grille de cadrage sont la traduction opérationnelle de ces obligations.

Au fédéral, la Loi sur l'intelligence artificielle et les données (LIAD) a été proposée dans le cadre du projet de loi C-27 et n'a pas été adoptée. Elle ne crée aucune obligation actuelle, mais sa logique d'évaluation des incidences élevées inspire déjà plusieurs pratiques internes. Le règlement européen sur l'intelligence artificielle (AI Act) s'applique aux organisations dont les systèmes touchent des personnes situées dans l'Union européenne. Enfin, le Cloud Act américain demeure pertinent dès qu'un fournisseur est soumis au droit des États-Unis, ce qui touche la majorité des outils génératifs grand public.



Ce que j'en pense

Je crois qu'on a inversé l'ordre des priorités dans beaucoup d'organisations. On achète des licences, on rédige une politique d'utilisation de trois pages, puis on espère que les équipes s'y retrouvent. La séquence utile est l'inverse : d'abord une base de vocabulaire commun, ensuite une méthode de cadrage des consignes, et seulement après une politique qui encadre des pratiques réelles plutôt que des pratiques imaginées.

Je crois aussi qu'il faut cesser de traiter la littératie IA comme un sujet de spécialistes. Une vidéo de vulgarisation regardée en famille, un glossaire partagé avant une réunion, un exercice de reformulation de consignes en équipe : ces gestes-là produisent plus d'effet qu'une conférence annuelle. La gouvernance commence quand tout le monde comprend de quoi on parle. Parfois, ça commence à la table de cuisine.



Les limites de l'exercice

Le cadrage des consignes réduit les dérives d'usage. Il ne règle pas les problèmes qui se situent en amont : un modèle entraîné sur des données biaisées restera biaisé même avec une consigne impeccable, et un fournisseur qui ne documente ni ses sources ni sa localisation de données demeure un risque contractuel, pas un risque de prompt.

L'expérience du maximiseur de trombones a par ailleurs ses détracteurs. Elle est volontairement caricaturale et porte sur des systèmes hypothétiques très supérieurs aux outils actuels. Je l'utilise comme outil pédagogique sur le cadrage, pas comme prédiction technologique. Enfin, la grille en cinq points est une pratique de terrain, pas un référentiel normé : elle s'intègre à une démarche de gouvernance, elle ne la remplace pas.



À propos de l'auteure

 Annie Daigneault est fondatrice et présidente d'extensio.ai, firme-conseil québécoise spécialisée en gouvernance et en adoption responsable de l'intelligence artificielle, au service des PME, des OBNL, des ordres professionnels et des institutions publiques du Québec. extensio.ai est un organisme formateur agréé par la Commission des partenaires du marché du travail (agrément no 0061225).



Sources

1. Nick Bostrom, philosophe, travaux sur l'éthique de la superintelligence, 2003 : nickbostrom.com
2. EGO, en collaboration avec le Centre pour la sécurité de l'IA (CeSIA), L'horreur existentielle de l'usine à trombones , vidéo de vulgarisation.
3. CNET France, Votre glossaire de l'IA : 56 termes que tout le monde devrait connaître.

Passez de la réflexion à l'action

Nos services visent à vous donner les clés pour agir. Découvrez comment nous pouvons accompagner votre organisation :

• Évaluez votre niveau de préparation avec le diagnostic de maturité IA, Posture IA™.
• Structurez votre démarche avec un accompagnement en développement d'un plan d'adoption de l'IA.
• Assurez un déploiement éthique grâce à notre expertise en gouvernance IA responsable.
• Renforcez les compétences de vos équipes via nos ateliers de formation et de vulgarisation en IA.



Questions fréquemment posées

C'est quoi le maximiseur de trombones en intelligence artificielle?

Le maximiseur de trombones est une expérience de pensée du philosophe Nick Bostrom, formulée en 2003. On confie à une IA très performante l'objectif de produire un maximum de trombones, sans aucune contrainte. Le système optimise alors sans limite et réquisitionne toutes les ressources disponibles. L'exemple sert à illustrer le problème d'alignement : un objectif inoffensif devient dangereux quand les balises autour de l'objectif ne sont pas précisées.



Comment bien cadrer une consigne donnée à une IA générative?

Cinq éléments doivent figurer dans la consigne : l'objectif exprimé sous forme de livrable observable, les contraintes absolues (données exclues, ton interdit), les ressources et systèmes auxquels l'outil a accès, le critère d'arrêt qui indique quand la tâche est terminée, et le mode de vérification humaine du résultat. Si un de ces cinq points reste vide, la consigne n'est pas prête à être déployée en équipe.



Qu'est-ce que le problème d'alignement de l'IA?

L'alignement désigne le degré de correspondance entre le comportement d'un système d'intelligence artificielle et les intentions, valeurs et contraintes de ceux qui l'utilisent. Le problème d'alignement survient lorsqu'un système exécute fidèlement l'instruction reçue tout en trahissant l'intention réelle. Un outil peut donc être techniquement performant et mal aligné, parce que la consigne omettait des contraintes jugées évidentes par ses auteurs.



Par où commencer la gouvernance de l'IA dans une PME ou un OBNL au Québec?

Par la littératie, avant la politique. On établit d'abord un vocabulaire commun (alignement, boîte noire, décision automatisée), puis une méthode de cadrage des consignes utilisée par les équipes, et seulement ensuite une politique interne qui encadre des pratiques réelles. Une politique rédigée avant d'avoir observé les usages encadre des situations imaginées plutôt que celles qui surviennent au quotidien.



Quelles obligations la Loi 25 crée-t-elle pour l'usage de l'IA au Québec?

La Loi 25 encadre la collecte, l'utilisation et la communication des renseignements personnels. Elle exige une évaluation des facteurs relatifs à la vie privée lors de projets d'acquisition ou de refonte de systèmes traitant de tels renseignements, et impose d'informer la personne lorsqu'une décision repose exclusivement sur un traitement automatisé. Ces exigences se traduisent concrètement par des contraintes écrites dans les consignes données aux outils d'IA.



La LIAD s'applique-t-elle aux organisations canadiennes actuellement?

Non. La Loi sur l'intelligence artificielle et les données (LIAD) a été proposée dans le cadre du projet de loi fédéral C-27 et n'a pas été adoptée. Elle ne crée donc aucune obligation en vigueur. Sa logique d'évaluation des systèmes à incidence élevée inspire toutefois plusieurs cadres internes au Canada, et les organisations québécoises restent soumises à la Loi 25 pour les renseignements personnels.



Un bon cadrage de consigne suffit-il à rendre l'IA sécuritaire?

Non. Le cadrage réduit les dérives d'usage, mais il ne corrige pas un modèle entraîné sur des données biaisées, ni l'opacité d'un fournisseur. Les questions d'hébergement des données, de localisation des serveurs et de droit applicable, notamment le Cloud Act américain, relèvent du contrat et de la sélection du fournisseur. Le cadrage est une couche de gouvernance parmi plusieurs, pas une garantie globale.