L'illusion de la transparence administrative
L'intégration de l'intelligence artificielle au sein des services publics s'accélère, promettant une efficacité accrue et un traitement plus rapide des dossiers. Cependant, cette automatisation se heurte de plus en plus à un mur d'opacité. Une étude récente, publiée sur la plateforme de prépublication scientifique arXiv sous le titre "Is This Not Enough?": Asymmetries in Institutional Accountability and Collective Sensemaking in the Case of Canada's Algorithmic Visa Triage System, met en lumière les limites des mécanismes actuels de transparence.
En analysant le système de tri des visas de résidence temporaire utilisé par Immigration, Réfugiés et Citoyenneté Canada (IRCC), les chercheurs révèlent un écart béant entre la conformité administrative théorique et l'expérience vécue par les usagers. Alors que l'institution publie des Évaluations d'impact algorithmique (ÉIA) pour démontrer sa bonne foi, les demandeurs d'asile et de visa se retrouvent confrontés à des décisions automatisées incompréhensibles. Cette situation force les usagers à se regrouper sur des forums en ligne, comme Reddit, pour tenter de décoder collectivement la logique obscure de la machine. Ce phénomène de « décryptage collectif » met en évidence l'insuffisance des outils de transparence traditionnels face à la complexité des systèmes décisionnels modernes.
Les trois asymétries de la décision automatisée
L'étude scientifique identifie trois déséquilibres majeurs qui minent la confiance du public envers les algorithmes étatiques :
- L'asymétrie épistémique : Il existe un fossé immense entre les informations techniques détenues par l'administration et la compréhension qu'en ont les citoyens. Les documents de conformité officiels, souvent trop abstraits, n'expliquent pas concrètement pourquoi une demande spécifique a été rejetée ou acceptée.
- L'asymétrie juridictionnelle : Les usagers, souvent situés à l'étranger, sont soumis à des décisions prises par des infrastructures centralisées sans disposer de recours clairs ni de visibilité sur les lois extraterritoriales qui régissent le transit de leurs données.
- L'asymétrie opérationnelle : Les systèmes d'IA fonctionnent de manière monolithique, sans que l'utilisateur puisse retracer le cheminement logique ou l'enchaînement des modèles de langage (LLM) ayant mené au résultat final.
Au Canada, la Directive sur la prise de décision automatisée du Secrétariat du Conseil du Trésor tente d'encadrer ces pratiques. Toutefois, la réalité technique dépasse souvent les cadres réglementaires. Lorsque les systèmes administratifs s'appuient sur des architectures d'IA complexes, la traçabilité des données devient un enjeu de souveraineté et de dignité humaine.
Expliquer la technique : de la boîte noire à l'auditabilité
Pour comprendre l'origine de cette opacité, il faut analyser le fonctionnement des architectures d'IA actuelles. La plupart des solutions commerciales reposent sur des modèles de langage massifs qui agissent comme des boîtes noires. Lorsque ces modèles sont intégrés dans des processus décisionnels, ils effectuent ce que l'on appelle de l'orchestration d'agents (ou IA agentique). L'agent conversationnel reçoit une requête, interroge des bases de données, appelle des services tiers, puis formule une réponse.
Dans un système opaque, si l'un des composants échoue ou si un modèle de langage est indisponible, le système effectue souvent un « fallback silencieux » : il bascule vers un autre modèle ou une autre base de données sans en avertir l'utilisateur ni consigner cette modification. Ce manque de traçabilité rend toute vérification ultérieure impossible.
Pour respecter les exigences de la Loi 25 sur la protection des renseignements personnels au Québec, les organisations doivent être en mesure de cartographier précisément le flux des données et de justifier chaque décision automatisée. Cela nécessite une architecture logicielle conçue dès le départ pour l'auditabilité, où chaque appel de service et chaque accès aux données sont enregistrés de manière transparente et immuable.
La réponse de ProductivIA : l'orchestration transparente par design
La plateforme ProductivIA propose une approche rigoureusement opposée à la culture de la boîte noire. Conçue comme un environnement applicatif souverain s'exécutant directement dans le navigateur, elle repose sur des principes de transparence absolue et de contrôle de l'utilisateur.
Au cœur de cette architecture, l'application Assistant orchestre les différentes tâches en s'appuyant sur le mécanisme des assistant_services. Contrairement aux systèmes propriétaires fermés, chaque action déclenchée par l'Assistant (qu'il s'agisse d'une recherche sémantique dans la Base documentaire ou d'un appel à un modèle de langage) est explicitement déclarée, tracée et consignée. Il n'existe aucun « fallback silencieux » : si un modèle ou un service échoue, l'erreur remonte de manière transparente, permettant aux administrateurs de comprendre immédiatement l'anomalie.
Toutes les données générées, les fichiers stockés et les journaux d'activité sont accessibles en temps réel à l'utilisateur via l'application Nuage. Ce stockage transparent, structuré au sein du silo propre à l'organisation, garantit que les données ne transitent jamais vers des infrastructures tierces non autorisées.
De plus, pour les institutions soumises à des contraintes strictes de souveraineté, la plateforme permet de basculer l'ensemble de ses requêtes vers le fournisseur LLM souverain Matania, dont les serveurs sont physiquement implantés au Québec. Cette intégration garantit une conformité naturelle avec la Loi 25, en évitant le transfert transfrontalier de renseignements sensibles vers des juridictions soumises à des lois extraterritoriales comme le Cloud Act américain.
Cette transparence logicielle s'inscrit dans une vision globale de souveraineté numérique qui englobe également le matériel. En associant la plateforme ProductivIA à Boréal-OS (le système d'exploitation natif souverain qui redonne vie aux ordinateurs anciens), les organisations publiques et corporatives peuvent déployer un environnement de travail entièrement vérifiable, sans télémétrie cachée, de la machine jusqu'à l'application d'IA.
Pour aller plus loin
La confiance des citoyens envers les institutions ne pourra se reconstruire qu'au prix d'une transparence technique réelle, dépassant les simples formulaires de conformité administrative. Alors que les gouvernements explorent de nouvelles avenues pour encadrer l'IA, la question demeure : les organisations publiques sont-elles prêtes à abandonner les solutions propriétaires opaques pour adopter des architectures logicielles véritablement auditables et souveraines ?