L'appel à un encadrement mondial de l'intelligence artificielle
Pendant que les instances internationales débattent de traités éthiques et de cadres de régulation pour l'intelligence artificielle, les organisations publiques et privées font face à un défi technique immédiat : rendre leurs systèmes d'information auditables. Récemment, l'ambassadeur du Canada auprès de l'Organisation des Nations Unies (ONU), David Lametti, a plaidé vigoureusement pour un encadrement mondial, sécurisé et équitable de l'IA. Selon des informations rapportées par Le Globe and Mail, cette initiative diplomatique vise à harmoniser les standards de sécurité et à prévenir les dérives technologiques à l'échelle internationale, dans le prolongement des discussions amorcées lors du Sommet du G7.
Pourtant, la mise en œuvre de ces principes éthiques se heurte à une réalité pragmatique. Pour une municipalité québécoise, un réseau scolaire ou une entreprise locale, la gouvernance de l'IA ne peut pas se limiter à la signature d'une charte de bonne conduite. Elle doit se traduire par des mécanismes informatiques concrets, capables de garantir la souveraineté des données et de se conformer à des législations strictes comme la Loi 25 au Québec. Le véritable enjeu n'est plus seulement de savoir ce que l'IA devrait faire, mais de pouvoir vérifier avec exactitude ce qu'elle fait en temps réel.
De l'éthique abstraite à l'auditabilité technique
Pour comprendre les obstacles à une IA gouvernable, il convient d'analyser le fonctionnement des architectures logicielles actuelles. La majorité des solutions commerciales reposent sur des boîtes noires centralisées. Lorsqu'un utilisateur interroge un agent conversationnel, la requête transite par des serveurs intermédiaires, souvent situés à l'étranger, sans que l'organisation puisse tracer le cheminement exact des données. D'après le rapport annuel du Centre de la sécurité des télécommunications Canada (CST), la dépendance à des infrastructures cloud non vérifiables et centralisées hors frontières expose les organisations à des risques accrus d'exfiltration de données et de non-conformité réglementaire.
Un autre risque majeur réside dans le phénomène des « fallbacks silencieux » (ou bascules cachées). Si un fournisseur d'IA subit une panne ou une surcharge de ses serveurs, le système peut rediriger automatiquement la requête vers un autre modèle ou un autre centre de données, parfois soumis à des lois extraterritoriales comme le CLOUD Act américain ou la section 702 de la loi FISA. Pour les institutions publiques, cette absence de contrôle direct est incompatible avec l'obligation d'effectuer une évaluation des facteurs relatifs à la vie privée (EFVP), telle que prescrite par la Commission d'accès à l'information du Québec.
Pour pallier ces failles, la recherche scientifique s'oriente vers des techniques d'ancrage comme le RAG (Retrieval-Augmented Generation). Cette méthode consiste à coupler un modèle de langage à une base de données vectorisée interne. Grâce aux « embeddings » — des représentations mathématiques qui capturent le sens sémantique des textes —, le système recherche d'abord les documents pertinents au sein de l'organisation avant de formuler une réponse. L'IA ne cherche plus à inventer ou à puiser dans des sources externes non contrôlées : elle s'appuie exclusivement sur des faits vérifiables et locaux, réduisant ainsi drastiquement les risques d'hallucination et de fuite d'informations.
La gouvernance inscrite dans l'architecture de ProductivIA
La plateforme ProductivIA aborde la gouvernance de l'IA non pas comme une contrainte juridique a posteriori, mais comme un pilier de sa conception technique. L'architecture de la plateforme repose sur un cloisonnement strict par silos logiques. Chaque organisation dispose de son propre espace étanche, garantissant que les données de session, les documents et les requêtes ne se mélangent jamais avec ceux d'autres entités. Ce cloisonnement empêche toute fuite collatérale et assure une conformité native avec les exigences de la Loi 25.
Cette transparence s'incarne de manière très concrète à travers l'application Nuage. Contrairement aux suites bureautiques propriétaires où le stockage des données reste opaque, l'application Nuage de ProductivIA offre une visibilité totale sur l'arborescence des fichiers et les interactions de l'IA. Chaque document ingéré pour alimenter la mémoire de l'organisation est traçable. L'utilisateur sait précisément où vivent ses données et peut les exporter ou les supprimer à tout moment, sans intermédiaire.
De plus, la plateforme refuse catégoriquement le principe des bascules silencieuses. Grâce à l'application Comparateur IA, les administrateurs peuvent configurer et tester de manière transparente différents modèles de langage. Si un service devient indisponible, le système lève une erreur explicite plutôt que de rediriger passivement les requêtes vers un serveur tiers non approuvé. Cette rigueur permet d'intégrer en toute sécurité des moteurs d'IA souverains comme Matania, hébergé physiquement au Québec, garantissant que les données sensibles ne franchissent jamais les frontières nationales.
Vers une pile souveraine et vérifiable
L'effort de gouvernance initié au niveau applicatif par ProductivIA prend tout son sens lorsqu'il s'associe aux autres étages de l'écosystème souverain québécois. Pour les organisations soucieuses de maîtriser l'ensemble de leur chaîne technologique, l'alternative consiste à combiner la machine, l'environnement de travail et le moteur d'intelligence artificielle.
En installant le système d'exploitation natif Boréal OS sur leurs ordinateurs, les institutions s'affranchissent de la télémétrie obligatoire des systèmes commerciaux et prolongent la vie utile de leur matériel. Sur cette base matérielle sécurisée, l'environnement applicatif no-code de ProductivIA s'exécute directement dans le navigateur, tandis que le moteur souverain Matania traite les requêtes d'IA localement. Cette approche modulaire et transparente démontre que la sécurité et l'équité de l'IA, réclamées à la tribune de l'ONU, ne sont pas des utopies lointaines, mais des choix d'architecture technique accessibles dès aujourd'hui.