L'aspiration sauvage des données dans la mire des régulateurs
Le Commissariat à la protection de la vie privée du Canada, de concert avec plusieurs homologues provinciaux, a récemment exprimé de vives inquiétudes concernant l'agent conversationnel Grok, développé par la firme xAI. Selon les informations rapportées par Le Devoir, les autorités de régulation reprochent à la plateforme d'avoir aspiré de manière passive et non consentie les données personnelles et les publications des utilisateurs du réseau social X afin d'entraîner ses modèles de langage. Plus grave encore, le régulateur pointe du doigt les risques accrus de génération d'hypertrucages (deepfakes) à caractère sexuel, facilités par cette collecte de données non filtrée.
Cette situation met en lumière une tension fondamentale entre le modèle de développement des géants technologiques américains et les exigences législatives canadiennes. Pour fonctionner, les grands modèles de langage (LLM) nécessitent des volumes gigantesques de données. Historiquement, ces entreprises ont considéré le web public comme un réservoir gratuit de matière première, faisant fi des notions de consentement, de propriété intellectuelle et de protection de la vie privée.
Les mécanismes de l'entraînement sans consentement
Pour comprendre l'ampleur du problème, il convient de vulgariser le processus d'entraînement des intelligences artificielles. Un modèle de langage n'apprend pas comme un humain ; il analyse des milliards de phrases pour calculer des probabilités de cooccurrence de mots. Pour ce faire, des robots d'indexation parcourent le web et les réseaux sociaux pour copier massivement les textes, les images et les profils des utilisateurs.
Ce procédé pose un problème éthique et légal majeur lorsque les données copiées contiennent des renseignements personnels, des opinions politiques, des données de localisation ou des photos de famille. Une fois ces données ingérées et transformées en représentations vectorielles (les embeddings, qui permettent à la machine de comprendre la proximité sémantique des concepts), il devient techniquement presque impossible de les extraire ou de les effacer. L'utilisateur perd définitivement le contrôle de son empreinte numérique.
Au Canada, la Loi sur la protection des renseignements personnels et les documents électroniques (LPRPDE) impose pourtant des règles strictes sur le consentement éclairé. Au Québec, la Loi 25 va encore plus loin en exigeant une transparence totale sur l'utilisation des données et en limitant sévèrement leur transfert transfrontalier sans une évaluation rigoureuse des facteurs relatifs à la vie privée.
La Loi 25 et le rempart de l'architecture multi-silo
Face à ces dérives d'aspiration de données, la réponse ne peut pas être uniquement juridique ; elle doit être architecturale. C'est ici que l'approche de la plateforme québécoise ProductivIA prend tout son sens. Contrairement aux outils grand public qui centralisent les requêtes sur des serveurs étrangers pour enrichir leurs propres algorithmes, ProductivIA repose sur une architecture multi-silo strictement étanche.
Dans ce modèle, chaque organisation (qu'il s'agisse d'une école, d'une entreprise ou d'un ministère) dispose de son propre espace logique isolé. Les données textuelles, les documents administratifs et les requêtes formulées par les utilisateurs restent confinés au sein de ce silo. L'application Nuage, qui sert de gestionnaire de stockage transparent, permet à l'utilisateur de voir précisément où résident ses fichiers et d'en garder le contrôle absolu. Aucune donnée stockée ou traitée dans le cadre des activités quotidiennes n'est partagée avec d'autres silos, et encore moins utilisée pour entraîner des modèles tiers.
L'écosystème souverain : Nuage, GoIA et Matania
Cette étanchéité est renforcée par l'intégration de modèles d'IA souverains. Grâce à l'application GoIA, qui permet de comparer et d'orchestrer différents modèles de langage, les administrateurs d'un silo peuvent choisir précisément où diriger leurs flux de données. Pour les organisations soumises à la Loi 25 ou manipulant des renseignements sensibles, la plateforme permet de basculer l'ensemble des requêtes vers le fournisseur souverain Matania.
Hébergé physiquement sur le territoire québécois, le moteur Matania s'appuie sur des modèles de la famille Qwen. Contrairement aux services basés aux États-Unis, assujettis à des lois extraterritoriales comme le Cloud Act ou la section 702 de la loi FISA, Matania garantit qu'aucun flux de données ne franchit la frontière. Les requêtes sont traitées localement, sans conservation des données à des fins d'entraînement ultérieur par le fournisseur. L'utilisateur bénéficie ainsi de la puissance de l'IA générative sans risquer de voir ses informations confidentielles aspirées pour alimenter la prochaine version d'un modèle commercial.
Vers une responsabilité par conception
Le blâme adressé à Grok par les autorités canadiennes rappelle que la sécurité et la confidentialité ne peuvent plus être des considérations secondaires ou des options à cocher dans un menu de configuration complexe. Les organisations publiques et privées doivent désormais privilégier des technologies conçues dès le départ pour respecter l'intégrité des données.
En combinant un stockage transparent et localisé via Nuage, une orchestration flexible via GoIA, et un moteur d'IA souverain comme Matania, l'écosystème québécois démontre qu'il est possible de concilier productivité technologique et souveraineté numérique. La protection des renseignements personnels n'est plus un frein à l'innovation, mais le fondement même d'une informatique digne et de confiance.