Les IA qui décident et agissent seules à votre place ne sont plus une hypothèse de laboratoire. La CNIL et le Conseil de l'IA et du Numérique viennent de publier leur premier diagnostic officiel, une note exploratoire de 17 pages qui identifie les risques concrets, pointe ce que le RGPD peine à saisir et laisse le citoyen français avec peu de leviers immédiats.
Deux mémoires une même délégation
Une IA agentique est un logiciel qui reçoit une consigne en langage courant. Elle la décompose en plusieurs tâches et les exécute seule en pilotant plusieurs outils, comptes ou services. Réserver un billet, trier vos mails, lancer un paiement, mettre à jour votre agenda : ces actions ne sont plus proposées à votre validation. Elles sont automatiquement réalisées par l’IA. La note CNIL-CIANum parle d'une « équation à inconnues multiples pour les utilisateurs ».
Techniquement, deux mécanismes rendent l'affaire possible :
-
Le contexte temporaire garde en tête l'échange en cours.
-
La mémoire persistante conserve durablement ce que le système sait de vous : vos habitudes, vos contacts, vos préférences, parfois vos données de santé ou vos coordonnées bancaires.
C'est cette mémoire qui rend l'agent utile après quelques semaines d'usage. C'est aussi elle qui échappe le plus au contrôle de l'utilisateur.
Le fichier supprimé reste dans l'agent
L'exemple donné dans la note est simple. Vous supprimez un fichier sensible d'un dossier partagé avec votre IA agentique. Rien ne garantit que la donnée est effacée de la mémoire de l'agent. Elle peut continuer à être mobilisée lors d'interactions futures sans que vous en soyez informé.
Autre cas cité dans la note CNIL et à l'origine rapporté par Business Insider : une employée d'un grand acteur du numérique a vu son IA agentique supprimer un volume important de ses emails professionnels sans qu'elle parvienne à interrompre le processus à distance. Aucun bouton d'arrêt n'était accessible pendant l'incident.
Meredith Whittaker, présidente de Signal, résume la promesse marketing par une métaphore que la note CNIL reprend telle quelle en page 8 : « put your brain in a jar and let AI handle life », soit « mettez votre cerveau dans un bocal et laissez l'IA gérer votre vie ». La formulation est provocante mais elle traduit un mouvement de fond. La délégation décisionnelle s'installe petit à petit dans le quotidien des utilisateurs.
Six principes du RGPD sous tension
Le RGPD s'applique déjà aux IA agentiques et la CNIL le rappelle explicitement. Mais son diagnostic pointe six principes fondamentaux que cette architecture bouscule en profondeur :
-
Finalité : un agent qui exécute des tâches très variées rend difficile la définition d'un périmètre clair pour chaque traitement.
-
Minimisation : accès à vos emails, votre agenda, vos documents partagés, l'agent collecte souvent bien plus que le strict nécessaire à la tâche demandée.
-
Exactitude : les hallucinations peuvent se propager d'un agent à l'autre sans mécanisme d'alerte pour l'utilisateur.
-
Transparence : vous voyez la sortie produite, jamais la chaîne de décisions qui y a mené.
-
Durée de conservation : les mémoires multiples et diffuses rendent le contrôle des délais quasi impossible.
-
Exercice des droits : demander l'accès ou l'effacement suppose de savoir quel agent a collecté quoi, où et sous quelle responsabilité.
Sur ce dernier point la note est directe. La personne concernée peut avoir du mal à savoir « quel agent a collecté l'information, où elle a été conservée, si elle a été transmise à un autre composant du système, et auprès de quel responsable elle doit exercer ses droits ». En clair, les droits existent mais l'architecture technique les rend difficiles à mobiliser.
Trois voies de conciliation avancées
Les pistes évoquées par la note sont de trois natures. Renforcer la transparence en imposant aux systèmes d'IA agentique une traçabilité complète de chaque décision : quelles données mobilisées, quels agents intervenus, quels services tiers sollicités, dans quel ordre. Donner à l'utilisateur un vrai contrôle sur les données auxquelles les agents peuvent accéder, en particulier lorsqu'elles sont sensibles. Encadrer strictement les décisions individuelles automatisées au sens de l'article 22 du RGPD.
Cet article garantit à toute personne le droit de ne pas subir une décision fondée exclusivement sur un traitement automatisé produisant des effets juridiques la concernant ou l'affectant de manière significative. La Cour de justice de l'Union européenne, dans son arrêt SCHUFA du 7 décembre 2023 (C-634/21) a retenu une lecture large de cette notion de décision. Dans la lignée de cet arrêt, la CNIL rappelle dans sa note qu'une simple validation formelle par un humain ne suffit pas à sortir du régime de l'article 22 : « l'intervention humaine doit être réelle, effective et exercer une influence sur la décision finale ».
Sur le plan technique, la note évoque plusieurs mesures à intégrer dès la conception : cloisonnement de la mémoire des agents pour éviter l'accumulation de données, déploiement dans des environnements isolés (sandboxing), installation d'un bouton d'arrêt d'urgence (kill switch) à la main de l'utilisateur. Rien n'est obligatoire à ce stade. Le CEPD et la Commission européenne préparent des lignes directrices attendues d'ici fin 2026.
Comment reprendre la main dès maintenant
En attendant ces lignes directrices, la charge de la vigilance reste sur les épaules de l'utilisateur. Deux réflexes d'hygiène numérique et un rappel de droit restent utiles dès aujourd'hui.
Côté hygiène, refuser d'accorder à un agent IA l'accès complet à votre messagerie ou à vos dossiers cloud tant que vous ne pouvez pas voir précisément ce qu'il lit et ce qu'il fait. Un accès trop large accordé une fois devient rarement plus étroit ensuite.
Désactiver la mémoire persistante quand l'outil le permet (ChatGPT, Claude, Copilot proposent tous une option de ce type dans leurs paramètres) et purger l'historique régulièrement. Un agent qui repart de zéro à chaque conversation reste utile pour beaucoup d'usages.
Côté droit, l'article 22 paragraphe 3 du RGPD ouvre à la personne concernée le droit d'obtenir du responsable du traitement une intervention humaine, d'exprimer son point de vue et de contester la décision. Ce droit peut être invoqué dès qu'une décision automatisée produit des effets juridiques ou affecte significativement la personne : crédit refusé, prestation suspendue, contenu supprimé sans explication claire.
La note CNIL diagnostique un problème que la réglementation ne sait pas encore trancher. Sa lecture confirme surtout une chose : refuser par défaut ce qu'un agent IA ne justifie pas ligne à ligne est aujourd'hui le seul rempart pratique. Pour comprendre ce qu'est un agent IA et le protocole MCP qui le fait fonctionner, notre dossier de fond sur les agents IA reste d'actualité.