Agents IA : la CNIL et le CIANum alertent sur vos données
Le 20 juillet 2026, la CNIL et le Conseil de l’IA et du numérique ont publié une note sur les agents IA : mémoire, flux de données et garde-fous à prévoir.
L’essentiel
- La CNIL et le Conseil de l’IA et du numérique (CIANum) ont publié le 20 juillet 2026 une note exploratoire sur l’IA agentique.
- Les agents IA restent pleinement soumis au RGPD, mais leur mémoire et leurs connexions multiplient les risques pour les données.
- La note propose des garde-fous : mémoire cloisonnée, accès limités, validation humaine des actions critiques, bouton d’arrêt.
De l’assistant qui répond à l’agent qui agit
La note s’intitule « IA agentique et protection des données personnelles : équation à inconnues multiples pour les utilisateurs ». Elle vise des programmes bâtis sur des modèles d’IA générative qui ne se contentent plus de répondre : ils décident par eux-mêmes, enchaînent plusieurs actions et font appel à d’autres services, qu’un humain valide ou non chaque étape.
Un tel système combine en général un agent « orchestrateur », avec lequel l’utilisateur dialogue en langage courant, et des agents spécialisés (rédaction, code, paiement en ligne…). Ces agents peuvent à leur tour puiser dans des applications, des bases de données ou le web. Pour la CNIL et le CIANum, ce passage de l’assistant qui répond à l’agent qui agit marque un changement d’échelle qui amplifie les risques, pour la cybersécurité comme pour les données personnelles.
Quatre risques identifiés
La note relève quatre sources d’inquiétude :
- la mémoire persistante : pour s’améliorer, l’agent accumule des connaissances sur son utilisateur et finit par dresser des profils très précis, au risque que celui-ci perde la maîtrise de ses données ;
- des flux de données parfois opaques entre de nombreux services ;
- des responsabilités difficiles à attribuer entre les acteurs de la chaîne ;
- des risques de cybersécurité étendus à chaque service connecté.
Le droit applicable et les garde-fous proposés
Le texte rappelle que les agents IA restent pleinement soumis au RGPD : minimisation des données, limitation des finalités, transparence. Les garanties sur les décisions entièrement automatisées (article 22 du RGPD) continuent de s’appliquer. Le règlement européen sur l’IA vaut aussi pour ces systèmes, mais il ne prévoit pas de règles qui leur soient propres. Selon la note, des lignes directrices du Comité européen de la protection des données et de la Commission sur l’articulation des deux textes sont attendues d’ici fin 2026.
Pour réduire les risques dès la conception, la note avance plusieurs pistes :
- détecter et filtrer les usages détournés : bloquer les requêtes suspectes, surveiller en temps réel les actions des agents, tester leur robustesse avant et pendant le déploiement ;
- cloisonner la mémoire : une mémoire dédiée par agent, limitée en taille, avec des informations qui expirent, et des sessions séparées selon les usages ;
- isoler l’environnement d’exécution (sandboxing) pour réduire les accès au strict nécessaire ;
- classer les actions par niveau de risque (lire, modifier, supprimer, envoyer des données hors du système) et exiger une validation humaine pour les plus sensibles ;
- prévoir un « kill switch », une commande qui interrompt l’agent à tout moment ;
- tracer chaque tâche : données utilisées, agents et services sollicités, chronologie des échanges.
Pour votre entreprise
Ce que ça change pour une entreprise en Guadeloupe
Si vous envisagez de confier à un agent IA votre messagerie, votre agenda ou votre fichier clients, la tentation est de tout connecter d’un coup pour gagner du temps. La note invite à l’inverse à limiter les accès au strict nécessaire et à garder la main sur les actions sensibles. Et parfois, une automatisation classique suffit là où l’on pensait avoir besoin d’un agent.
Pour une TPE de Guadeloupe, la démarche se traduit par quelques règles simples :
- donnez à l’agent un compte et des droits limités à sa tâche, jamais vos identifiants d’administrateur ;
- exigez votre validation avant tout envoi, paiement ou suppression ;
- vérifiez ce que l’agent mémorise, pendant combien de temps, et purgez cette mémoire régulièrement ;
- décidez qui peut arrêter l’agent, et comment, avant sa mise en service ;
- évitez les données de santé ou bancaires de vos clients dans un premier projet ;
- testez l’agent sur des cas réels avant de le confier à votre équipe, une étape travaillée dans le parcours Agents IA & automatisations.
Mise en pratique
À tester en 10 minutes
Cartographier les accès d’un futur agent
- Choisissez une tâche que vous aimeriez confier à un agent, par exemple trier les demandes de devis reçues par e-mail.
- Listez les outils et les données qu’il devrait seulement lire, puis ceux qu’il devrait modifier ou envoyer.
- Classez chaque action en trois niveaux : sans risque, à valider par un humain, interdite.
- Pour chaque action à valider, notez qui valide et à quel moment.
- Conservez cette fiche : elle sert de cahier des charges et de trace de vos choix.
Sources
- IA agentique et données personnelles : la CNIL et le Conseil de l’IA et du Numérique publient une note exploratoire (nouvel onglet) · CNIL,
- IA agentique et protection des données personnelles : équation à inconnues multiples pour les utilisateurs (note, PDF) (nouvel onglet) · CNIL et Conseil de l’IA et du Numérique