IA générative : comment vos données internes sortent sans que personne ne le décide

Aucune des fuites liées à l’IA générative que nous rencontrons ne résulte d’une attaque. Elles résultent d’usages ordinaires, par des gens qui font leur travail plus vite.

Voici les chemins réels, et ce qui les ferme.

Chemin 1 — L’outil public utilisé pour un document interne

Un collaborateur colle un contrat, un compte rendu ou une base de prospects dans un service grand public pour obtenir un résumé ou une reformulation.

Selon les conditions du service, ces contenus peuvent être conservés et utilisés pour l’amélioration du modèle. Dans tous les cas, ils ont quitté votre périmètre, et vous ne pouvez ni le constater ni le révoquer.

Ce qui ferme le chemin : fournir une alternative interne validée. Interdire sans proposer produit systématiquement du contournement — le même mécanisme que pour les accès distants.

Chemin 2 — L’assistant interne qui n’hérite pas des droits

Quand on indexe une base documentaire pour la rendre interrogeable, on produit une représentation du contenu qui ne porte pas les autorisations d’origine. L’assistant interroge son index, pas votre serveur de fichiers.

Résultat : un salarié qui ne pourrait pas ouvrir un document peut en obtenir le contenu reformulé. Le contrôle d’accès existe toujours sur le fichier, et ne s’applique plus à l’information.

Ce qui ferme le chemin : un filtrage des sources par identité au moment de la requête. À exiger par écrit du fournisseur — voir les points à vérifier avant déploiement.

Chemin 3 — L’historique des conversations

Les échanges avec un assistant contiennent souvent plus d’information sensible que les documents eux-mêmes : contexte, arbitrages, éléments de négociation, difficultés internes.

Ces historiques sont rarement classés, rarement chiffrés spécifiquement, et souvent conservés sans durée définie.

Ce qui ferme le chemin : traiter l’historique comme une donnée à part entière — durée de conservation, contrôle d’accès, inclusion dans le registre RGPD.

Chemin 4 — Les extensions et connecteurs

Une extension de navigateur qui « résume la page » envoie le contenu affiché à un tiers. Sur une application métier, c’est une exfiltration continue et silencieuse.

Ce qui ferme le chemin : une politique d’extensions sur les navigateurs d’entreprise, et une revue des connecteurs autorisés sur les outils collaboratifs.

Chemin 5 — L’injection de prompt

Un document ou un courriel contenant des instructions dissimulées, lues et exécutées par un assistant qui ne distingue pas la donnée de la consigne.

Le risque devient sérieux dès que l’assistant peut agir : envoyer un message, appeler une interface, modifier un enregistrement. L’OWASP Top 10 for LLM Applications classe cette catégorie en tête, sans parade complète connue.

Ce qui limite : cloisonner les sources non fiables, exiger une validation humaine sur les actions sensibles, restreindre les capacités d’action au strict nécessaire.

Mesurer avant d’interdire

La première étape n’est pas la politique, c’est le constat. Combien de collaborateurs utilisent déjà ces outils, pour quoi faire, avec quelles données ?

Une politique rédigée sans cette mesure vise des usages imaginaires et rate les usages réels. Et un chiffre — même approximatif — est ce qui débloque l’arbitrage en direction, comme pour tout budget sécurité.

Le cadre applicable

Un traitement de données personnelles par un système d’IA suppose une base légale, une information des personnes et une inscription au registre. La CNIL publie des recommandations dédiées.

Le règlement (UE) 2024/1689 (AI Act) gradue les obligations selon le niveau de risque : un assistant de productivité relève généralement d’un risque limité, mais un système intervenant dans le recrutement ou l’évaluation bascule dans une catégorie nettement plus exigeante.

La checklist minimale

1. Existe-t-il une alternative interne validée à l’outil public ?
2. Les droits d’accès sont-ils appliqués à la source, par utilisateur ?
3. Les historiques ont-ils une durée de conservation définie ?
4. Les extensions de navigateur sont-elles encadrées ?
5. Quelles actions l’assistant peut-il déclencher sans validation humaine ?
6. Le traitement figure-t-il au registre RGPD ?

Sources

• OWASP Top 10 for LLM Applications
• CNIL — intelligence artificielle
• Règlement (UE) 2024/1689 — AI Act

Aller plus loin

Nous auditons ces usages dans le cadre de l’audit 360, et l’encadrement relève de la gouvernance, risques et conformité.