Détecter les contenus générés par IA : ce qui marche, ce qui n’existe pas

La demande revient régulièrement : « peut-on détecter automatiquement si un contenu a été généré par une intelligence artificielle ? » Elle vient des ressources humaines pour les candidatures, de la conformité pour les documents reçus, de la sécurité pour l’hameçonnage.

La réponse honnête est décevante, et il vaut mieux la donner que laisser une organisation construire une procédure sur une illusion.

Les détecteurs de texte ne sont pas fiables

Les outils qui prétendent identifier un texte généré s’appuient sur des propriétés statistiques — régularité, prévisibilité des enchaînements de mots.

Trois limites rendent leur usage risqué :

Les faux positifs frappent des populations identifiables. Les textes rédigés par des personnes non natives, ou dans un style administratif très normé, présentent des caractéristiques statistiques proches de celles d’un texte généré. Utiliser un tel outil pour écarter une candidature expose à un risque de discrimination.

Une réécriture suffit à tromper l’analyse. Un texte généré puis reformulé n’est plus détectable.

Les scores ne sont pas interprétables. « 78 % de probabilité que ce texte soit généré » ne se traduit pas en décision défendable, ni devant la personne concernée, ni devant un juge.

Notre position en mission : ne fondez aucune décision individuelle sur un détecteur de texte. Le risque juridique dépasse largement le bénéfice.

Le marquage : prometteur, mais partiel

Deux approches techniques existent pour marquer un contenu à la source.

Les métadonnées de provenance attachent au fichier une information sur son origine et son historique de modification, signée cryptographiquement. C’est robuste sur le principe.

Le tatouage numérique insère un signal imperceptible dans le contenu généré.

Leurs limites communes : ils ne fonctionnent que si le producteur les applique, ils disparaissent avec une conversion de format ou une capture d’écran, et ils n’aident pas contre un acteur malveillant qui utilise un outil sans marquage.

Ils sont utiles pour tracer des contenus légitimes. Ils ne constituent pas un dispositif de détection.

Ce que la réglementation impose

Le règlement (UE) 2024/1689 comporte des obligations de transparence : informer les personnes lorsqu’elles interagissent avec un système d’IA, et signaler certains contenus générés ou manipulés.

Cette obligation pèse sur le fournisseur et le déployeur du système — pas sur le destinataire, qui reste sans moyen de vérification. Elle organise la loyauté des acteurs de bonne foi ; elle ne protège pas contre les autres.

Pour une organisation utilisatrice, cela signifie deux choses : appliquer l’obligation à vos propres usages — voir construire une politique d’IA — et ne pas compter dessus pour ce que vous recevez.

Sur quoi reposer les procédures

Puisque la détection du contenu ne marche pas, il faut déplacer la vérification ailleurs.

Vérifier l’identité, pas le contenu

C’est le principe central. Un message frauduleux parfaitement rédigé reste frauduleux parce que son émetteur n’est pas celui qu’il prétend être.

Le rappel sur un numéro connu, indépendant du canal entrant, reste la parade la plus robuste — voir la fraude au président assistée par IA. Elle ne dépend d’aucune capacité de détection.

Vérifier les faits, pas le style

Un document généré contient souvent des éléments vérifiables : références, montants, dates, identifiants. La vérification croisée avec une source indépendante fonctionne, quelle que soit la manière dont le document a été produit.

Renforcer le processus, pas le filtre

Une double validation systématique, sans dérogation d’urgence, protège indépendamment de la qualité de la mise en scène. C’est la même logique que dans les procédures financières.

Le cas du recrutement

Question fréquente : que faire d’une lettre de motivation manifestement générée ?

Trois observations pratiques.

D’abord, vous ne pouvez pas en être certain, et une décision fondée sur un soupçon technique est indéfendable.

Ensuite, l’usage d’un outil d’aide à la rédaction est devenu banal et n’indique pas grand-chose sur la compétence — sauf si le poste consiste précisément à rédiger.

Enfin, la réponse efficace n’est pas de détecter mais d’évaluer autrement : un exercice écrit en conditions contrôlées, une question orale sur le contenu du dossier, une mise en situation. Voir les erreurs de recrutement.

Un candidat qui a fait rédiger sa lettre mais qui traite correctement l’exercice reste un bon candidat.

Ce qui change pour la sensibilisation

Le message historique — « repérez les fautes, le style approximatif, la mise en page bancale » — est périmé et il faut le dire explicitement aux équipes, sous peine d’entretenir une fausse confiance.

Le message à substituer tient en trois points :

• La forme n’est plus un indice. Un message parfait n’est pas plus légitime qu’un message maladroit.
• Ce qui reste valable : la demande inhabituelle, l’urgence, le secret, le changement de coordonnées.
• Le réflexe unique : vérifier par un canal indépendant.

C’est aussi pourquoi le taux de signalement est un meilleur indicateur que le taux de clic : on ne demande plus aux gens de reconnaître, on leur demande de vérifier et de signaler.

Ce qu’il faut répondre en interne

Quand une direction demande un outil de détection, la réponse utile n’est pas « ça n’existe pas ». C’est :

« La détection technique n’est pas fiable et nous expose juridiquement. En revanche, voici trois mesures qui traitent le risque réel : vérification d’identité par canal indépendant, double validation sans dérogation, et évaluation par mise en situation plutôt que par document. »

Un besoin exprimé sous forme d’outil cache presque toujours un besoin de procédure.

Sources

• Règlement (UE) 2024/1689 — AI Act, obligations de transparence
• CNIL — intelligence artificielle
• NIST AI Risk Management Framework
• Cybermalveillance.gouv.fr

Aller plus loin

La révision des procédures sensibles et la sensibilisation ciblée relèvent de nos missions de gouvernance, risques et conformité et du volet humain de l’audit 360.