Contenus générés ou modifiés par IA : provenance, indices et limites des détecteurs
Une photographie montre une personnalité dans une situation compromettante. Une vidéo lui fait prononcer une déclaration spectaculaire. Un enregistrement téléphonique reproduit parfaitement sa voix.
Une question vient désormais immédiatement à l’esprit :
« Est-ce généré par intelligence artificielle ? »
La question est légitime. Les systèmes génératifs permettent de produire ou modifier des images, des voix et des vidéos avec un réalisme qui rend de moins en moins raisonnable l’idée qu’un faux devrait forcément contenir des défauts visibles.
Mais cette évolution crée aussi un nouveau piège : croire qu’il suffirait de remplacer notre ancienne confiance dans nos yeux par un détecteur automatique capable de nous répondre “vrai” ou “IA”.
La vérification ne fonctionne pas ainsi.
Les méthodes techniques de détection peuvent fournir des indices importants, mais leurs performances dépendent des contenus, des transformations et des générateurs qu’elles rencontrent. Les méthodes de provenance et de signature numérique apportent un autre type d’information, très précieux, mais elles ne déterminent pas davantage si ce que montre un contenu est factuellement vrai.
La bonne démarche reste donc celle que nous avons construite depuis le début de cette catégorie : identifier l’affirmation, rechercher la provenance, retrouver la source originale, vérifier le contexte, chercher des confirmations indépendantes et utiliser les outils automatiques comme éléments du dossier plutôt que comme verdicts.
« Contenu IA » recouvre plusieurs réalités
L’expression est souvent utilisée comme si elle désignait une seule catégorie.
Pourtant, plusieurs situations très différentes existent.
Une image peut avoir été entièrement générée à partir d’une instruction textuelle.
Une véritable photographie peut être modifiée pour ajouter ou supprimer une personne.
Le visage d’une personne peut être remplacé dans une vidéo.
Une voix peut être synthétisée à partir d’échantillons réels.
Une photographie authentique peut simplement avoir subi une correction d’exposition ou un effacement d’arrière-plan sans que son contenu informationnel essentiel soit falsifié.
Enfin, une image peut ne contenir aucune génération artificielle et être malgré tout utilisée de manière entièrement trompeuse parce qu’elle est attribuée au mauvais événement.
Ces situations ne posent pas exactement la même question.
Demander seulement :
« Y a-t-il eu de l’IA quelque part dans la production ? »
peut donc être beaucoup moins utile que :
« La transformation éventuelle modifie-t-elle ce que ce contenu prétend établir ? »
Le faux synthétique n’a pas remplacé le vrai contenu décontextualisé
L’arrivée des générateurs d’images et de vidéos pourrait nous faire croire que toute désinformation visuelle récente est désormais un deepfake sophistiqué.
Ce serait une erreur.
Une vieille photographie authentique attribuée à une guerre actuelle reste extrêmement facile à produire : il suffit de modifier la légende.
Une véritable vidéo peut être accompagnée de faux sous-titres.
Une déclaration ancienne peut être présentée comme récente.
Une image réelle peut être recadrée de manière à changer l’interprétation.
Ces manipulations possèdent un avantage pour celui qui désinforme : elles utilisent un contenu qui est réellement authentique.
Un détecteur d’images synthétiques peut donc parfaitement répondre :
« cette photographie semble réelle »
et avoir techniquement raison, alors que l’information transmise reste fausse.
La distinction entre authenticité matérielle du contenu et vérité de l’affirmation qui l’accompagne devient ici plus importante que jamais.
Commencer par la provenance avant de chercher des défauts
Imaginons une photographie prétendant montrer une explosion survenue ce matin.
Avant de l’envoyer à cinq détecteurs d’IA, une recherche inversée peut révéler que la même photographie était publiée trois ans auparavant.
L’enquête est pratiquement terminée concernant l’affirmation actuelle.
Nous savons que l’image ne montre pas l’explosion de ce matin.
Peu importe alors qu’elle ait été prise avec un appareil photographique ou générée numériquement trois ans auparavant : la prétention qui nous intéressait est déjà réfutée par sa chronologie.
Ce principe d’économie est essentiel.
Nous devons commencer par les contrôles susceptibles de répondre directement à l’affirmation : provenance, occurrence antérieure, auteur, contexte, autres images de l’événement.
La question de la génération artificielle devient prioritaire seulement lorsqu’elle est réellement nécessaire.
Les défauts visuels deviennent de moins en moins fiables
Les premières générations d’images synthétiques présentaient souvent des indices spectaculaires : doigts surnuméraires, textes absurdes, lunettes asymétriques, ombres impossibles ou objets fusionnés.
Apprendre à reconnaître ces défauts pouvait alors être utile.
Mais une règle de vérification ne peut pas reposer durablement sur les erreurs particulières d’une génération de modèles.
Les systèmes changent.
Un défaut fréquent aujourd’hui peut disparaître demain.
Et, surtout, le raisonnement inverse est invalide :
absence de défaut visible ≠ image authentique.
Une image synthétique de grande qualité peut paraître parfaitement cohérente.
Inversement, une photographie réelle peut contenir des anomalies surprenantes dues à la perspective, au mouvement, à la compression, à un reflet ou au traitement automatique d’un smartphone.
L’inspection visuelle doit donc fournir des pistes de recherche, pas un certificat.
« Cette main est bizarre » n’est pas une preuve
Supposons qu’une photographie montre une main qui paraît posséder une forme étrange.
Plusieurs hypothèses existent : génération artificielle, mouvement au moment de la prise de vue, doigts partiellement cachés, artefact de compression, perspective inhabituelle ou véritable particularité anatomique.
Conclure immédiatement :
« c’est de l’IA »
revient à transformer une anomalie en diagnostic.
La bonne réaction est :
« Ce détail mérite un contrôle supplémentaire. »
Nous pouvons alors rechercher l’image originale, d’autres photographies de la même scène, une version de meilleure qualité ou sa provenance.
L’indice devient utile lorsqu’il conduit vers une vérification indépendante.
Les humains ne disposent pas non plus d’un détecteur intuitif infaillible
Nous pouvons être tentés de penser qu’une longue habitude des images synthétiques suffit à développer « l’œil ».
Les recherches disponibles invitent à davantage de prudence.
Une étude préenregistrée publiée en 2026 dans *Scientific Reports* a demandé à des participants de distinguer visages et voix réels de contenus générés. Les performances étaient supérieures au hasard, mais les auteurs n’ont pas trouvé de capacité générale de détection qui se transférerait simplement du domaine visuel au domaine vocal ; la confiance des participants n’était d’ailleurs pas également informative selon les modalités.
Autrement dit, avoir l’impression de reconnaître un deepfake reste une information très limitée.
Notre intuition peut attirer notre attention.
Elle ne doit pas terminer l’enquête.
Ce que font les détecteurs automatiques
Un détecteur cherche généralement des caractéristiques statistiques permettant de distinguer les contenus de son jeu d’apprentissage.
Selon les méthodes, il peut analyser des textures, fréquences, incohérences spatio-temporelles, traces laissées par certains processus de génération, relations entre mouvements du visage et voix ou autres caractéristiques numériques.
Il peut obtenir d’excellents résultats sur certaines bases d’évaluation.
Le problème apparaît lorsque le monde réel diffère du jeu sur lequel il a appris.
Un nouveau modèle génératif produit d’autres traces.
La vidéo est compressée par un réseau social.
L’image est redimensionnée.
Une partie du contenu est recadrée.
Une nouvelle technique de manipulation apparaît.
La tâche devient alors un problème de généralisation à des contenus que le détecteur n’a jamais vus.
Un excellent résultat de laboratoire ne garantit pas un excellent résultat sur Internet
Cette distinction entre performance sur un benchmark et performance dans le monde réel est fondamentale.
Un modèle peut reconnaître presque parfaitement les faux produits par les générateurs qu’il connaît et perdre une partie importante de ses performances lorsqu’il rencontre une autre distribution de contenus.
Les travaux actuels en détection des deepfakes considèrent précisément cette généralisation comme l’un des principaux problèmes du domaine. Une étude de 2026 publiée dans *Scientific Reports* montre par exemple que, lors d’évaluations croisées entre jeux de données et types de manipulation non vus, les performances peuvent fortement chuter, malgré de bons résultats dans les conditions plus proches de l’entraînement.
Cela explique pourquoi la question :
« Quel est le meilleur détecteur ? »
n’a pas de réponse universelle et durable.
Le résultat dépend de ce que le détecteur doit reconnaître.
Les générateurs et les détecteurs évoluent ensemble
Le problème possède une dimension dynamique.
Un détecteur exploite certaines traces laissées par les générateurs actuels.
Les générateurs s’améliorent ou changent d’architecture.
Les traces deviennent différentes ou disparaissent.
De nouveaux détecteurs sont alors développés.
Cette évolution permanente explique pourquoi un outil performant lors de sa publication peut devenir beaucoup moins fiable face à une nouvelle génération de contenus.
Un vaste benchmark publié sous forme de prépublication en 2026, portant sur 23 variantes de détecteurs d’images et environ 2,6 millions d’images issues de nombreux générateurs, trouve justement de fortes variations de performances selon les jeux de données et les générateurs, sans détecteur universellement supérieur. Les auteurs observent notamment une dégradation importante face à certains générateurs commerciaux récents. Ce résultat doit être lu comme celui d’un benchmark encore sous forme de preprint, mais il illustre très bien le problème général de l’adaptation des détecteurs à des générateurs inconnus.
Un pourcentage fourni par un détecteur doit donc être interprété dans son contexte technique, pas comme une probabilité absolue de vérité.
Que signifie « 92 % IA » ?
Supposons qu’un outil affiche :
« 92 % AI-generated ».
Cette formulation peut donner l’impression que nous savons désormais qu’il existe une probabilité de 92 % que l’image soit artificielle.
Ce n’est pas nécessairement ce que signifie le nombre.
Il peut s’agir d’un score produit par le classificateur, transformé en affichage compréhensible pour l’utilisateur. Sa calibration réelle dépend du système, de son entraînement et de la population de contenus sur laquelle il est utilisé.
Un score élevé peut être un indice sérieux.
Mais pour l’interpréter comme une véritable probabilité, il faudrait savoir comment le système a été calibré et comment il performe sur des contenus comparables au nôtre.
Dans la pratique, le lecteur ordinaire dispose rarement de toutes ces informations.
La bonne formulation est donc plutôt :
« Ce détecteur considère ce contenu comme fortement compatible avec ce qu’il classe habituellement comme synthétique ; cherchons maintenant d’autres éléments. »
Plusieurs détecteurs d’accord ne constituent pas nécessairement plusieurs preuves indépendantes
Nous pourrions penser résoudre le problème en utilisant cinq détecteurs.
Si les cinq disent « IA », la conclusion paraît beaucoup plus forte.
Elle peut l’être.
Mais il faut appliquer la même prudence que lorsque nous recoupons plusieurs médias.
Les détecteurs peuvent utiliser :
des architectures proches ;
des données d’entraînement similaires ;
les mêmes types de traces ;
ou même un service technique commun derrière différentes interfaces.
Ils peuvent alors reproduire la même erreur.
La convergence de plusieurs outils n’a donc de valeur importante que si nous comprenons suffisamment leur indépendance méthodologique.
L’idée de « cinq sites disent IA » ne doit pas devenir le nouvel équivalent de « cinq médias le disent donc c’est vrai ».
Compression, recadrage et transformations compliquent la détection
Un contenu rencontré sur Internet est rarement le fichier original.
Il peut avoir été téléchargé plusieurs fois, recompressé par une plateforme, réduit en résolution, converti dans un autre format, recadré, annoté ou transformé en capture d’écran.
Chacune de ces opérations peut modifier les caractéristiques utilisées par certains détecteurs.
Les travaux actuels sur la détection vidéo continuent justement à identifier la compression et la généralisation hors du jeu d’entraînement parmi les problèmes majeurs pour un déploiement réel.
Le fichier original possède donc souvent beaucoup plus de valeur pour l’analyse que la copie virale compressée cinq fois.
Les faux positifs peuvent eux-mêmes devenir une source de désinformation
Un détecteur imparfait ne crée pas seulement le risque de laisser passer un faux.
Il peut également classer comme artificiel un contenu authentique.
Cette possibilité possède des conséquences particulières.
Une véritable photographie documentant une violence peut être rejetée en affirmant :
« un détecteur dit que c’est de l’IA ».
Une personne confrontée à un enregistrement authentique peut prétendre :
« avec les deepfakes, on ne peut plus croire aucune vidéo ».
L’existence des contenus synthétiques peut donc fournir un nouvel outil pour nier abusivement des preuves authentiques.
Cette situation est parfois décrite comme un dividende du menteur : lorsque les faux deviennent plausibles, une personne peut tenter de discréditer des contenus réels en invoquant la possibilité de fabrication.
Une bonne méthode de vérification doit donc protéger dans les deux directions :
ne pas croire trop facilement un faux
mais également
ne pas rejeter trop facilement un vrai.
Provenance : une autre stratégie
Plutôt que d’essayer uniquement de deviner après coup si un fichier est synthétique, une autre approche consiste à enregistrer son histoire de production.
Quand a-t-il été créé ?
Avec quel appareil ou logiciel ?
A-t-il ensuite été modifié ?
Qui signe ces informations ?
C’est le principe général de la provenance numérique.
Le NIST distingue précisément, dans son rapport de référence sur les contenus synthétiques, plusieurs familles complémentaires de techniques : authentification et suivi de provenance, marquage ou étiquetage, détection des contenus synthétiques, puis évaluation et maintenance de ces systèmes. Il ne présente donc pas la détection automatique comme l’unique réponse au problème.
Cette différence est fondamentale.
La détection demande :
« Quelles traces ce fichier possède-t-il qui ressemblent à celles d’un contenu artificiel ? »
La provenance demande plutôt :
« Que pouvons-nous vérifier concernant son histoire ? »
Les Content Credentials et le standard C2PA
L’une des principales initiatives actuelles dans ce domaine est la Coalition for Content Provenance and Authenticity, ou C2PA.
Son standard permet d’associer à un contenu des Content Credentials, c’est-à-dire des informations de provenance signées cryptographiquement. Elles peuvent décrire différents éléments de l’histoire d’un contenu : création, transformations, outils utilisés ou autres assertions liées à l’actif.
Le mécanisme vise notamment à permettre de vérifier que les informations de provenance sont correctement associées au fichier et qu’elles n’ont pas été modifiées silencieusement. La spécification C2PA est aujourd’hui conçue précisément comme une infrastructure de provenance et d’authenticité numérique.
Ce système peut devenir extrêmement utile.
Mais il faut comprendre ce qu’il prouve et ce qu’il ne prouve pas.
Une provenance vérifiée ne signifie pas « cette image dit vrai »
Le C2PA insiste explicitement sur ce point.
Les Content Credentials ne prononcent pas un jugement du type :
« cette photographie représente fidèlement la réalité ».
Elles permettent plutôt de vérifier certaines affirmations concernant l’origine et l’histoire du fichier.
Le propre document explicatif du C2PA précise qu’une provenance peut aider à établir l’origine, l’historique et l’authenticité numérique d’un contenu, mais qu’elle ne peut pas, à elle seule, déterminer si ce que le contenu représente est vrai ou factuellement exact.
Imaginez une photographie authentiquement prise par un photographe identifié.
Les Content Credentials peuvent contribuer à établir cette provenance.
Mais si le photographe met en scène volontairement une fausse situation devant son appareil, la provenance cryptographique peut être parfaitement valide tandis que la scène reste trompeuse.
La cryptographie peut protéger l’histoire numérique.
Elle ne lit pas les intentions du monde photographié.
Une caméra authentifiée peut photographier une mise en scène
Prenons une photographie d’une rue vide présentée comme preuve qu’« absolument personne n’a participé » à une manifestation.
Le fichier provient réellement d’un appareil authentifié.
Il n’a pas été modifié.
La date et le lieu sont corrects.
Mais peut-être a-t-il été pris trois heures avant le rassemblement.
Le fichier possède alors une excellente provenance tout en soutenant une conclusion trompeuse.
Nous retrouvons ici le principe général de cette catégorie :
authentifier la source n’est pas authentifier l’interprétation.
La provenance constitue une excellente ligne de preuve.
Elle doit être combinée au contexte.
L’absence de Content Credentials ne prouve pas qu’un fichier est faux
Ce point est tout aussi important.
Le standard fonctionne sur une logique d’adoption par les appareils, logiciels et plateformes concernés.
De très nombreux contenus authentiques ne possèdent donc pas de telles informations.
La provenance peut également devenir incomplète au cours de la chaîne de transformations. Le C2PA explique explicitement qu’une opération réalisée avec un outil ne prenant pas en charge les Content Credentials peut entraîner une lacune dans l’historique disponible.
Il serait donc totalement incorrect de raisonner :
« aucune Content Credential n’apparaît, donc cette image est probablement fausse ».
L’absence de provenance cryptographique signifie d’abord :
« cette voie particulière de vérification n’est pas disponible ou n’est pas complète ».
Rien de plus.
Un filigrane peut avoir plusieurs significations
Une autre stratégie consiste à intégrer un filigrane, visible ou invisible, permettant d’indiquer qu’un contenu provient d’un certain système de génération ou qu’il a été transformé.
Cela peut être très utile lorsque le système ayant produit le contenu coopère.
Mais un filigrane ne résout pas l’ensemble du problème.
Tous les générateurs n’en utilisent pas.
Un acteur malveillant peut employer un outil différent.
Certaines transformations peuvent dégrader certains marquages.
Et l’absence de filigrane ne constitue donc pas davantage une preuve d’authenticité.
Le NIST traite précisément le watermarking comme l’une des approches possibles parmi plusieurs techniques complémentaires, aux côtés de la provenance et de la détection.
La bonne lecture est :
présence d’un marquage vérifiable = information potentiellement importante ;
absence de marquage = absence de cet indice particulier, pas certification du réel.
Une étiquette « généré par IA » peut être informative sans tout résoudre
Les plateformes peuvent également afficher des étiquettes signalant un contenu généré ou modifié artificiellement.
Une étiquette fiable fournit évidemment une information importante.
Mais il faut encore demander :
quelle transformation a eu lieu ?
Une photographie journalistique dont l’arrière-plan a été légèrement corrigé et une scène entièrement inventée ne posent pas le même problème épistémique.
Une catégorie binaire :
IA / pas IA
peut masquer l’ampleur et la nature de la transformation.
L’information la plus utile serait idéalement une provenance permettant de comprendre ce qui a été fait, plutôt qu’un simple stigmate technique.
Authenticité numérique et authenticité factuelle
Nous pouvons désormais distinguer deux sens du mot authentique.
Un contenu est numériquement authentique au sens où nous pouvons établir sa provenance, son intégrité ou certaines transformations.
Mais il peut être factuellement trompeur si la scène est mise en scène, si la légende est fausse ou si son contexte est erroné.
À l’inverse, une copie ayant perdu ses métadonnées et sa signature cryptographique peut parfaitement représenter un événement réel.
Il faut donc éviter de confondre :
authentification du fichier
et
établissement de la vérité de l’événement.
Cette différence est explicitement inscrite dans les principes du C2PA : son système vise à vérifier des assertions de provenance et leur intégrité, non à décider si les informations qu’elles accompagnent sont « bonnes » ou « mauvaises » ni si la scène représentée est vraie.
Plusieurs familles d’indices
Les différentes méthodes peuvent être résumées sans chercher à les classer dans une hiérarchie absolue :
| Type d’indice | Ce qu’il peut apporter | Ce qu’il ne prouve pas seul |
|---|---|---|
| Provenance / Content Credentials | Origine déclarée, historique et transformations vérifiables lorsqu’elles sont disponibles | Que la scène ou l’affirmation est factuellement vraie |
| Filigrane ou étiquette | Indication qu’un outil ou processus particulier a participé à la création | Qu’un contenu sans marquage est authentique |
| Détecteur automatique | Similarité avec des caractéristiques apprises de contenus synthétiques | Une probabilité universelle et certaine que le contenu est faux |
| Inspection visuelle ou sonore | Anomalies pouvant orienter l’enquête | Une authentification fiable sur simple impression |
| Recherche de provenance | Occurrences antérieures, source originale, auteur et contexte | Que tout ce qu’affirme la source originale est exact |
| Corroboration indépendante | Convergence avec d’autres images, témoins, documents ou événements | L’indépendance absolue de tous les éléments sans examen supplémentaire |
La meilleure vérification utilise souvent plusieurs lignes simultanément.
Cas pratique : une vidéo d’un responsable politique paraît montrer un deepfake
Une courte vidéo apparaît pendant une campagne électorale.
Une personnalité politique semble annoncer qu’elle souhaite supprimer une mesure très populaire.
Le mouvement des lèvres paraît légèrement étrange.
Première réaction :
« deepfake ».
Mais procédons autrement.
Nous cherchons l’origine.
La vidéo provient d’un extrait publié par un compte inconnu.
Nous recherchons la déclaration et retrouvons la conférence de presse complète sur le site du média qui l’a enregistrée.
La même phrase apparaît.
Nous trouvons également plusieurs vidéos tournées sous d’autres angles.
Le responsable politique a donc bien prononcé les mots.
Le léger décalage visible dans la vidéo virale venait simplement de la recompression du fichier.
Dans ce cas, l’intuition « ça ressemble à de l’IA » aurait conduit à rejeter un contenu authentique.
La provenance et la corroboration ont fourni une réponse beaucoup plus robuste.
Cas pratique inverse : une vidéo parfaitement réaliste n’a aucune provenance
Imaginons maintenant une vidéo dans laquelle un chef d’entreprise annonce la faillite immédiate de sa société.
Le visage paraît impeccable.
La voix également.
Nous ne voyons aucun artefact.
Mais la vidéo apparaît pour la première fois sur un compte créé le jour même.
Aucun canal officiel de l’entreprise ne la diffuse.
Aucun média présent lors de la prétendue conférence ne possède une autre séquence.
La salle visible ne correspond pas au lieu où l’entreprise tient habituellement ses conférences.
Puis l’entreprise dément et publie une vidéo de son dirigeant montrant qu’il se trouvait ailleurs à l’heure revendiquée.
Même sans détecteur automatique, l’ensemble des éléments rend la vidéo initiale extrêmement suspecte.
La vérification n’a pas cherché le pixel magique.
Elle a construit un réseau de preuves.
Cas pratique : le détecteur dit « IA », mais la photographie est documentée
Une photographie d’un événement spectaculaire circule.
Un utilisateur l’envoie à un service de détection qui affiche :
« probablement générée par IA ».
L’image est immédiatement dénoncée comme fausse.
Mais nous retrouvons le photographe, plusieurs photographies prises en rafale, une agence ayant reçu les fichiers directement, d’autres photographes présents au même endroit et plusieurs vidéos indépendantes montrant la scène.
À ce stade, le détecteur n’est pas une raison de rejeter tout le reste.
La meilleure conclusion est plutôt :
« le détecteur produit ici un résultat incompatible avec un ensemble beaucoup plus riche de preuves de provenance et de corroboration ».
Un outil de vérification doit lui-même pouvoir être contredit par de meilleures preuves.
Cas pratique : provenance parfaite, interprétation fausse
Une photographie possède des Content Credentials valides.
Elles montrent qu’elle a été prise par un appareil déterminé et n’a pas subi de modification significative.
Une publication affirme :
« Cette image prouve que la place était vide pendant le discours. »
Nous vérifions la chronologie.
La photographie a été prise à 8 h 12.
Le discours a commencé à 15 h.
La provenance du fichier est excellente.
L’affirmation reste trompeuse.
Cet exemple montre pourquoi la provenance et le contexte doivent toujours rester séparés conceptuellement.
Rechercher plusieurs contenus du même événement
Les contenus synthétiques deviennent beaucoup plus difficiles à utiliser pour tromper lorsque l’événement supposé devrait normalement avoir laissé de nombreuses traces indépendantes.
Une personnalité prononce une déclaration devant cinquante journalistes.
Une seule vidéo spectaculaire apparaît, sans aucune autre captation ni compte rendu.
Cette absence peut être informative.
Inversement, nous retrouvons plusieurs vidéos provenant de positions différentes, diffusées par des personnes sans lien apparent, et toutes montrent la même déclaration.
Produire artificiellement tout cet environnement cohérent devient plus complexe.
La corroboration constitue donc une défense extrêmement importante contre les contenus synthétiques.
Il faut néanmoins se souvenir qu’un réseau coordonné peut lui-même publier plusieurs faux.
La provenance et l’indépendance restent à examiner.
« Cela pourrait être généré » n’est pas une réfutation
L’existence des outils génératifs rend presque toute falsification techniquement imaginable.
Une photographie pourrait être synthétique.
Une voix pourrait être clonée.
Une vidéo pourrait être un deepfake.
Mais une possibilité abstraite n’est pas une preuve.
Si nous adoptions la règle :
« puisque cela pourrait être généré, je peux l’ignorer »
nous rendrions pratiquement impossible toute connaissance reposant sur des documents numériques.
Le raisonnement correct est :
« Existe-t-il des éléments positifs indiquant que ce contenu est artificiel ou incompatible avec sa provenance revendiquée ? »
Le scepticisme doit rester proportionné aux preuves, pas à la simple possibilité technique de falsification.
L’argument inverse est tout aussi mauvais
Il serait évidemment tout aussi naïf de dire :
« personne n’a prouvé que c’est généré, donc c’est authentique ».
L’absence de démonstration d’un faux n’est pas une démonstration d’authenticité.
Lorsque la provenance est inconnue et les confirmations absentes, la bonne conclusion peut simplement être :
« nous ne disposons pas actuellement d’assez d’éléments pour déterminer l’authenticité de ce contenu ».
L’incertitude reste une réponse légitime.
Une méthode pratique face à un contenu suspect
Lorsqu’une image, une vidéo ou une voix pourrait avoir été générée ou modifiée, la méthode la plus robuste reste de procéder dans un ordre raisonnable.
Nous définissons d’abord l’affirmation précise : la personne est-elle réellement visible, a-t-elle réellement prononcé cette phrase, l’événement a-t-il réellement eu lieu ?
Nous recherchons ensuite la provenance et les occurrences antérieures.
Nous essayons de retrouver la version originale et l’auteur.
Nous examinons date, lieu et contexte.
Nous recherchons d’autres contenus ou sources indépendantes du même événement.
Si des informations de provenance, des signatures ou des Content Credentials sont disponibles, nous les examinons.
Les détecteurs automatiques et les anomalies visuelles peuvent ensuite fournir des indices techniques supplémentaires.
Cet ordre évite de faire reposer toute la vérification sur l’outil le plus fragile ou le plus spectaculaire.
Plus l’accusation est grave, plus le niveau de preuve doit augmenter
Accuser publiquement quelqu’un d’avoir diffusé un deepfake ou d’avoir falsifié une photographie peut avoir des conséquences importantes.
La conclusion :
« cette image est générée par IA »
doit donc elle-même être soumise à une exigence de preuve.
Un seul détecteur, un doigt étrange ou une impression visuelle ne suffisent généralement pas pour une accusation catégorique.
Une formulation plus prudente peut être :
« plusieurs éléments rendent l’image suspecte, mais son origine n’est pas encore établie ».
Puis, lorsque la provenance et les analyses convergent :
« les éléments disponibles permettent de conclure avec une forte confiance qu’elle a été synthétiquement générée ou modifiée ».
Le vocabulaire doit refléter le niveau réel de preuve.
La technologie ne remplace pas l’épistémologie
L’intelligence artificielle rend certains faux beaucoup plus faciles à produire.
Mais elle ne change pas le problème fondamental de la vérification.
Nous devons toujours déterminer :
qui affirme quoi ;
d’où vient l’information ;
quelles preuves la soutiennent ;
si celles-ci sont indépendantes ;
et quelles autres observations devraient exister si l’affirmation était vraie.
Les outils techniques modifient certaines méthodes.
Ils ne suppriment pas la nécessité du raisonnement.
Le NIST présente d’ailleurs provenance, authentification, watermarking et détection comme des techniques qui doivent être comprises ensemble dans une stratégie plus large de transparence des contenus numériques.
Il serait paradoxal de répondre à l’essor de l’intelligence artificielle en abandonnant notre propre jugement à une autre intelligence artificielle.
De « vrai ou deepfake ? » à une enquête sur la provenance
La meilleure défense contre les contenus synthétiques n’est donc pas de devenir obsédé par la détection de défauts.
Elle consiste à reconstruire l’histoire du contenu.
Où apparaît-il pour la première fois ?
Existe-t-il une source originale ?
La personne censée l’avoir produit le reconnaît-elle ?
D’autres témoins ou enregistrements documentent-ils le même événement ?
Les informations de provenance sont-elles disponibles et cohérentes ?
Le contenu possède-t-il des transformations connues ?
Les outils techniques détectent-ils des anomalies et ces résultats sont-ils cohérents avec le reste ?
Nous passons alors d’une question trop simple :
« Est-ce de l’IA ? »
à une question beaucoup plus robuste :
« Quelle histoire de ce contenu est la mieux soutenue par l’ensemble des éléments disponibles ? »
Cette dernière formulation survivra beaucoup mieux aux progrès technologiques.
Les générateurs changeront.
Les détecteurs changeront.
Les standards de provenance évolueront.
Mais la nécessité de confronter origine, contexte, preuves et confirmations indépendantes restera.
La prochaine étape nous ramènera à un problème beaucoup plus ancien que l’intelligence artificielle : les rumeurs et les sources anonymes. Une information dont nous ne connaissons pas publiquement l’auteur peut être fausse, mais elle peut aussi provenir d’une véritable source confidentielle. Il faudra apprendre à distinguer anonymat, absence de preuve et fausseté.