Images, vidéos et IA générative : quand voir ne suffit plus

Pendant longtemps, une photographie ou une vidéo a bénéficié d’un avantage intuitif considérable sur un simple témoignage. Nous voyons la scène. Un texte peut mentir. Un témoin peut se tromper. Mais une photographie semble conserver une trace directe de ce qui s’est réellement produit. Cette confiance n’a jamais été totalement justifiée. Les images peuvent être mises en scène, recadrées, retouchées ou sorties de leur contexte depuis bien avant l’apparition de l’intelligence artificielle. L’IA générative ajoute cependant une nouvelle possibilité : produire rapidement des images, voix et vidéos réalistes représentant des événements qui n’ont jamais existé. Une personne peut être montrée prononçant une phrase qu’elle n’a jamais prononcée. Une photographie peut représenter une manifestation qui n’a jamais eu lieu. Une voix peut annoncer une décision qu’aucun responsable n’a prise.

Mais cette transformation technologique crée un second problème, plus paradoxal : si nous savons désormais que des preuves audiovisuelles peuvent être synthétiques, une personne réellement enregistrée peut tenter de nier un document authentique en affirmant qu’il a été généré par IA. Nous rencontrons alors deux risques opposés : croire une fausse image parce qu’elle paraît réelle et rejeter une vraie image parce qu’elle pourrait théoriquement être fausse. L’esprit critique doit éviter les deux.

Une image n’a jamais été une preuve autosuffisante

Bien avant l’intelligence artificielle, les images pouvaient tromper. On pouvait : retoucher une photographie, couper une vidéo, accélérer ou ralentir une séquence, modifier les sous-titres, juxtaposer deux scènes ou utiliser une image ancienne pour illustrer un événement nouveau. La manipulation la plus simple consiste même à ne rien modifier du tout. Une photographie authentique d’une manifestation organisée à Buenos Aires en 2019 peut être publiée en affirmant :

« Paris ce matin. »

Les pixels sont authentiques. L’événement représenté a réellement existé. La légende est fausse. Dans ce cas, rechercher des imperfections générées par IA ne servira absolument à rien. Le problème n’est pas l’authenticité de l’image. C’est l’authenticité de la relation entre l’image et ce qu’on affirme qu’elle représente.

Le *cheapfake* : une manipulation qui n’a rien de sophistiqué

Les chercheurs utilisent souvent le terme cheapfake pour désigner des manipulations audiovisuelles réalisées avec des moyens simples, notamment la modification ou la décontextualisation de contenus authentiques. Une vidéo peut être : recadrée, coupée avant une phrase importante, ralentie, accélérée, accompagnée d’une fausse légende ou replacée dans un contexte totalement différent. Contrairement au deepfake, aucun modèle génératif sophistiqué n’est nécessaire. Le nom *cheapfake* peut donner l’impression d’une technique médiocre et facilement détectable. Ce serait une erreur. Une vraie vidéo accompagnée d’une fausse explication possède un avantage considérable : tout ce que voit le spectateur est réellement présent dans le fichier.

Deux expériences menées par Michael Hameleers, Toni van der Meer et Rens Vliegenthart auprès de 874 puis 733 participants ont étudié précisément des contenus politiques décontextualisés de ce type. Les *cheapfakes* vidéo n’étaient pas systématiquement plus crédibles que les désinformations textuelles ou fondées sur une image, mais ils pouvaient néanmoins tromper et affecter l’évaluation d’une personnalité politique. La sophistication technique ne détermine donc pas automatiquement la puissance persuasive.

Une vraie image peut être une meilleure fausse preuve qu’une fausse image

Cette idée mérite d’être retenue. Supposons que je veuille prétendre qu’une émeute vient d’éclater dans une ville. Deux options s’offrent à moi. Je peux demander à une IA de fabriquer une image entièrement synthétique. Il existe alors un risque d’artefacts, d’incohérences ou d’indices techniques permettant éventuellement de détecter la génération. Ou je peux chercher une véritable photographie d’une émeute survenue dix ans plus tôt dans une autre ville et simplement changer sa légende. Dans le second cas, l’image passera parfaitement tous les tests cherchant à déterminer si elle est générée par IA. Elle est authentique. C’est son utilisation qui est trompeuse. Cette distinction justifie une règle fondamentale : détecter si un fichier est synthétique et vérifier si ce qu’il prétend représenter est vrai sont deux problèmes différents. Le second restera nécessaire même si la détection technique de l’IA devenait parfaite.

Qu’est-ce qu’un deepfake ?

Le terme deepfake a d’abord désigné des contenus synthétiques ou manipulés grâce aux techniques d’apprentissage profond, notamment pour remplacer un visage ou générer une personne semblant prononcer des paroles qu’elle n’a jamais prononcées. Avec le développement de l’IA générative, les frontières du terme se sont élargies dans l’usage courant. On rencontre aujourd’hui : des visages remplacés dans des vidéos ; des voix clonées ; des mouvements de lèvres synchronisés avec un nouvel audio ; des images entièrement synthétiques ; des vidéos produites à partir d’une description textuelle ; des avatars réalistes de personnes existantes. Il est donc souvent plus clair de parler de contenu synthétique généré ou transformé par IA lorsque la technique exacte n’est pas importante.

Le mot *deepfake* reste particulièrement utile lorsque le contenu cherche à produire l’apparence réaliste d’une personne réelle faisant ou disant quelque chose qu’elle n’a pas fait ou dit.

Une image générée par IA n’est pas nécessairement une désinformation

Une distinction essentielle doit être maintenue. Une image produite par IA peut servir à : illustrer un roman, créer une publicité, reconstruire visuellement une scène historique, produire de l’art, réaliser une satire ou représenter explicitement une situation hypothétique. Rien de cela ne constitue automatiquement de la désinformation. Le problème apparaît lorsque le contenu synthétique est présenté de manière à faire croire qu’il constitue une trace authentique d’un événement réel. Une photographie fictive accompagnée de la mention :

« Illustration générée par IA »

ne trompe normalement pas sur sa nature. La même photographie publiée comme :

« Première image de l’explosion survenue ce matin »

change complètement de fonction. Comme depuis le début de cette rubrique, le contexte et l’intention comptent autant que la technique utilisée.

Le faux n’a pas besoin d’être parfait

On pourrait penser qu’un deepfake doit être techniquement indiscernable du réel pour être dangereux. Pas nécessairement. Une personne peut ne voir la vidéo que pendant quelques secondes sur un téléphone. Le fichier peut être fortement compressé. Il peut circuler sous forme de copie de copie. L’utilisateur peut déjà s’attendre à ce que l’événement représenté soit vrai. La vidéo peut être présentée par une personne de confiance. Et surtout, un contenu n’a pas besoin de tromper tout le monde. Il peut suffire qu’une fraction du public le prenne suffisamment au sérieux pour : le partager, provoquer une polémique, obliger une institution à répondre ou produire une première impression difficile à corriger. L’efficacité sociale d’une manipulation n’est donc pas identique à sa perfection technique.

Sommes-nous capables de reconnaître les deepfakes à l’œil nu ?

Beaucoup moins bien que nous pourrions l’espérer. Une revue systématique et méta-analyse publiée en 2024 a regroupé 56 articles et 86 155 participants, couvrant les deepfakes audio, image, texte et vidéo. Pour les deepfakes eux-mêmes, le taux moyen de détection correcte était d’environ 55,5 %, avec un intervalle de confiance suffisamment large pour que la performance synthétique ne se distingue pas clairement du hasard. Les résultats étaient fortement hétérogènes selon les études et les contenus. Les participants reconnaissaient mieux les contenus réels que les faux. Cela suggère notamment une difficulté classique : nous pouvons être meilleurs pour reconnaître quelque chose qui semble normal que pour identifier précisément ce qui révèle une fabrication sophistiquée. Mais ces moyennes ne signifient pas qu’aucun individu ne puisse reconnaître aucun deepfake. Certains contenus sont médiocres. Certains indices sont visibles.

Certaines personnes possèdent davantage d’expérience. La conclusion correcte est plus modeste : l’œil humain seul ne constitue pas un détecteur suffisamment fiable pour servir de méthode générale d’authentification.

« Regardez les mains » : une méthode qui vieillit très vite

Les premiers générateurs d’images produisaient souvent : des mains anormales, des nombres incorrects de doigts, des textes illisibles, des bijoux incohérents, des oreilles différentes ou des ombres étranges. Ces indices ont rapidement donné naissance à des listes :

« Comment reconnaître une image IA en dix secondes. »

Le problème est que les modèles évoluent. Un artefact fréquent aujourd’hui peut presque disparaître demain. Enseigner uniquement une collection d’erreurs visuelles risque donc de construire une expertise périssable. Les anomalies restent utiles lorsqu’elles existent. Mais elles ne doivent pas devenir : « je ne vois aucune main bizarre, donc l’image est vraie ». L’absence d’artefact visible signifie seulement : aucun artefact que j’ai remarqué. Pas : authenticité démontrée.

Un détecteur automatique peut-il résoudre le problème ?

Des outils tentent d’identifier automatiquement les contenus synthétiques. Ils recherchent des régularités statistiques, des traces de génération ou certaines caractéristiques de modèles connus. Ces techniques peuvent être utiles. Mais elles rencontrent un problème structurel : détecteurs et générateurs évoluent simultanément. Un modèle de détection peut être excellent pour reconnaître les sorties de certains générateurs et beaucoup moins performant face à une nouvelle architecture, une compression, une modification du fichier ou un contenu volontairement conçu pour contourner ses critères. Un autre problème concerne les faux positifs. Si un détecteur annonce :

« 82 % de probabilité que cette image soit générée par IA »,

cela n’équivaut pas à une preuve certaine. Nous devons encore connaître : sa précision, son taux de faux positifs, les contenus sur lesquels il a été validé et la population de fichiers dans laquelle il est utilisé. Nous retrouvons donc immédiatement les problèmes de **probabilités et raisonnement bayésien**. Un détecteur est un indice. Pas un oracle.

L’entraînement peut toutefois aider

La méta-analyse de 2024 trouve également que certaines interventions — entraînement avec feedback, assistance par des outils automatisés ou autres stratégies — améliorent la détection. Dans les études concernées, la proportion correcte d’identification des deepfakes atteignait en moyenne environ 65 %, contre une performance plus faible sans assistance. C’est encourageant. Mais 65 % signifie toujours beaucoup d’erreurs. La conclusion pratique n’est donc pas : « nous pouvons apprendre à détecter parfaitement les deepfakes ». Elle est : « certaines aides améliorent notre jugement, mais l’authentification sérieuse doit combiner plusieurs informations plutôt que reposer uniquement sur l’intuition visuelle ».

Le contexte peut être plus informatif que les pixels

Supposons qu’une vidéo montre le président d’un pays annonçant soudain :

« Toutes les banques fermeront demain. »

Avant même d’examiner chaque pixel, plusieurs questions deviennent pertinentes. La vidéo apparaît-elle sur les canaux officiels ? D’autres journalistes présents lors de la déclaration la rapportent-ils ? Existe-t-il une version complète ? Des agences de presse indépendantes possèdent-elles l’enregistrement ? Les banques et institutions concernées réagissent-elles ? Le lieu, la date et les personnes visibles correspondent-ils à un événement réel ? Une analyse du contexte peut être beaucoup plus informative que : « le mouvement des lèvres me semble étrange ». C’est une application directe de la **lecture latérale et de la remontée aux sources**. Lorsque le contenu est politiquement ou socialement important, l’authenticité doit être reconstruite par convergence de preuves.

Une recherche inversée peut battre un détecteur d’IA

Pour une image décontextualisée, une recherche inversée peut révéler immédiatement :

« Cette photographie circulait déjà en 2017. »

Le problème est alors résolu sans déterminer comment l’image a été produite. Une expérience préenregistrée consacrée aux *cheapfakes* a montré qu’une intervention d’éducation aux médias pouvait augmenter l’intention des utilisateurs de recourir à la recherche inversée d’images, même si elle n’améliorait pas directement dans cette expérience toutes les mesures de discernement. Cela illustre une distinction importante : apprendre une procédure de vérification utile n’entraîne pas toujours immédiatement une amélioration spectaculaire de tous les jugements expérimentaux. Mais la procédure peut néanmoins fournir un outil concret pour retrouver l’histoire réelle du fichier.

Métadonnées et provenance

Une photographie numérique peut contenir des métadonnées : date, appareil, logiciel utilisé, parfois localisation ou historique technique. Ces informations peuvent aider une enquête. Mais elles ne constituent pas une garantie absolue. Les métadonnées peuvent être : supprimées, modifiées ou perdues lors d’un passage par une plateforme sociale. À l’inverse, l’absence de métadonnées ne démontre donc pas que le fichier soit faux. Des technologies plus récentes cherchent à documenter la provenance d’un contenu : quel appareil ou logiciel l’a créé, quelles modifications ont été apportées et éventuellement quelle chaîne de signatures permet d’en retracer l’histoire. Cette approche possède un avantage conceptuel sur la seule détection : elle cherche moins à deviner : « ce fichier ressemble-t-il à de l’IA ? » qu’à établir : « que savons-nous positivement de son origine et de ses transformations ? »

La provenance ne prouve pas la vérité

Il faut pourtant éviter un nouveau raccourci. Un fichier parfaitement authentifié peut toujours montrer quelque chose de trompeur. Une vidéo véritable peut être mise en scène. Un responsable peut mentir devant une caméra authentique. Une photographie réelle peut ne montrer qu’une petite partie d’un événement. Un témoin peut se tromper. Et comme nous l’avons vu, une image authentique peut être publiée sous une fausse légende. La provenance répond donc surtout : « d’où vient ce fichier et a-t-il été modifié ? » Elle ne répond pas automatiquement : « la conclusion qu’on me demande d’en tirer est-elle vraie ? » Authenticité du support et vérité du message restent deux niveaux distincts.

« C’est une vidéo, donc c’est plus convaincant »

Les images possèdent une force intuitive particulière. Nous pouvons avoir l’impression :

« Je l’ai vu de mes propres yeux. »

Mais cela ne signifie pas que la désinformation vidéo soit nécessairement beaucoup plus persuasive que toute désinformation textuelle. Les deux expériences de Hameleers et ses collègues sur les *cheapfakes* politiques n’ont pas trouvé que la richesse supplémentaire du format vidéo rendait ces contenus significativement plus crédibles que les formes textuelles ou basées sur une image dans leurs conditions expérimentales. D’autres travaux sur les deepfakes ont également produit des résultats plus modestes que l’intuition selon laquelle : « une fausse vidéo réaliste doit forcément être immensément plus persuasive qu’un texte ». Cela ne rend pas les vidéos inoffensives. Cela signifie simplement que réalisme technologique et persuasion ne sont pas la même variable. Le contexte, la source et les croyances préalables continuent de compter.

Les deepfakes dominent-ils déjà la désinformation ?

Nous ne disposons pas de données permettant de soutenir une affirmation générale de ce type. La mesure est difficile : l’accès aux plateformes est incomplet, les méthodes de détection sont imparfaites et le phénomène évolue rapidement. Mais plusieurs travaux disponibles invitent à la prudence face aux prédictions les plus catastrophistes. Hameleers et ses collègues soulignent encore en 2024 l’importance des formes de désinformation visuelle reposant sur la décontextualisation ou des manipulations simples de contenus authentiques, malgré l’attention considérable accordée aux deepfakes.

Une analyse de messages viraux politiques en Inde publiée dans *Nature* en 2024 trouvait moins de deux douzaines de contenus visuels attribués à l’IA générative parmi 1 858 messages viraux examinés, soit autour de 1 % dans cet échantillon. Les auteurs insistaient eux-mêmes sur les limites de détection et de généralisation de ce chiffre. Il serait donc aussi imprudent d’écrire : « l’IA n’est pas un problème » que : « l’espace informationnel est désormais dominé par les deepfakes ».

Une technologie rare peut néanmoins avoir de grandes conséquences

La fréquence n’est pas le seul critère important. Un seul faux audio publié quelques heures avant une élection peut éventuellement produire davantage de conséquences que des milliers de mèmes sans audience. Un deepfake ciblant une personnalité particulière peut provoquer : un scandale, une chute boursière, une fraude, une panique ou une atteinte durable à la réputation. Une technologie peut donc être relativement rare dans la masse totale des informations et présenter néanmoins des risques importants dans certains scénarios. Cette distinction entre : prévalence et gravité potentielle sera importante lorsque nous mesurerons plus tard l’ampleur réelle de la désinformation.

Le danger du scénario spectaculaire

Les nouvelles technologies attirent naturellement l’attention vers les formes de manipulation les plus impressionnantes. Une vidéo entièrement synthétique représentant un chef d’État semble plus inquiétante qu’une photographie ancienne accompagnée d’une fausse légende. Mais si la seconde technique est : moins chère, plus rapide, plus fréquente et suffisamment efficace, elle peut rester quantitativement beaucoup plus importante. L’esprit critique doit donc résister au biais technologique : la technique la plus nouvelle n’est pas nécessairement celle qui explique le plus grand nombre de cas réels. C’est l’une des raisons pour lesquelles la surveillance de la désinformation doit mesurer les pratiques observées, et pas uniquement imaginer ce que les technologies permettent théoriquement.

L’IA réduit cependant énormément le coût de fabrication

Cela ne signifie pas que rien n’a changé. Produire autrefois une fausse photographie réaliste ou imiter correctement la voix d’une personnalité pouvait demander : du temps, des compétences, du matériel et un travail important de montage. Les outils génératifs peuvent désormais automatiser une grande partie de cette production. Ils permettent aussi de produire de nombreuses variantes : plusieurs images, langues, voix ou messages adaptés à différents publics. La modification importante n’est donc pas seulement : « il devient possible de produire du faux ». Le faux audiovisuel existait déjà. La transformation concerne aussi : son coût, sa rapidité, son accessibilité et son potentiel de personnalisation à grande échelle. Cela augmente raisonnablement les risques futurs même si les usages actuellement mesurés restent plus limités que certaines prédictions.

Le clonage vocal : une difficulté différente

L’audio mérite une attention particulière. Une voix possède peu des indices visuels que nous utilisons spontanément pour détecter une anomalie. Une séquence téléphonique courte peut également être de mauvaise qualité, ce qui masque certaines imperfections. Un faux enregistrement peut donc imiter : un proche, un dirigeant d’entreprise, une personnalité politique ou une autorité publique. Ici encore, la réaction appropriée ne consiste pas à développer une capacité magique à entendre : « cette respiration semble générée par IA ». Pour une demande importante, mieux vaut revenir à un canal indépendant. Un dirigeant demande soudain un virement ? Rappeler par un numéro connu. Un responsable public annonce une mesure majeure ? Rechercher une confirmation officielle et journalistique indépendante. La sécurité repose alors moins sur notre oreille que sur la structure de vérification.

Une photographie synthétique n’a parfois aucune source réelle à retrouver

Les *cheapfakes* présentent souvent une origine authentique. Une recherche inversée permet de remonter à la photographie précédente. Avec une image entièrement générée, il peut n’exister aucun événement original. La méthode doit donc évoluer. Si une recherche ne retrouve aucune version antérieure, cela ne démontre pas que l’image soit synthétique : une vraie photographie peut simplement être nouvelle. Mais il devient particulièrement important de rechercher : qui l’a publiée en premier, quel témoin ou photographe affirme l’avoir produite, si d’autres images du même événement existent et si plusieurs sources indépendantes confirment la scène. Autrement dit, lorsque l’image n’a pas d’histoire antérieure identifiable, la chaîne de provenance contemporaine prend davantage d’importance.

L’IA permet aussi de fabriquer une abondance de « preuves »

Une nouvelle possibilité mérite d’être distinguée du deepfake individuel. Au lieu de fabriquer une photographie extrêmement convaincante, un acteur peut créer : cinquante photographies, dix témoignages audio, plusieurs faux profils et des dizaines de messages. L’objectif est de produire l’impression : « il existe énormément de preuves indépendantes ». Nous retrouvons ici les mécanismes étudiés dans Campagnes coordonnées, faux comptes, astroturfing et blanchiment de l’information. L’IA générative peut diminuer le coût nécessaire pour peupler artificiellement cet environnement. La menace ne réside donc pas seulement dans la perfection d’une image. Elle peut résider dans la quantité de contenus cohérents qu’un seul acteur est capable de produire.

Pourtant, cinquante images synthétiques ne valent toujours pas cinquante preuves

Si elles proviennent toutes du même système ou du même commanditaire, nous avons simplement : une affirmation fabriquée sous cinquante apparences. Le problème est exactement le même que pour les faux comptes. La quantité visible ne remplace pas l’indépendance des sources. Une véritable corroboration demanderait, par exemple : des témoins indépendants, plusieurs photographes dont on peut établir la présence sur place, différentes vidéos provenant de points de vue compatibles et des traces physiques cohérentes avec l’événement. L’IA rend donc encore plus importante une règle déjà centrale de **Vérification de l’information** : ne pas compter uniquement les documents ; reconstruire leurs origines.

Le problème inverse : « cette vidéo est un deepfake »

Nous arrivons maintenant à l’un des effets les plus paradoxaux de cette technologie. Supposons qu’une personnalité soit enregistrée prononçant réellement une phrase compromettante. Elle répond :

« Cette vidéo est générée par intelligence artificielle. »

Plus le public sait qu’il existe des deepfakes réalistes, plus cette défense devient techniquement imaginable. Robert Chesney et Danielle Citron ont appelé liar’s dividend — le « dividende du menteur » — cet avantage potentiel offert aux personnes qui peuvent désormais contester l’authenticité de preuves réelles en invoquant la possibilité de contenus synthétiques. La technologie ne menace donc pas seulement notre capacité à reconnaître le faux. Elle peut aussi menacer notre capacité à établir le vrai.

Le dividende du menteur existe-t-il réellement ?

La question a été testée expérimentalement. Kaylyn Jackson Schiff, Daniel Schiff et Natália Bueno ont réalisé cinq expériences auprès de plus de 15 000 adultes américains. Les participants étaient confrontés à des scénarios dans lesquels une personnalité politique répondait à un véritable type de scandale en affirmant que l’information était fausse ou manipulée. Les accusations mensongères de « fake news » pouvaient effectivement permettre au responsable de conserver davantage de soutien.

Mais un résultat important limite fortement l’idée d’un pouvoir universel du deepfake : cet effet fonctionnait principalement lorsque le scandale était rapporté sous forme textuelle. Les accusations affirmant qu’une preuve vidéo était un deepfake étaient, dans l’ensemble, beaucoup moins efficaces. Autrement dit, le *liar’s dividend* existe dans ces expériences. Mais : « il suffit de crier deepfake pour faire disparaître n’importe quelle vidéo compromettante » n’est pas ce qu’elles montrent.

La connaissance des deepfakes peut donc produire deux erreurs symétriques

Première erreur :

« La vidéo paraît réaliste, donc elle est vraie. »

Deuxième erreur :

« Les vidéos peuvent être générées, donc celle-ci ne prouve plus rien. »

La bonne position se situe entre les deux. Une vidéo constitue une pièce d’information. Sa force dépend de : sa provenance, sa continuité, son contexte, les autres enregistrements disponibles, les témoins, les métadonnées éventuelles, les analyses techniques et les sources indépendantes permettant de reconstruire l’événement. La naissance des deepfakes ne détruit pas toute possibilité de preuve audiovisuelle. Elle augmente surtout le nombre de questions nécessaires pour établir son authenticité dans les situations contestées.

Le scepticisme généralisé serait une victoire pour la désinformation

Imaginez une société où chacun répond à toute image :

« On ne peut plus savoir, l’IA peut tout fabriquer. »

Les faussaires n’auraient même plus besoin de fabriquer de bons faux. La simple existence de la technologie aurait produit un scepticisme suffisamment général pour neutraliser les preuves authentiques. Nous retrouverions alors exactement le mécanisme étudié dans Fabriquer le doute, la controverse et la confusion. Le danger épistémique maximal n’est peut-être donc pas : « nous croirons toutes les images fausses ». Il peut aussi être : « nous cesserons de croire les images vraies, même lorsqu’elles peuvent être corroborées ». L’objectif ne doit pas être de détruire la confiance. Il doit être de déplacer la confiance depuis l’apparence seule vers des chaînes de preuve plus robustes.

Une étiquette « généré par IA » ne résout pas tout

Une information indiquant qu’un contenu a été généré ou modifié par IA peut évidemment être utile. Mais même une telle étiquette doit être interprétée. Une photographie peut avoir subi une correction de lumière assistée par IA sans que l’événement représenté soit faux. Un logiciel peut utiliser de l’IA pour supprimer du bruit sonore. Inversement, un contenu entièrement synthétique peut circuler sans aucune étiquette. La catégorie : « IA utilisée » n’est donc pas identique à : « désinformation ». Ce qui nous intéresse est : quelle partie du contenu a été générée ou modifiée, et cette modification change-t-elle la proposition que le document semble établir ?

Un montage ordinaire peut être plus trompeur qu’une création totale

Imaginons deux vidéos. Dans la première, une IA fait prononcer à une ministre une phrase légèrement absurde. La qualité est bonne, mais plusieurs sources expliquent immédiatement qu’aucune conférence correspondante n’a eu lieu. Dans la seconde, une véritable conférence existe. La ministre déclare :

« Ce projet serait catastrophique si nous supprimions les mécanismes de contrôle prévus. C’est précisément pourquoi nous les avons maintenus. »

La vidéo diffusée conserve uniquement :

« Ce projet serait catastrophique. »

Aucun pixel n’est synthétique. La seconde manipulation peut être beaucoup plus difficile à contester rapidement précisément parce que le fichier est authentique. Cela montre pourquoi la focalisation exclusive sur l’IA peut détourner l’attention de techniques informationnelles beaucoup plus anciennes.

Ne pas appeler tout montage un deepfake

La précision du vocabulaire possède ici une utilité pratique. Une vidéo ralentie n’est pas nécessairement un deepfake. Une photographie sortie de son contexte n’est pas un deepfake. Une citation coupée n’est pas un deepfake. Une image entièrement générée peut être qualifiée de contenu synthétique, même lorsqu’elle n’imite aucune personne particulière. Employer deepfake pour toute manipulation visuelle risque de faire disparaître les mécanismes précis qu’il faut vérifier. Une petite classification suffit :

SituationQuestion principale
Image authentique, fausse légendeLe contexte attribué est-il réel ?
Vidéo coupée ou ralentieLe montage change-t-il le sens ?
Image retouchéeQuels éléments ont été modifiés ?
Visage ou voix imités par IALa personne a-t-elle réellement fait ou dit cela ?
Scène entièrement généréeL’événement représenté a-t-il réellement existé ?
Document réel accusé d’être généréQuelles preuves indépendantes établissent son authenticité ?

Identifier correctement le type de problème détermine la meilleure méthode de vérification.

Cas pratique — Une vidéo de violences pendant une manifestation

Une vidéo circule avec cette légende :

« Manifestants attaquant un hôpital aujourd’hui à Lyon. Les médias cachent ces images. »

La séquence montre réellement plusieurs personnes brisant des vitres. Comment raisonner ? Première question : la vidéo est-elle générée par IA ? Peut-être. Mais ce n’est pas nécessairement la question la plus rentable. Une recherche inversée retrouve rapidement la même séquence publiée trois ans auparavant dans un autre pays. L’enquête peut pratiquement s’arrêter là. Le problème était une décontextualisation d’un contenu authentique. Imaginons maintenant qu’aucune version antérieure n’apparaisse. Nous recherchons la source initiale. Le compte affirme :

« Un ami présent sur place me l’a envoyée. »

Aucune autre image ne confirme la scène. La police et l’hôpital n’ont signalé aucun incident comparable. L’hypothèse devient plus douteuse. Puis plusieurs vidéos prises sous différents angles apparaissent, publiées par des journalistes identifiables présents sur place. La crédibilité augmente fortement. Remarquez ce que nous n’avons jamais dû faire : observer les doigts des manifestants pour décider si une IA les avait dessinés. Nous avons reconstruit la provenance et la convergence des sources.

Cas pratique — L’audio du directeur

Un message vocal semble provenir du directeur d’une entreprise :

« Transférez immédiatement 250 000 € sur ce compte ; l’opération est confidentielle. »

La voix paraît parfaite. Que faire ? Essayer de décider : « est-ce vraiment sa voix ? » est une mauvaise sécurité. Un système de contrôle robuste dit : une opération financière inhabituelle exige une confirmation par un deuxième canal indépendant. On rappelle le directeur par son numéro habituel. On contacte le service financier. On applique les procédures d’autorisation. Même si l’audio est authentique, cette procédure reste utile : le téléphone du dirigeant pourrait avoir été compromis ou il pourrait lui-même avoir commis une erreur. La meilleure protection contre certaines manipulations n’est donc pas un meilleur pouvoir perceptif. C’est une meilleure procédure.

Cas pratique — « C’est un deepfake »

Une vidéo authentique semble montrer une personnalité publique insultant un groupe lors d’une réunion. La personne répond :

« Cette vidéo a été générée par IA. »

Que faisons-nous ? Nous ne devons pas répondre : « Impossible, elle semble parfaitement vraie. » Mais nous ne devons pas non plus conclure : « Dans le doute, on ne saura jamais. » Nous pouvons rechercher : l’enregistrement complet, son origine, les personnes présentes, d’autres téléphones ayant filmé la réunion, le fichier le plus proche de la source, les témoignages indépendants et les éventuelles analyses techniques. Supposons que cinq participants possèdent des enregistrements indépendants montrant exactement la même scène. L’hypothèse d’un deepfake devient extrêmement coûteuse : il faudrait désormais expliquer comment plusieurs fichiers indépendants et témoins convergent vers le même événement faux. La technologie augmente l’espace des hypothèses. Elle ne rend pas toutes les hypothèses également probables.

Une hiérarchie de vérification

Face à un contenu audiovisuel douteux, une démarche rationnelle peut aller du plus simple au plus coûteux.

NiveauQuestion
1. ContexteQui affirme quoi, où et quand ?
2. SourceQuel est le premier compte ou organisme identifiable ?
3. AntérioritéLe contenu existait-il avant l’événement supposé ?
4. CorroborationExiste-t-il des sources réellement indépendantes ?
5. Version complèteUn montage ou une coupe change-t-il le sens ?
6. Provenance techniqueMétadonnées ou signatures apportent-elles une information ?
7. Analyse spécialiséeUne expertise technique est-elle nécessaire ?

Cette hiérarchie possède une vertu pratique. Elle évite de commencer systématiquement par la méthode la plus spectaculaire. Dans beaucoup de cas, une fausse image peut être démystifiée simplement en retrouvant sa version originale.

La technique doit rester proportionnée à l’enjeu

Nous n’avons évidemment pas besoin d’une expertise forensique pour chaque photographie amusante reçue sur une messagerie. L’effort doit dépendre : de l’importance de l’affirmation, des conséquences possibles d’une erreur et de ce que nous comptons faire du contenu. Une photographie dont nous rions puis oublions mérite peu d’effort. Une vidéo utilisée pour accuser publiquement une personne d’un crime mérite beaucoup plus de précautions. Un audio demandant un transfert financier mérite une procédure indépendante immédiate. L’esprit critique n’est pas une vérification infinie. C’est une allocation raisonnable de l’effort de vérification selon les risques.

Ce qui change réellement avec l’IA générative

L’IA ne crée pas le problème fondamental de la désinformation visuelle. Les images ont toujours pu être : sélectionnées, mises en scène, coupées, retouchées et décontextualisées. Elle transforme cependant plusieurs paramètres importants. Elle réduit le coût de production. Elle accélère la génération de variantes. Elle facilite l’imitation de personnes réelles. Elle permet de créer des scènes sans aucun événement source. Elle peut augmenter l’échelle de production. Et son existence offre aux menteurs une nouvelle défense possible : « ce document authentique est artificiel ». Ces transformations justifient une attention sérieuse. Elles ne justifient pas de conclure que nous entrons nécessairement dans un monde où plus aucune preuve audiovisuelle ne peut être établie.

À retenir

L’IA générative permet désormais de produire à faible coût des images, voix et vidéos représentant de manière convaincante des événements qui n’ont jamais existé ou des personnes faisant ce qu’elles n’ont jamais fait. Mais les deepfakes ne doivent pas faire oublier les cheapfakes : des images et vidéos authentiques peuvent être recadrées, coupées ou simplement sorties de leur contexte. Les expériences disponibles ne montrent d’ailleurs pas systématiquement que les manipulations audiovisuelles sophistiquées soient davantage crédibles que des formes beaucoup plus simples de désinformation.

Nous sommes par ailleurs loin de posséder une capacité humaine infaillible à reconnaître les contenus synthétiques. Une méta-analyse de 56 études et 86 155 participants situe la détection des deepfakes de bonne qualité autour du niveau du hasard dans plusieurs analyses, malgré une forte hétérogénéité et certaines améliorations obtenues avec entraînement ou assistance. La conséquence correcte n’est pourtant pas : « nous ne pouvons plus croire ce que nous voyons ». C’est : « l’apparence visuelle seule ne suffit plus — et, en réalité, n’a jamais suffi ». L’authenticité doit être reconstruite à partir de la source, du contexte, de la provenance et de corroborations indépendantes.

Enfin, les contenus synthétiques produisent un risque inverse : le liar’s dividend. Une personne confrontée à une preuve authentique peut tenter de prétendre qu’elle est artificielle. Des expériences auprès de plus de 15 000 participants américains confirment qu’une fausse accusation de désinformation peut parfois protéger politiquement celui qui l’utilise, tout en montrant que cette stratégie fonctionne beaucoup moins bien contre une preuve vidéo qu’on pourrait le craindre. Nous devons donc éviter deux erreurs symétriques : voir une image réaliste et conclure « c’est arrivé » et savoir que les deepfakes existent et conclure « désormais, aucune image ne prouve plus rien ». L’IA n’abolit pas la preuve. Elle augmente la valeur de la provenance, de l’indépendance des sources et des procédures capables de relier un document à un événement réel.

Et, paradoxalement, l’un des meilleurs moyens de résister aux deepfakes restera souvent exactement le même que pour une vieille photographie sortie de son contexte : cesser de regarder uniquement l’image et commencer à enquêter sur son histoire.

Sources principales

Alexander Diel et al., « *Human Performance in Detecting Deepfakes: A Systematic Review and Meta-Analysis of 56 Papers* », *Computers in Human Behavior Reports*, 2024. Michael Hameleers, Toni van der Meer et Rens Vliegenthart, « *How Persuasive Are Political Cheapfakes Disseminated via Social Media? The Effects of Out-of-Context Visual Disinformation on Message Credibility and Issue Agreement* », *Information, Communication & Society*, 2024. Kaylyn Jackson Schiff, Daniel S. Schiff et Natália S. Bueno, « *The Liar’s Dividend: Can Politicians Claim Misinformation to Evade Accountability?* », *American Political Science Review*, publication en ligne 2024, volume 2025. Robert Chesney et Danielle Keats Citron, « *Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security* », *California Law Review*, 2019.

Jing Zeng, Mike S. Schäfer et al., travaux sur la désinformation visuelle, les médias synthétiques et les processus d’authentification. Michael Hameleers et collaborateurs, travaux expérimentaux sur la désinformation visuelle et la décontextualisation. Kiran Garimella et Simon Chauchard, premières analyses empiriques sur la prévalence des contenus politiques générés par IA pendant les élections indiennes de 2024, *Nature*, 2024.

19 sur 33Retour à la catégorie