Désinformation — répétition, dépendance des sources et fausse accumulation de preuves

Une affirmation apparaît sur un compte inconnu. Quelques heures plus tard, elle est reprise par plusieurs influenceurs, commentée dans des vidéos, citée sur des sites d’actualité et discutée par des milliers de personnes. Lorsque nous la rencontrons une nouvelle fois, elle ne ressemble plus vraiment à une information isolée : elle semble entourée d’un faisceau de confirmations.

Pourtant, deux phénomènes très différents peuvent produire cette impression. D’une part, la répétition rend une affirmation plus familière et peut augmenter son apparence de vérité. D’autre part, plusieurs publications apparemment distinctes peuvent toutes dériver d’une même source initiale, de sorte que le nombre de répétitions augmente sans que la quantité de preuves indépendantes augmente dans la même proportion.

La désinformation exploite ainsi deux vulnérabilités différentes : notre psychologie de la familiarité et notre difficulté à reconstruire la dépendance entre les sources. Une lecture bayésienne permet de comprendre pourquoi cent répétitions d’une affirmation ne constituent pas nécessairement cent raisons supplémentaires d’y croire.

Répéter n’est pas vérifier

Supposons qu’un message affirme qu’un événement E s’est produit. Un deuxième compte répète exactement la même information. Puis un troisième, un quatrième et un cinquième.

Nous pourrions implicitement raisonner ainsi :

cinq sources disent la même chose → cinq confirmations → E devient beaucoup plus probable.

Ce raisonnement serait raisonnable si les cinq sources avaient réellement obtenu l’information indépendamment les unes des autres.

Mais imaginons que quatre d’entre elles aient simplement recopié la première. Nous avons alors :

événement supposé → source A → B, C, D et E recopient A.

Nous n’avons pas cinq observations de l’événement. Nous avons essentiellement une observation ou une affirmation initiale, puis quatre observations du fait que cette affirmation circule.

C’est une différence majeure.

La présence de quatre reprises peut nous renseigner sur la popularité de l’histoire, son intérêt médiatique ou sa capacité à circuler. Elle apporte beaucoup moins d’information sur la question qui nous intéresse réellement : l’événement initial s’est-il produit ?

La généalogie d’une information compte davantage que son nombre d’occurrences

Considérons deux situations.

Dans la première, cinq journalistes interrogent séparément cinq témoins qui ont observé directement le même événement dans de bonnes conditions. Aucun témoin ne connaît les autres récits.

Dans la seconde, cinq articles citent tous une dépêche publiée par la même agence.

Dans notre environnement informationnel, les deux situations peuvent produire une apparence similaire : cinq articles racontent la même chose.

Épistémiquement, leur structure est pourtant très différente.

Dans le premier cas, l’hypothèse selon laquelle l’événement n’a pas eu lieu doit expliquer pourquoi plusieurs voies d’information distinctes convergent vers la même description. Dans le second, une seule erreur à l’origine de la chaîne suffit à expliquer toute la convergence.

La question utile n’est donc pas seulement « combien de sources ? », mais « combien de chemins réellement indépendants relient cette affirmation aux faits ? »

Cette distinction constitue l’une des applications les plus directes du raisonnement bayésien à la vérification de l’information.

La répétition possède aussi un effet psychologique propre

Même lorsque nous savons intellectuellement qu’une affirmation répétée ne constitue pas une nouvelle preuve, sa répétition peut modifier notre impression de crédibilité.

La psychologie expérimentale documente depuis longtemps ce phénomène, généralement appelé effet de vérité illusoire (*illusory truth effect*) : une affirmation déjà rencontrée tend, toutes choses égales par ailleurs, à être jugée plus vraie qu’une affirmation nouvelle. Une méta-analyse de Dechêne et ses collègues a confirmé la robustesse générale de cet effet à travers de nombreuses expériences.

L’une des explications importantes passe par la fluidité cognitive. Une phrase familière est plus facile à traiter. Cette facilité de traitement peut être utilisée, souvent sans que nous en ayons conscience, comme un indice allant dans le sens de sa véracité.

Le mécanisme est particulièrement dangereux dans l’environnement numérique : une affirmation peut devenir cognitivement familière très longtemps avant que nous ayons véritablement examiné les preuves qui la soutiennent.

La familiarité de l’information peut alors être confondue avec la familiarité des faits.

Même connaître la bonne réponse ne nous immunise pas complètement

On pourrait penser que l’effet disparaît lorsqu’une personne possède déjà les connaissances nécessaires pour reconnaître qu’une affirmation est fausse.

Ce n’est pas toujours le cas. Fazio et ses collègues ont montré expérimentalement que la répétition pouvait encore augmenter les jugements de vérité pour certaines affirmations contredisant des connaissances que les participants étaient capables de mobiliser dans d’autres circonstances. L’étude ne signifie évidemment pas que la répétition peut nous faire croire n’importe quoi, mais elle montre que la connaissance disponible n’est pas toujours automatiquement consultée au moment du jugement.

Cette observation prolonge directement ce que nous avons vu à propos des systèmes intuitifs de traitement. Une réponse familière et facile à traiter peut influencer le jugement avant qu’une vérification plus analytique soit engagée.

L’objectif n’est donc pas seulement de « savoir davantage ». Il faut aussi acquérir des réflexes permettant de distinguer « j’ai déjà entendu cela » de « j’ai de bonnes raisons indépendantes de croire cela ».

La désinformation bénéficie directement de l’exposition répétée

L’effet a également été étudié avec de fausses informations ressemblant à celles circulant réellement sur les réseaux sociaux.

Pennycook, Cannon et Rand ont montré qu’une seule exposition antérieure à de faux titres d’actualité augmentait ensuite leur exactitude perçue, y compris lorsqu’un délai séparait les deux présentations. L’effet ne rendait pas toutes les affirmations crédibles et rencontrait notamment des limites pour des propositions manifestement absurdes, mais il suffisait qu’une affirmation possède un minimum de plausibilité pour que la répétition puisse augmenter sa crédibilité.

Cette distinction est importante. La répétition ne transforme pas automatiquement une proposition impossible en croyance majoritaire. Elle agit plutôt comme un petit déplacement probabiliste intuitif : l’affirmation paraît un peu moins étrangère, un peu plus familière, donc parfois un peu plus crédible.

Répétée des dizaines de fois dans un environnement où les sources semblent multiples, cette petite modification peut devenir beaucoup plus importante.

Familiarité et multiplicité apparente peuvent se renforcer

Les deux mécanismes étudiés jusqu’ici peuvent fonctionner ensemble.

Une affirmation est d’abord publiée par A. Elle est reprise par B, C et D. Un utilisateur rencontre la version de B aujourd’hui, celle de C demain, puis une vidéo de D quelques jours plus tard.

Deux impressions apparaissent progressivement :

« j’ai déjà entendu cela plusieurs fois »

et

« plusieurs personnes différentes disent la même chose ».

La première relève de la familiarité. La seconde ressemble à une accumulation de preuves.

Pourtant, si B, C et D remontent tous à A, la quantité d’information indépendante peut n’avoir presque pas augmenté.

C’est une situation particulièrement trompeuse parce que les deux mécanismes convergent psychologiquement vers la même conclusion tout en ayant une valeur épistémique très différente de celle que nous leur attribuons spontanément.

Remonter vers la source primaire

L’un des meilleurs moyens de combattre cette illusion consiste à reconstruire la chaîne de transmission.

Un article affirme :

« selon plusieurs médias... »

Quels médias ?

Un autre écrit :

« de nombreuses sources rapportent... »

Ces sources disposent-elles réellement d’informations distinctes ?

Un compte cite un article qui cite lui-même un autre article, qui finit par citer une vidéo de quelques secondes publiée anonymement.

La démarche de vérification consiste alors à remonter aussi loin que possible vers la première source accessible : document original, vidéo complète, déclaration enregistrée, étude scientifique, décision judiciaire, base de données ou témoin primaire.

Cette remontée ne garantit pas que la source primaire soit vraie. Elle permet simplement de comprendre combien de preuves nous possédons réellement.

Cinq articles remontant au même document doivent être évalués d’abord comme cinq interprétations d’une source, pas comme cinq observations indépendantes du fait.

Une source primaire n’est pas nécessairement une bonne source

Il faut cependant éviter une nouvelle simplification.

Trouver l’origine d’une information ne signifie pas avoir trouvé la vérité.

Une vidéo primaire peut être tronquée. Un témoin direct peut se tromper. Un document officiel peut contenir une erreur. Une étude originale peut être méthodologiquement mauvaise.

La recherche de la source primaire répond uniquement à une question : d’où vient l’information ?

Il faut ensuite poser les questions habituelles : comment cette source a-t-elle produit l’information ? Quelle était sa position pour observer les faits ? Quelle est la qualité des données ? Quelles hypothèses concurrentes peuvent expliquer ce que nous voyons ?

Autrement dit, la critique de la transmission ne remplace pas la critique de la source.

Elle vient avant elle.

Plusieurs sources vraiment indépendantes changent la situation

Supposons qu’une vidéo ambiguë semble montrer un événement inhabituel. Isolément, elle laisse beaucoup d’explications ouvertes : montage, mauvaise interprétation, mauvais lieu, mauvaise date.

Puis apparaît une seconde vidéo filmée sous un autre angle par une personne sans lien apparent avec la première. Ensuite, des données géographiques indépendantes correspondent au lieu annoncé. Enfin, un document officiel ultérieur confirme l’événement.

Le dossier devient beaucoup plus solide parce que plusieurs hypothèses d’erreur doivent désormais expliquer des éléments produits par des mécanismes différents.

La première vidéo pourrait être trompeuse. Mais l’hypothèse d’un simple montage devient moins capable d’expliquer simultanément la seconde vidéo, les données géographiques et le document indépendant.

C’est exactement le phénomène d’accumulation bayésienne étudié précédemment : la diversité des voies probatoires peut rendre une convergence beaucoup plus discriminante.

Attention aux confirmations qui apparaissent après la rumeur

Le moment où une source apparaît fournit également une information.

Supposons qu’un récit viral circule pendant plusieurs heures. Des témoins commencent ensuite à publier des témoignages correspondant précisément aux détails déjà connus publiquement.

Leurs récits peuvent être sincères. Pourtant, leur indépendance est plus difficile à établir, car ils ont pu être exposés à l’histoire avant de témoigner.

La situation serait différente si plusieurs documents ou témoignages avaient été enregistrés avant que la rumeur ne devienne publique et étaient ensuite découverts indépendamment.

Cette différence temporelle est importante dans le journalisme, les enquêtes historiques et judiciaires : une source antérieure à la circulation publique d’une information est moins facilement expliquée par contamination à partir de cette information.

La chronologie fait donc partie de la structure probabiliste des preuves.

Le consensus apparent peut être fabriqué par la structure du réseau

Les réseaux numériques compliquent encore la situation parce que leur architecture amplifie fortement certaines informations.

Un message peut être repris parce qu’il est vrai, mais aussi parce qu’il est surprenant, émotionnel, politiquement utile, drôle ou simplement déjà populaire. La visibilité obtenue ne constitue donc pas une mesure directe de sa véracité.

Une affirmation répétée par mille comptes peut provenir de :

mille observations indépendantes

ou

un seul message extrêmement viral.

Ce sont deux mondes probabilistes complètement différents.

La recherche sur la désinformation souligne depuis longtemps l’importance des mécanismes sociaux et cognitifs qui permettent aux informations fausses de persister même après correction. La revue de Lewandowsky et ses collègues examine notamment leur diffusion, leur persistance en mémoire et les difficultés rencontrées lorsqu’on cherche ensuite à les corriger.

Il faut donc résister à une intuition très naturelle : la popularité d’une information n’est pas son rapport de vraisemblance.

Une capture d’écran n’est pas une nouvelle source

Certaines formes de désinformation créent particulièrement bien l’illusion de multiplicité.

Une capture d’écran montre un article. Une vidéo montre cette capture d’écran. Un autre compte republie la vidéo. Un site écrit que « des internautes ont découvert » l’information et intègre les publications précédentes.

Nous pouvons rapidement avoir l’impression d’un dossier constitué de plusieurs pièces.

En réalité :

article initial → capture → vidéo → article sur la vidéo.

Toutes les branches remontent au même point.

La même logique vaut pour une photographie recadrée et republiée dix fois ou pour une citation dont toutes les occurrences remontent à un même extrait non vérifié.

L’analyse bayésienne nous oblige à transformer le paysage visuel des publications en graphe de dépendance des sources.

C’est souvent beaucoup plus instructif que de compter les occurrences.

Un démenti répété doit lui aussi être conçu avec prudence

Le rôle de la répétition crée une difficulté supplémentaire pour la correction des fausses informations. Pour réfuter une affirmation, il faut généralement la mentionner, ce qui peut augmenter sa familiarité.

Cela ne signifie pas qu’il faudrait renoncer à corriger les fausses informations. La recherche sur la correction est beaucoup plus nuancée que l’idée populaire selon laquelle « toute réfutation renforce automatiquement le mythe ». Elle montre notamment que la conception du correctif, la clarté de l’explication alternative et la manière dont l’information erronée est rappelée comptent dans son efficacité. La revue de Lewandowsky et ses collègues synthétise ces enjeux et le phénomène de continued influence, par lequel une information peut continuer à influencer certains raisonnements après avoir été corrigée.

Pour notre problème bayésien, la leçon principale reste que le nombre de rencontres avec une phrase n’est pas une mesure fiable du nombre de preuves en sa faveur.

Une méthode simple face à une information virale

Lorsqu’une affirmation est partout, il est utile d’effectuer mentalement une opération inverse de celle produite par la viralité : réduire la multitude apparente à ses sources réellement indépendantes.

Au lieu de penser :

« j’ai vu cette information quinze fois »,

demandons :

« combien de sources primaires différentes ai-je réellement rencontrées ? »

Puis examinons leurs relations. Le deuxième témoin connaissait-il le récit du premier ? Les différents articles citent-ils la même agence ? Les vidéos montrent-elles réellement plusieurs événements ou différentes copies du même enregistrement ? Les experts interrogés ont-ils effectué des analyses indépendantes ou commentent-ils tous la même étude ?

Cette démarche ne nécessite aucun calcul numérique. Elle constitue pourtant une application directe du principe bayésien d’indépendance conditionnelle.

Ne pas tomber dans le scepticisme symétrique

Une fois ce mécanisme compris, une nouvelle erreur devient possible : conclure que toutes les informations médiatiques seraient dépendantes et qu’aucun consensus n’aurait de valeur.

Ce serait excessif.

Si plusieurs rédactions vérifient indépendamment une information auprès de sources différentes, si plusieurs journalistes obtiennent séparément des documents concordants ou si une affirmation est confirmée par des données publiques accessibles, la convergence possède une véritable valeur probante.

De même, un consensus scientifique ne devient pas illusoire simplement parce que les chercheurs utilisent parfois les mêmes publications ou instruments. Sa force dépend notamment de la diversité des méthodes, des réplications, des données et des mécanismes institutionnels de critique.

La bonne question n’est donc jamais :

« ces sources sont-elles parfaitement indépendantes ? »

mais :

« quelle part de leur information est réellement nouvelle, et quelles erreurs communes pourraient expliquer leur accord ? »

De la popularité à la preuve

La désinformation illustre finalement une distinction essentielle entre signal social et preuve épistémique.

Le nombre de partages indique que beaucoup de personnes ont transmis une information. Le nombre d’articles indique qu’elle a été suffisamment importante ou intéressante pour être publiée. Le nombre de personnes convaincues indique quelque chose sur l’état d’une croyance collective.

Aucun de ces nombres ne nous dit directement combien de preuves indépendantes soutiennent l’affirmation elle-même.

Une croyance peut se diffuser très largement à partir d’une seule erreur. Inversement, un fait solidement établi peut rester peu connu.

La vérité n’est donc pas proportionnelle à la viralité.

Cette distinction ne doit pas nous conduire à ignorer les signaux sociaux : la réputation d’une source, le consensus de spécialistes et la convergence de plusieurs enquêtes peuvent être d’excellents indices lorsque nous savons comment ils ont été produits. Elle nous oblige simplement à éviter le raccourci « beaucoup de répétitions = beaucoup de preuves ».

Retrouver la structure bayésienne

Face à une affirmation virale, nous pouvons désormais reconstruire tout le raisonnement développé dans cette catégorie.

Il existe d’abord un prior : à quel point l’affirmation était-elle plausible avant sa diffusion ?

Une première source apporte une preuve dont la force dépend de sa fiabilité et de ce qu’elle aurait été susceptible de produire si l’affirmation était fausse.

Une seconde source apparaît. Nous devons alors demander non pas seulement si elle dit la même chose, mais ce qu’elle ajoute sachant que la première existe déjà.

Si elle dépend entièrement de la première, son apport probatoire est faible. Si elle représente une nouvelle observation indépendante et discriminante, elle peut produire une mise à jour importante.

Une troisième, une quatrième et une cinquième source sont évaluées de la même manière.

C’est ainsi que l’on passe d’une simple accumulation visuelle de publications à une accumulation raisonnée des preuves.

Une compétence centrale d’autonomie intellectuelle

L’environnement informationnel contemporain rend presque impossible la vérification personnelle de tout ce que nous rencontrons. Nous devons donc déléguer une grande partie de notre connaissance à des journalistes, institutions, scientifiques, experts et autres intermédiaires.

L’autonomie intellectuelle ne consiste pas à supprimer cette délégation. Elle consiste à comprendre comment l’information circule entre ces intermédiaires.

Lorsqu’une affirmation paraît unanimement confirmée, demandons : combien de sources originales se trouvent derrière cette unanimité ? Lorsqu’elle nous paraît de plus en plus plausible à force de la rencontrer, demandons : qu’ai-je appris de nouveau depuis la première occurrence ?

Cette dernière question est peut-être la meilleure protection bayésienne contre la répétition :

si rien de nouveau n’a été observé, ma croyance ne devrait pas être multipliée simplement parce que la même information m’est revenue dix fois.

La désinformation nous montre ainsi combien la qualité d’une croyance dépend non seulement du contenu des preuves, mais de leur architecture.

Nous pouvons maintenant quitter les applications immédiates pour examiner comment cette logique s’intègre dans une entreprise plus générale de production de connaissances : la méthode scientifique.

Pour aller plus loin

  • Dechêne, A., Stahl, C., Hansen, J., & Wänke, M. (2010). « The Truth About the Truth: A Meta-Analytic Review of the Truth Effect ». *Personality and Social Psychology Review*, 14(2), 238–257. DOI : 10.1177/1088868309352251. Méta-analyse de référence sur l’effet de vérité lié à la répétition.
  • Fazio, L. K., Brashier, N. M., Payne, B. K., & Marsh, E. J. (2015). « Knowledge Does Not Protect Against Illusory Truth ». *Journal of Experimental Psychology: General*, 144(5), 993–1002. DOI : 10.1037/xge0000098. Montre que la disponibilité de connaissances correctes ne supprime pas toujours l’influence de la répétition sur les jugements de vérité.
  • Pennycook, G., Cannon, T. D., & Rand, D. G. (2018). « Prior Exposure Increases Perceived Accuracy of Fake News ». *Journal of Experimental Psychology: General*, 147(12), 1865–1880. DOI : 10.1037/xge0000465. Étude expérimentale de l’effet de l’exposition répétée sur l’exactitude perçue de faux titres d’actualité.
  • Lewandowsky, S., Ecker, U. K. H., Seifert, C. M., Schwarz, N., & Cook, J. (2012). « Misinformation and Its Correction: Continued Influence and Successful Debiasing ». *Psychological Science in the Public Interest*, 13(3), 106–131. DOI : 10.1177/1529100612451018. Revue majeure sur la diffusion, la persistance et la correction des informations erronées.
23 sur 35Retour à la catégorie