La propagande dans les réseaux épistémiques : comment manipuler avec des faits vrais

Définition simple

Les travaux de Cailin O’Connor, James Owen Weatherall et Justin Bruner sur la propagande dans les réseaux épistémiques montrent quelque chose de particulièrement dérangeant : il n’est pas toujours nécessaire d’inventer de fausses données pour conduire un public rationnel vers une croyance fausse. Il peut suffire de sélectionner stratégiquement, parmi des résultats scientifiques authentiques, ceux qui soutiennent la conclusion souhaitée. Leur article *How to Beat Science and Influence People: Policy Makers and Propaganda in Epistemic Networks*, publié sous sa forme définitive en 2020, modélise précisément ce mécanisme à partir de ce qu’ils appellent la « stratégie du tabac ».

Le modèle comporte des scientifiques qui produisent des données, des décideurs qui cherchent à comprendre ce que disent les preuves et un propagandiste dont l’objectif est différent : amener les décideurs à préférer la mauvaise conclusion. Dans l’une des versions les plus frappantes du modèle, le propagandiste ne falsifie aucune expérience, ne corrompt aucun scientifique et ne produit aucune fausse donnée. Il observe simplement les résultats réels de la communauté scientifique, choisit ceux qui favorisent sa position et les communique aux décideurs. Ceux-ci mettent rationnellement leurs croyances à jour en fonction des informations qu’ils reçoivent, mais comme leur échantillon de preuves est biaisé, ils peuvent finalement devenir très confiants dans une conclusion fausse alors même que la communauté scientifique converge vers la vérité.

L’idée essentielle est donc :

La rationalité d’un individu ne suffit pas si l’ensemble des preuves auquel il accède a été sélectionné de manière stratégique.

Cette conclusion déplace profondément le problème de la désinformation. Nous devons évidemment apprendre à détecter les mensonges, les images truquées ou les études frauduleuses. Mais il existe une forme plus subtile de manipulation : ne montrer que des faits vrais soigneusement choisis.


L’esprit critique est souvent enseigné sous une forme simple : lorsqu’une affirmation circule, vérifiez si elle est vraie, trouvez la source, regardez si l’étude existe réellement. C’est indispensable, mais le modèle d’O’Connor, Weatherall et Bruner montre que cela peut être insuffisant.

Imaginons cent études sur une question. Quatre-vingt-dix vont globalement dans une direction et dix donnent, à cause de la variabilité statistique ou de différences méthodologiques, des résultats allant dans l’autre. Un acteur peut sélectionner les dix dernières et les présenter au public. Chacune peut être authentique. Chacune peut avoir réellement été menée par des scientifiques. Chacune peut être correctement citée.

Vérifier individuellement les dix études ne révélera donc aucun « faux ».

La manipulation se trouve ailleurs :

Pourquoi ai-je reçu précisément ces dix résultats et pas les quatre-vingt-dix autres ?

Dans le modèle de « partage sélectif », le propagandiste observe tous les scientifiques mais transmet seulement les résultats allant dans le sens de la mauvaise théorie. Les résultats transmis sont pourtant tous authentiques et produits indépendamment du propagandiste. Ce qui est biaisé n’est pas leur contenu individuel mais l’échantillon présenté au décideur.

Cette distinction est fondamentale :

véracité locale ≠ représentativité globale des preuves.

Une collection de faits vrais peut raconter une histoire fausse.


Les auteurs construisent leur modèle à partir de la stratégie historiquement associée à l’industrie du tabac et décrite notamment par Naomi Oreskes et Erik Conway. Ils en retiennent deux mécanismes : d’une part, mettre fortement en avant les recherches indépendantes qui favorisent la position de l’industrie ; d’autre part, financer des recherches supplémentaires tout en sélectionnant les résultats qui seront rendus publics.

Il ne faut donc pas imaginer nécessairement un dirigeant disant à un chercheur :

« Falsifiez vos résultats. »

Une stratégie beaucoup plus efficace peut être :

« Faites suffisamment de recherches. Nous communiquerons surtout celles qui nous arrangent. »

Pourquoi cela fonctionne-t-il ? Parce que la science contient naturellement de la variabilité. Même lorsqu’une hypothèse est fausse, toutes les expériences ne produisent pas exactement le même résultat. Certaines vont accidentellement sembler lui donner raison.

Si suffisamment d’études sont réalisées, il devient possible de trouver des résultats favorables à presque n’importe quelle position suffisamment proche des possibilités empiriques. La question devient alors :

quels résultats sont sélectionnés pour circuler ?

C’est une forme de *cherry-picking* particulièrement puissante, parce que celui qui la pratique peut répondre honnêtement :

« Je n’ai inventé aucune étude. »

C’est vrai. Mais incomplet.


Dans le premier scénario étudié par les auteurs, le propagandiste ne finance ni ne réalise lui-même de science. Il observe simplement l’ensemble de la communauté scientifique. Chaque fois qu’un résultat va dans le sens qu’il préfère, il le transmet aux décideurs. Ceux-ci reçoivent donc à la fois certaines informations directement de scientifiques et un flux supplémentaire de résultats authentiques soigneusement sélectionnés par le propagandiste.

Le résultat est remarquable : dans certaines simulations, les scientifiques finissent correctement par adopter la meilleure théorie tandis que les décideurs, exposés à la sélection propagandiste, deviennent presque certains du contraire. Les auteurs insistent sur le fait que personne ne fait ici de mauvaise science et qu’aucune donnée n’est falsifiée. Le propagandiste exploite seulement la différence entre le corpus complet des résultats et le corpus visible par les décideurs.

Nous obtenons alors deux mondes informationnels.

Dans le premier la communauté scientifique voit progressivement l’ensemble des résultats et converge.

Dans le second : le décideur voit une sélection biaisée et diverge de la communauté scientifique.

Cette situation explique pourquoi dire :

« Moi aussi, j’ai des études scientifiques »

ne suffit absolument pas à établir une position.

La question pertinente devient :

Comment ces études se situent-elles dans l’ensemble de la littérature ?


Une autre stratégie consiste à financer directement de nouvelles études puis à exploiter les résultats favorables. Le modèle montre notamment qu’avec une quantité donnée de ressources, de nombreuses petites études peuvent être plus utiles au propagandiste que quelques grandes études de bonne puissance statistique. Pourquoi ? Parce que les petites études produisent davantage de variabilité aléatoire ; elles fournissent donc plus souvent des résultats accidentellement favorables à la mauvaise théorie, que le propagandiste peut ensuite sélectionner.

Dans leurs simulations, lorsque les ressources scientifiques sont réparties entre des études plus grandes et plus informatives, il devient plus difficile d’obtenir suffisamment de résultats trompeurs à sélectionner. À l’inverse, une multitude de petites études fournit davantage de « prises » au propagandiste.

Cette observation permet de comprendre un mécanisme général :

plus une littérature contient de bruit, plus la sélection stratégique de ses résultats devient facile.

Cela ne signifie évidemment pas qu’une petite étude soit nécessairement mauvaise. Cela signifie qu’un corpus composé d’une grande quantité d’études peu informatives peut être particulièrement vulnérable à la présentation sélective.

Nous retrouvons alors un principe déjà rencontré plusieurs fois dans cette histoire de l’épistémologie : une étude isolée n’est presque jamais l’unité pertinente pour évaluer un consensus scientifique. Ce qui compte est la structure de l’ensemble des preuves.


C’est probablement le point philosophique le plus important.

Nous expliquons souvent les croyances fausses par l’ignorance, les biais cognitifs, l’irrationalité, le raisonnement motivé. Ces facteurs existent évidemment.

Mais les modèles d’O’Connor, Weatherall et Bruner montrent qu’ils ne sont pas nécessaires. Les décideurs du modèle peuvent mettre correctement à jour leurs croyances sur toutes les preuves auxquelles ils ont accès et néanmoins finir par croire une fausseté.

Pourquoi ?

Parce que la bonne règle :

« proportionnez votre croyance aux preuves disponibles »

ne garantit rien si : les preuves disponibles ne constituent pas un échantillon représentatif des preuves existantes.

Nous devons donc distinguer deux problèmes :

rationalité du traitement de l’information

et :

qualité du processus de sélection de l’information.

La première appartient à l’agent.

La seconde appartient : au réseau informationnel. C’est une transformation majeure de l’épistémologie.

Un individu parfaitement rationnel peut être trompé par une architecture informationnelle déformée.


Nous associons spontanément : propagande à mensonge.

Mais ce n’est pas une condition nécessaire du mécanisme étudié ici. Le propagandiste peut dire uniquement des choses vraies :

« Cette étude a trouvé X. »

Vrai.

« Ce chercheur a publié ce résultat. »

Vrai.

« Une expérience n’a pas trouvé l’effet attendu. »

Vrai.

Ce qui manque est :

« Comment ce résultat se compare-t-il aux autres résultats ? »

La manipulation porte alors sur la sélection, la fréquence, la visibilité et le contexte.

On pourrait comparer cela à une biographie. Une personne a accompli mille actions au cours de sa vie. Je peux écrire deux biographies composées uniquement de faits vrais :

une contenant exclusivement :

ses réussites,

l’autre exclusivement :

ses erreurs.

Les deux textes peuvent être factuellement impeccables phrase par phrase. Mais ils produisent deux représentations profondément déformées.

Cela permet de formuler une règle essentielle :

La vérité de chaque affirmation ne garantit pas la vérité de l’image d’ensemble.


Les auteurs obtiennent un autre résultat particulièrement important lorsqu’ils remplacent le propagandiste par un journaliste bien intentionné. Celui-ci cherche à être équitable : pour chaque sujet controversé, il présente un résultat favorable à une position et un résultat favorable à l’autre.

Intuitivement : cela paraît parfaitement impartial.

Mais supposons que les preuves scientifiques soient réparties :

90 % en faveur de B,

10 % en faveur de A.

Présenter une étude B et : une étude A ne reflète pas la littérature. Cela fabrique artificiellement : un équilibre 50/50.

Dans leur modèle, ce type de « fair reporting » ralentit systématiquement l’apprentissage des décideurs par rapport à la transmission de toutes les données ou à une sélection aléatoire de résultats ; selon les paramètres étudiés, la croyance correcte peut être retardée de manière substantielle.

Voilà le mécanisme de la fausse balance :

traiter symétriquement deux positions épistémiquement asymétriques.

C’est un point extrêmement important pour comprendre le journalisme scientifique.

L’impartialité journalistique ne signifie pas nécessairement :

50 % du temps à chaque camp.

Elle devrait plutôt chercher à représenter honnêtement : l’état des preuves et l’état du désaccord.


Attention à l’erreur inverse.

Si une véritable minorité scientifique existe, il peut être parfaitement pertinent de la mentionner, expliquer ses arguments, présenter les incertitudes.

Le problème apparaît lorsque la manière de présenter cette minorité fait croire qu’elle possède un poids comparable au consensus alors que : ce n’est pas le cas.

Nous devons donc distinguer :

« Une minorité de chercheurs conteste ce résultat. »

de :

« Les scientifiques sont divisés sur la question. »

La première proposition peut être exacte.

La seconde peut être profondément trompeuse.

Le travail du médiateur devient donc particulièrement exigeant :

représenter la structure du désaccord, pas seulement son existence.

Cette conclusion rejoint directement la leçon du pluralisme scientifique. Une alternative ne doit pas être censurée simplement parce qu’elle est minoritaire ; mais son existence ne suffit pas non plus pour justifier une présentation symétrique avec un programme beaucoup plus solidement soutenu.


Un autre résultat du modèle mérite attention. Les décideurs sont plus difficiles à tromper lorsqu’ils reçoivent leurs informations d’un plus grand nombre de scientifiques directement, plutôt que de dépendre principalement du propagandiste. Plus ils accèdent à des résultats produits par des acteurs épistémiquement motivés, moins la sélection propagandiste domine leur échantillon informationnel.

L’intuition est simple.

Supposons que le propagandiste vous transmette : dix études favorables à A.

Si ce sont vos dix seules sources : l’effet est puissant.

Si vous consultez parallèlement : cinquante sources scientifiques indépendantes dont la grande majorité soutient B, la sélection devient beaucoup plus visible.

La défense consiste donc moins à devenir personnellement capable de refaire toutes les expériences qu’à :

diversifier les voies d’accès aux preuves et réduire la dépendance à un intermédiaire unique.

C’est une leçon importante pour l’autonomie critique : nous ne pouvons pas devenir experts dans tous les domaines, mais nous pouvons examiner l’architecture de notre dépendance épistémique.


Le problème devient encore plus général lorsque les auteurs remarquent que presque toute transmission d’information comporte une curation. Un journaliste ne peut pas raconter toutes les études. Un enseignant ne peut pas présenter toute la littérature. Une revue de synthèse sélectionne certains travaux. Un expert choisit quelles données expliquer à un décideur.

Il serait donc absurde de dire :

Ne sélectionnez jamais.

La sélection est inévitable.

La vraie question est :

Selon quelle règle sélectionnez-vous ?

Un propagandiste sélectionne : pour produire une croyance déterminée.

Un bon médiateur devrait sélectionner pour représenter aussi fidèlement que possible l’état pertinent des preuves.

Mais même cette différence n’est pas toujours simple à appliquer. Quelle étude est représentative ? Quelle méthodologie est la meilleure ? Quel résultat mérite davantage de poids ?

Nous retrouvons :

Longino.

La curation elle-même devient une pratique épistémique susceptible de critique.


Il est utile de distinguer conceptuellement plusieurs phénomènes. Une personne peut transmettre une affirmation fausse en croyant qu’elle est vraie : nous parlerons couramment de mésinformation. Elle peut transmettre sciemment une fausseté afin de tromper : on parlera plutôt de désinformation. Mais le mécanisme étudié par O’Connor, Weatherall et Bruner montre qu’une campagne trompeuse n’a pas nécessairement besoin de diffuser des propositions fausses : elle peut créer une image fausse du monde à partir d’une sélection orientée de propositions vraies. Leur ouvrage *The Misinformation Age* généralise cette approche en mettant l’accent sur les structures sociales et les réseaux par lesquels les croyances vraies ou fausses circulent.

Cela révèle une limite des systèmes de fact-checking reposant uniquement sur :

« Cette phrase est-elle vraie ou fausse ? »

Une publication peut passer ce test : phrase après phrase, tout en produisant une vision profondément trompeuse.

Nous avons besoin d’une question supplémentaire :

Les informations importantes qui changeraient raisonnablement mon interprétation ont-elles été systématiquement omises ?

Cette question est beaucoup plus difficile.


O’Connor et Weatherall étudient également un autre mécanisme : la polarisation. Dans leur modèle de *Scientific Polarization*, les agents cherchent à découvrir la vérité et obtiennent réellement des informations sur le monde. Mais ils accordent moins de confiance aux résultats transmis par des individus dont les croyances sont trop éloignées des leurs. Des groupes peuvent alors se former et maintenir des croyances opposées, bien qu’il existe un fait objectif et que l’option vraie procure un avantage.

Le mécanisme produit une boucle :

désaccord

→ moins de confiance

→ moins d’influence des preuves adverses

→ divergence accrue

→ encore moins de confiance.

Nous voyons immédiatement comment propagande et polarisation peuvent se renforcer.

Un propagandiste n’a même plus besoin de convaincre directement :

« Ma position est vraie. »

Il peut obtenir un résultat considérable s’il réussit simplement à faire croire :

« Les gens du camp adverse ne sont pas dignes de confiance. »

Une fois cette frontière sociale établie, les preuves produites par l’autre camp perdent automatiquement de leur efficacité.


O’Connor et Weatherall développeront encore cette intuition dans leurs travaux sur la factionalisation épistémique. Si nous accordons moins de confiance à ceux qui divergent de nous sur un sujet, plusieurs désaccords initialement indépendants peuvent progressivement se regrouper : les mêmes groupes finissent par s’opposer sur toute une série de questions différentes.

Nous obtenons alors quelque chose de très familier :

Si vous croyez A, vous êtes également probablement censé croire B, C et D.

Les croyances deviennent des marqueurs d’appartenance.

L’information n’est plus évaluée uniquement : en fonction de son contenu, mais : en fonction de l’identité de celui qui la transmet. Cette dynamique explique pourquoi certaines controverses sont si difficiles à corriger par une simple augmentation du nombre de faits disponibles.

Lorsque le problème est absence de données, ajouter des données peut aider.

Lorsque le problème est rupture de confiance entre réseaux, ajouter des données provenant de la source déjà rejetée peut avoir très peu d’effet.


Weatherall et O’Connor ont également modélisé les pressions au conformisme dans les communautés scientifiques. Lorsque les agents ont, toutes choses égales par ailleurs, une préférence pour adopter les mêmes actions que leurs voisins, les performances épistémiques du groupe peuvent se dégrader et des formes de polarisation peuvent apparaître selon la structure du réseau.

Nous pouvons donc distinguer plusieurs mécanismes très différents conduisant à une erreur collective :

convergence prématurée chez Zollman ;

sélection stratégique de preuves chez O’Connor, Weatherall et Bruner ;

méfiance entre groupes dans les modèles de polarisation ;

pression à la conformité dans les modèles de conformisme.

Aucun ne nécessite nécessairement : des individus stupides.

Le problème réside : dans leurs interactions.

Nous arrivons alors à l’une des thèses les plus fortes de toute cette partie du parcours :

la rationalité collective est une propriété du système, pas simplement la somme des intelligences individuelles.


Il n’est même pas toujours nécessaire de convaincre le public :

« A est certainement vrai. »

Pour bloquer une réglementation, une politique sanitaire ou une décision collective, il peut suffire de produire :

« On ne sait pas encore vraiment. »

Le doute possède une valeur stratégique.

Si une politique nécessite un certain degré de confiance scientifique, faire passer un consensus de :

« très solide »

à :

« apparemment controversé »

peut suffire à retarder l’action.

Le modèle de la « stratégie du tabac » est précisément construit pour montrer comment une sélection de résultats scientifiques peut séparer les croyances de décideurs de celles de la communauté scientifique, sans nécessairement modifier cette dernière.

C’est une distinction capitale :

on peut ne pas réussir à battre la science et néanmoins réussir à battre sa transmission vers la décision publique.

Les scientifiques continuent : à converger.

Le public : ne le voit pas.


Cette distinction mérite d’être développée.

Une communauté scientifique dispose : des articles, des réplications, des discussions techniques, du savoir tacite permettant d’évaluer la qualité des méthodes.

Un décideur politique ou un citoyen n’a accès qu’à une partie de cette information. Il dépend donc : d’intermédiaires.

Nous avons alors au moins deux couches :

réseau de production des connaissances

et :

réseau de transmission des connaissances.

Une communauté scientifique peut fonctionner correctement tandis que le deuxième réseau échoue.

La désinformation n’a donc pas besoin : de pénétrer le laboratoire. Elle peut intervenir entre le laboratoire et la société.

Voilà pourquoi la qualité du journalisme scientifique, des expertises collectives, des agences publiques et des synthèses de littérature possède une importance épistémique énorme.


Le problème pourrait conduire à une réaction individualiste :

Je vais tout vérifier moi-même.

C’est impossible.

Aucun citoyen ne peut réanalyser toute la climatologie, refaire les essais médicaux, vérifier toute la physique nucléaire, inspecter chaque base de données.

Notre connaissance reste nécessairement socialement distribuée.

O’Connor et Weatherall insistent d’ailleurs dans *The Misinformation Age* sur le fait que ce que nous croyons dépend profondément de nos relations informationnelles et des personnes auxquelles nous accordons notre confiance.

L’objectif de l’autonomie intellectuelle n’est donc pas ne plus dépendre de personne.

Il est :

apprendre à déléguer sa confiance sans dépendre d’un seul canal capable de sélectionner ce que nous voyons.

Cette distinction rejoint directement l’ensemble du projet d’une autonomie critique.


Aucune règle simple ne supprime le problème, mais plusieurs réflexes deviennent particulièrement importants.

Lorsqu’une personne cite une étude isolée, demandons d’abord :

Existe-t-il des synthèses de littérature ?

Cette étude est-elle typique ou exceptionnelle ?

Les travaux allant dans l’autre sens sont-ils mentionnés ?

Lorsqu’un chiffre est présenté :

Quelle est la distribution complète ?

Lorsqu’un expert affirme :

« Des études montrent que… »

demandons :

Combien ? De quelle qualité ? Par rapport à quel corpus ?

La question n’est donc plus seulement :

« la preuve existe-t-elle ? »

mais :

« quel mécanisme a sélectionné cette preuve parmi toutes celles qui auraient pu m’être montrées ? »

C’est une extension extrêmement puissante de la vérification des sources.


Face à une information, nous pouvons imaginer trois niveaux.

Premier niveau : le contenu. L’affirmation est-elle vraie ?

Deuxième niveau : la source. Qui l’a produite et avec quelle méthode ?

Troisième niveau : la sélection. Pourquoi cette information particulière est-elle arrivée jusqu’à moi ?

Le troisième niveau est souvent négligé. Pourtant, c’est précisément celui qu’exploitent les modèles de propagande.

Une étude peut être excellente.

Une source : réputée. Mais si l’étude a été choisie uniquement parce qu’elle constitue : une exception spectaculaire, son usage peut rester trompeur.

L’esprit critique doit donc apprendre à examiner le système de filtrage.


On peut tirer de ces travaux une conséquence contemporaine sans prétendre que leurs modèles représentent directement toutes les plateformes numériques. Dans un environnement où des millions de contenus existent, chacun de nous ne voit qu’une sélection minuscule. La question de savoir comment cette sélection est effectuée devient donc aussi importante que la véracité de chaque contenu individuel.

Même sans mensonge, un système qui amplifie systématiquement : les contenus les plus émotionnels, les exemples les plus extrêmes, ou seulement les éléments correspondant aux préférences antérieures de l’utilisateur peut modifier l’image que celui-ci se forme du monde.

Le point conceptuel est exactement celui mis en évidence par O’Connor et Weatherall : une distribution biaisée d’informations vraies peut produire des croyances globalement déformées. Leur ouvrage *The Misinformation Age* porte précisément sur la manière dont les structures sociales et informationnelles façonnent la diffusion des croyances.

Cela montre pourquoi la lutte contre la désinformation ne peut pas être réduite : à supprimer les affirmations fausses. Il faut également examiner les structures d’amplification et de sélection.


Comme chez Zollman, il serait erroné de transformer immédiatement les résultats formels en lois universelles sur la société. Les modèles utilisent des agents simplifiés, un petit nombre d’hypothèses possibles et des règles précises de communication. Ils servent à montrer qu’un mécanisme peut fonctionner, à identifier les conditions qui le favorisent et à examiner ses conséquences. Ils ne démontrent pas que toute campagne réelle de propagande suit exactement ces règles.

Il faut donc distinguer preuve de possibilité d’un mécanisme et : preuve historique qu’il explique tel cas particulier.

Pour la seconde question, nous avons besoin : d’archives, d’enquêtes, de données empiriques. C’est précisément pourquoi les auteurs utilisent la littérature historique sur le tabac comme motivation, mais construisent ensuite un modèle abstrait.


Une personne sélectionne toujours.

Un enseignant choisit : cinq textes sur cinq cents.

Un médecin : les résultats les plus pertinents pour son patient.

Un journaliste : les éléments nécessaires pour un article de mille mots.

Nous ne pouvons donc pas définir la propagande simplement comme sélection de l’information.

La différence dépend notamment : de l’objectif, de la représentativité, de la volonté éventuelle de tromper, de la manière dont les incertitudes sont présentées.

Le modèle du propagandiste suppose explicitement un agent dont le but est d’amener les décideurs vers la mauvaise théorie.

Dans la vie réelle, les intentions peuvent être beaucoup plus ambiguës.

Une personne peut sélectionner des preuves de manière biaisée : sans même s’en rendre compte.

Nous retrouvons : le biais de confirmation.

Le même mécanisme informationnel peut donc être délibéré ou : involontaire.


Nous pourrions répondre :

Il suffit de demander ce que pense la majorité des spécialistes.

C’est souvent une excellente heuristique. Mais notre parcours précédent nous a appris : qu’un consensus peut être plus ou moins mature, qu’une minorité peut conserver un succès empirique important, et que certaines disciplines sont encore en phase d’exploration.

Il faut donc éviter de transformer la lutte contre le cherry-picking en argument d’autorité automatique.

La bonne question est plus riche :

Quel est l’état du consensus ?

Sur quelles preuves repose-t-il ?

Quelles sont les incertitudes encore ouvertes ?

Les alternatives sérieuses ont-elles été étudiées ?

Nous retrouvons simultanément :

Kuhn,

Longino,

Solomon,

Kitcher

et :

Zollman.


C’est difficile.

Même les scientifiques peuvent avoir du mal à connaître tous les résultats, notamment si certains travaux ne sont pas publiés.

Un ensemble de littérature lui-même peut donc souffrir de biais de publication.

La solution ne peut pas être simplement :

Lisez davantage d’articles.

Il faut développer des institutions permettant : de rendre le corpus lui-même plus complet et transparent. C’est pourquoi la question des pratiques de publication, des synthèses systématiques, des résultats négatifs et de la conception des études devient directement : une question d’épistémologie sociale.

Le modèle des auteurs montre justement que l’accès à un échantillon complet et non biaisé des études devient particulièrement important lorsque les données sont difficiles ou équivoques.


Lorsque le problème est simplement une sélection biaisée, fournir davantage de résultats représentatifs peut aider. Mais le modèle de polarisation d’O’Connor et Weatherall montre une difficulté supplémentaire : si les individus commencent à déprécier les preuves provenant des personnes qu’ils considèrent comme trop éloignées idéologiquement, le simple ajout d’informations peut ne plus suffire.

Nous obtenons alors deux niveaux de défense :

corriger l’environnement informationnel

et :

préserver les relations de confiance nécessaires pour que les informations puissent encore circuler entre groupes.

Une société peut donc perdre de la connaissance de deux façons :

parce que :

les mauvaises preuves sont amplifiées,

ou parce que :

les bonnes preuves ne sont plus crues lorsqu’elles viennent du mauvais groupe.

La deuxième situation est encore plus difficile à corriger.


Face à une affirmation controversée appuyée par des études, le réflexe le plus utile n’est pas de demander seulement « cette étude est-elle vraie ? », mais de reconstruire son environnement :

Pourquoi cette étude m’est-elle montrée ?

Quelle proportion de la littérature va dans le même sens ?

Existe-t-il une synthèse indépendante ?

Les études contradictoires sont-elles ignorées ou réellement moins solides ?

La source transmet-elle directement les travaux scientifiques ou seulement une sélection médiatique ?

La personne présente-t-elle la taille réelle du désaccord scientifique ?

Ces questions ne garantissent pas : l’infaillibilité. Mais elles déplacent notre attention : du fait isolé vers le processus qui a produit notre vision de l’ensemble.

C’est exactement le déplacement intellectuel rendu nécessaire par la propagande fondée sur des faits vrais.


Le cherry-picking possède une propriété redoutable : tant qu’une littérature contient suffisamment de résultats variés, il est toujours possible d’ajouter une nouvelle étude conforme à sa position.

Une excellente question consiste donc à demander :

Quelles données globales vous feraient abandonner cette conclusion ?

Si la réponse est :

aucune,

nous ne sommes probablement plus dans une évaluation comparative des preuves.

Nous sommes dans une sélection motivée. Cette question rejoint Popper, Longino et le raisonnement bayésien : une croyance rationnelle doit avoir des conditions de révision.


Première erreur : « la propagande consiste nécessairement à mentir ». Les modèles d’O’Connor, Weatherall et Bruner montrent qu’un propagandiste peut influencer profondément les croyances en transmettant uniquement des résultats scientifiques authentiques, à condition de les sélectionner de manière biaisée.

Deuxième erreur : « si une étude existe réellement, l’argument qui la cite est valide ». L’étude peut être une exception sélectionnée dans une littérature beaucoup plus large allant dans l’autre sens.

Troisième erreur : « vérifier les faits suffit contre la désinformation ». La vérification proposition par proposition ne détecte pas nécessairement une distorsion produite par omission ou sélection.

Quatrième erreur : « présenter les deux camps à égalité est toujours impartial ». Lorsque la distribution des preuves est fortement asymétrique, une présentation 50/50 peut donner une image trompeuse du désaccord et ralentir l’apprentissage.

Cinquième erreur : « une minorité scientifique doit être ignorée ». Non. Le problème est de représenter correctement son poids et ses arguments, pas de supprimer son existence.

Sixième erreur : « les personnes trompées par la propagande sont nécessairement irrationnelles ». Dans le modèle, des décideurs rationnels peuvent être trompés parce que les informations auxquelles ils ont accès sont systématiquement biaisées.

Septième erreur : « davantage d’études résout toujours le problème ». Une multiplication d’études très petites et bruitées peut au contraire fournir davantage de résultats exploitables par une sélection stratégique dans les modèles étudiés.

Huitième erreur : « le consensus scientifique et le consensus public sont nécessairement liés ». Le modèle montre précisément comment une communauté scientifique peut converger correctement tandis que des décideurs exposés à une sélection biaisée deviennent convaincus du contraire.

Neuvième erreur : « la polarisation exige que l’un des camps ne voie aucune preuve ». O’Connor et Weatherall montrent qu’une polarisation stable peut apparaître alors que les agents recherchent effectivement des données, notamment lorsque la confiance accordée aux preuves dépend de la proximité des croyances.

Dixième erreur : « toute curation est manipulatoire ». Toute communication demande une sélection ; ce qui importe est de savoir si la sélection cherche à représenter honnêtement la structure des preuves ou à produire artificiellement une conclusion.


Nous avons commencé cette histoire avec des questions comme :

Qu’est-ce qu’une preuve ?

Comment distinguer connaissance et opinion ?

Puis l’épistémologie sociale nous a obligés à demander :

Comment les communautés produisent-elles des connaissances ?

Avec O’Connor, Weatherall et Bruner, une nouvelle question devient incontournable :

Que se passe-t-il lorsque quelqu’un intervient stratégiquement entre ceux qui produisent les preuves et ceux qui doivent former leurs croyances ?

Le problème épistémologique n’est plus seulement :

la qualité de la science,

ni :

la rationalité du citoyen. Il concerne l’intégrité du réseau reliant les deux.

C’est un déplacement fondamental pour comprendre les sociétés modernes. Nous dépendons presque entièrement d’informations que nous n’avons pas produites nous-mêmes. La connaissance devient donc vulnérable à ceux qui contrôlent : la sélection, la répétition, la visibilité, la circulation des preuves.

*The Misinformation Age* généralise précisément cette perspective : pour O’Connor et Weatherall, comprendre les croyances fausses exige d’examiner les structures sociales et les relations de confiance par lesquelles l’information circule, plutôt que de réduire systématiquement l’erreur à la psychologie individuelle.

C’est l’une des conclusions les plus importantes de toute l’épistémologie sociale contemporaine :

La production du savoir et sa diffusion sont deux problèmes différents.


Les modèles d’O’Connor, Weatherall et Bruner montrent qu’une propagande efficace peut fonctionner sans fabriquer de fausses données. Un acteur peut observer les résultats authentiques produits par une communauté scientifique puis transmettre sélectivement ceux qui favorisent sa position. Les décideurs peuvent alors raisonner correctement sur les informations disponibles et pourtant atteindre une conclusion fausse, parce que leur échantillon de preuves ne représente pas l’ensemble de la littérature.

Le problème fondamental devient donc :

sélection des preuves, pas seulement vérité des preuves.

Leur analyse de la fausse balance montre également qu’un médiateur bien intentionné peut produire une représentation trompeuse en accordant artificiellement le même poids à deux positions qui ne disposent pas du même soutien empirique. Dans leurs simulations, présenter systématiquement une étude de chaque côté ralentit l’apprentissage des décideurs par rapport à une présentation plus fidèle de l’ensemble des résultats.

Les travaux parallèles d’O’Connor et Weatherall sur la polarisation ajoutent une deuxième difficulté : lorsque la confiance accordée aux preuves dépend de la proximité idéologique entre les agents, des groupes peuvent maintenir durablement des croyances opposées même lorsqu’un fait objectif existe et que les agents continuent à recevoir des informations.

Nous obtenons ainsi trois niveaux de vigilance :

L’information est-elle vraie ?

Est-elle représentative de l’ensemble des preuves ?

Le réseau de confiance permet-il aux preuves contradictoires d’être réellement entendues ?

Cette triple distinction est beaucoup plus puissante que le simple conseil :

« Vérifiez vos sources. »

Elle transforme l’esprit critique en analyse du système informationnel.

Une information fiable demande : une bonne source.

Une connaissance fiable demande :

un réseau capable de transmettre une image suffisamment représentative de l’ensemble des preuves.

Mais cette conclusion conduit à une nouvelle difficulté. Si la confiance entre groupes détermine quelles preuves peuvent encore circuler, comment une société en vient-elle à se fragmenter en camps qui ne croient plus les mêmes sources ?

C’est précisément la question de la fiche suivante :


James Owen Weatherall, Cailin O’Connor et Justin P. Bruner, « How to Beat Science and Influence People: Policy Makers and Propaganda in Epistemic Networks ». Le texte central. Les auteurs y modélisent deux formes de « stratégie du tabac », dont le partage sélectif de résultats scientifiques authentiques. L’article est particulièrement important parce qu’il montre formellement qu’un décideur rationnel peut être trompé sans falsification de données et examine également le rôle involontaire que peut jouer une conception naïve de l’équilibre journalistique.

Cailin O’Connor et James Owen Weatherall, *The Misinformation Age: How False Beliefs Spread* (2019). L’ouvrage généralise les résultats des modèles formels à une réflexion beaucoup plus large sur la circulation sociale des croyances fausses. Son intérêt principal est de déplacer l’attention depuis les seules défaillances psychologiques individuelles vers les réseaux de confiance, les structures d’interaction et les institutions qui déterminent quelles informations nous recevons.

Cailin O’Connor et James Owen Weatherall, « Scientific Polarization » (2018). Un complément essentiel. Les auteurs montrent qu’une polarisation stable peut émerger entre agents qui recherchent pourtant des preuves lorsque ceux-ci réduisent leur confiance envers les informations provenant de personnes dont les croyances sont trop éloignées des leurs. Le texte permet de comprendre pourquoi davantage de faits ne suffit pas nécessairement lorsqu’une controverse est devenue un problème de confiance.

James Owen Weatherall et Cailin O’Connor, « Conformity in Scientific Networks ». Cette étude ajoute une autre dimension : la préférence sociale pour le conformisme peut interagir avec les croyances scientifiques et détériorer les performances épistémiques d’une communauté. Elle permet de distinguer plusieurs mécanismes de consensus apparent : accumulation des preuves, convergence prématurée ou simple pression sociale à l’alignement.

James Owen Weatherall et Cailin O’Connor, « Endogenous Epistemic Factionalization ». Un prolongement particulièrement important pour comprendre la formation des camps. Les auteurs modélisent la manière dont la méfiance envers ceux qui divergent sur une question peut progressivement conduire à des groupes dont les positions deviennent corrélées sur plusieurs sujets indépendants. Le désaccord scientifique peut alors évoluer vers une véritable identité épistémique de groupe.

Cailin O’Connor et James Owen Weatherall, ressources de vulgarisation associées à *The Misinformation Age*. Leurs textes destinés au grand public insistent notamment sur notre dépendance fondamentale envers les informations sociales : nous devons presque toujours croire des choses que nous n’avons pas vérifiées directement. Ils constituent un bon complément pratique aux modèles formels, car ils replacent la question de la confiance et de la provenance des informations dans les usages quotidiens des médias et réseaux sociaux.

Pour la suite : O’Connor et Weatherall sur la polarisation et la factionalisation épistémiques. Cette prochaine étape permettra de comprendre pourquoi la désinformation ne consiste pas uniquement à introduire des croyances fausses. Une modification des relations de confiance peut suffire à diviser durablement une population : une preuve jugée décisive par un groupe peut devenir presque sans valeur pour l’autre simplement parce qu’elle provient de la « mauvaise » source. Nous pourrons alors relier formellement polarisation, identité de groupe, chambres d’écho et perte d’un espace épistémique commun.

6 sur 12Retour à la catégorie