Naomi Oreskes et Erik M. Conway : les marchands de doute et la fabrication de l’incertitude

Définition simple

Dans *Merchants of Doubt* publié en 2010, les historiens des sciences Naomi Oreskes et Erik M. Conway étudient une forme particulière d’intervention dans les controverses scientifiques : plutôt que de démontrer qu’un consensus scientifique est faux, il peut être politiquement beaucoup plus efficace de faire croire au public que la question reste beaucoup plus incertaine qu’elle ne l’est réellement parmi les spécialistes. Leur enquête suit plusieurs controverses américaines concernant notamment le tabac, les pluies acides, la couche d’ozone, le changement climatique et le DDT. Les auteurs soutiennent qu’un groupe relativement restreint de scientifiques fortement connectés aux milieux politiques a joué un rôle disproportionné dans plusieurs de ces débats publics.

Leur thèse ne consiste pas à dire que le doute serait mauvais. Au contraire, le doute méthodique fait partie du fonctionnement normal de la science. Le problème commence lorsqu’on transforme cette propriété de la science en arme rhétorique : toute connaissance scientifique étant provisoire et comportant une marge d’incertitude, on peut toujours isoler ce qui reste inconnu pour suggérer que rien n’est suffisamment établi pour justifier une décision. Oreskes et Conway présentent cette stratégie comme un élément commun aux controverses historiques qu’ils étudient.

L’idée centrale peut être résumée ainsi :

Il n’est pas nécessaire de réfuter la science pour neutraliser ses conséquences politiques ; il peut suffire de maintenir artificiellement l’impression qu’elle n’a encore rien établi avec assez de certitude.

C’est une distinction fondamentale pour l’esprit critique : incertitude scientifique et incertitude fabriquée ne sont pas la même chose.

Le modèle du tabac : « garder la controverse vivante »

Le cas historique du tabac constitue le modèle paradigmatique. À mesure que les preuves reliant le tabagisme à de graves problèmes de santé s’accumulaient, l’enjeu pour l’industrie n’était plus nécessairement de démontrer que fumer était sans danger. Une stratégie beaucoup plus réaliste consistait à empêcher que les résultats scientifiques ne soient perçus par le public et les responsables politiques comme suffisamment établis pour justifier une réglementation. Les archives internes de l’industrie du tabac, aujourd’hui conservées notamment par l’Industry Documents Library de l’Université de Californie à San Francisco, permettent aux historiens d’étudier directement les stratégies scientifiques, politiques et de communication utilisées par les entreprises.

Un document interne de 1969 est devenu emblématique parce qu’il présente explicitement le doute comme un produit stratégique permettant de concurrencer l’ensemble des connaissances déjà installées dans l’esprit du public. Il faut prendre garde à ne pas transformer une phrase d’archive en explication unique de plusieurs décennies de politique industrielle, mais elle révèle avec une rare clarté que la création d’incertitude pouvait être pensée comme un objectif de communication en soi.

La stratégie possède alors une structure simple. Il n’est pas nécessaire de dire :

« Nous avons démontré que le tabac est inoffensif. »

Il suffit de répéter :

« La causalité n’est pas définitivement établie. »

« D’autres facteurs pourraient intervenir. »

« Davantage de recherches sont nécessaires. »

Chacune de ces phrases peut être parfaitement compatible avec le vocabulaire ordinaire de la science. Ce qui les rend problématiques est leur usage asymétrique : les incertitudes sont systématiquement amplifiées, tandis que le poids cumulé des résultats allant dans la même direction est minimisé.

La manipulation peut donc adopter l’apparence du scepticisme scientifique.

Le paradoxe : utiliser les normes de la science contre la science

La science possède de bonnes raisons d’être prudente. Une étude isolée peut être fausse, une corrélation n’établit pas nécessairement une causalité, un résultat doit être reproduit et toute théorie reste révisable. Ces précautions constituent des forces de la méthode scientifique.

Mais elles créent également une vulnérabilité communicationnelle. Le scientifique peut dire :

« Les résultats indiquent très fortement X, mais certaines incertitudes demeurent. »

Un acteur stratégique peut retirer :

« des incertitudes demeurent »

et présenter cette proposition comme si elle signifiait :

« les scientifiques ne savent pas si X est vrai ».

La différence entre ces deux affirmations est immense.

Oreskes et Conway insistent justement sur le problème posé par une attente irréaliste de certitude absolue. Dans leur commentaire publié dans *Nature* en 2010, ils rappellent que la science réelle est traversée d’incertitudes et que les scientifiques sont généralement entraînés à les expliciter ; cette honnêteté peut néanmoins être exploitée dans le débat public.

On obtient ainsi un paradoxe :

plus les scientifiques décrivent honnêtement les limites de leurs connaissances, plus un acteur habile peut disposer de matière pour prétendre qu’aucune conclusion n’est possible.

La solution ne peut évidemment pas être que les scientifiques cachent leurs incertitudes. Elle consiste plutôt à apprendre à communiquer simultanément ce qui reste incertain et ce qui ne l’est plus raisonnablement.

Consensus scientifique ne signifie pas unanimité

La stratégie du doute exploite également une confusion entre consensus et unanimité. Dans une communauté scientifique suffisamment vaste, il est presque toujours possible de trouver quelques chercheurs contestant une conclusion dominante. L’existence de ce désaccord ne démontre pas que la communauté soit divisée en deux camps comparables.

Oreskes avait elle-même travaillé avant *Merchants of Doubt* sur la question du consensus climatique. Dans un article de *Science* publié en 2004, elle concluait que la littérature scientifique examinée était cohérente avec l’existence d’un consensus selon lequel les activités humaines affectaient le climat terrestre.

Cela ne signifie évidemment pas que « tous les climatologues sont d’accord sur tout ». Un consensus scientifique concerne généralement un noyau de conclusions, autour duquel persistent des débats sur les mécanismes précis, l’ampleur de certains effets, les modèles ou les projections.

Nous devons donc distinguer désaccord interne à un consensus et désaccord sur le noyau du consensus. C’est l’une des distinctions les plus importantes pour analyser une controverse scientifique. Montrer que deux spécialistes se disputent sur un paramètre ne suffit pas à démontrer qu’ils s’opposent sur l’existence du phénomène lui-même.

L’expert prestigieux n’est pas nécessairement l’expert pertinent

*Merchants of Doubt* attire aussi l’attention sur le rôle particulier joué par certains scientifiques disposant d’un prestige considérable acquis dans d’autres domaines. Le livre décrit un groupe de personnalités scientifiques de haut niveau intervenant successivement dans plusieurs controverses concernant le tabac, les pluies acides, l’ozone, le climat ou le DDT. Les auteurs interprètent une partie de leur mobilisation à travers un attachement idéologique très fort à la défense du libre marché et une opposition aux réglementations étatiques.

Cette histoire fournit une règle critique extrêmement générale :

« C’est un scientifique reconnu » n’est pas encore une réponse à « est-il expert de cette question précise ? »

Une grande compétence en physique nucléaire ne donne pas automatiquement une expertise équivalente en épidémiologie, climatologie ou toxicologie. L’autorité scientifique est en grande partie locale.

Cela ne signifie pas qu’un scientifique n’aurait jamais le droit de parler hors de sa spécialité. Les changements de discipline existent et des chercheurs peuvent évidemment acquérir de nouvelles compétences. Mais plus une question est technique, plus il faut examiner la recherche effectivement produite dans le domaine, la connaissance de la littérature pertinente, et la réception des arguments par les spécialistes directement concernés.

Le prestige général constitue une information. Il ne doit pas remplacer l’expertise spécifique.

De la controverse scientifique à la controverse publique

Une des grandes forces de l’analyse d’Oreskes et Conway est de distinguer implicitement deux espaces qui peuvent évoluer de manière très différente : la littérature scientifique et le débat médiatique et politique. Une question peut devenir relativement stabilisée dans la première tout en continuant à apparaître fortement controversée dans le second.

Le site officiel du livre résume précisément leur enquête comme l’étude de campagnes qui ont contribué à brouiller la compréhension publique de connaissances scientifiques déjà bien établies sur plusieurs questions sanitaires et environnementales.

Cette distinction explique un phénomène qui semble d’abord étrange :

« Si les scientifiques savent cela depuis longtemps, pourquoi entend-on encore des experts dire le contraire à la télévision ? »

Parce que le marché médiatique des opinions n’est pas organisé exactement comme le système scientifique de validation des connaissances.

Une chaîne de télévision peut sélectionner deux personnes parce qu’elles produisent un débat intéressant.

Une revue scientifique sélectionne normalement un article en fonction : de sa méthode et de son apport au domaine.

Les deux systèmes n’optimisent pas la même chose.

Nous retrouvons ici la fausse balance analysée plus tard formellement par O’Connor, Weatherall et Bruner : donner systématiquement une voix à chaque « camp » peut faire apparaître comme équilibrée une littérature scientifique qui ne l’est pas. Leurs modèles montrent même comment un journaliste cherchant sincèrement l’équilibre peut ralentir l’apprentissage du public lorsqu’il représente artificiellement les deux positions comme symétriques.

L’incertitude scientifique n’interdit pas la décision

La stratégie des marchands de doute exploite une autre confusion fondamentale :

« nous ne savons pas tout »

devient

« nous n’en savons pas assez pour agir ».

Or aucune décision importante n’est prise sous certitude complète. La médecine, l’économie, la politique climatique ou la sécurité utilisent continuellement des connaissances probabilistes.

Supposons deux scénarios.

Dans le premier, nous sommes certains à 100 % qu’un produit provoque un effet dangereux.

Dans le second, les meilleures preuves indiquent une probabilité de 90 %. Il serait absurde de dire que le second scénario ne fournit aucune raison d’agir simplement parce qu’il reste une incertitude.

La bonne question politique est :

Quel niveau de preuve est raisonnablement nécessaire compte tenu du coût d’une erreur dans chaque direction ?

Une réglementation trop précoce possède un coût. Mais attendre trop longtemps possède également un coût.

L’incertitude ne supprime donc pas le problème décisionnel ; elle fait partie du problème décisionnel.

Cette distinction est essentielle parce que « attendre d’en savoir davantage » semble neutre. Elle ne l’est pas toujours. Dans certaines situations, ne rien faire constitue lui aussi un choix dont les conséquences s’accumulent.

Pourquoi l’idéologie joue-t-elle un rôle dans le récit d’Oreskes et Conway ?

Oreskes et Conway ne présentent pas les controverses étudiées comme une simple succession de scientifiques accidentellement sceptiques. L’un des fils conducteurs de leur interprétation est politique : certaines personnalités qu’ils étudient associaient les réglementations environnementales à une extension dangereuse de l’intervention étatique et à une menace pour la liberté économique. Le site officiel du livre résume explicitement cette dimension en reliant ces campagnes à une idéologie de défense radicale du libre marché.

Le raisonnement peut prendre cette forme :

  1. La conclusion scientifique X semble justifier une réglementation R.
  2. Je considère R comme politiquement très dangereuse.
  3. Je deviens particulièrement exigeant envers les preuves de X.
  4. Chaque incertitude concernant X reçoit une attention disproportionnée.

Cela ressemble au raisonnement motivé : une conclusion normative souhaitée peut influencer l’exigence de preuve appliquée aux propositions factuelles susceptibles de la menacer. Mais il faut absolument éviter une erreur génétique. Montrer qu’un chercheur possède une motivation politique ne démontre pas que ses arguments scientifiques sont faux. Les scientifiques favorables à la réglementation possèdent eux aussi des valeurs et des préférences.

La seule conclusion légitime est :

une motivation forte constitue une raison supplémentaire d’examiner soigneusement les arguments, pas une réfutation de ces arguments.

Pour savoir qui a raison, il faut revenir aux données, aux méthodes, à la littérature, à la communauté compétente.

Critiques et limites : ne pas transformer « marchands de doute » en étiquette magique

Le cadre d’Oreskes et Conway est très puissant, mais il peut être mal utilisé. La première erreur consisterait à qualifier immédiatement de « marchand de doute » toute personne qui conteste un consensus. Ce serait profondément anti-scientifique.

Un consensus peut être faux. Wegener, Semmelweis ou d’autres épisodes historiques nous rappellent que des positions minoritaires peuvent parfois devenir centrales. Le scepticisme sérieux est indispensable au progrès scientifique.

Le critère pertinent n’est donc pas :

« Cette personne conteste le consensus. »

Mais :

« Comment le conteste-t-elle ? »

Produit-elle :

de nouvelles données ?

Répond-elle aux objections ?

Ses arguments sont-ils publiés et discutés par les spécialistes ?

Modifie-t-elle sa position lorsque les preuves changent ?

Ou se contente-t-elle de déplacer constamment le seuil nécessaire pour accepter une conclusion ?

Cette dernière différence est essentielle.

Le sceptique scientifique dit :

« Voici le résultat qui me ferait changer d’avis. »

Le doute stratégique risque de fonctionner ainsi :

« Chaque nouvelle preuve exige simplement encore davantage de preuves. »

La frontière ne peut pas toujours être déterminée facilement, mais elle existe.

Une deuxième limite : l’histoire est plus complexe qu’un « plan unique »

Le livre met volontairement en évidence des continuités entre plusieurs controverses. Cette méthode est historiquement féconde, mais il ne faut pas en déduire que tous les épisodes seraient identiques ou dirigés par une organisation unique. Le tabac, les pluies acides, l’ozone, les pesticides et le climat possèdent des histoires scientifiques, industrielles et institutionnelles différentes. Le livre lui-même les traite dans des chapitres distincts, même s’il cherche à mettre en évidence des acteurs et des stratégies récurrentes.

Autrement dit : reconnaître un répertoire commun de stratégies ne signifie pas : postuler un complot unique derrière toutes les controverses. Cette distinction est particulièrement importante pour l’autonomie critique. Une bonne analyse compare les mécanismes documentés. Une mauvaise analyse voit partout la reproduction exacte d’un scénario déjà connu.

Une troisième limite : le consensus lui-même doit être évalué correctement

Il serait également dangereux de remplacer :

« un scientifique prestigieux a dit X »

par :

« la majorité a dit X, donc X est nécessairement vrai ».

La science n’est pas un vote.

La valeur d’un consensus vient du processus qui l’a produit : multiplication des études, critique par les pairs, méthodes indépendantes, réplications, confrontation des alternatives et possibilité permanente de révision. C’est précisément ce qui relie Oreskes aux thèmes que nous avons rencontrés avec Longino, Kitcher et l’épistémologie sociale.

Le consensus est donc une heuristique de confiance particulièrement importante pour le non-spécialiste, pas une preuve logique d’infaillibilité.

C’est pourquoi la bonne question n’est pas seulement :

« Combien de scientifiques sont d’accord ? »

mais aussi :

« Quel type de communauté, de littérature et de procédure a produit cet accord ? »

Cette question conduira directement au travail ultérieur d’Oreskes sur la confiance dans la science.

Application à l’esprit critique : reconnaître la fabrique du doute

Les « marchands de doute » fournissent une grille d’analyse très utile, à condition de l’utiliser comme série de questions et non comme étiquette.

Lorsqu’une controverse publique persiste, demandons d’abord si elle existe avec une intensité comparable dans la littérature spécialisée. Une controverse médiatique n’est pas nécessairement une controverse scientifique.

Demandons ensuite quel est exactement le niveau d’incertitude. Existe-t-il une incertitude sur l’existence du phénomène, son ampleur, son mécanisme, ses conséquences,

ou la politique à adopter ?

Ces questions peuvent recevoir des niveaux de confiance très différents.

Demandons également si la personne qui invoque l’incertitude possède une condition claire de révision. Que faudrait-il observer pour qu’elle considère le résultat comme suffisamment établi ? Si aucune preuve imaginable n’est suffisante, nous ne sommes plus devant un scepticisme normalement falsifiable.

Enfin, examinons l’expertise. Un « professeur », un « prix scientifique » ou un ancien responsable d’une institution prestigieuse peut impressionner. Mais la question pertinente reste :

travaille-t-il réellement sur le sujet dont il parle, et comment ses arguments sont-ils évalués par ceux qui le font ?

Ces réflexes permettent d’éviter simultanément deux erreurs :

la soumission naïve à l’autorité

et

le scepticisme permanent qui traite tout consensus comme suspect.

Pourquoi *Les Marchands de doute* est important dans l’histoire de l’épistémologie

L’intérêt philosophique du livre dépasse largement les controverses qu’il décrit. Oreskes et Conway montrent que la connaissance scientifique traverse plusieurs étapes avant de devenir une connaissance publique :

production → validation → synthèse → médiatisation → décision politique.

Une science peut fonctionner correctement aux premières étapes et être fortement déformée aux suivantes.

Le problème épistémologique ne consiste donc plus seulement à demander :

« La science produit-elle une connaissance fiable ? »

Il faut également demander :

« Comment cette connaissance survit-elle lorsqu’elle quitte la communauté scientifique ? »

Cela permet de relier *Merchants of Doubt* à l’agnotologie de Proctor : l’ignorance peut être fabriquée. Cela le relie aussi aux modèles d’O’Connor et Weatherall : une sélection stratégique de résultats authentiques peut modifier les croyances d’un public rationnel. Et cela rejoint Fricker et Longino : les institutions qui distribuent la crédibilité et organisent la critique jouent un rôle directement épistémique.

Nous pouvons ainsi formuler l’une des principales leçons de toute cette partie de l’histoire de l’épistémologie :

À retenir

Naomi Oreskes et Erik Conway appellent « marchands de doute » des acteurs qui ont contribué, dans plusieurs controverses sanitaires et environnementales américaines, à donner au public une image beaucoup plus incertaine de l’état des connaissances que celle qui dominait parmi les communautés scientifiques concernées. Leur livre étudie notamment le tabac, les pluies acides, la couche d’ozone, le changement climatique et le DDT.

La stratégie fondamentale ne consiste pas nécessairement à produire une théorie alternative supérieure. Elle consiste à exploiter les caractéristiques normales de la science — incertitudes, révisions, désaccords résiduels — afin de maintenir la perception d’une controverse.

Il faut donc distinguer doute scientifique, indispensable à la connaissance, et doute stratégique, utilisé pour empêcher qu’une connaissance suffisamment robuste produise ses conséquences pratiques.

La distinction ne se fait pas en examinant simplement la présence d’un désaccord. Il faut étudier la qualité des arguments, la pertinence de l’expertise, la structure de la littérature, la réponse aux nouvelles preuves, les conflits d’intérêts et la manière dont le niveau réel du consensus est présenté.

La conséquence la plus importante pour l’esprit critique est peut-être celle-ci :

« Il reste une incertitude » ne signifie presque jamais « nous ne savons rien ».

Entre certitude absolue et ignorance complète existe tout l’espace de la connaissance probabiliste sur lequel reposent la science et la décision rationnelle.

Le scepticisme authentique demande :

« Qu’est-ce que les preuves permettent raisonnablement d’affirmer ? »

Le scepticisme stratégique transforme parfois la question en :

« Pouvez-vous exclure absolument toute possibilité d’erreur ? »

À cette deuxième question, presque toute science répondra :

non.

Et c’est précisément pourquoi elle constitue une arme rhétorique si efficace.

Cette fiche laisse cependant une question essentielle : si nous ne pouvons personnellement vérifier la totalité de la littérature scientifique, pourquoi devrions-nous accorder une confiance particulière à la communauté scientifique plutôt qu’à tel scientifique dissident, journaliste ou groupe politique ?

Naomi Oreskes développera directement ce problème dans son travail ultérieur :

Pour aller plus loin

Naomi Oreskes et Erik M. Conway, *Merchants of Doubt: How a Handful of Scientists Obscured the Truth on Issues from Tobacco Smoke to Global Warming* (2010). L’ouvrage de référence. Sa force est comparative : au lieu d’étudier une seule controverse, les auteurs suivent les continuités entre plusieurs débats sur le tabac, les pluies acides, l’ozone, le climat et le DDT, tout en mettant en évidence le rôle des réseaux politiques, médiatiques et idéologiques dans la communication de l’incertitude scientifique.

Naomi Oreskes et Erik M. Conway, « Defeating the Merchants of Doubt », *Nature* (2010). Un complément très court et utile, publié au moment de la sortie du livre. Les auteurs y insistent particulièrement sur le problème de la communication scientifique : la science est réellement incertaine et révisable, mais les scientifiques doivent parvenir à distinguer publiquement les incertitudes encore importantes des conclusions désormais fortement établies.

UCSF, *Industry Documents Library*. Cette archive est essentielle parce qu’elle permet de sortir des récits de seconde main. Elle conserve notamment les documents internes rendus publics à la suite des procédures impliquant l’industrie du tabac et constitue aujourd’hui une ressource majeure pour étudier historiquement les stratégies scientifiques, juridiques et communicationnelles des entreprises.

Naomi Oreskes, « The Scientific Consensus on Climate Change », *Science* (2004). Cet article précède *Merchants of Doubt* et permet de comprendre pourquoi la notion de consensus occupe une place centrale dans son travail. Oreskes y examine la littérature scientifique concernant le changement climatique et défend l’existence d’un consensus sur l’influence humaine sur le climat, tout en distinguant ce consensus des controverses publiques beaucoup plus visibles.

James Owen Weatherall, Cailin O’Connor et Justin Bruner, « How to Beat Science and Influence People ». Ce travail formalise plusieurs années plus tard le mécanisme de la « stratégie du tabac » décrit par Oreskes et Conway. Les auteurs montrent par simulation comment la sélection de résultats scientifiques authentiques peut conduire des décideurs rationnels à une croyance erronée et comment la fausse balance journalistique peut produire un effet similaire sans intention de tromper.

Naomi Oreskes, *Why Trust Science?* (2019). C’est le prolongement philosophique naturel. Après avoir montré comment la confiance dans la science peut être artificiellement affaiblie, Oreskes demande quelles raisons positives nous avons de lui faire confiance. Sa réponse n’est pas « les scientifiques sont plus intelligents » ou « la science ne se trompe jamais » : elle repose largement sur le caractère collectif, critique, diversifié et autorévisable des communautés scientifiques. C’est cette conception que nous examinerons dans la prochaine fiche.

1 sur 34Retour à la catégorie