Probabilité et causalité — Bayes ne suffit pas pour savoir ce qui cause quoi

Deux variables évoluent ensemble. Les personnes exposées à X présentent plus souvent Y. Une analyse bayésienne estime avec une grande précision que P(Y|X) est supérieure à P(Y|non-X). Pouvons-nous en conclure que X cause Y ?

Non.

Le raisonnement probabiliste permet de décrire des associations, de comparer des hypothèses et de réviser notre degré de croyance lorsqu’une nouvelle information apparaît. Mais une relation causale pose une question supplémentaire : que se passerait-il si nous modifiions activement X ? Observer que deux événements sont associés n’est pas équivalent à intervenir sur l’un d’eux.

Cette distinction est fondamentale. Bayes peut parfaitement contribuer à l’inférence causale : nous pouvons utiliser des modèles bayésiens pour estimer des effets, comparer des structures causales ou représenter l’incertitude sur leurs paramètres. Mais le théorème de Bayes, pris isolément, ne transforme pas une association en causalité. Il faut ajouter des hypothèses sur la structure causale du problème, un plan expérimental ou d’autres connaissances permettant de relier les probabilités observées aux effets d’une intervention. Les travaux de Judea Pearl ont précisément formalisé cette distinction entre probabilités observationnelles et probabilités résultant d’interventions.

Observer X n’est pas faire X

Prenons un exemple simple. Nous constatons que les personnes possédant un parapluie sont plus souvent mouillées que celles qui n’en ont pas :

P(mouillé | parapluie) > P(mouillé | pas de parapluie).

Devons-nous conclure que les parapluies mouillent les gens ?

Évidemment non. Une troisième variable explique une grande partie de l’association :

la pluie → utilisation d’un parapluie

et

la pluie → risque d’être mouillé.

Si nous intervenions sur une personne en lui donnant artificiellement un parapluie par temps sec, nous ne nous attendrions pas à augmenter son risque d’être mouillée.

C’est précisément la différence entre :

observer X = x

et

forcer X à prendre la valeur x.

Pearl représente cette seconde opération par l’opérateur do. La quantité :

P(Y | X = x)

décrit une association observationnelle, tandis que :

P(Y | do(X = x))

cherche à représenter ce que nous observerions après une intervention fixant X à x. Ces deux probabilités peuvent être très différentes.

Le conditionnement sélectionne ; l’intervention modifie

Cette différence est subtile mais profonde.

Lorsque nous calculons :

P(Y|X=x),

nous sélectionnons simplement les individus chez lesquels X vaut déjà x. Or ces individus peuvent différer des autres sur de nombreuses caractéristiques.

Lorsque nous considérons :

P(Y|do(X=x)),

nous imaginons une opération qui fixe X à x sans conserver nécessairement les causes qui conduisaient naturellement les individus à avoir cette valeur.

Prenons un traitement médical. Les patients qui reçoivent spontanément un traitement sont parfois les plus gravement malades. Nous pouvons donc observer :

P(décès | traitement) > P(décès | pas de traitement)

même si le traitement réduit réellement le risque de mourir.

Pourquoi ? Parce que la gravité de l'état influence à la fois la probabilité de recevoir le traitement et le risque de décès.

L'association observée mélange alors deux phénomènes : l'effet du traitement et les différences initiales entre les groupes.

Hernán et Robins utilisent précisément ce type de problème pour montrer pourquoi une association observée dans une étude observationnelle n'est pas nécessairement l'effet causal du traitement.

Le facteur de confusion

Une variable qui influence à la fois l'exposition et le résultat peut produire ce que l'on appelle une confusion, ou *confounding*.

Supposons que nous cherchions à déterminer si la consommation de café provoque une maladie. Nous constatons que les grands consommateurs de café sont davantage touchés.

Mais imaginons que, dans la population étudiée, les grands consommateurs de café fument également plus souvent.

Nous avons alors potentiellement :

café ← tabagisme → maladie.

L'association café-maladie peut refléter en partie ou entièrement l'effet du tabagisme.

Une analyse bayésienne extrêmement précise de :

P(maladie|café)

ne résoudrait pas le problème si elle ignorait cette structure.

Nous pourrions obtenir un posterior très étroit autour d'une association confondue.

L'erreur ne serait pas dans Bayes. Elle serait dans la question posée au modèle.

Pourquoi la randomisation est si puissante

L'expérience randomisée fournit une stratégie particulièrement efficace pour résoudre ce problème.

Supposons que nous assignions au hasard les participants à recevoir ou non un traitement.

Si la randomisation fonctionne correctement et que l'expérience est suffisamment grande, les causes préexistantes susceptibles d'influencer le résultat tendent à être réparties entre les groupes indépendamment du traitement assigné.

Le groupe traité et le groupe témoin deviennent alors comparables sur les facteurs antérieurs, y compris en principe ceux que nous n'avons pas mesurés.

La différence de résultats peut être interprétée beaucoup plus directement comme un effet de l'intervention.

Hernán et Robins expliquent cette propriété par la notion d'exchangeabilité : dans une expérience randomisée idéale, les groupes peuvent fournir des informations sur ce qui serait arrivé aux autres sous l'intervention alternative. Les études observationnelles doivent obtenir une propriété analogue par des hypothèses et des ajustements, ce qui les rend généralement plus délicates pour l'inférence causale.

La randomisation ne rend évidemment pas toute expérience parfaite. Attrition, non-respect du traitement, mauvaises mesures ou échantillons inadéquats peuvent encore poser problème. Mais elle attaque directement une difficulté causale que le seul calcul des associations ne résout pas.

Quand l'expérience n'est pas possible

Nous ne pouvons pourtant pas randomiser toutes les causes qui nous intéressent.

Il serait impossible ou contraire à l'éthique d'attribuer aléatoirement des personnes à :

fumer pendant trente ans ; subir une pollution importante ; être exposé à une catastrophe ; posséder un certain niveau social ; vivre sous un régime politique particulier.

Une grande partie des sciences doit donc tirer des conclusions causales à partir de données observationnelles.

Cela ne signifie pas que toute causalité devient alors inaccessible. Nous pouvons exploiter des connaissances sur les mécanismes, des variations naturelles, des variables instrumentales, des expériences naturelles, des séries temporelles, des comparaisons appropriées ou des modèles causaux explicites.

Mais contrairement à une simple association descriptive, l'inférence causale exige alors des hypothèses supplémentaires.

Hernán et Robins soulignent que l'identification d'un effet causal à partir de données observationnelles nécessite non seulement des données, mais aussi des conditions d'identifiabilité — notamment, dans certains cadres, cohérence, exchangeabilité conditionnelle et positivité.

Les données seules ne disent pas quelles hypothèses causales rendent ces ajustements légitimes.

Les diagrammes causaux rendent les hypothèses visibles

L'une des contributions majeures de Judea Pearl et d'autres chercheurs a consisté à représenter les relations causales par des graphes orientés.

Supposons :

âge → exercice

âge → maladie cardiovasculaire

exercice → maladie cardiovasculaire.

Le graphe nous rappelle que l'âge constitue une cause commune de l'exercice et de la maladie. Si nous voulons isoler l'effet causal de l'exercice, il peut être nécessaire d'en tenir compte.

Pearl a montré comment certains graphes permettent de déterminer sous quelles conditions des effets causaux peuvent être identifiés à partir de distributions observées et quelles variables doivent être contrôlées. Son article de 1995 développe précisément les diagrammes causaux comme langage combinant connaissances statistiques et informations causales issues du domaine.

Le graphe ne découvre toutefois pas magiquement la causalité. Les flèches représentent des hypothèses causales qu'il faut justifier.

L'avantage est de rendre ces hypothèses explicites plutôt que de les laisser cachées dans le choix des variables d'un modèle.

Contrôler davantage de variables n'est pas toujours mieux

Une intuition courante consiste à penser qu'une analyse causale devient automatiquement meilleure lorsqu'elle « contrôle » le plus grand nombre possible de variables.

C'est faux.

Certaines variables doivent être prises en compte pour bloquer des chemins de confusion. Mais conditionner sur d'autres peut au contraire créer un biais.

Prenons une structure :

X → C ← Y.

C est ici un collider : il possède deux causes, X et Y.

Si X et Y sont indépendants dans la population, sélectionner uniquement les individus pour lesquels C possède une certaine valeur peut créer artificiellement une association entre X et Y.

Un exemple intuitif serait une école extrêmement sélective qui recrute des élèves selon deux qualités différentes. Dans l'ensemble de la population, ces qualités peuvent être indépendantes. Mais parmi les seuls admis, une faiblesse sur l'une doit souvent être compensée par une force sur l'autre, ce qui crée une corrélation dans le groupe sélectionné.

La structure causale détermine donc sur quoi il faut conditionner et sur quoi il ne faut pas conditionner. Le cadre des graphes causaux permet précisément d'étudier ce type de question, notamment à travers des critères comme le *back-door criterion*.

La maxime « ajoutez toutes les covariables disponibles » n'est pas une théorie de l'inférence causale.

Une association peut même s'inverser

Les statistiques offrent des situations particulièrement frappantes où une relation apparaît dans un sens dans les données agrégées et dans l'autre après stratification selon une troisième variable.

C'est la famille de phénomènes souvent associée au paradoxe de Simpson.

Supposons qu'un traitement A semble avoir un meilleur taux de succès global qu'un traitement B. Mais lorsque nous séparons les patients selon la gravité initiale de leur maladie, B obtient de meilleurs résultats dans chacun des groupes.

Quel résultat faut-il utiliser ?

La réponse ne peut pas venir uniquement de l'arithmétique. Elle dépend de la structure causale : la gravité influence-t-elle le choix du traitement ? Est-elle antérieure à celui-ci ? Faut-il la contrôler pour répondre à la question causale envisagée ?

Les probabilités nous indiquent comment les associations changent lorsque nous conditionnons. Elles ne nous indiquent pas toutes seules quel conditionnement correspond à la question causale pertinente.

C'est pourquoi le langage causal ajoute quelque chose que la simple distribution conjointe des variables ne contient pas explicitement.

Un réseau bayésien n'est pas automatiquement un réseau causal

La proximité des termes crée ici une confusion fréquente.

Un réseau bayésien représente des relations de dépendance probabiliste entre variables au moyen d'un graphe orienté. Il peut être extrêmement utile pour factoriser une distribution et réaliser des inférences conditionnelles.

Mais les flèches d'un réseau bayésien ne doivent pas automatiquement être lues comme :

« X cause Y ».

Plusieurs graphes différents peuvent parfois représenter exactement les mêmes relations d'indépendance dans les données observationnelles.

Pour donner aux flèches une interprétation causale, il faut ajouter des hypothèses causales sur la manière dont le système fonctionne. On parle alors de modèle causal ou, dans certains contextes, de réseau bayésien causal.

La *Stanford Encyclopedia of Philosophy* distingue précisément les modèles probabilistes graphiques des interprétations interventionnelles qui leur donnent un contenu causal.

Le mot « bayésien » ne transforme donc pas automatiquement un graphe probabiliste en explication causale.

Bayes peut néanmoins comparer des hypothèses causales

Dire que Bayes ne suffit pas à établir la causalité ne signifie pas qu'il serait inutile pour ce problème.

Supposons que plusieurs mécanismes causaux soient scientifiquement plausibles :

H1 : X provoque Y ;

H2 : Y provoque X ;

H3 : Z provoque à la fois X et Y ;

H4 : une combinaison de ces mécanismes intervient.

Nous pouvons construire des modèles correspondant à ces hypothèses, examiner leurs prédictions et mettre à jour leur crédibilité lorsque de nouvelles données apparaissent.

Bayes peut alors jouer exactement son rôle habituel :

prior sur les structures ou paramètres causaux + données → posterior.

Mais le résultat reste conditionnel aux modèles envisagés et aux hypothèses permettant aux données de distinguer ces structures.

Une analyse bayésienne peut donc représenter notre incertitude sur la causalité. Elle ne permet pas d'extraire une direction causale de n'importe quelle corrélation par simple application du théorème de Bayes.

La temporalité aide, mais ne suffit pas

Une cause doit généralement précéder son effet. Si Y apparaît systématiquement avant X, il devient difficile de soutenir que X a produit Y dans le sens temporel ordinaire.

La temporalité apporte donc une contrainte causale importante.

Mais :

X précède Y

ne suffit pas à démontrer :

X cause Y.

Les ventes de glaces augmentent avant certaines noyades saisonnières. Cela ne signifie pas que manger une glace provoque la noyade.

Une troisième variable, la chaleur estivale, augmente à la fois la consommation de glaces et la fréquentation des lieux de baignade.

Nous retrouvons la confusion.

La séquence temporelle élimine certaines directions causales, mais elle ne suffit pas à départager toutes les causes communes possibles.

Les mécanismes comptent

Les données statistiques deviennent souvent beaucoup plus convaincantes lorsqu'elles s'intègrent à une compréhension mécanistique.

Supposons qu'une exposition soit associée à une maladie. Nous découvrons ensuite :

une relation dose-réponse ; un mécanisme biologique plausible ; des modifications cellulaires intermédiaires ; un effet reproduit expérimentalement dans certains modèles ; une diminution du risque lorsque l'exposition cesse.

Aucun de ces éléments n'est nécessairement décisif isolément. Mais plusieurs lignes de preuve indépendantes peuvent fortement renforcer une interprétation causale.

Le raisonnement bayésien permet de comprendre cette accumulation : chaque observation modifie les odds entre différentes explications.

La causalité scientifique ne repose donc généralement pas sur une mystérieuse « preuve causale » unique. Elle résulte souvent de la convergence de plans expérimentaux, associations, temporalité, mécanismes et prédictions concurrentes.

Corrélation n'est pas causalité — mais la formule est incomplète

La maxime :

« corrélation n'est pas causalité »

est indispensable.

Mais elle peut devenir trop facile si elle conduit à rejeter toute observation corrélationnelle comme inutile.

Une corrélation peut constituer une preuve importante en faveur d'une relation causale, surtout lorsqu'elle était fortement attendue sous cette hypothèse et difficile à expliquer autrement.

Ce qu'elle ne constitue pas, à elle seule, est une démonstration automatique de causalité.

La formulation plus précise serait donc :

une association probabiliste ne détermine pas à elle seule son interprétation causale.

Nous devons encore considérer les causes communes, la sélection, la causalité inverse, les mécanismes, le plan de collecte des données et les autres hypothèses susceptibles de produire la même distribution.

L'inférence causale est un problème de contrefactuels

Une manière encore plus profonde de formuler une question causale consiste à comparer ce qui s'est produit avec ce qui se serait produit sous une intervention différente.

Pour une personne ayant reçu un traitement, l'effet causal individuel demanderait idéalement de connaître simultanément :

son résultat si elle reçoit le traitement

et

son résultat si elle ne le reçoit pas.

Mais nous ne pouvons observer qu'un seul de ces deux mondes.

C'est le problème fondamental de l'inférence causale : les résultats contrefactuels ne sont pas tous observables pour le même individu au même moment.

Les cadres des *potential outcomes* associés notamment à Neyman, Rubin et Robins représentent explicitement cette difficulté, tandis que les modèles structurels de Pearl utilisent des interventions et des équations causales. Ces traditions diffèrent dans leur langage et certaines de leurs méthodes, mais elles cherchent toutes à formaliser quelque chose qui dépasse la simple association observée. Hernán et Robins développent longuement cette approche contrefactuelle dans *Causal Inference: What If*.

La causalité concerne donc des mondes possibles sous différentes interventions, et non seulement les fréquences observées dans le monde actuel.

L'opérateur do ne crée pas les connaissances causales

Il faut également éviter de transformer le cadre de Pearl en nouvelle formule magique.

Écrire :

P(Y|do(X=x))

ne suffit pas à connaître cette quantité.

Pour la déduire de données observationnelles, nous avons besoin d'informations sur la structure causale : quelles variables influencent lesquelles, quels confondeurs sont mesurés, quels chemins doivent être bloqués et quelles hypothèses d'identification sont acceptables.

Le *do-calculus* développé par Pearl fournit des règles permettant, dans certains modèles causaux, de déterminer si une distribution interventionnelle peut être calculée à partir de distributions observées. Mais ces règles utilisent précisément la structure causale donnée au modèle.

Le progrès méthodologique consiste donc à rendre explicites les hypothèses nécessaires pour passer de :

« j'observe X »

à

« je fais X ».

Il ne consiste pas à faire disparaître ces hypothèses.

Bayes répond à une question ; la causalité en ajoute une autre

Nous pouvons maintenant distinguer deux niveaux.

Le premier demande :

« sachant que j'observe X, que dois-je croire sur Y ? »

C'est un problème de probabilité conditionnelle et de prédiction.

Le second demande :

« si j'intervenais pour modifier X, comment Y changerait-il ? »

C'est un problème causal.

Ces questions peuvent parfois avoir la même réponse, notamment lorsque la structure du problème permet d'identifier l'effet causal à partir de la distribution observationnelle. Mais cette égalité doit être justifiée, elle ne peut pas être supposée.

L'inférence bayésienne peut intervenir à tous les niveaux : estimation des paramètres, incertitude sur les effets, comparaison des hypothèses causales. Mais elle opère toujours à l'intérieur d'une structure causale ou d'un plan expérimental qui fournit la signification de ces probabilités.

Une limite qui renforce plutôt qu'elle n'affaiblit Bayes

Reconnaître cette limite ne diminue pas l'intérêt du raisonnement bayésien.

Au contraire, elle clarifie son rôle.

Bayes nous apprend à ne pas confondre :

P(H|E) avec P(E|H) ;

les taux de base avec les résultats de tests ;

la compatibilité avec la valeur probante ;

la répétition avec l'indépendance ;

la comparaison entre modèles avec la qualité absolue d'un modèle.

La causalité ajoute une distinction supplémentaire :

P(Y|X) n'est généralement pas P(Y|do(X)).

C'est exactement le même projet intellectuel : identifier la bonne probabilité avant de lui faire dire quelque chose.

Une analyse peut montrer avec une très grande confiance que deux variables sont associées et rester agnostique sur la cause de cette association. Elle peut également, sous des hypothèses causales explicites et suffisamment justifiées, estimer un effet d'intervention avec une incertitude probabiliste.

La puissance de Bayes commence précisément lorsque nous cessons de lui demander davantage que ce qu'il peut fournir.

Nous avons maintenant parcouru le cœur mathématique, scientifique et méthodologique du bayésianisme. Reste une question beaucoup plus pratique : devons-nous réellement sortir une formule et une calculatrice chaque fois qu'une nouvelle information apparaît ?

Heureusement non. La plupart des bénéfices du raisonnement bayésien peuvent être obtenus qualitativement, en apprenant simplement à orienter correctement nos mises à jour.

Pour aller plus loin

  • Pearl, J. (1995). « Causal Diagrams for Empirical Research ». *Biometrika*, 82(4), 669–688. DOI : 10.1093/biomet/82.4.669. Article majeur développant les graphes causaux comme langage permettant d'étudier les conditions sous lesquelles des effets causaux peuvent être identifiés à partir de données observationnelles.
  • Pearl, J. (2009). *Causality: Models, Reasoning, and Inference*, 2e éd. Cambridge University Press. Ouvrage de référence sur les modèles causaux structurels, les interventions, les contrefactuels et le *do-calculus*.
  • Hernán, M. A., & Robins, J. M. (2020). *Causal Inference: What If*. Chapman & Hall/CRC. Ouvrage librement accessible développant l'inférence causale à partir des expériences randomisées et des études observationnelles, notamment les notions de contrefactuels, d'exchangeabilité, de confusion et d'identifiabilité.
  • Hitchcock, C. « Causal Models », *Stanford Encyclopedia of Philosophy*. Présentation philosophique et formelle des modèles causaux, des interventions, des graphes et de leur relation avec les distributions probabilistes.
30 sur 35Retour à la catégorie