Bayésianisme et fréquentisme — deux traditions statistiques à ne pas caricaturer

Les débats sur les statistiques sont parfois présentés comme une opposition presque idéologique. D’un côté, le fréquentisme, supposément rigide, incapable de parler directement des hypothèses et prisonnier des *p-values*. De l’autre, le bayésianisme, présenté comme une méthode plus intuitive qui permettrait enfin de calculer « la probabilité que l’hypothèse soit vraie ».

Cette opposition contient une part de vérité, mais elle devient rapidement caricaturale.

Les deux traditions utilisent la même théorie mathématique des probabilités, souvent les mêmes modèles et une grande partie des mêmes données. Elles diffèrent surtout par ce à quoi elles attribuent des probabilités, par la manière dont elles définissent une bonne procédure d’inférence et par le type de question auquel leurs résultats répondent. Le fréquentisme lui-même n’est pas une doctrine parfaitement homogène : Fisher, Neyman et Pearson ont développé des conceptions différentes du test statistique, souvent fusionnées dans l’enseignement contemporain alors qu’elles ne reposaient pas exactement sur la même philosophie. La philosophie des statistiques distingue aujourd’hui clairement cette pluralité interne.

Comprendre cette différence est beaucoup plus utile que chercher quel camp aurait définitivement « gagné ».

Une même théorie des probabilités, deux usages différents

Commençons par un problème simple. Nous lançons une pièce dix fois et obtenons huit piles. Nous voulons estimer la probabilité θ que cette pièce produise pile.

Le modèle mathématique peut être exactement le même pour un statisticien fréquentiste et un statisticien bayésien :

P(données | θ).

Les deux peuvent donc être parfaitement d’accord sur la vraisemblance des différentes valeurs de θ compte tenu des observations.

La divergence apparaît lorsqu’il faut interpréter l’incertitude sur θ.

Dans une approche fréquentiste classique, θ est considéré comme une valeur fixe mais inconnue. Les probabilités décrivent le comportement aléatoire des données possibles si nous répétions l’expérience selon le même mécanisme.

Dans une approche bayésienne, nous pouvons également représenter notre incertitude sur θ par une distribution de probabilité. Avant les données, nous disposons d’une distribution *prior* :

P(θ).

Après les données :

P(θ | données).

Cette distribution postérieure représente directement l’incertitude que le modèle bayésien attribue aux différentes valeurs possibles de θ. Cette capacité à placer une distribution de probabilité sur les paramètres ou hypothèses constitue l’une des différences fondamentales entre statistiques bayésiennes et statistiques classiques.

Le paramètre fixe du fréquentiste n’est pas « connu »

Une confusion fréquente consiste à penser que le fréquentiste refuserait l’incertitude sur les paramètres.

Ce n’est évidemment pas le cas.

Un statisticien fréquentiste peut être très incertain sur la valeur réelle de θ. Il refuse seulement, dans l’interprétation fréquentiste classique, de traduire directement cette incertitude par une probabilité portant sur θ lui-même.

Le paramètre possède une valeur réelle inconnue. Ce qui varie probabilistiquement dans le dispositif théorique, ce sont les échantillons que nous aurions pu obtenir.

Cela conduit à des constructions telles que :

estimateurs, erreurs-types, tests d’hypothèses, intervalles de confiance, taux d’erreurs de type I et II, puissance statistique.

Ces procédures sont généralement évaluées par leur comportement dans des répétitions hypothétiques de l’expérience.

Le fréquentisme cherche ainsi à construire des méthodes qui fonctionnent correctement à long terme.

Le Bayesian peut dire quelque chose que le fréquentiste classique ne dit pas

Supposons qu’une analyse bayésienne, sous un modèle et un prior donnés, produise :

P(θ > 0 | données) = 97 %.

Cette phrase possède une interprétation directe :

conditionnellement au modèle, au prior et aux données, la probabilité postérieure que θ soit supérieur à zéro est de 97 %.

Une analyse fréquentiste classique ne produit généralement pas une phrase de cette forme, parce que θ n’est pas une variable aléatoire dans son cadre.

Cela ne signifie pas que le fréquentisme est incapable d’évaluer θ. Il le fait autrement.

Il peut par exemple construire un intervalle de confiance à 95 %, tester l’hypothèse θ = 0, calculer une statistique de test ou étudier les propriétés d’un estimateur.

Les deux traditions ne donnent donc pas toujours des réponses différentes à la même question. Très souvent, elles répondent à des questions statistiques différentes.

Le fréquentisme regarde les performances répétées des procédures

Imaginons une méthode permettant de construire un intervalle de confiance à 95 % pour θ.

L’interprétation fréquentiste porte sur la procédure : si nous répétions indéfiniment le protocole et construisions à chaque fois un intervalle selon cette méthode, environ 95 % de ces intervalles contiendraient la vraie valeur de θ, sous les hypothèses du modèle.

Une fois l’intervalle concret calculé, θ est soit dedans, soit dehors. Dans l’interprétation fréquentiste stricte, nous ne disons pas que cet intervalle particulier possède maintenant « 95 % de probabilité de contenir θ ».

Cette différence, souvent mal comprise, sera développée dans la fiche suivante.

Le même esprit apparaît dans les tests de Neyman-Pearson. On cherche à contrôler des propriétés telles que le taux d’erreur de type I, le taux d’erreur de type II et la puissance d’une procédure lorsqu’elle est utilisée répétitivement.

L’idée fondamentale est donc moins :

« quelle probabilité dois-je attribuer maintenant à cette hypothèse ? »

que :

« quel comportement cette procédure aurait-elle si je l’utilisais répétitivement dans des situations de ce type ? »

Le bayésianisme regarde directement l’incertitude conditionnelle

L’approche bayésienne prend un autre chemin.

Nous spécifions :

un modèle, un prior et une vraisemblance.

Puis nous obtenons une distribution postérieure :

posterior ∝ prior × vraisemblance.

Cette distribution peut ensuite servir à calculer directement des probabilités sur les paramètres, des intervalles crédibles, des prédictions ou les probabilités de certains événements futurs.

La philosophie bayésienne est donc naturellement adaptée à une interprétation épistémique de la probabilité : la probabilité peut représenter un degré d’incertitude concernant une quantité inconnue. La *Stanford Encyclopedia of Philosophy* souligne cependant qu’il ne faut pas identifier trop rapidement « fréquentiste » à toute interprétation objective de la probabilité et « bayésien » à toute interprétation subjective : les traditions philosophiques sont plus diverses que ce schéma scolaire.

Cette nuance est importante. Un prior bayésien peut être subjectivement choisi, mais il peut aussi provenir d’informations empiriques, de considérations de régularisation ou de méthodes dites objectives ou de référence.

Un tableau pour ne pas confondre les questions

QuestionApproche fréquentiste classiqueApproche bayésienne
Paramètre inconnu θFixe mais inconnuIncertitude représentée par une distribution
Probabilité sur θ ?Généralement nonOui, conditionnellement au modèle et au prior
Information antérieurePas introduite sous forme de prior bayésienPeut être représentée par un prior
Résultat typiqueEstimateur, *p-value*, intervalle de confiance, contrôle d’erreursDistribution postérieure, intervalle crédible, probabilité postérieure, facteur de Bayes
Critère centralPerformances des procédures sous répétitionCohérence de la mise à jour conditionnelle et distribution postérieure
Dépendance au modèleOuiOui
Peut être mal utilisé ?ÉvidemmentÉvidemment

Ce tableau présente des idéaux-types. Les statistiques réelles sont beaucoup plus hybrides.

La *p-value* n’est pas « la probabilité que l’hypothèse soit vraie »

La différence devient particulièrement visible avec la *p-value*.

Très schématiquement, une *p-value* mesure à quel point les données observées — ou des données considérées comme au moins aussi incompatibles avec le modèle selon la statistique choisie — seraient surprenantes si une hypothèse ou un modèle de référence était supposé vrai.

Elle ne fournit pas :

P(H₀ | données).

Elle concerne plutôt des probabilités calculées sous H₀.

L’American Statistical Association a publié en 2016 une déclaration devenue une référence précisément parce que cette confusion était extrêmement fréquente. Elle rappelle notamment qu’une *p-value* ne mesure ni la probabilité que l’hypothèse étudiée soit vraie, ni la probabilité que les données soient dues « au hasard seulement ». Elle souligne également qu’un seuil tel que *p* < 0,05 ne devrait pas, à lui seul, déterminer une conclusion scientifique.

La critique bayésienne de certaines interprétations des *p-values* est donc souvent justifiée. Mais elle ne permet pas de conclure que toute statistique fréquentiste serait dénuée de sens.

Fisher et Neyman-Pearson ne proposaient d’ailleurs pas exactement le même système

Une grande partie des pratiques actuelles mélange deux traditions fréquentistes historiquement distinctes.

Chez Fisher, la *p-value* était principalement conçue comme une mesure permettant d’évaluer l’incompatibilité des données avec une hypothèse nulle et de fournir un élément d’inférence.

Chez Neyman et Pearson, l’objectif était davantage de construire des règles de décision possédant des propriétés contrôlées à long terme : taux d’erreur de type I, taux d’erreur de type II et puissance face à une hypothèse alternative spécifiée.

L’enseignement statistique a souvent combiné ces idées en une procédure standard :

formuler H₀ → calculer p → comparer à 0,05 → « rejeter » ou « ne pas rejeter ».

Historiquement et conceptuellement, cette synthèse est moins uniforme qu’elle ne le paraît. La philosophie contemporaine des statistiques distingue explicitement le test de signification fisherien des procédures de Neyman-Pearson.

Parler du « fréquentisme » comme d’une seule philosophie parfaitement unifiée masque donc déjà une partie importante de son histoire.

L’approche bayésienne n’est pas débarrassée des choix humains

À l’inverse, il serait naïf d’imaginer que Bayes élimine l’arbitraire des statistiques.

Une analyse bayésienne demande de choisir :

un modèle, un prior, une vraisemblance, une structure de paramètres et parfois des décisions concernant la computation et la comparaison des modèles.

Deux analystes peuvent raisonnablement choisir des priors différents. Ils peuvent aussi modéliser les données différemment.

Cette dépendance est parfois présentée comme le principal défaut du bayésianisme :

« le résultat dépend de ce que vous croyiez avant ».

C’est vrai, mais incomplet.

D’abord, les priors peuvent être explicitement justifiés et leur influence examinée par analyse de sensibilité. Ensuite, les méthodes fréquentistes contiennent elles aussi de nombreux choix : modèle, variables, seuils, statistique de test, procédure d’échantillonnage, corrections pour comparaisons multiples, critères d’arrêt et ainsi de suite.

La différence importante est moins présence ou absence de choix que nature et traitement de ces choix.

Le prior peut être une faiblesse ou une force

Le prior pose un problème lorsqu’il est arbitraire, dissimulé ou suffisamment fort pour dominer artificiellement des données peu nombreuses.

Mais il peut devenir un avantage lorsqu’une véritable information antérieure existe.

Supposons qu’un traitement ait déjà été étudié dans plusieurs essais et qu’une nouvelle étude soit réalisée sur une population légèrement différente. Une approche bayésienne peut intégrer explicitement une partie de cette connaissance précédente, en représentant également son incertitude.

Dans d’autres situations, un prior faiblement informatif peut empêcher un modèle complexe de produire des valeurs extravagantes peu plausibles.

À l’inverse, lorsqu’on souhaite que l’analyse dépende le moins possible d’informations extérieures, on peut utiliser des priors faibles ou des priors de référence — avec les précautions étudiées précédemment.

Le prior n’est donc ni automatiquement un biais à éliminer, ni automatiquement une richesse informationnelle. Il est une hypothèse du modèle qu’il faut rendre visible.

Le fréquentisme possède une force particulière : le contrôle des erreurs

L’une des grandes forces historiques des méthodes fréquentistes tient à leur capacité à construire des procédures avec des garanties de comportement répétitif.

Supposons qu’un laboratoire effectue quotidiennement des milliers de contrôles. Il peut être extrêmement important de disposer d’une procédure dont le taux de fausses alarmes possède des propriétés connues à long terme.

Dans un essai clinique ou une procédure réglementaire répétée, le contrôle explicite des erreurs peut également avoir une forte importance institutionnelle.

Cette perspective ne cherche pas nécessairement à représenter directement le degré de croyance d’un chercheur. Elle cherche à construire une procédure fiable dans une classe de situations répétées.

Il serait donc erroné de considérer les propriétés fréquentistes comme une simple consolation offerte à ceux qui ne peuvent pas calculer une probabilité postérieure. Dans de nombreux problèmes, le contrôle des erreurs est précisément une propriété que l’on souhaite obtenir.

Un bayésien peut d’ailleurs lui-même s’intéresser aux performances fréquentistes de sa méthode.

Une méthode bayésienne peut être évaluée fréquentistement

Cette observation montre pourquoi l’opposition absolue entre les deux traditions devient vite artificielle.

Nous pouvons construire une procédure bayésienne puis demander :

si cette méthode était appliquée répétitivement à des données générées de différentes manières, à quelle fréquence produirait-elle de bonnes estimations ?

Nous évaluons alors fréquentistement une procédure bayésienne.

Inversement, un chercheur utilisant principalement des outils fréquentistes peut s’intéresser intuitivement à des questions très proches de l’inférence bayésienne et utiliser des informations antérieures pour choisir ses modèles.

Les frontières deviennent encore plus floues dans les pratiques statistiques modernes, notamment avec les modèles hiérarchiques, la régularisation, les techniques prédictives et les simulations.

Bradley Efron résumait déjà en 2005 la situation en décrivant bayésiens et fréquentistes comme deux traditions puissantes dont les méthodes peuvent répondre à des besoins différents de la pratique scientifique, plutôt que comme deux camps dont l’un devrait nécessairement éliminer l’autre.

Avec beaucoup de données, les réponses peuvent parfois devenir très proches

Dans certains problèmes réguliers, lorsque les données deviennent très informatives et que le prior n’est pas excessivement contraignant, les estimations bayésiennes et fréquentistes peuvent devenir très proches.

Le prior exerce alors relativement peu d’influence par rapport à la vraisemblance.

Ce phénomène explique pourquoi des chercheurs utilisant des philosophies statistiques différentes peuvent parfois produire pratiquement la même estimation numérique.

Mais cette convergence n’est pas universelle. Elle peut disparaître avec de petits échantillons, des modèles complexes, des paramètres proches des limites, des problèmes mal identifiés ou des priors substantiellement informatifs.

Il ne faut donc conclure ni :

« avec assez de données, les philosophies ne comptent jamais »

ni

« Bayes et le fréquentisme donnent toujours des réponses radicalement différentes ».

Cela dépend du problème.

Les deux approches dépendent du modèle

Un débat trop focalisé sur prior contre *p-value* peut également masquer une faiblesse commune beaucoup plus importante : les deux approches peuvent répondre précisément à une mauvaise question si le modèle est mauvais.

Supposons que nous modélisions une relation comme linéaire alors qu’elle est profondément non linéaire. Nous pouvons calculer un intervalle de confiance parfaitement correct relativement au modèle fréquentiste choisi ou une distribution postérieure extrêmement précise sous notre modèle bayésien.

Aucune sophistication probabiliste ne réparera automatiquement cette mauvaise représentation de la réalité.

Gelman et Shalizi insistent précisément sur cette difficulté pour le bayésianisme : la mise à jour du prior vers le posterior ne suffit pas ; il faut également vérifier comment le modèle se confronte aux données, identifier ses échecs et le réviser.

La leçon vaut plus largement pour toute statistique : l’incertitude à l’intérieur du modèle n’est pas toute l’incertitude sur le modèle.

Les mêmes données peuvent être pertinentes différemment

Une autre différence conceptuelle concerne les données qui auraient pu être observées mais ne l’ont pas été.

De nombreuses procédures fréquentistes dépendent de la distribution d’échantillonnage complète et donc du plan d’expérience ou de la règle d’arrêt. Deux expériences ayant produit exactement les mêmes observations peuvent parfois conduire à des analyses fréquentistes différentes si leurs procédures d’échantillonnage différaient.

Dans une analyse bayésienne standard respectant le principe de vraisemblance, l’inférence dépend essentiellement de la vraisemblance des données effectivement observées et du prior, de sorte que certaines différences de règles d’arrêt ne modifient pas le posterior si elles ne changent pas la vraisemblance pertinente.

Cette divergence est l’un des désaccords philosophiques les plus profonds entre certaines formes de fréquentisme et de bayésianisme. La *Stanford Encyclopedia of Philosophy* utilise notamment le cas de l’arrêt optionnel pour illustrer cette différence.

Il ne s’agit donc pas simplement de deux façons différentes de présenter le même nombre.

Les questions scientifiques ne se réduisent pas au choix d’une école

Dans la pratique, la qualité d’une recherche dépend souvent davantage de questions plus fondamentales : l’étude a-t-elle été correctement conçue ? les données sont-elles fiables ? l’échantillon est-il pertinent ? les variables mesurent-elles réellement ce que l’on prétend mesurer ? le modèle est-il adéquat ? les analyses ont-elles été choisies avant ou après avoir vu les résultats ? les résultats se répliquent-ils ? quelle est la taille de l’effet ?

Une mauvaise expérience analysée avec Bayes reste une mauvaise expérience.

Une mauvaise expérience analysée avec une *p-value* reste une mauvaise expérience.

À l’inverse, un protocole solide, des données transparentes et une modélisation sérieuse peuvent produire une information scientifique utile dans les deux traditions.

L’ASA rappelait d’ailleurs dans sa déclaration sur les *p-values* que la validité d’une conclusion scientifique dépend de bien davantage que d’un outil statistique particulier : conception de l’étude, qualité de l’analyse, transparence et interprétation appropriée restent indispensables.

Ne pas remplacer une religion statistique par une autre

L’histoire récente des statistiques a parfois donné naissance à une rhétorique selon laquelle les problèmes de reproductibilité seraient principalement dus au fréquentisme et disparaîtraient si les chercheurs devenaient bayésiens.

La critique des usages mécaniques de la significativité statistique est largement justifiée. Une *p-value* transformée en verdict binaire constitue une très mauvaise représentation de l’incertitude.

Mais passer à Bayes ne supprime ni le biais de publication, ni les modèles mal spécifiés, ni les petits échantillons, ni la sélection opportuniste des analyses, ni les mauvaises mesures, ni les conflits d’intérêts.

Gelman et Shalizi vont jusqu’à critiquer certaines philosophies bayésiennes lorsqu’elles donnent l’impression qu’une mise à jour formellement cohérente suffirait à garantir une bonne inférence : pour eux, le contrôle et la révision des modèles sont tout aussi essentiels.

Le progrès ne consiste donc pas à remplacer :

« p < 0,05, donc c’est vrai »

par

« posterior = 95 %, donc c’est vrai ».

Il consiste à mieux comprendre ce que chaque quantité signifie et quelles hypothèses permettent de la calculer.

Deux traditions, plusieurs questions légitimes

Nous pouvons finalement reformuler la différence sans choisir artificiellement un vainqueur.

Le fréquentisme demande souvent :

« Comment cette procédure se comporterait-elle si ce type d’expérience était répété ? »

Le bayésianisme demande plus naturellement :

« Compte tenu de ce que je supposais avant et des données observées, quelle incertitude dois-je maintenant attribuer aux différentes possibilités ? »

Ces deux questions sont légitimes.

Dans certains contextes, nous voulons avant tout contrôler les erreurs répétées d’une procédure. Dans d’autres, nous voulons directement exprimer notre incertitude sur un paramètre ou une décision particulière. Souvent, nous voulons les deux.

Une statistique mature n’a donc aucune raison de se priver par principe des propriétés utiles d’une tradition simplement parce qu’elle utilise les outils de l’autre.

La différence qu’il faut réellement retenir

Pour l’esprit critique, il n’est pas nécessaire de devenir statisticien pour retenir une distinction décisive.

Lorsqu’un résultat fréquentiste annonce :

« intervalle de confiance à 95 % »

ou

« p = 0,03 »,

nous ne pouvons pas automatiquement le traduire en :

« il y a 95 % de chances que le paramètre soit dans cet intervalle »

ou

« il y a 3 % de chances que l’hypothèse nulle soit vraie ».

Ces phrases appartiennent à des structures probabilistes différentes.

Inversement, lorsqu’une analyse bayésienne annonce :

« probabilité postérieure de 95 % »,

nous devons immédiatement demander :

sous quel modèle et quel prior ?

Le fréquentisme ne dispense pas de comprendre le conditionnement. Le bayésianisme ne dispense pas d’examiner ses hypothèses.

La meilleure attitude n’est donc pas Bayes contre le fréquentisme, mais comprendre précisément quelle question chaque méthode permet de poser et quelle réponse elle fournit réellement.

La distinction devient particulièrement concrète avec deux expressions qui semblent presque synonymes dans le langage courant mais qui ne signifient statistiquement pas la même chose : l’intervalle de confiance fréquentiste et l’intervalle crédible bayésien.

Pour aller plus loin

  • Sprenger, J. (2025). « Philosophy of Statistics », *Stanford Encyclopedia of Philosophy*. Présentation approfondie des fondements des statistiques classiques et bayésiennes, de leurs différentes interprétations de la probabilité et de leurs débats méthodologiques.
  • Efron, B. (2005). « Bayesians, Frequentists, and Scientists ». *Journal of the American Statistical Association*, 100(469), 1–5. DOI : 10.1198/016214505000000033. Réflexion concise sur les forces, les différences et la coexistence des deux traditions statistiques.
  • Wasserstein, R. L., & Lazar, N. A. (2016). « The ASA Statement on p-Values: Context, Process, and Purpose ». *The American Statistician*, 70(2), 129–133. DOI : 10.1080/00031305.2016.1154108. Texte de référence sur les interprétations erronées des *p-values* et les limites d’un usage mécanique de la significativité statistique.
  • Gelman, A., & Shalizi, C. R. (2013). « Philosophy and the practice of Bayesian statistics ». *British Journal of Mathematical and Statistical Psychology*, 66(1), 8–38. DOI : 10.1111/j.2044-8317.2011.02037.x. Analyse critique de l’idée selon laquelle la pratique bayésienne se réduirait à la simple mise à jour d’un prior vers un posterior, avec une insistance particulière sur le contrôle et la révision des modèles.
25 sur 35Retour à la catégorie