Priors — pourquoi toutes les hypothèses ne partent pas à égalité
Lorsque nous recevons une information nouvelle, nous ne partons jamais complètement de zéro. Nous possédons déjà des connaissances sur le monde, des observations antérieures, des contraintes théoriques et parfois des statistiques très solides. Le raisonnement bayésien donne un nom à cet état de connaissance préalable : le prior, ou probabilité a priori.
Cette idée peut d’abord sembler suspecte. Si nous voulons examiner une preuve objectivement, ne faudrait-il pas oublier ce que nous pensions auparavant et laisser uniquement les nouvelles données parler ? Ce serait pourtant jeter une grande partie de l’information disponible. Une alarme incendie n’a pas la même signification dans une cuisine où l’on vient de brûler une tartine et dans un entrepôt fermé où aucune fumée ne devrait normalement apparaître. Un témoignage affirmant avoir vu un chien et un témoignage affirmant avoir vu un tigre en liberté ne partent pas avec la même plausibilité.
Le prior exprime cette différence initiale. Il ne décide pas de la conclusion : il fixe le point de départ à partir duquel les preuves vont nous déplacer.
Toutes les hypothèses ne sont pas également plausibles
Supposons qu’un collègue vous annonce deux événements possibles : « J’ai croisé un chien en venant travailler » et « J’ai croisé un tigre en liberté en venant travailler ».
Avant même d’examiner son témoignage, nous ne plaçons pas spontanément ces propositions sur un pied d’égalité. Nous savons que les chiens sont extrêmement courants dans les villes françaises, tandis que les tigres en liberté y sont exceptionnellement rares.
Cette différence n’est pas nécessairement un biais. Elle peut représenter une connaissance préalable pertinente.
Si nous décidions au contraire d’attribuer systématiquement 50 % à toute proposition et à sa négation, nous obtiendrions des jugements absurdes. Nous devrions accorder initialement autant de crédit à l’hypothèse « mon téléphone est tombé en panne » qu’à « une civilisation extraterrestre vient d’en désactiver à distance le processeur ». L’expérience accumulée sur les pannes électroniques, les technologies connues et l’absence de preuve d’une telle intervention extraterrestre n’aurait alors aucun poids.
La rationalité ne consiste donc pas à traiter toutes les hypothèses comme équiprobables. Elle consiste à leur attribuer une plausibilité initiale proportionnée aux informations déjà disponibles, puis à rester capable de la réviser.
Le prior peut provenir d’un taux de base
Dans certains problèmes, le prior possède une origine particulièrement claire : un taux de base empirique.
Si une maladie touche 2 % d’une population correspondant au profil d’un patient avant la réalisation d’un nouveau test, cette prévalence peut constituer une première approximation de la probabilité pré-test :
P(maladie) = 2 %.
Si une pièce industrielle présente historiquement un défaut dans 0,1 % des cas produits dans les mêmes conditions, cette fréquence peut également fournir un prior.
Dans ce type de situation, le prior n’est pas une opinion personnelle. Il repose sur des données antérieures.
Mais tous les problèmes ne disposent pas d’un taux de base aussi simple. Pour une théorie scientifique nouvelle, un événement politique unique, l’authenticité d’un document historique ou une hypothèse sur un phénomène jamais directement observé, il n’existe pas toujours une grande population de cas identiques permettant de compter simplement les occurrences.
Le prior peut alors incorporer d’autres connaissances : résultats scientifiques antérieurs, contraintes physiques, performances de modèles comparables, mécanismes connus ou informations contextuelles. C’est à ce niveau que son choix devient plus délicat.
« Subjectif » ne signifie pas « choisi au hasard »
Une partie de la tradition bayésienne interprète les probabilités comme des degrés de croyance. Chez des auteurs comme Frank Ramsey, Bruno de Finetti ou Leonard Savage, la cohérence de ces degrés de croyance joue un rôle fondamental.
Dans une version très subjective du bayésianisme, différentes personnes peuvent donc commencer avec des priors différents tant qu’ils respectent certaines contraintes de cohérence. D’autres traditions bayésiennes cherchent au contraire à imposer davantage de contraintes au choix des priors afin de réduire l’influence des jugements personnels. Cette opposition entre approches subjectives et objectives constitue ce que la littérature appelle souvent le problème des priors.
Mais même dans une conception subjective, « mon prior est personnel » ne signifie pas « je peux choisir n’importe quel nombre pour obtenir le résultat qui m’arrange ».
Supposons que deux personnes évaluent la probabilité qu’un nouveau médicament produise un effet important. La première fonde son prior sur plusieurs essais antérieurs concernant des molécules proches, la plausibilité biologique du mécanisme et l’ampleur généralement observée des effets dans ce domaine. La seconde choisit 95 % parce qu’elle souhaite que le traitement fonctionne.
Les deux nombres peuvent être appelés « priors », mais ils n’ont manifestement pas la même justification épistémique.
Le prior représente ce que nous apportons au problème
Cette idée rend le bayésianisme intellectuellement intéressant : l’analyse reconnaît explicitement qu’une nouvelle donnée n’est jamais interprétée indépendamment de tout ce que nous savons déjà.
Cela peut apparaître comme une faiblesse, mais c’est aussi une forme de transparence.
Prenons une étude évaluant une intervention dont des recherches antérieures suggèrent que les effets importants sont rares. Une analyse bayésienne peut intégrer cette connaissance préalable dans le prior. Si les nouvelles données sont extrêmement convaincantes, elles pourront dépasser ce scepticisme initial. Si elles sont fragiles, elles ne provoqueront qu’une mise à jour limitée.
L’analyse montre alors clairement que la conclusion dépend de deux éléments : l’information antérieure et les nouvelles données.
Le débat peut porter explicitement sur chacun d’eux.
Un prior très faible n’est pas une interdiction
Un prior faible peut donner l’impression qu’une hypothèse est condamnée d’avance. Ce serait mal comprendre la logique bayésienne.
Supposons qu’un phénomène soit extrêmement rare. Une observation ordinaire et ambiguë ne devrait effectivement pas suffire à le rendre probable. Mais une série d’observations fortement discriminantes peut produire une mise à jour considérable.
Imaginons une hypothèse dont la probabilité initiale n’est que de 1 %. Une nouvelle preuve est cent fois plus probable si cette hypothèse est vraie que si elle est fausse. Sans entrer encore dans la mécanique des *odds*, une telle preuve peut bouleverser le rapport initial entre les possibilités.
Un faible prior signifie donc : il faut davantage de preuves pour parcourir davantage de distance.
Il ne signifie pas : « cette hypothèse ne pourra jamais être acceptée ».
Cette distinction est essentielle pour éviter de transformer la connaissance antérieure en conservatisme dogmatique. Les découvertes scientifiques surprenantes sont précisément des situations où des données suffisamment fortes finissent par rendre plausible ce qui l’était très peu auparavant.
Mais 0 et 1 sont des valeurs dangereuses
Cette idée devient particulièrement visible aux extrêmes. Si nous attribuons strictement :
P(H) = 0,
alors une mise à jour bayésienne ordinaire ne fera jamais remonter H : multiplier zéro par la vraisemblance donne toujours zéro.
Inversement, si nous donnons une certitude absolue :
P(H) = 1,
aucune preuve ordinaire ne pourra attribuer de probabilité à l’alternative.
Cela montre pourquoi il faut être extrêmement prudent avant d’attribuer une probabilité exactement égale à 0 ou 1 à des propositions empiriques susceptibles d’être révisées. Certaines versions du bayésianisme imposent d’ailleurs des conditions de régularité destinées à éviter certains de ces cas extrêmes.
Dans le raisonnement quotidien, la leçon est simple : « extrêmement improbable » n’est pas nécessairement synonyme d’« impossible », et « pratiquement certain » n’équivaut pas toujours à une certitude logique.
Pourquoi ne pas mettre 50 % lorsqu’on ne sait pas ?
Une tentation fréquente consiste à dire : « Puisque je ne sais pas, je donne 50 %. »
Cela fonctionne dans certains problèmes très symétriques, mais certainement pas comme règle générale.
Si nous lançons une pièce dont nous avons de bonnes raisons de penser qu’elle est équilibrée, 50 % pour pile est naturel. Mais si quelqu’un demande la probabilité qu’une civilisation technologique existe actuellement autour d’une étoile choisie au hasard, notre ignorance ne suffit pas à rendre les réponses « oui » et « non » équiprobables.
Le problème devient encore plus évident lorsque plusieurs possibilités existent. Si nous ne savons pas combien d’espèces inconnues vivent dans une région abyssale, l’ignorance ne nous indique pas spontanément comment répartir une probabilité entre 0, 1, 2, 3 ou plusieurs milliers d’espèces.
L’indifférence entre possibilités apparemment symétriques a joué un rôle important dans l’histoire des conceptions objectives de la probabilité, mais sa mise en œuvre peut dépendre de la manière dont les possibilités sont décrites ou paramétrées. C’est l’une des raisons pour lesquelles la recherche de priors « objectifs » a produit plusieurs méthodes plutôt qu’une solution universelle.
L’ignorance authentique doit parfois rester reconnue comme telle au lieu d’être transformée artificiellement en un nombre précis.
Priors informatifs, faiblement informatifs et de référence
Dans la statistique bayésienne contemporaine, le mot *prior* désigne souvent une distribution de probabilité sur les valeurs possibles d’un paramètre plutôt qu’une simple probabilité attribuée à une hypothèse.
Supposons que nous cherchions l’effet moyen d’un traitement. Nous ignorons sa valeur exacte, mais nous pouvons disposer de connaissances antérieures sur les ordres de grandeur plausibles.
Un prior informatif incorpore une quantité substantielle d’informations antérieures. Il peut être utile lorsque des études précédentes ou une expertise solide permettent raisonnablement de contraindre les valeurs possibles.
Un prior faiblement informatif exerce une contrainte plus modeste : il laisse aux nouvelles données une large marge d’influence tout en évitant parfois des valeurs manifestement extravagantes ou des comportements statistiques instables. Andrew Gelman et ses collaborateurs ont notamment défendu ce type d’approche dans plusieurs contextes statistiques.
Enfin, différentes méthodes cherchent à construire des priors dits objectifs, non informatifs ou de référence, avec l’objectif de limiter l’information introduite par le prior ou de laisser les données jouer un rôle aussi important que possible. Les priors de Jeffreys et les priors de référence de Bernardo et Berger appartiennent à cette famille. Ces méthodes sont importantes, mais aucune ne permet simplement de créer une absence absolue et universelle d’hypothèses.
Nous reviendrons précisément sur ces distinctions dans une fiche dédiée.
Les données finissent-elles toujours par effacer le prior ?
On entend parfois que le choix du prior importe peu parce qu’avec suffisamment de données, celles-ci « finissent par dominer ».
Cette intuition est souvent correcte dans certaines conditions : lorsque plusieurs priors raisonnables accordent tous une probabilité non négligeable à la région où se concentrent les données et que l’échantillon devient très informatif, leurs posteriors peuvent se rapprocher.
Mais cette convergence ne doit pas devenir un slogan. Elle dépend du modèle, des priors, de la quantité et de la qualité des données et de différentes conditions mathématiques. Les résultats de convergence asymptotique ne garantissent pas que le choix du prior soit négligeable dans l’analyse réelle d’un échantillon limité.
Or, en pratique, nous travaillons précisément avec des données limitées. Lorsque l’information est faible, le prior peut exercer une influence importante sur le résultat.
Cette influence n’est pas nécessairement un défaut : lorsque nous avons peu de nouvelles données, il peut être rationnel que les connaissances antérieures continuent de peser fortement. Mais il faut pouvoir montrer à quel point la conclusion dépend du prior choisi.
C’est le rôle de l’analyse de sensibilité que nous rencontrerons bientôt.
Le prior lui-même a une histoire
Il existe enfin un paradoxe apparent : si tout posterior repose sur un prior, d’où vient le premier prior ?
Dans de nombreux problèmes réels, la question n’a pas besoin d’un commencement absolu. Le posterior d’hier devient naturellement le prior d’aujourd’hui.
Une première étude modifie notre croyance. Une seconde étude arrive et la modifie encore. Dix années de résultats scientifiques constituent ensuite l’état de connaissance préalable utilisé pour interpréter une nouvelle expérience.
Le prior n’est donc pas nécessairement une croyance arbitraire déposée au commencement du raisonnement. Il peut représenter le résultat condensé de mises à jour antérieures.
Cela correspond assez bien à la dynamique générale de la connaissance scientifique : nous n’évaluons pas normalement chaque nouvelle étude comme si tout ce que nous savions auparavant avait disparu. Nous l’intégrons dans un corpus déjà existant, tout en restant disposés à réviser ce corpus lorsque des résultats suffisamment robustes l’exigent.
Le prior ne doit pas devenir une rationalisation
Cette flexibilité comporte néanmoins un danger évident. Si nous choisissons notre prior après avoir vu les données, uniquement parce qu’il permet d’obtenir la conclusion désirée, nous ne représentons plus honnêtement notre information préalable.
Le prior peut alors devenir une forme sophistiquée de raisonnement motivé.
C’est pourquoi une analyse sérieuse devrait rendre ses choix aussi explicites que possible : quelles informations antérieures ont été utilisées ? Pourquoi cette distribution plutôt qu’une autre ? Les résultats changent-ils fortement avec d’autres choix raisonnables ?
L’intérêt du bayésianisme n’est pas de supprimer tous les jugements. Il peut au contraire permettre de rendre visibles certains jugements qui resteraient autrement implicites. Cette transparence devient réellement utile lorsqu’elle permet la critique, la comparaison et l’analyse de sensibilité.
Un principe d’esprit critique
La notion de prior permet finalement de préciser une intuition extrêmement générale : la même preuve n’a pas nécessairement la même signification selon ce que nous savions auparavant.
Face à une affirmation, nous pouvons donc nous poser trois questions successives. Quelle était sa plausibilité avant cette nouvelle information ? Quelle est la force réelle de l’information qui vient d’apparaître ? À quel point cette information devrait-elle modifier notre croyance ?
Cette logique évite deux excès. Le premier consiste à considérer toute idée nouvelle comme également plausible au nom de l’ouverture d’esprit. Le second consiste à utiliser les connaissances existantes comme une forteresse rendant toute nouveauté impossible.
Un bon prior doit être informé mais révisable.
Cette idée conduit directement à l’une des formules les plus célèbres associées au raisonnement scientifique : les affirmations extraordinaires exigeraient des preuves extraordinaires. Derrière le slogan se trouve précisément une intuition bayésienne : plus une hypothèse part avec un prior faible, plus les preuves nécessaires pour la rendre probable doivent être discriminantes.
Mais cette formule peut elle aussi être mal utilisée. Elle mérite donc d’être examinée avec soin.
Pour aller plus loin
- Hájek, A. et al. « Bayesian Epistemology », *Stanford Encyclopedia of Philosophy*. Présentation du problème des priors et des différences entre bayésianismes subjectifs et objectifs.
- Romeijn, J.-W. « Philosophy of Statistics », *Stanford Encyclopedia of Philosophy*. Synthèse des débats sur la subjectivité des priors, les priors objectifs, les priors de Jeffreys et les priors de référence.
- Gelman, A., Jakulin, A., Pittau, M. G., & Su, Y.-S. (2008). « A Weakly Informative Default Prior Distribution for Logistic and Other Regression Models ». *The Annals of Applied Statistics*, 2(4), 1360–1383. Une référence importante sur l’usage de priors faiblement informatifs.
- Berger, J. O., Bernardo, J. M., & Sun, D. (2009). « The Formal Definition of Reference Priors ». *The Annals of Statistics*, 37(2), 905–938. DOI : 10.1214/07-AOS587. Présentation formelle de l’approche des priors de référence.