Environnements bienveillants et trompeurs — ce que l’expérience peut réellement nous apprendre

On entend souvent qu’« avec l’expérience, on finit par savoir ». C’est parfois vrai. Un joueur d’échecs expérimenté reconnaît des configurations qu’un débutant ne voit pas ; un professionnel de santé peut détecter qu’un état se dégrade avant que tous les signes soient évidents ; un artisan ajuste son geste à partir d’indices presque imperceptibles.

Mais l’expérience possède une propriété moins rassurante : elle peut également nous apprendre avec beaucoup d’efficacité quelque chose de faux.

Un investisseur peut développer pendant quinze ans une méthode qui semble fonctionner parce qu’il a traversé un contexte économique particulier. Un recruteur peut acquérir une grande confiance dans son « intuition des candidats » tout en n’observant jamais ce qu’auraient donné les personnes qu’il a refusées. Un commentateur politique peut construire une multitude d’explications convaincantes après chaque élection sans jamais enregistrer systématiquement ses prédictions antérieures.

Dans tous ces cas, l’individu accumule bien de l’expérience. Mais l’environnement lui fournit-il réellement les informations nécessaires pour distinguer ses bonnes intuitions de ses mauvaises ?

Robin Hogarth a proposé de réfléchir à cette question en distinguant les environnements d’apprentissage relativement bienveillants (*kind*) des environnements trompeurs (*wicked*). La distinction a ensuite été précisée avec Tomás Lejarraga et Emre Soyer : ce qui importe notamment est la correspondance entre l’environnement dans lequel nous apprenons et celui dans lequel nous devons ensuite utiliser ce que nous avons appris.

Ce cadre permet de comprendre une idée centrale de toute cette partie : l’expérience n’est pas une garantie d’expertise ; elle est un mécanisme d’apprentissage dont la qualité dépend de l’information que le monde renvoie à l’apprenant.

« Bienveillant » ne signifie pas facile

Le vocabulaire peut prêter à confusion. Un environnement « bienveillant » n’est pas nécessairement agréable, simple ou sans danger.

Les échecs constituent par exemple un environnement relativement favorable à l’apprentissage alors que le jeu est extrêmement complexe. Les règles sont stables, le résultat des coups peut être observé, les positions présentent de nombreuses régularités et les erreurs peuvent être étudiées après la partie.

Inversement, une tâche apparemment familière peut constituer un environnement beaucoup plus trompeur si les conséquences des décisions sont rarement connues ou si les relations entre indices et résultats changent constamment.

La distinction porte donc sur une propriété épistémique : l’environnement fournit-il une expérience à partir de laquelle il est possible d’apprendre correctement ce que nous chercherons ensuite à prédire ou à décider ?

Un environnement favorable possède souvent plusieurs caractéristiques : les régularités pertinentes sont relativement stables, les situations rencontrées ressemblent suffisamment aux situations futures, le feedback est disponible et suffisamment informatif, et les erreurs ne sont pas systématiquement dissimulées.

Aucune de ces propriétés n’est nécessairement parfaite. L’enjeu est leur degré.

Deux mondes : celui où nous apprenons et celui où nous agissons

La contribution intéressante de Hogarth, Lejarraga et Soyer consiste à distinguer deux contextes.

Le premier est l’environnement d’apprentissage : les situations auxquelles nous sommes exposés, les résultats que nous observons et les relations que notre expérience nous permet progressivement d’acquérir.

Le second est l’environnement d’application : les situations où nous utiliserons ensuite ces apprentissages pour juger, prédire ou décider.

Lorsque les deux correspondent suffisamment, les intuitions acquises ont de bonnes chances de rester pertinentes. Lorsque cette correspondance est mauvaise, l’environnement devient trompeur.

Prenons un exemple médical simple. Un professionnel peut devenir extrêmement performant pour reconnaître un tableau clinique fréquent dans le service où il travaille. Mais s’il applique ensuite exactement les mêmes intuitions à une population très différente, la fréquence des maladies, les présentations cliniques ou les facteurs de risque peuvent ne plus être les mêmes.

Son expérience n’était pas fausse.

C’est son transfert qui l’est devenu.

Cette distinction aide à sortir d’un débat stérile entre « l’expérience vaut mieux que les statistiques » et « l’expérience ne vaut rien ». Une expérience peut être excellente pour apprendre certaines tâches et très mauvaise pour en apprendre d’autres.

Le feedback : apprendre suppose de découvrir ses erreurs

Pour qu’une intuition s’améliore, il faut idéalement que nos attentes rencontrent régulièrement le résultat réel.

Un joueur estime qu’un coup est bon, joue, puis découvre les conséquences. Un chirurgien peut suivre les complications postopératoires. Un météorologue peut comparer chaque jour ses prévisions aux observations.

Ces domaines fournissent des possibilités de correction.

Mais même la présence d’un résultat ne suffit pas. Le feedback doit être pertinent, suffisamment clair et attribuable à la décision.

Si une action est suivie d’un succès, avons-nous réellement appris que l’action était bonne ? Peut-être. Mais le succès peut aussi être dû au hasard, aux autres acteurs, à des facteurs extérieurs ou au fait que la situation aurait évolué favorablement de toute façon.

Dans les problèmes très complexes, le feedback peut donc être présent mais ambigu.

Les recherches sur la calibration montrent d’ailleurs que des retours appropriés peuvent améliorer la correspondance entre confiance et précision, mais que cette amélioration dépend de la nature de la tâche et ne se généralise pas automatiquement à toutes les situations.

La phrase « j’ai vu ce qui s’est passé » ne signifie donc pas nécessairement « j’ai reçu le feedback qui me permet de comprendre pourquoi cela s’est passé ».

Le piège du feedback sélectionné

Certains métiers fournissent un feedback particulièrement incomplet parce que l’on ne voit que les conséquences des décisions effectivement prises.

Un recruteur engage Paul et refuse Sarah. Trois ans plus tard, Paul s’avère excellent. Le recruteur peut considérer que son intuition était correcte.

Mais que sait-il de Sarah ?

Peut-être aurait-elle été encore meilleure. Comme elle n’a jamais intégré l’entreprise, le résultat de l’option rejetée n’est jamais observé.

Le même problème apparaît dans de nombreuses décisions. Un médecin prescrit un traitement et observe l’évolution du patient, mais il ne peut pas observer simultanément ce qui se serait produit sans le traitement. Un responsable politique adopte une mesure et constate ensuite une amélioration ou une détérioration, mais il ne voit pas directement le monde alternatif dans lequel la mesure n’aurait pas été prise.

C’est le problème du contrefactuel.

L’expérience naturelle ne nous montre généralement qu’une seule trajectoire. C’est précisément pour reconstruire de meilleurs contrefactuels que la science utilise des groupes de comparaison, des essais randomisés, des expériences naturelles, des modèles statistiques et d’autres méthodes.

Sans eux, une personne très expérimentée peut accumuler des milliers d’observations tout en restant incapable de répondre correctement à la question causale qui l’intéresse.

Lorsque chaque résultat peut confirmer la même croyance

Un environnement devient particulièrement trompeur lorsque ses résultats peuvent presque toujours être interprétés dans le sens de la croyance initiale.

Supposons qu’un professionnel soit convaincu qu’une méthode particulière est extrêmement efficace.

Lorsqu’il l’utilise et que la situation s’améliore, il attribue l’amélioration à la méthode. Lorsqu’elle ne s’améliore pas, il conclut que le cas était exceptionnellement difficile. Lorsqu’un collègue n’utilise pas la méthode et rencontre un problème, cela devient une nouvelle confirmation de sa nécessité.

Aucune observation ne semble pouvoir réfuter la croyance.

L’expérience continue alors de s’accumuler, mais elle ne joue plus son rôle correctif.

Ce problème ne concerne pas uniquement les pseudosciences. On le retrouve dans les organisations, en politique, dans le management et dans la vie quotidienne. Une stratégie dont les succès sont attribués à nos décisions et les échecs aux circonstances extérieures peut survivre très longtemps.

Une condition importante de l’apprentissage est donc de pouvoir répondre à cette question : « Quel résultat me ferait réellement reconnaître que mon jugement était mauvais ? »

Si aucune réponse n’est possible, l’expérience risque surtout de renforcer la conviction existante.

Les environnements les plus impressionnants ne sont pas toujours les plus instructifs

L’intensité émotionnelle d’une expérience peut nous donner l’impression d’avoir beaucoup appris.

Une urgence médicale dramatique, une crise financière, une élection historique ou un accident majeur laisse une trace forte. Mais un événement mémorable n’est pas nécessairement un bon échantillon pour apprendre les régularités générales.

Cette distinction est essentielle.

Une personne peut travailler vingt ans dans un domaine et avoir été exposée à quelques événements extraordinairement marquants. Ces événements peuvent ensuite exercer une influence disproportionnée sur ses attentes, simplement parce qu’ils sont beaucoup plus faciles à rappeler que les centaines de situations ordinaires où rien d’exceptionnel ne s’est produit.

Il faut donc distinguer la richesse subjective d’une expérience de sa valeur statistique.

Une succession de centaines de petits feedbacks précis peut parfois former une meilleure expertise qu’une poignée d’expériences spectaculaires.

Un environnement peut changer

Même lorsqu’un apprentissage était parfaitement adapté au monde d’hier, il peut devenir moins pertinent si ce monde se transforme.

Les statistiques parlent parfois de non-stationnarité : les relations observées dans le passé ne restent pas nécessairement identiques dans le futur.

Une technologie évolue. Une population change. Des pratiques médicales sont modifiées. Des acteurs économiques s’adaptent aux stratégies des autres. Une plateforme modifie son algorithme. Une maladie rencontre une population différemment immunisée. Une règle institutionnelle produit de nouveaux comportements.

Dans ces situations, l’expérience accumulée conserve souvent une valeur importante, mais certaines associations doivent être révisées.

Ce phénomène est particulièrement marqué dans les systèmes où les acteurs apprennent eux-mêmes.

Aux échecs, les règles fondamentales ne changent pas parce qu’un joueur découvre une nouvelle stratégie. Sur un marché financier, en revanche, une stratégie prévisible et profitable peut devenir moins efficace dès que suffisamment d’acteurs la découvrent et l’exploitent.

Le monde social contient ainsi de nombreuses boucles de rétroaction où les prédictions contribuent elles-mêmes à modifier l’environnement.

Cela limite fortement la possibilité de construire certaines formes d’expertise intuitive stable.

Pourquoi la politique et les prévisions à long terme sont difficiles

Les environnements politiques offrent un contraste intéressant avec les domaines où l’expertise intuitive se développe facilement.

Un observateur politique peut disposer d’énormément de connaissances historiques et institutionnelles. Cette expertise est réelle et précieuse pour interpréter une situation.

Mais certaines prédictions restent difficiles à apprendre par expérience.

Les élections nationales sont relativement peu nombreuses dans la vie d’une personne. Chaque scrutin se déroule dans un contexte différent. Les candidats changent, les médias évoluent, des crises apparaissent, les règles peuvent être modifiées et les électeurs réagissent aux prédictions elles-mêmes.

Le feedback est en outre lent : plusieurs années peuvent séparer deux événements comparables.

Il existe donc une différence importante entre savoir beaucoup de choses sur la politique et être capable de prédire intuitivement avec précision des événements politiques lointains.

Cela ne rend pas toute prévision impossible. Les modèles électoraux, agrégations de sondages, marchés de prédiction et analyses historiques peuvent apporter de l’information.

Mais ce sont précisément des outils destinés à compenser les limites de l’apprentissage individuel.

Une longue carrière de commentateur politique n’équivaut pas automatiquement à des milliers d’essais indépendants permettant de calibrer une intuition.

Médecine : un même domaine peut contenir plusieurs environnements

Il serait également faux de classer simplement « la médecine » comme environnement bienveillant ou trompeur.

Tout dépend de la tâche.

Certaines reconnaissances perceptives peuvent bénéficier d’un grand nombre de cas, de régularités relativement fortes et d’un feedback diagnostique. Dans d’autres situations, les résultats sont rares, différés ou fortement influencés par de nombreuses variables.

Un soignant peut ainsi développer une excellente intuition concernant la détérioration habituelle de patients qu’il observe fréquemment tout en ayant beaucoup moins d’expérience utile pour estimer la probabilité d’un événement exceptionnel.

Cette distinction vaut dans presque toutes les professions.

Caractéristique de l’environnementFavorise l’apprentissageRend l’apprentissage plus difficile
RégularitéRelations stables et répétéesRelations faibles ou changeantes
Nombre de casNombreuses occasions comparablesÉvénements rares ou uniques
FeedbackRapide, clair, fiableTardif, absent ou ambigu
ÉchantillonCas représentatifs de la situation futureCas fortement sélectionnés
ContrefactuelsComparaisons disponiblesOn ne voit que la décision prise
Stabilité temporelleEnvironnement relativement constantEnvironnement qui se transforme rapidement
Traçabilité des erreursÉchecs enregistrés et analysésErreurs oubliées ou réinterprétées

L’expression « avoir de l’expérience » devient ainsi beaucoup plus informative lorsqu’on demande de quelle expérience il s’agit.

L’expérience collective peut corriger l’expérience individuelle

Une solution remarquable au problème des environnements trompeurs consiste à modifier artificiellement l’environnement d’apprentissage.

La science fait précisément cela.

Un essai contrôlé construit un contrefactuel qui n’existerait pas spontanément. Une base de données réunit davantage de cas qu’un individu ne pourrait en rencontrer. Un audit rend visibles des erreurs qui seraient autrement oubliées. Une check-list empêche certains oublis de disparaître du feedback. Un suivi systématique permet de découvrir si les décisions précédentes étaient effectivement bonnes.

Les institutions peuvent ainsi créer des formes de mémoire et de feedback collectifs.

C’est une idée centrale pour notre « Système 3 » pédagogique. La métacognition n’a pas besoin d’être enfermée dans la tête d’un individu. Une procédure peut améliorer la qualité de ce que les individus apprennent.

Un service qui réalise des retours d’expérience après un incident construit un environnement d’apprentissage plus riche. Une équipe qui enregistre ses prédictions avant de connaître les résultats empêche la mémoire de les réécrire après coup. Une discipline scientifique qui encourage réplication et partage de données augmente les chances que les erreurs deviennent visibles.

Une institution bien conçue peut rendre l’environnement plus bienveillant pour ceux qui y apprennent.

Transformer un environnement trompeur

Nous ne pouvons pas toujours choisir le monde dans lequel nous devons décider. Mais nous pouvons parfois améliorer la manière dont nous recevons son feedback.

Une première stratégie consiste à enregistrer les prédictions avant le résultat. Il devient alors beaucoup plus difficile de se convaincre après coup que l’on avait « toujours su ».

Une seconde consiste à chercher activement les cas manquants : les personnes refusées, les traitements non administrés, les prédictions qui n’ont pas été publiées, les situations où le phénomène attendu ne s’est pas produit.

Une troisième consiste à utiliser des taux de base et des données agrégées pour replacer l’expérience personnelle dans une distribution plus large.

Une quatrième consiste à provoquer un feedback plus rapide lorsque cela est possible : simulations, exercices, débriefings, évaluations régulières ou tests sur des cas dont la réponse est connue.

Enfin, il faut parfois reconnaître que certaines questions fournissent intrinsèquement très peu d’occasions d’apprendre. Dans ce cas, la meilleure amélioration n’est pas d’obtenir davantage de confiance, mais d’accepter une incertitude plus grande.

Cette dernière compétence est souvent négligée.

Un environnement trompeur ne doit pas nécessairement nous apprendre à mieux prédire. Il peut nous apprendre à comprendre pourquoi nous ne pouvons pas prédire avec beaucoup de précision.

Savoir quand l’expérience mérite confiance

L’une des questions les plus utiles devant une affirmation fondée sur l’expérience est donc : « Qu’est-ce que cette expérience permet réellement d’apprendre ? »

Cette question s’applique aussi bien à nous-mêmes qu’aux autres.

Une personne qui a rencontré des milliers de cas comparables, dont les erreurs ont été rapidement détectées et dont l’environnement reste stable dispose de bonnes conditions pour développer des intuitions performantes.

Une personne qui a rencontré quelques dizaines de cas très différents, reçoit un feedback tardif et ambigu, ne voit jamais les options rejetées et travaille dans un environnement en constante évolution peut également être très expérimentée. Mais cette expérience ne lui permet pas nécessairement de construire les mêmes intuitions.

Kahneman et Klein arrivent précisément à une conclusion de ce type : la confiance que nous devrions accorder à une intuition dépend moins de l’assurance subjective de l’expert que de la possibilité objective qu’avait son environnement de lui enseigner une compétence valide.

Cela modifie profondément notre manière d’évaluer l’autorité.

La question n’est plus seulement : « Cette personne est-elle expérimentée ? »

Elle devient : « Son domaine lui permet-il de découvrir régulièrement lorsqu’elle se trompe ? »

L’autonomie intellectuelle consiste aussi à choisir ses écoles

Nous ne contrôlons pas entièrement les mécanismes qui transforment notre expérience en intuitions. En revanche, nous pouvons partiellement choisir les environnements auxquels nous exposons ces mécanismes.

Une personne qui ne rencontre que des opinions semblables aux siennes reçoit un feedback intellectuel pauvre. Un professionnel qui ne revient jamais sur ses erreurs perd des occasions d’apprentissage. Un lecteur qui consulte des sources capables de publier des corrections évolue dans un environnement différent de celui où les erreurs disparaissent sans laisser de trace.

Cela donne une dimension très concrète à l’autonomie intellectuelle.

Il ne suffit pas d’avoir de bonnes intentions ni même de connaître de nombreux biais cognitifs. Il faut construire autour de soi des conditions où le réel peut nous répondre.

Chercher des contradicteurs compétents, noter ses prédictions, examiner les taux de base, consulter des données externes, analyser ses erreurs, comparer plusieurs méthodes et préserver la possibilité d’être corrigé sont autant de manières de rendre notre environnement intellectuel moins trompeur.

Nous ne pouvons pas garantir que nos intuitions deviennent justes.

Nous pouvons cependant augmenter la probabilité qu’elles aient eu l’occasion d’apprendre lorsqu’elles étaient fausses.

C’est peut-être l’un des critères les plus profonds de l’expertise.

Pour aller plus loin

Robin M. Hogarth, Tomás Lejarraga & Emre Soyer (2015), « The Two Settings of Kind and Wicked Learning Environments », *Current Directions in Psychological Science*, 24(5), 379–385. Une synthèse particulièrement claire de la distinction entre environnement d’apprentissage et environnement d’application, et des conditions dans lesquelles leur inadéquation peut produire des inférences trompeuses. DOI : 10.1177/0963721415591878.

Daniel Kahneman & Gary Klein (2009), « Conditions for Intuitive Expertise: A Failure to Disagree », *American Psychologist*, 64(6), 515–526. Une référence majeure pour comprendre pourquoi l’intuition experte dépend de régularités suffisamment prévisibles et de possibilités adéquates d’apprentissage. DOI : 10.1037/a0016755.

Robin M. Hogarth (2001), *Educating Intuition*, University of Chicago Press. Un ouvrage important sur les conditions qui façonnent la qualité de l’apprentissage intuitif et sur les moyens d’améliorer les environnements dans lesquels nos intuitions se forment.

Sarah Lichtenstein & Baruch Fischhoff (1980), « Training for Calibration », *Organizational Behavior and Human Performance*, 26(2), 149–171. Une étude classique montrant que le feedback peut améliorer la calibration des jugements probabilistes, mais que les acquis ne se transfèrent pas automatiquement à toutes les tâches. DOI : 10.1016/0030-5073(80)90052-5.

Sarah Lichtenstein, Baruch Fischhoff & Lawrence D. Phillips (1982), « Calibration of Probabilities: The State of the Art to 1980 », dans *Judgment under Uncertainty: Heuristics and Biases*, Cambridge University Press. Une synthèse classique sur la calibration, c’est-à-dire l’ajustement entre le degré de confiance exprimé et la fréquence réelle de justesse des jugements.

7 sur 30Retour à la catégorie