Cognition distribuée — penser avec des outils, des personnes et des institutions

Essayez de multiplier mentalement plusieurs nombres à cinq chiffres, puis recommencez avec une feuille de papier.

Le problème mathématique n’a pas changé. Vos capacités cérébrales non plus. Pourtant, la tâche devient radicalement différente.

Le papier conserve les résultats intermédiaires. Vous pouvez les relire, les aligner, revenir en arrière et repérer une erreur. Une partie du travail qui devait auparavant être maintenue en mémoire est maintenant inscrite dans l’environnement.

Nous décrivons volontiers cette situation en disant que le papier « aide » notre pensée. Les recherches sur la cognition distribuée invitent à prendre cette idée beaucoup plus au sérieux. Pour comprendre certaines activités cognitives complexes, l’unité pertinente n’est pas toujours un cerveau isolé. Il peut être plus instructif d’étudier le système formé par plusieurs personnes, des représentations externes, des outils et les procédures qui organisent leurs interactions.

Edwin Hutchins a fortement développé cette perspective en étudiant notamment la navigation à bord de navires. Les calculs nécessaires pour déterminer la position ou conduire une manœuvre n’étaient pas simplement réalisés par un individu particulièrement compétent : l’information circulait entre membres de l’équipage, instruments, cartes, mesures et procédures. La performance cognitive appartenait alors en partie à l’organisation de cet ensemble.

Cette approche correspond parfaitement au fil directeur de notre « Système 3 ». L’autonomie intellectuelle ne consiste pas à tout contrôler mentalement soi-même. Elle consiste aussi à apprendre comment construire autour de notre cognition limitée des supports capables de la rendre plus fiable.

Penser ne se déroule pas uniquement « dans la tête »

Une conception intuitive de la cognition suit ce schéma :

le monde fournit des informations ;

le cerveau les traite ;

une réponse est produite.

Cette description est parfois parfaitement adaptée.

Mais considérons une personne qui rédige un texte complexe.

Elle écrit une phrase.

La relit.

Déplace un paragraphe.

Note une idée dans la marge.

Compare deux formulations.

Dessine une structure.

Revient trois pages en arrière.

Où se trouve exactement le raisonnement ?

Une partie est évidemment réalisée par le cerveau.

Mais le texte extérieur participe également au processus. Il conserve des informations qui seraient difficiles à maintenir simultanément en mémoire de travail. Il permet de percevoir visuellement une répétition. Il rend deux arguments comparables. Il permet de reprendre aujourd’hui un raisonnement commencé hier.

L’écriture n’est donc pas seulement le produit final de la pensée.

Elle peut être l’un de ses instruments.

Une feuille de papier modifie les opérations cognitives qui deviennent possibles ou faciles.

Agir sur le monde pour mieux penser

David Kirsh et Paul Maglio ont proposé une distinction particulièrement utile entre actions pragmatiques et actions épistémiques.

Une action pragmatique transforme directement le monde afin d’atteindre un objectif.

Une action épistémique transforme le monde afin de simplifier une opération cognitive.

Leur exemple classique vient de joueurs de *Tetris*. Certaines rotations des pièces peuvent être réalisées non parce que le joueur a déjà décidé de placer la pièce ainsi, mais parce que faire tourner physiquement la forme à l’écran permet de voir plus facilement ce qu’une rotation mentale aurait demandé davantage de calcul.

Nous faisons continuellement quelque chose de similaire.

Nous alignons des objets pour les compter.

Nous pointons une ligne avec le doigt pour ne pas perdre notre position.

Nous écrivons deux nombres l’un sous l’autre.

Nous dessinons un schéma pour comprendre une relation.

Nous déplaçons des cartes sur une table pour comparer plusieurs scénarios.

Dans chacun de ces cas, nous utilisons le monde comme partie du dispositif de résolution du problème.

Le papier n’augmente pas notre mémoire de travail : il change le problème

Cette distinction est importante.

Lorsque vous écrivez six valeurs sur une feuille, votre mémoire de travail n’est pas devenue soudainement plus grande.

Vous avez supprimé une partie de la charge qui pesait sur elle.

Le problème initial était :

retenir six valeurs + les comparer + effectuer des opérations.

Le nouveau problème devient :

lire six valeurs visibles + les comparer + effectuer des opérations.

Une contrainte cognitive a été transformée en contrainte perceptive beaucoup plus facile à gérer.

C’est pourquoi les outils externes peuvent produire des améliorations considérables sans modifier aucune capacité fondamentale de l’individu.

Un tableau peut permettre à une personne ordinaire de raisonner correctement sur une quantité d’informations qu’elle serait incapable de manipuler mentalement.

L’intelligence pratique consiste donc en partie à savoir représenter le problème de façon à rendre les bonnes opérations faciles.

Une représentation extérieure n’est jamais neutre

Mais toute externalisation possède un revers.

La manière dont l’information est représentée influence ce que nous voyons facilement.

Un tableau permet certaines comparaisons.

Un graphique en rend d’autres immédiatement visibles.

Une carte géographique fait apparaître des relations spatiales.

Une chronologie montre des successions temporelles.

Un arbre de décision matérialise des branches alternatives.

Cela signifie que choisir une représentation n’est pas seulement choisir où stocker l’information.

C’est choisir quelles relations deviendront perceptuellement saillantes.

Une mauvaise représentation peut donc rendre un problème beaucoup plus difficile.

Elle peut même orienter le raisonnement dans une mauvaise direction.

Deux présentations mathématiquement équivalentes peuvent être cognitivement très différentes.

L’externalisation ne supprime pas la nécessité de penser.

Elle déplace une partie du problème vers la conception de la représentation elle-même.

Cas pratique — six hypothèses dans un dossier complexe

Imaginons un dossier comportant six hypothèses possibles et une quinzaine d’indices.

Mentalement, nous pouvons facilement perdre le fil :

tel indice soutient-il vraiment H2 ?

Avions-nous déjà expliqué cette anomalie avec H4 ?

Quelle hypothèse rendait compte des trois observations les plus importantes ?

On peut continuer à réfléchir plus fort.

Ou construire un tableau :

hypothèses en colonnes ;

indices en lignes ;

compatibilité, incompatibilité ou absence d’information dans les cellules.

Le tableau ne décide pas quelle hypothèse est vraie.

Il apporte autre chose : il rend simultanément visibles des relations que la mémoire de travail devait auparavant reconstruire successivement.

Une contradiction peut apparaître immédiatement.

Une hypothèse qui semblait très convaincante peut révéler qu’elle n’expliquait en réalité que les indices les plus saillants.

Le raisonnement devient moins dépendant de ce qui nous revient momentanément à l’esprit.

C’est déjà une forme de contrôle métacognitif externalisé.

Penser avec d’autres personnes

La distribution cognitive ne concerne pas seulement les outils matériels.

Elle concerne également la répartition de l’information entre plusieurs individus.

Dans une équipe, personne ne possède nécessairement toutes les connaissances pertinentes.

Une personne connaît l’historique du dossier.

Une autre maîtrise une procédure technique.

Une troisième remarque une anomalie.

Une quatrième connaît les contraintes organisationnelles.

La performance collective dépend alors non seulement de la qualité individuelle de chaque membre, mais aussi de la manière dont les informations circulent entre eux.

Une équipe peut donc contenir toutes les connaissances nécessaires et pourtant prendre une mauvaise décision si :

la bonne information n’est pas transmise ;

elle est transmise trop tard ;

la hiérarchie empêche un membre de signaler un doute ;

personne ne sait qu’un autre détient l’information importante ;

ou plusieurs personnes supposent à tort que quelqu’un d’autre a effectué la vérification.

La cognition collective possède ses propres pannes.

« Je n’ai pas besoin de tout savoir si je sais qui sait quoi »

Cette idée apparaît aussi dans les recherches sur la mémoire transactive : dans certains groupes, les individus peuvent répartir implicitement les domaines de connaissance.

L’un connaît les questions administratives.

L’autre l’informatique.

Un troisième se souvient des antécédents.

La compétence collective ne repose alors pas sur la duplication complète de toutes les informations, mais sur une sorte de carte :

« Pour ce problème, c’est cette personne qu’il faut consulter. »

Nous faisons la même chose dans notre vie quotidienne.

Nous ne mémorisons pas nécessairement toutes les informations disponibles.

Nous mémorisons souvent où elles peuvent être retrouvées.

Cette stratégie est rationnelle tant que l’accès extérieur reste suffisamment fiable.

Mais elle introduit une nouvelle dépendance : si la personne, l’outil ou la source disparaît, une partie de la capacité du système disparaît avec elle.

Externaliser une connaissance consiste donc à échanger mémoire interne contre dépendance envers une infrastructure.

Une calculatrice sait calculer ; elle ne sait pas pourquoi vous calculez

Les outils externes peuvent être extrêmement fiables dans une opération précise.

Une calculatrice dépasse presque n’importe quel humain pour effectuer rapidement une longue multiplication.

Mais elle ne sait pas si vous avez saisi le bon nombre.

Elle ne sait pas si la multiplication est l’opération pertinente.

Elle ne sait pas si le résultat répond à la question que vous vouliez poser.

Nous pouvons donc distinguer plusieurs niveaux :

exécution de l’opération ;

choix de l’opération ;

qualité des données d’entrée ;

interprétation du résultat ;

décision fondée sur ce résultat.

Un outil peut être excellent sur le premier niveau et ne fournir aucune garantie sur les suivants.

Cette distinction devient essentielle à mesure que nos outils deviennent plus puissants.

La délégation cognitive doit toujours demander :

qu’est-ce que je délègue exactement, et qu’est-ce qui reste sous ma responsabilité ?

Un outil puissant peut déplacer l’erreur plutôt que la supprimer

Supposons qu’une personne effectue une analyse statistique à la main.

Elle peut commettre une erreur arithmétique.

Utiliser un logiciel statistique supprime largement ce risque.

Mais d’autres erreurs deviennent possibles :

choisir un test inadapté ;

mal coder les données ;

interpréter incorrectement la sortie ;

faire fonctionner un modèle hors de ses conditions de validité.

L’outil a donc transformé la structure des erreurs possibles.

C’est une règle générale.

Une technologie cognitive fiable sur une opération ne rend pas nécessairement l’ensemble du système fiable.

Elle peut simplement déplacer la compétence nécessaire vers un niveau supérieur.

Nous avons besoin de moins savoir calculer manuellement une statistique.

Nous avons davantage besoin de savoir quelle statistique demander et ce qu’elle signifie.

L’externalisation modifie ainsi la nature de l’expertise.

L’intelligence artificielle appartient au même problème général

Un système d’intelligence artificielle peut synthétiser des informations, produire des hypothèses, reformuler un problème, écrire du code ou aider à comparer plusieurs options.

Cela étend considérablement les possibilités d’externalisation cognitive.

Mais le principe reste le même.

La facilité avec laquelle une réponse est produite ne garantit pas :

que le problème a été correctement compris ;

que les informations utilisées sont fiables ;

que les sources soutiennent réellement la conclusion ;

que l’outil fonctionne bien dans ce domaine précis ;

ou que l’utilisateur a correctement interprété le résultat.

La bonne question n’est donc ni :

« Faut-il penser soi-même ou utiliser une IA ? »

ni :

« L’IA remplace-t-elle la pensée ? »

Elle ressemble davantage à :

« Quelle partie de cette tâche peut être utilement déléguée, comment contrôler le résultat et où doit rester le jugement humain ? »

C’est exactement un problème de métaraisonnement.

Cognition distribuée et « esprit étendu » ne sont pas synonymes

Une distinction philosophique importante doit être introduite ici.

La cognition distribuée, telle qu’elle est notamment développée par Hutchins et ses collègues, est avant tout un cadre permettant d’étudier des systèmes cognitifs dont les processus sont répartis entre individus, artefacts et environnement. Hollan, Hutchins et Kirsh la présentent précisément comme une approche qui déplace l’analyse vers les interactions entre personnes et technologies dans des environnements réels.

La théorie de l’esprit étendu, proposée par Andy Clark et David Chalmers en 1998, défend une thèse philosophique plus forte : dans certaines conditions, un élément extérieur — leur exemple célèbre est un carnet utilisé comme mémoire — pourrait être considéré non simplement comme un outil de la cognition mais comme une partie du processus cognitif lui-même.

Les deux perspectives sont proches.

Elles ne sont pas identiques.

On peut parfaitement reconnaître qu’un carnet transforme profondément notre activité cognitive sans prendre position sur la question philosophique de savoir si ce carnet constitue littéralement une partie de notre esprit.

Pour notre projet, cette querelle ontologique n’a pas besoin d’être tranchée.

Le point pratique suffit : la qualité de notre pensée dépend souvent fortement de structures extérieures au cerveau.

Tout objet utilisé n’est évidemment pas « une partie de l’esprit »

La thèse de l’esprit étendu a suscité une importante littérature précisément parce qu’elle soulève une difficulté de frontière.

Si j’utilise occasionnellement une encyclopédie, est-elle une partie de ma mémoire ?

Google ?

Une bibliothèque ?

Le téléphone d’un ami ?

L’ensemble d’Internet ?

Une conception trop large risque de faire disparaître toute différence entre :

outil disponible

et

composant réellement intégré au fonctionnement cognitif.

Clark et Chalmers insistaient notamment sur l’importance d’une relation fonctionnelle stable dans leur expérience de pensée du carnet d’Otto : l’information est régulièrement utilisée, facilement accessible et joue un rôle analogue à celui qu’une mémoire biologique jouerait chez une autre personne.

Même en acceptant ce raisonnement, la frontière reste philosophiquement discutée.

C’est pourquoi il vaut mieux éviter le slogan :

« Le smartphone est une partie de notre cerveau. »

Il simplifie précisément la question qui demande à être analysée.

Le navire de Hutchins : personne ne contient toute la navigation

L’exemple de la navigation maritime étudié par Hutchins permet de mieux comprendre la cognition distribuée sans passer par cette question philosophique.

À bord d’un grand navire, déterminer et utiliser la position du bâtiment peut demander plusieurs opérations : observations, instruments, transmission de valeurs, inscriptions, cartes et calculs.

Certaines opérations sont effectuées par différentes personnes.

Certaines relations sont matérialisées sur des instruments.

Les procédures déterminent l’ordre dans lequel les informations doivent circuler.

Le système peut alors accomplir une tâche qu’aucun membre n’effectue entièrement seul.

Hutchins propose donc d’examiner comment les représentations se transforment et circulent à travers le système, plutôt que de chercher exclusivement dans la tête d’un individu l’ensemble de la cognition nécessaire à la navigation.

Cette approche modifie notre conception de l’erreur.

Une erreur peut provenir d’une personne.

Mais elle peut aussi provenir d’une mauvaise transmission entre deux composants parfaitement compétents pris séparément.

Le problème peut être dans l’interface, pas dans la personne

Cette idée possède des conséquences considérables.

Supposons qu’une information importante soit régulièrement oubliée lors d’un changement d’équipe.

Une interprétation individuelle dira :

« Les professionnels doivent faire plus attention. »

Une approche systémique demandera :

« Comment cette information est-elle représentée et transmise lors du changement d’équipe ? »

Peut-être la mémoire humaine est-elle simplement utilisée pour une tâche où une inscription extérieure serait plus fiable.

Peut-être deux documents contiennent des informations différentes.

Peut-être la personne qui transmet ignore ce que la personne suivante ne sait pas.

Peut-être le système ne rend pas visible qu’une étape n’a pas été accomplie.

Le défaut cognitif ne se situe alors pas clairement dans un cerveau.

Il réside dans l’architecture des interactions.

Cette manière de penser est essentielle pour les organisations à haut risque.

Une bonne interface rend certaines erreurs visibles

Une représentation extérieure peut accomplir une fonction métacognitive.

Imaginez un tableau comportant toutes les étapes d’une procédure.

Une étape non réalisée reste visuellement vide.

Le système fournit immédiatement :

« Quelque chose manque. »

Sans tableau, cette absence devrait être détectée par la mémoire de la personne.

L’environnement devient donc capable de signaler une incohérence.

Même principe avec :

un voyant d’alarme ;

un formulaire refusant une valeur impossible ;

un logiciel signalant un champ obligatoire ;

une checklist ;

une comparaison automatique entre deux doses ;

une alerte lorsqu’une donnée sort d’un intervalle attendu.

L’outil ne raisonne pas nécessairement sur l’ensemble du problème.

Il rend simplement certaines erreurs plus difficiles à ne pas remarquer.

C’est déjà une amélioration considérable de la cognition.

Mais trop d’alertes détruisent l’alerte

Une architecture cognitive externe peut elle aussi échouer.

Supposons qu’un logiciel produise une alerte pour presque chaque décision.

La majorité sont sans conséquence.

Les utilisateurs apprennent rapidement à les fermer.

Une alerte importante finit par apparaître au milieu des autres.

Elle est également ignorée.

Le problème n’est plus un manque de signal.

Il est un excès de signaux mal calibrés.

Nous retrouvons exactement le problème étudié dans la détection de conflit : un système de contrôle doit arbitrer entre faux positifs et faux négatifs.

Une procédure trop sensible produit du bruit.

Une procédure trop permissive laisse passer des erreurs.

Le design d’un dispositif externe rencontre donc les mêmes problèmes de calibration que la métacognition interne.

Une équipe n’est pas automatiquement plus intelligente qu’un individu

La cognition distribuée ne doit pas devenir une célébration naïve du collectif.

Plusieurs individus peuvent corriger mutuellement leurs erreurs.

Ils peuvent aussi les amplifier.

Une équipe peut développer un consensus prématuré.

La hiérarchie peut faire taire les objections.

Plusieurs personnes peuvent partager exactement le même biais.

La responsabilité peut être tellement dispersée que personne ne vérifie réellement.

Une information peut être déformée à chaque transmission.

Le groupe peut privilégier l’harmonie plutôt que la vérité.

Distribuer la cognition ne garantit donc rien.

Il faut encore demander comment elle est distribuée.

Une organisation rationnelle ne cherche pas simplement à ajouter davantage de personnes.

Elle organise les rôles, les informations, les procédures et les incitations de manière à améliorer la détection et la correction des erreurs.

Le contradicteur est un outil cognitif

Nous pouvons maintenant regarder autrement le désaccord.

Un contradicteur compétent n’est pas seulement quelqu’un qui possède une autre opinion.

Il peut accomplir pour nous une opération cognitive que nous réalisons difficilement seuls :

chercher sérieusement ce qui ne va pas dans notre propre raisonnement.

Nous avons vu combien le raisonnement motivé rend cette tâche difficile.

Il peut donc être rationnel de répartir institutionnellement les rôles.

Une personne construit la proposition.

Une autre cherche les vulnérabilités.

Une troisième compare avec les données.

Une quatrième vérifie les calculs.

La qualité du système provient précisément du fait que toutes les fonctions critiques ne dépendent pas de la même motivation individuelle.

Le contradicteur devient alors une composante du système de contrôle.

Le double contrôle est une duplication volontaire

Certaines tâches organisent même délibérément une forme d’inefficacité apparente.

Une personne vérifie.

Puis une seconde vérifie indépendamment.

Pourquoi effectuer deux fois la même opération ?

Parce que le coût supplémentaire peut être faible relativement au coût d’une erreur, et surtout parce que deux vérifications partiellement indépendantes ne possèdent pas exactement les mêmes probabilités d’échec.

Mais le mot important est *indépendantes*.

Si la seconde personne se contente de regarder ce que la première a écrit et de dire :

« Oui, ça paraît correct »,

l’indépendance est faible.

La première réponse peut ancrer la seconde.

Une bonne architecture de contrôle doit parfois préserver une partie de l’indépendance avant de mettre les jugements en commun.

La cognition distribuée pose donc une question de structure des dépendances, pas seulement de nombre de participants.

La science distribue la cognition dans le temps

La science fournit un cas spectaculaire de cognition collective.

Aucun chercheur ne possède l’ensemble des connaissances d’une discipline.

Chaque résultat dépend de travaux antérieurs.

Les méthodes sont documentées.

Les instruments matérialisent des décennies de savoir technique.

Les articles conservent des raisonnements qui peuvent être examinés des années plus tard.

Les données peuvent être réanalysées.

Les expériences peuvent être reproduites par d’autres équipes.

Une découverte contemporaine peut donc mobiliser la cognition de milliers de personnes réparties dans l’espace et dans le temps.

La bibliothèque scientifique elle-même constitue une mémoire collective extérieure.

Mais cette puissance dépend de l’infrastructure : qualité des archives, normes de citation, méthodes, possibilités de critique, incitations à publier certains résultats et mécanismes de réplication.

La connaissance scientifique n’est pas seulement le produit de cerveaux intelligents.

Elle est aussi le produit d’institutions cognitives.

Une institution peut savoir quelque chose qu’aucun individu ne sait entièrement

Prenons une immense organisation.

Aucun salarié ne connaît peut-être l’intégralité du processus permettant de produire son service.

Pourtant, l’organisation fonctionne.

Les connaissances sont réparties dans :

les personnes ;

les logiciels ;

les procédures ;

les bases documentaires ;

les habitudes ;

les contrats ;

les formulaires ;

les machines ;

les règles de validation.

Une partie de la compétence existe donc sous une forme structurelle.

Cette observation doit toutefois être formulée prudemment.

Dire qu’une institution « sait » quelque chose est une métaphore fonctionnelle utile.

Cela ne signifie pas qu’elle possède nécessairement une conscience ou une croyance au sens où un individu en possède.

Le point important est qu’elle peut produire de manière régulière une performance cognitive que personne n’accomplit intégralement seul.

Quand personne ne comprend plus le système entier

Cette distribution possède aussi un danger.

Un système peut devenir tellement complexe qu’aucun individu ne comprend plus l’ensemble.

Chaque personne maîtrise son sous-problème.

Le dispositif global fonctionne tant que les interactions restent dans les conditions prévues.

Lorsqu’une situation exceptionnelle apparaît, les spécialistes peuvent découvrir que personne ne possède une représentation globale suffisante pour comprendre la panne.

La distribution cognitive produit donc parfois une fragilité systémique.

Elle permet une complexité immense.

Mais cette complexité peut rendre les dépendances opaques.

Une bonne architecture doit alors prévoir :

documentation ;

redondances ;

possibilités d’audit ;

procédures d’escalade ;

personnes chargées d’une vision transversale ;

et moyens de reconstruire l’historique des décisions.

L’externalisation doit rester inspectable.

L’autonomie exige de pouvoir contrôler ses dépendances

Nous dépendons tous d’une quantité considérable d’expertise que nous ne pouvons pas reproduire.

Médecine.

Ingénierie.

Droit.

Statistiques.

Informatique.

Économie.

Il serait absurde de vouloir reconstruire personnellement toutes les connaissances avant d’accepter une conclusion.

L’autonomie intellectuelle doit donc apprendre à fonctionner avec une dépendance épistémique inévitable.

Mais dépendre n’est pas se soumettre aveuglément.

Nous pouvons examiner :

qui possède l’expertise pertinente ;

comment cette expertise a été acquise ;

quelles procédures contrôlent les erreurs ;

quel consensus existe ;

quelles incitations interviennent ;

si plusieurs sources indépendantes convergent ;

et quel degré de confiance mérite la conclusion.

L’autonomie consiste alors moins à ne dépendre de personne qu’à dépendre intelligemment.

Le meilleur « Système 3 » peut être une procédure

Nous pouvons maintenant donner toute sa portée à une idée qui traverse cette catégorie.

Supposons qu’une erreur soit prévisible.

Nous pourrions former chaque individu à se souvenir continuellement :

« Attention, ce biais existe. »

Mais si le même problème se répète régulièrement, une solution plus fiable consiste peut-être à modifier le processus :

introduire une checklist ;

rendre le champ obligatoire ;

séparer deux fonctions ;

prévoir une validation indépendante ;

enregistrer automatiquement une valeur ;

imposer un délai avant une décision irréversible.

La procédure incorpore alors une réflexion antérieure dans l’environnement futur.

Elle dit en quelque sorte :

« Lorsque cette situation apparaîtra, ne faisons pas dépendre la sécurité du fait que quelqu’un se souviendra spontanément qu’il faut ralentir. »

C’est probablement la forme la plus puissante de notre « Système 3 ».

Non pas un troisième esprit dans la tête.

Mais une architecture qui rend certaines bonnes pratiques plus faciles et certaines erreurs plus difficiles.

La procédure peut même être meilleure qu’un expert

Dans certaines tâches, une règle simple appliquée systématiquement peut battre un jugement professionnel plus flexible.

Cela ne signifie pas que les experts seraient inutiles.

L’expert peut être indispensable pour construire la règle, déterminer quand elle s’applique, reconnaître une situation exceptionnelle et interpréter des cas complexes.

Mais le jugement humain possède des fluctuations :

fatigue ;

distraction ;

oubli ;

variations de critères ;

pression sociale ;

confiance excessive.

Une procédure stable applique au moins la même règle à chaque occurrence.

Le bon système peut donc combiner :

expertise humaine pour les situations nécessitant un jugement ;

procédures pour les opérations qui gagnent à être standardisées ;

outils pour les calculs ou mémoires où la machine est supérieure ;

contradiction collective pour les hypothèses importantes.

La rationalité devient une propriété de la combinaison.

Une procédure doit cependant permettre l’exception

Une institution totalement procédurale peut devenir aveugle au contexte.

Une règle a été conçue pour des cas ordinaires.

Une situation exceptionnelle apparaît.

Appliquer mécaniquement la procédure pourrait produire exactement l’erreur qu’elle devait éviter.

Le système doit donc résoudre une tension :

standardiser suffisamment pour réduire les erreurs prévisibles ;

conserver suffisamment de flexibilité pour traiter les cas exceptionnels.

Cette tension n’a pas de solution universelle.

Plus l’environnement est stable, plus la standardisation peut être efficace.

Plus les situations sont variées et difficiles à anticiper, plus le jugement local reste important.

La bonne architecture cognitive ne choisit donc pas entre règle ou intelligence humaine.

Elle organise leur coopération.

Nous pouvons concevoir notre propre environnement cognitif

La cognition distribuée n’est pas seulement un sujet pour les grandes organisations.

Nous pouvons appliquer le principe individuellement.

Si vous oubliez régulièrement certaines tâches, utilisez un calendrier.

Si vous voulez comparer plusieurs décisions, utilisez un tableau.

Si vos prévisions se réécrivent dans votre mémoire, conservez-les par écrit.

Si vous avez tendance à consulter continuellement votre téléphone pendant un travail difficile, éloignez-le.

Si un calcul peut être vérifié automatiquement, automatisez-le.

Si vous savez que vous défendez trop facilement votre première hypothèse, imposez-vous une recherche d’alternative.

Chaque dispositif modifie l’environnement dans lequel votre cognition devra fonctionner plus tard.

Nous n’essayons plus seulement de devenir intérieurement plus disciplinés.

Nous construisons un monde dans lequel la bonne action cognitive demande moins d’héroïsme.

Une partie de notre rationalité se joue avant même que nous commencions à réfléchir

Cette idée mérite d’être isolée.

Nous imaginons souvent que l’esprit critique commence lorsqu’une information arrive :

« Maintenant, comment vais-je la juger correctement ? »

Mais une partie de la rationalité se décide avant.

Quelles sources avons-nous choisi de consulter ?

Avons-nous organisé nos notes ?

Notre environnement contient-il une interruption permanente ?

Les critères sont-ils définis avant de connaître le résultat ?

La décision sera-t-elle enregistrée ?

Une autre personne pourra-t-elle la contester ?

Une vérification est-elle simple ou pénible ?

L’architecture du système détermine en partie quels comportements cognitifs deviendront probables.

Autrement dit, la rationalité ne commence pas toujours au moment où nous pensons.

Elle commence parfois lorsque nous concevons les conditions dans lesquelles nous penserons.

Cognition distribuée ne signifie pas dilution de la responsabilité

Il faut enfin éviter un malentendu.

Si une décision résulte d’un système composé de nombreuses personnes et outils, il peut devenir tentant de dire :

« Personne n’est vraiment responsable, c’est le système. »

Ce serait une conclusion dangereuse.

L’analyse systémique cherche à comprendre les causes de manière plus complète.

Elle ne supprime pas nécessairement les responsabilités individuelles.

Une personne peut avoir violé une règle claire.

Une autre peut avoir conçu une mauvaise procédure.

Une direction peut avoir maintenu un système connu pour produire des erreurs.

Plusieurs niveaux de responsabilité peuvent coexister.

Comprendre que la cognition est distribuée permet précisément de demander :

qui avait quelle information, quel pouvoir de décision et quelle possibilité de correction ?

La responsabilité devient plus précise, pas nécessairement plus faible.

L’autonomie intellectuelle n’est donc pas l’indépendance

Cette fiche permet finalement de corriger une ambiguïté profonde du mot autonomie.

Autonome ne signifie pas :

isolé.

Nous sommes intellectuellement dépendants de nos langues, de nos éducateurs, de nos livres, de nos instruments, de nos institutions scientifiques et d’innombrables experts.

La question n’est pas d’abolir ces dépendances.

Elle est de construire des dépendances fiables, visibles, révisables et contrôlables.

Une personne autonome sait utiliser un outil sans lui attribuer plus de compétence qu’il n’en possède.

Elle sait demander un avis sans confondre expertise et infaillibilité.

Elle sait suivre une procédure tout en comprenant qu’une procédure possède un domaine de validité.

Elle sait externaliser une mémoire fragile.

Elle sait rechercher la contradiction lorsqu’elle ne peut pas la produire seule.

Et elle comprend qu’une bonne architecture peut rendre sa pensée plus rationnelle que son cerveau isolé ne pourrait jamais l’être.

Le « Système 3 » est parfois un système, au sens littéral

Nous avions commencé cette catégorie avec trois expressions pédagogiques :

Système 1 : traitements rapides, intuitifs et relativement automatiques.

Système 2 : traitements plus contrôlés permettant notamment de maintenir, simuler et manipuler des représentations.

« Système 3 » : notre raccourci local pour les mécanismes de monitoring, contrôle et métaraisonnement.

Nous pouvons maintenant ajouter une dernière transformation.

Ce « Système 3 » n’a aucune raison de rester entièrement dans l’individu.

Une checklist peut surveiller ce que la mémoire oublie.

Un tableau peut rendre visible ce que la mémoire de travail ne peut pas maintenir.

Une calculatrice peut contrôler un calcul.

Un contradicteur peut chercher l’objection que nous ne voulons pas voir.

Une procédure peut imposer une vérification que notre confiance excessive aurait supprimée.

Une réplication peut tester un résultat que son auteur estime déjà certain.

Une institution peut conserver la trace d’une décision bien après que nos souvenirs ont changé.

Dans ces situations, le meilleur « Système 3 » est effectivement un système.

L’autonomie intellectuelle devient alors la capacité à organiser intelligemment les interactions entre intuition, réflexion, métacognition, outils et institutions.

Il reste maintenant à examiner plus précisément ces dispositifs externes qui transforment une bonne intention en contrainte réelle : checklists, procédures, préengagements, doubles contrôles et institutions de correction.

Pour aller plus loin

Edwin Hutchins (1995), *Cognition in the Wild*, MIT Press. L’ouvrage fondateur de la cognition distribuée, construit notamment à partir d’une étude détaillée de la navigation maritime et de la manière dont les processus cognitifs sont répartis entre personnes, instruments, représentations et organisation sociale. DOI : 10.7551/mitpress/1881.001.0001.

James Hollan, Edwin Hutchins & David Kirsh (2000), « Distributed Cognition: Toward a New Foundation for Human-Computer Interaction Research », *ACM Transactions on Computer-Human Interaction*, 7(2), 174–196. Une présentation importante de la cognition distribuée appliquée aux interactions entre personnes, représentations et technologies. DOI : 10.1145/353485.353487.

David Kirsh & Paul Maglio (1994), « On Distinguishing Epistemic from Pragmatic Action », *Cognitive Science*, 18(4), 513–549. Un article classique montrant, à partir notamment de *Tetris*, que certaines actions sur l’environnement servent principalement à réduire le coût cognitif d’une opération plutôt qu’à modifier directement l’état final recherché. DOI : 10.1207/s15516709cog1804_1.

Andy Clark & David Chalmers (1998), « The Extended Mind », *Analysis*, 58(1), 7–19. Le texte philosophique fondateur de la thèse de l’esprit étendu, à distinguer du cadre empirique plus général de la cognition distribuée. Les auteurs défendent l’idée que certains éléments extérieurs peuvent, dans certaines conditions, participer constitutivement à un processus cognitif. DOI : 10.1093/analys/58.1.7.

26 sur 30Retour à la catégorie