Préambule

Double noyau est l'un des concepts les plus récents du CFAR, qui a forcé un réexamen et un
remaniement d'une grande partie de notre curriculum (de la même manière que l'introduction
des TAPs et du Simulateur Intérieur l'a fait auparavant). Elle est rapidement devenue une
partie intégrante de notre tissu social organisationnel et l'un de nos fils conducteurs les plus
importants en matière de sensibilisation et de diffusion, et il est donc grand temps qu'elle
fasse l'objet d'une explication publique et officielle.

Notez que si le concept de base est assez bien établi, l'exécution reste quelque peu en
mouvement, avec une expérimentation notable venant de Julia Galef, Kenzi Amodei,
Andrew Critch, Eli Tyre, Anna Salamon, moi-même, et d'autres. Pour cette raison, ce post
sera moins un gâteau qu'une recette populaire - c'est long et sinueux à dessein, parce que la
priorité est de transmettre les générateurs de la chose plutôt que la chose elle-même. Par
conséquent, si vous pensez voir des choses qui sont fausses ou manquantes, vous êtes
probablement sur quelque chose, et nous vous serions reconnaissants de les ajouter ici
comme commentaires.

Casus belli

En première approximation, un humain peut être considéré comme une boîte noire qui
recueille des données de son environnement, et qui produit des croyances et des
comportements (cette boîte noire n'est pas vraiment "opaque" étant donné que nous avons
accès à une grande partie de ce qui se passe à l'intérieur, mais notre compréhension de notre
propre cognition semble incontestablement incomplète).

Lorsque deux humains ne sont pas d'accord – quand leurs boîtes noires donnent des
réponses différentes, comme ci-dessous - il y a souvent une poignée de choses
improductives qui peuvent se produire.
Le plus évident (et le plus ennuyeux) est qu'ils vont simplement frapper ces sorties ensemble
à plusieurs reprises sans faire de progrès (pensez à la plupart des désaccords sur le sport ou la
politique ; les gens au-dessus crient simplement "triangle !" et "cercle !" de plus en plus fort).
Au deuxième niveau, les gens peuvent prendre (et c'est souvent le cas) la différence de
production comme preuve que la boîte noire de l'autre personne est cassée (c'est-à-dire
qu'elle est mauvaise, stupide, folle) ou que l'autre personne ne voit pas l'univers clairement
(c'est-à-dire qu'elle est biaisée, ignorante, inobservante). Au troisième niveau, les gens
accepteront souvent d'être en désaccord, ce qui préserve le tissu social au détriment de la
recherche de la vérité et du progrès réel.

Dans l’idéal, le double noyau résout tous ces problèmes et, dans la pratique, même les pas
maladroits et inexpérimentés vers cet idéal semblent produire beaucoup de valeur
marginale, à la fois en augmentant la compréhension et en diminuant les conflits en raison
des désaccords.

Prérequis

Ce billet délimitera occasionnellement deux versions du double noyau : une version forte,
dans laquelle les deux parties ont une compréhension commune du double noyau et ont
explicitement accepté de travailler dans ce cadre, et une version faible, dans laquelle une
seule partie a accès au concept, et essaie d'améliorer unilatéralement la dynamique
conversationnelle.

Dans un cas comme dans l'autre, les éléments suivants semblent nécessaires :

Humilité épistémique. L'épine dorsale fondamentale de la rationalité me semble

être la facilité avec laquelle on peut penser "Il est possible que ce soit moi qui ai tort,
ici." D'un autre point de vue, il s'agit de la capacité de prendre ses croyances pour
objet, plutôt que d'être soumis à elles et incapable de les mettre de côté (puis
d'essayer une autre croyance et d'imaginer de façon productive "à quoi ressemblerait
le monde si c'était vrai, au lieu de cela").
Bonne foi. Une supposition que les gens croient les choses pour des raisons causales ;
une reconnaissance que le fait d'avoir été exposé au même ensemble de stimuli aurait
fait en sorte qu'on ait à peu près les mêmes croyances ; une position par défaut de tenir
- avec scepticisme - ce qui semble être la preuve que l'autre partie est mauvaise ou
veut que le monde soit mauvais (parce qu’en tant que singes il nous est facile, pour
nous, de nous convaincre que nous avons une telle preuve quand ce n’est pas le
cas).[1]
Confiance dans l’existence d’une réalité objective. J'ai été tenté d'appeler cela
"l'objectivité", "l'empirisme" ou "le principe de Mulder", mais en fin de compte,
aucun de ces principes ne correspond tout à fait. Essentiellement, la conviction que
pour presque toutes les questions bien définies, il existe vraiment une réponse claire
et nette. Cette réponse peut être impraticable ou même impossible à trouver, si bien
que nous ne pouvons pas vraiment aller la chercher et nous rabattre sur l'heuristique
(par exemple, combien de sauterelles sont en vie sur Terre à ce moment précis, la
couleur orange est-elle supérieure à la couleur verte, pourquoi n'y a-t-il pas un livre
audio du Fight Club raconté par Edward Norton), mais elle existe néanmoins.
 Cursiosité et/ou désir dé découvrir la vérité. À l'origine, j'avais inscrit cette
question comme étant la recherche de la vérité seulement, mais mes collègues ont
fait remarquer qu'on peut aller dans la bonne direction simplement en étant curieux
de l'autre personne et du contenu de sa carte, sans se concentrer directement sur le
territoire.

Dans les ateliers du CFAR, nous abordons le premier et le deuxième par le biais de conférences
spécifiques, le troisième par l'osmose, et le quatrième par l'osmose et beaucoup de travail sur la
dynamique relationnelle qui rend les gens curieux et à l'aise les uns avec les autres. D'autres
qualités (comme la capacité de réguler et de transcender ses émotions dans le feu de l'action, ou la
capacité de s'engager dans une expérience de pensée et de s'y confronter réellement) sont
également utiles, mais pas aussi importantes que ce qui précède.

Comment jouer

Disons que vous avez une croyance, que nous pouvons appeler A (par exemple, "les
élèves du collège devraient porter des uniformes"), et que vous êtes en désaccord avec
quelqu'un qui croit en une forme de ¬A. Pratiquer le double noyau avec cette personne
signifie que vous êtes tous les deux à la recherche d'un deuxième énoncé B, avec les
propriétés suivantes :

 Vous et votre partenaire n'êtes pas d'accord non plus sur B (vous pensez B, votre
partenaire pense ¬B).
 La croyance B est cruciale pour votre croyance en A ; c'est l'un des noyaux de
l'argument. S'il s'avérait que B n'était pas vrai, ce serait suffisant pour vous faire croire
que A était faux, aussi.
 La croyance ¬B est cruciale pour la croyance de votre partenaire en ¬A, de la même
manière.
Dans l'exemple des uniformes scolaires, B pourrait être un énoncé comme "les uniformes
aident à aplanir les distinctions de classe inutiles en rendant plus difficile pour les élèves
riches et pauvres de se juger mutuellement à travers les vêtements", que votre partenaire
pourrait résumer comme des "conneries optimistes". Idéalement, B est un énoncé un peu plus
proche de la réalité que A - il est plus concret, plus ancré, mieux défini, plus facile à
découvrir, etc. Il s'agit moins d'une question de principes et d'un résumé, de conclusions
induites, que d'un aperçu de la structure qui a mené à ces conclusions.

(Il n'est pas nécessaire que ce soit concret et découvrable, mais souvent après avoir trouvé B,
il est productif de recommencer à zéro à la recherche d'un C, puis d'un D, puis d'un E, et
ainsi de suite, jusqu'à ce que vous puissiez faire des recherches ou faire une expérience sur
ce qui suit).

A première vue, il n'est peut-être pas clair pourquoi le simple fait de trouver B compte
comme une victoire - ne devriez-vous pas régler B, afin de pouvoir choisir de manière
concluante entre A et ¬A ? Mais il est important de reconnaître que le fait d'arriver à B
signifie que vous avez déjà dissous une partie importante de votre désaccord, en ce sens
que vous et votre partenaire partagez maintenant une croyance sur la nature causale de
l'univers.

Si B, alors A. En outre, si ¬B, alors ¬A. Vous avez tous les deux convenu que les états de B
sont cruciaux pour les états de A, et de cette façon, votre "accord pour ne pas être d'accord"
n'est pas seulement "bien, vous prenez votre vérité et je prends la mienne", mais plutôt "ok,
bien, voyons ce que les preuves montrent". On progresse ! Et (plus important encore) on
collabore !

Méthodes

C'est là que les versions du CFAR de l'unité double noyau sont actuellement les plus
faibles - il y a une certaine forme de magie dans la recherche de noyaux que nous n'avons
pas tout à fait verrouillé. En général, la méthode consiste à "rechercher ceux avec lesquels
votre partenaire est susceptible d'être en désaccord, puis à comparer les listes". Pour
certaines personnes et certains sujets, il est facile d'identifier clairement ses propres points
fondamentaux ; pour d'autres, on commence très vite à avoir l'impression que sa position
est fondamentale/objective/impossible à décomposer.

Astuces:

Augmentez la perception des goûts subtils, des jugements et des "scores

karmiques". Souvent, les gens étouffent beaucoup de leurs opinions et de leurs
jugements en raison des moeurs sociales et ainsi de suite. En général, lâcher notre
propre censure peut faciliter de remarquer pourquoi nous pensons X, Y, ou Z.
Regardez vers l'avant plutôt que vers l'arrière. Là où la question "pourquoi" ne
produit pas de réponses significatives, il est souvent plus productif d'essayer de faire des
prédictions sur l'avenir. Par exemple, je ne sais peut-être pas pourquoi je pense que les
uniformes scolaires sont une bonne idée, mais si j'allume mon moteur narratif et que je
commence à décrire le monde meilleur qui en résultera, je peux souvent me frayer un
chemin vers les modèles causaux sous-jacents.
 Réduisez la portée. Un cas de test spécifique de "Steve aurait dû nous dire bonjour
quand il est sorti de l'ascenseur hier" est plus facile à gérer que "Steve devrait être plus
sociable". De même, il est souvent plus facile de répondre à des questions comme
"Combien de nos prochains 10 000 $ devrions-nous consacrer à la recherche, par
opposition à la publicité ?" que de répondre à "Qu'est-ce qui est plus important en ce
moment, la recherche ou la publicité ?".
Effectuez la "Mise au point" et d'autres contrôles de résonance. Il est souvent
utile d'essayer une perspective, hypothétiquement, puis de prêter attention à votre
intuition et à vos réactions corporelles pour affiner votre position réelle. Par exemple
(affirme sauvagement) : "Je parie que si tout le monde portait des uniformes, il y
aurait une réduction de 50 % de l'intimidation." (s'arrête, écoute les doutes intérieurs)
"En fait, oublie ça-on ne dirait pas que ce soit vrai, maintenant que je le dis à haute
voix, mais il y a quelque chose dans la veine de réduire l'intimidation manifeste, peut-
être ?"
Recherchez les noyaux indépendamment avant d'ancrer sur les pensées de votre
partenaire. Celui-ci est assez simple. Il est également intéressant de noter que si vous
tentez de trouver des désaccords en premier lieu (par exemple pour vous entraîner à la
pratique du double noyau avec des amis), c'est un excellent moyen de commencer par
poser à chacun les mêmes dix ou quinze questions ouvertes et de demander à chacun
de noter ses propres réponses en fonction de ses propres idées, en cristallisant ses
opinions avant d'entamer la discussion.

Dans l'ensemble, il est utile de garder l'idéal d'un double noyau parfait à l'esprit, tout en
gardant les réalités de votre conversation réelle quelque peu séparées. Nous avons constaté
qu'à tout moment, augmenter lu "double noyauté" d'une conversation a tendance à être utile,
mais s'inquiéter de la distance qui vous sépare de l'idéal en termes absolus ne l'est pas. Il s'agit
de faire ce qui est utile et productif dans le moment présent, et cela signifie souvent faire des
compromis raisonnables - si l'un d'entre vous a des problèmes évidents et que l'autre est en
difficulté, c'est bien de se concentrer d'un côté. Si ni l'un ni l'autre d'entre vous ne pouvez
trouver un seul point crucial, mais que chacun d'entre vous a quelque chose comme huit
points communs dont cinq sont suffisants, dites-le et avancez de la façon qui vous semble la
meilleure.

(Variante : une conversation en "trio" à double noyau dans laquelle, à un moment donné, si
vous êtes le participant le moins actif, votre travail consiste à plisser les yeux vers vos deux
partenaires et à essayer de modéliser ce que chacun d'eux dit, et où/pourquoi/comment ils
parlent sans se voir et ne voient pas les points l'autre. Une fois que vous aurez une
"traduction" approximative à offrir, faites-le donc à ce moment-là, vous deviendrez
probablement plus central dans la conversation et quelqu'un d'autre se tournera vers le rôle de
synthéthiseur/traducteur.)

En fin de compte, chaque coup devrait être au service de l'inversion de la dynamique

habituelle antagoniste, guerrière, "gagner à tout prix" de la plupart des désaccords.
Habituellement, nous dépensons une partie importante de nos ressources mentales à deviner
la forme de la structure de croyance de notre adversaire, à formuler des hypothèses sur ce qui
est crucial et à leur faire valoir des arguments dans l'espoir de renverser l'édifice tout entier.
Pendant ce temps, nous sommes incités à obscurcir notre propre structure de croyance, de
sorte que les attaques de notre adversaire seront inefficaces.
(C'est aussi terrible parce que cela signifie que souvent nous ne trouvons même pas l'essentiel
de l'argument et que nous perdons du temps dans les mauvaises herbes. Si vous avez déjà eu
l'expérience de vous remuer maladroitement pendant que quelqu'un passe dix minutes à
assembler une preuve concluante d'un sous-point tangentiel qui n'a même jamais eu le
potentiel de vous faire changer d'avis, alors vous connaissez la valeur d'une personne prête à
dire "Non, ça ne va pas être pertinent pour moi ; essayez plutôt de parler à autrui".)

Si nous pouvons faire avancer le débat jusqu'à un endroit où, au lieu de nous battre pour la vérité,
nous collaborons à la recherche de la compréhension, nous pourrons alors récupérer beaucoup de
ressources gaspillées. Vous avez un avantage comparatif énorme pour ce qui est de connaître la
forme de votre propre structure de croyances - si nous pouvons passer à un mode où chacun se
tourne vers soi et partage ses idées avec franchise, nous irons de l'avant beaucoup plus
efficacement que si chacun d'entre nous se livrait à des devinettes sur l'autre personne. Cela exige
que nous voulions connaître la vérité réelle (de sorte que nous soyons incités à rechercher les
défauts et à falsifier les fausses croyances en nous-mêmes autant que dans les autres) et que nous
nous sentions en sécurité émotionnellement et socialement avec notre partenaire, mais il existe
une dynamique doublement causale où un petit peu d'esprit double noyau peut produire sécurité
et recherche de vérité, qui permet plus de double noyau, qui produit plus de sécurité et recherche
de la vérité, etc.

Pièges

D'abord et avant tout, il importe de savoir si vous êtes dans la version forte du double cœur
(coopérative, basée sur le consentement) ou dans la version faible (vous, en tant qu'agent,
essayez d'améliorer la dynamique conversationnelle, peut-être face à l'opposition directe). En
particulier, si quelqu'un est actuellement agacé et vous considère comme
grossier/hostile/ennemi, alors dire quelque chose comme "Je pense que nous ferions de
meilleurs progrès si nous parlions des raisons sous-jacentes à nos croyances" ne ressemble
pas à un plaidoyer pour la coopération - cela ressemble à un piège.

Donc, si vous êtes dans la version faible, la stratégie primaire est d'incarner la question
"Qu'est-ce que tu vois que je ne vois pas ?" En d'autres termes, s'approcher d'un lieu
d'humilité explicite et de bonne foi, en tirant leur structure de croyance pour elle-même, pour
la voir et l'apprécier plutôt que pour la miner ou l'attaquer. D'après mon expérience, les gens
peuvent "le sentir" si vous jouez simplement de bonne foi pour les amener à s'exposer ; si
vous avez vraiment de la difficulté à entrer dans l'esprit, je vous recommande de méditer sur
les moments de votre passé où vous aviez honteusement tort, et comment vous vous sentiez
avant de le réaliser par rapport à après vous en être aperçu.

(Si vous ne pouvez pas ou ne voulez pas avaler votre fierté ou mettre de côté assez fortement
votre sens de la justice ou de l'équité pour vraiment le faire, c'est très bien ; tous les
désaccords ne bénéficient pas de la double nature. Mais si votre objectif réel est d'améliorer
la dynamique conversationnelle, alors c'est un coût que vous voulez être prêt à payer - en
allant plus loin, parce que a) ce qui semble être une distance appropriée est plus souvent une
distance insuffisante, et b) aller une distance réellement appropriée peut ne pas être suffisant
pour renverser leur modèle bien établi dans lequel vous êtes l'ennemi. Rituels favorisant la
patience et la santé recommandés.)
Comme autre conseil qui est bon pour l'une ou l'autre version mais particulièrement important
pour la version faible, modélisez le comportement que vous aimeriez que votre partenaire
montre. Exposez votre propre structure de croyance, montrez comment vos propres
croyances peuvent être falsifiées, mettez en évidence les points où vous êtes incertain et
intégrez visiblement leur perspective et leur information, etc. En particulier, si vous ne voulez
pas que les gens se déchaînent avec de mauvais modèles de ce qui se passe dans votre tête,
assurez-vous de ne pas agir comme si vous étiez l'autorité sur ce qui se passe dans leur tête.

En parlant de sophismes, attention à ne pas se perdre dans le brouillard. La toute première

étape dans le double noyau devrait toujours consister à concrétiser et à clarifier les termes.
Essayez d'attacher des chiffres aux choses plutôt que d'utiliser des qualificatifs mal
interprétés ; essayez de parler de ce qui serait observable dans le monde plutôt que de la
façon dont les choses se sentent ou de ce qui est bon ou mauvais. Dans l'exemple des
uniformes scolaires, le fait de dire "les uniformes font que les élèves se sentent mieux dans
leur peau" est un début, mais ce n'est pas suffisant, et aller plus loin dans la quantifiabilité (si
vous pensez que vous pourriez obtenir des chiffres un jour) serait encore mieux. Souvent, les
désaccords se "dissolvent" dès que vous enlevez l'ambiguïté - c'est le succès et non
l'échec !

Enfin, utilisez du papier et un crayon, ou des tableaux blancs, ou demandez aux gens de traiter
certaines prédictions et conclusions comme des objets immuables (si vous ou eux voulez changer
ou mettre à jour le libellé, c'est encouragé, mais assurez-vous qu'à tout moment, vous travaillez
avec une déclaration claire et sans ambiguïté). Une partie de la valeur du double noyau, c'est que
c'est l'opposé de la dynamique de la fouine, des points, de la dissimulation dans l'ambiguïté et du
regard malin d'un débat politique public, par exemple. L'objectif est de faire en sorte que tout le
monde comprenne, en tout temps et autant que possible, ce que l'autre personne essaie de dire, et
non d'essayer d'obtenir une version bidon de son argument pour s'y tenir et lui donner un air idiot.
Reconnaissez que vous pourriez être tenté ou incité à revenir à cette dynamique familière et
amusante, et prenez des mesures pour vous maintenir dans un "état d'esprit scout" plutôt que dans
un "état d'esprit soldat".

Algorithme

C'est l'algorithme du double noyau tel qu'il existe actuellement dans notre manuel. Il n'est
pas strictement lié à l'ensemble de la discussion ci-dessus ; il a été conçu pour être lu dans le
contexte d'une conférence d'une heure et de plusieurs activités pratiques (il a donc quelques
trous et bizarreries) et est présenté ici plus pour être complet et comme matière à réflexion
que comme une véritable conclusion à ce qui précède.

1. Trouvez un désaccord avec une autre personne

 Un cas où vous croyez une chose et où ils croient l'autre.

 Un cas où vous et l'autre personne avez des assurances différentes (par exemple,
vous pensez que X est60 % sont susceptibles d'être vrais, et ils pensent que c'est
90 %)

2. Concrétisez le désaccord
  Définir les termes pour éviter de se perdre dans des confusions sémantiques
qui manquent le point réel Trouver des cas de test spécifiques - au lieu de (par
exemple) discuter si vous devriez être plus sociable, au lieu d'évaluer si vous
auriez dû dire bonjour à Steve dans le bureau hier matin
 Dans la mesure du possible, essayez de penser en termes d'actions plutôt que
de croyances - il est plus facile d'évaluer des arguments comme "nous devrions
faire X avant Y" que de converger vers "X est mieux que Y".

3. Recherchez les doubles noyaux

 Recherchez vos propres points forts de façon autonome et comparez-les à ceux

de l'autre personne pour trouver un chevauchement.
 Chercher à collaborer en faisant des affirmations ("Je crois que X se produira
parce que Y") et en se concentrant sur la falsifiabilité ("Il faudrait A, B ou C
pour que j'arrête de croire X").

4. Résonnez

 Passez du temps à "habiter" les deux côtés de la double croûte, pour

confirmer que vous avez trouvé le cœur du désaccord (par opposition à
quelque chose qui ne parviendra finalement pas à produire une mise à
jour).
 Imaginez la résolution comme une déclaration si alors, et utilisez votre sim
intérieur et d'autres vérifications pour voir s'il y a des hésitations tacites au
sujet de la vérité de cette déclaration.

5. Répétez!

Conclusion

Nous pensons que le double noyau est super doux. Dans la mesure où vous y voyez des
défauts, nous voulons les trouver et les réparer, et nous parions actuellement que réparer et
raffiner le double noyau va être plus rentable que d'essayer quelque chose de totalement
différent. En particulier, nous pensons qu'embrasser l'esprit de ce mouvement mental a un
énorme potentiel pour libérer les capacités des gens à lutter avec toutes sortes de sujets
complexes et difficiles à analyser (comme le risque existentiel, par exemple), parce qu'il
fournit un format pour tenir une série de modèles partiellement erronés en même temps tout
en distillant la valeur de chacun.

Commentaires appréciés ; critiques très appréciées ; données anecdotiques provenant de

tentatives expérimentales pour s'enseigner le double sens, ou l'enseigner à d'autres, ou
l'utiliser dans le creux de la vague sans dire aux autres ce que vous faites extrêmement
apprécié.

- Duncan Sabien
[1]Une des raisons pour lesquelles la bonne foi est importante, c'est que même lorsque les
gens ont "tort", ils ont généralement partiellement raison - il y a des taches d'or mêlées à leur
fausse croyance qui peuvent être exploitées de façon productive par un agent qui est
intéressé à avoir une vue d'ensemble. Les méthodes normales de navigation en cas de
désaccord ont tendance à jeter cet or, soit en permettant à chacun de protéger ses croyances
originales, soit en remplaçant le point de vue de chacun par celui qu'il juge être le
"meilleur", jetant ainsi des données, provoquant des cascades d'informations, décourageant
de "remarquer votre confusion", etc.

L'hypothèse centrale est que l'univers est comme un grand labyrinthe complexe dont chacun
d'entre nous ne peut voir que des parties. Dans la mesure où le langage et la communication
nous permettent de recueillir de l'information sur certaines parties du labyrinthe sans avoir à
enquêter nous-mêmes, c'est formidable. Mais quand on n'est pas d'accord sur ce qu'il faut
faire parce qu'on voit chacun une tranche différente de la réalité, c'est bien d'adopter des
méthodes qui nous permettent d'intégrer et de synthétiser, plutôt que des méthodes qui nous
obligent à choisir et à réduire. C'est comme la parabole des trois aveugles et de l'éléphant -
dans la mesure du possible, évitez de tirer une conclusion finale tant que vous n'avez pas
pris en compte toutes les données disponibles.

Traduit par DeepL https://www.deepl.com/translator , de

https://www.lesswrong.com/posts/exa5kmvopeRyfJgCy/double-crux-a-strategy-for-resolving-disagreement

Revu par un humain lambda.