La recherche de l’or

Traduit depuis: https://www.effectivealtruism.org/articles/prospecting-for-gold-owen-cotton-barratt/

‍

‍

Dans cette conférence de 2016, Owen Cotton-Barratt, de l’université d’Oxford utilise la métaphore de quelqu’un qui cherche de l’or pour expliquer comment des altruistes efficaces peuvent améliorer le monde. Il aborde une série de concepts clés de l’altruisme efficace, tels que les lois de probabilité à queue lourde, les rendements marginaux décroissants et l’avantage comparatif.

Vous trouverez ci-dessous une transcription de l’intervention d’Owen, que nous avons éditée pour en faciliter la lecture.

TLDR;

L’altruisme efficace comme recherche d’or

La métaphore centrale qui va traverser mon exposé est “l’altruisme efficace comme recherche d’or”. Et je vais revenir sur cette métaphore de multiples fois pour illustrer différents points. L’or représente ici les choses auxquelles nous accordons de l’importance. Parmi celles-ci, on peut imaginer le fait de rendre plus de gens heureux et bien éduqués, d’essayer d’éviter beaucoup de souffrances inutiles ou encore de chercher à augmenter la probabilité que l’humanité explore d’autres étoiles. Lorsque vous voyez de l’or, prenez un moment pour réfléchir à ce à quoi vous tenez vraiment. La plupart des gens n’accordent pas seulement de la valeur à une unique chose. Cependant, pensez à ce qui vous tient à cœur et mettez-le à la place de l’or. De cette façon, nous pourrons faire de nombreuses observations.

Voici une photo de Viktor Zhdanov (illustration 2), dont j’ai appris l’existence en lisant Doing Good Better, de Will MacAskill. Il s’agit d’un biologiste ukrainien, qui a joué un rôle extrêmement important dans l’élaboration d’un programme d’éradication de la variole. Il a donc probablement sauvé contrefactuellement des dizaines de millions de vies.

Il est évident que nous ne réalisons pas tous cela. Mais en examinant des exemples comme celui-ci, nous pouvons remarquer que certaines personnes parviennent à obtenir beaucoup plus d’or, c’est-à-dire à beaucoup plus réaliser leurs désirs altruistes, que d’autres. Et c’est une raison suffisante pour nous poser des questions telles que : qu’est-ce qui donne à certaines personnes de meilleures chances que d’autres ? Comment pouvons-nous aller chercher de telles opportunités ?

Techniques pour trouver de l’or

Plus tard dans cette conférence, les cartes aux trésors et la localisation de cet or seront abordées. Mais je ne vais pas en parler dans cette intervention. Je vais plutôt me concentrer sur les outils et les techniques que nous pouvons utiliser pour localiser l’or.

J’aimerais tout d’abord préciser pourquoi j’utilise une métaphore. Nous nous intéressons à tous ces sujets vastes et compliqués. Pourquoi voudrais-je essayer de réduire cela à de l’or ? C’est tout simple. Je veux que, lors de cet échange, notre attention se porte sur les techniques, les outils et les approches à notre disposition. Et non sur des détails ou des exemples de l’argumentation qui seraient en opposition avec vos valeurs. Car les actions à mettre en oeuvre pour identifier ce qui a du potentiel, et comment le réaliser, ne changent pas, quelle que soit la nature de ce potentiel. Donc, en le remplaçant par une représentation simple de la valeur, cela contribue à mettre l’accent sur cette masse abstraite.

L’or est inégalement réparti

La première chose dont je vais parler est le fait que l’or, comme le vrai or, est assez inégalement réparti dans le monde. Il y a des tas d’endroits où il n’y a presque pas d’or du tout et, à l’inverse, quelques endroits regroupent d’énormes veines à même le sol. Et cela a des conséquences importantes. La première est qu’il serait très profitable de pouvoir trouver ces filons.

Les lois de probabilité à queue lourde

Une autre de ces conséquences concerne l’échantillonnage. Pour certaines mesures, par exemple pour connaître la taille approximative d’une population, échantillonner cinq personnes, mesurer leur taille et dire : “Bon, la moyenne est probablement à peu près comme ça” n’est pas tellement une mauvaise méthodologie. Par contre, si je veux savoir la quantité d’or qu’il y a dans le monde, échantillonner cinq endroits au hasard n’est clairement pas suffisant, car il est fort probable que je trouve cinq endroits où il n’y a en fait pas d’or, et donc je sous-estimerai considérablement la quantité réelle. Ou peut-être bien que l’un d’entre eux aura un peu d’or, et mon estimation sera alors totalement surévaluée.

On appelle communément cette propriété statistique : la distribution à queue lourde. Ici sur l’illustration 6, la courbe de gauche est une distribution sans queue lourde. Il existe une fourchette de quantités d’or variant d’endroits à endroits, mais aucune d’entre elles n’est massivement plus grosse ou petite que la moyenne.

À droite, en revanche, il s’agit d’une distribution à queue lourde. Elle ressemble beaucoup à celle de gauche, mais il y a cette longue queue, qui atteint des quantités d’or énormes, sans que toutefois les probabilités ne diminuent très rapidement. Et c’est non sans conséquence.

Voici une autre façon de voir ces distributions (figure 7). Dans ce cas, les lieux avec des quantités d’or variables sont rangés par ordre croissant de gauche à droite. Les centiles sont sur l’axe horizontal et la quantité d’or sur l’axe vertical. L’aire colorée sous la courbe correspond à la quantité totale d’or dans un endroit. Ainsi, pour les faibles centiles de la distribution à queue non-lourde, l’or est réparti assez uniformément sur un grand nombre d’endroits différents. Si nous voulons obtenir le plus d’or possible, la stratégie optimale est donc de se rendre dans autant d’endroits différents que possible.

La captation de l’énergie solaire fonctionne comme ça. Bien sûr, certains endroits sont plus exposés au soleil que d’autres, mais la quantité d’énergie solaire que vous produisez dépend plus largement du nombre total de panneaux solaires installés que de l’endroit exact où vous les placez.

Sur le graphique de droite, cependant, la distribution est telle que la majeure partie de l’or se concentre sur la droite. Cela signifie simplement qu’une grande partie de l’or, c’est-à-dire des choses que nous apprécions, se trouve dans cette partie extrême de la courbe, et qu’elles se révèlent être significativement meilleures que les autres.

Et je pense que l’or, au sens littéral, est distribué de cette manière. Attention, toutefois, je ne suis pas géologue, je ne connais rien à l’or, mais je comprends que l’or est réparti ainsi. On peut se demander si c’est aussi le cas pour les possibilités de faire le bien dans le monde. Voici quelques éléments de réponse à cette question.

Les lois de probabilité à queue lourde dans la nature

Lorsqu’on examine le monde, et c’est assez complexe, on se rend compte que des distributions avec cette caractéristique de queue lourde apparaissent un peu partout (comme sur l’illustration 8 ci-dessus). Il y a quelques raisons théoriques et empiriques de s’attendre à ce que certains types de distributions se produisent dans certains cas, notamment concernant la répartition des revenus dans le monde. Notez la présence du pic sur la droite du graphique.

C’est donc ce que l’on découvre si l’on examine le monde. Mais évidemment, il y a aussi beaucoup de choses qui n’ont pas cette propriété. C’est juste que, plus nous analysons des systèmes complexes avec beaucoup d’interactions, plus nous voyons souvent cette propriété. C’est une caractéristique importante de nombreuses façons avec laquelle il faut s’acclimater pour améliorer le monde.

Nous pouvons aussi essayer d’examiner explicitement les possibilités de faire le bien. Et je vois plusieurs raisons pour lesquelles nous obtiendrions encore cette propriété. Si, par exemple, je suis préoccupé par la famine dans le monde, je pourrais alors m’intéresser aux aides directes des victimes de la famine et essayer de leurs faire parvenir de la nourriture. Toutefois, dans le livre Feeding everyone no matter what, David Denkenberger explique qu’il serait probablement plus efficace de concentrer nos efforts sur la recherche de solutions pour nourrir un grand nombre de personnes dans le cas d’un effondrement du système agricole moderne. C’est un cas assez extrême et ce n’est pas le genre de chose auxquelles nous pensons habituellement. Mais dans le but lutter contre la famine, la solution de Denkenberger est beaucoup plus efficace que la première car il se concentre sur un problème qui a beaucoup plus d’impact malgré le fait qu’il soit moins représenté (la partie droite de la distribution à queue lourde).

Les lois de probabilité à queue lourde dans les opportunités de faire le bien

Nous pouvons aussi un peu plus nous attarder sur les données. Voici sur l’illustration 9 les données du DCP2. Celui-ci a tenté d’estimer la rentabilité de nombreuses interventions sanitaires dirigées vers les pays en développement. L’axe des abscisses est à l’échelle du logarithme, et les données étant regroupées par colonne, chaque colonne correspond à une efficacité 10 fois supérieure que celle à sa gauche. Ici, la colonne de droite est donc environ 10 000 fois plus efficace que la colonne de gauche. Le domaine des opérations sanitaires permet d’obtenir relativement facilement des données suffisamment bonnes pour que cette analyse soit possible, mais il paraîtrait logique qu’on puisse s’attendre à des écarts similaires dans bien d’autres domaines. Il existe tout simplement un très large éventail de rapports coût-efficacité.

Cela signifie que si nous partons en quête d’or, nous devrions vraiment concentrer nos efforts sur la recherche des plus gros filons. Et cette simple considération joue finalement un rôle considérable dans nos recherches. Disons que, par exemple, la plus grande partie de la valeur d’une veine d’or provient du fait qu’elle se situe au dessus du 99ème centile. Si alors nous découvrons une veine d’or ne se situant qu’au 90ème centile, nous sommes donc bien obligé-es de la laisser de côté et de continuer nos recherches… Alors que sans cette considération, nous aurions pu l’exploiter. Enfin, c’est tout de même une bonne chose à découvrir, mais nous avons de bonnes raisons de ne pas trop nous exciter non plus à propos d’elle. Et c’est d’autant plus le cas si la distribution est extrême. Mais il est intéressant de noter la manière dont on peut obtenir ce genre de réactions contre-intuitives.

Une autre implication est qu’un empirisme naïf (“Oh, nous allons juste faire un maximum de choses et voir ce qui en ressort de mieux”) ne nous suffira pas pour juger la qualité des actions, à cause de ce problème d’échantillonnage. Il est impossible d’échantillonner suffisamment de fois et de mesurer l’impact suffisamment précisément pour juger de l’efficacité réelle de l’opération.

Pour maximiser l’or, il faut…

Si nous voulons récolter autant d’or que possible, nous avons besoin d’un bon endroit avec beaucoup d’or, de bons outils pour l’extraire et une bonne équipe pour utiliser ces outils savamment. Il se trouve que cette analogie s’applique plutôt bien aux opportunités pour faire le bien. Nous pouvons mesurer approximativement l’efficacité de l’endroit choisi ou du type d’action suivie. Nous pouvons mesurer l’efficacité de notre intervention par rapport à d’autres interventions dans le même secteur. Et nous pouvons même mesurer l’efficacité de l’équipe ou de l’organisation qui gère sa mise en œuvre, par rapport à la façon dont d’autres équipes le feraient.

La valeur est presque multiplicative

Et si vous avez tous ces éléments, alors la valeur totale de l’action est égale à leur produit. On peut donc la représenter par un volume, comme ici dans l’illustration 11, le but étant bien évidemment de maximiser ce volume. Cela implique de chercher à être raisonnablement bon dans chacune des différentes dimensions, ou en tout cas, d’éviter absolument d’être catastrophique sur l’une d’elles. Ainsi, même si nous découvrons un domaine ou une intervention qui semble avoir un grand potentiel, mais que l’équipe volontaire pour y travailler n’est que médiocre, il vaudrait mieux ne pas les soutenir, mais plutôt essayer de trouver une autre équipe plus adaptée, ou faire en sorte de vraiment améliorer cette équipe. De même, il vaut mieux ne pas soutenir une équipe, même excellente, si elle travaille dans un domaine qui n’a pas d’impact.

Reconnaitre l’or

Dans la prochaine section, je parlerai des outils et des techniques permettant d’identifier où se trouve l’or mondial. Une propriété utile de l’or, au sens littéral, est que lorsque vous le récupérez dans votre main, vous pouvez être relativement sûr que “oui, c’est bien de l’or !”. Mais nous devons souvent traiter avec des cas où nous n’avons pas encore cet or. Nous devons donc essayer de soigneusement déduire son existence, en utilisant différents outils. De la même manière que la matière noire ne nous est pas directement visible, la valeur d’une action de bienfaisance demande à être investiguée.

Ce fait accroît l’importance d’appliquer réellement ces outils avec assiduité. En réalité, la photo que je vous ai montrée plus haut, l’illustration 12, était de la pyrite de fer, et non de l’or. Ce n’est donc pas parce que quelqu’un dit “Hé, c’est de l’or” qu’il faut toujours le croire sur parole. Cela nous fournit tout de même des indices, mais ce que nous cherchons réellement est de disposer d’outils performants pour identifier les opportunités particulièrement intéressantes de faire le bien. Et d’être capable de faire la différence pour conclure : “Bon, en fait, cette chose, bien qu’elle ait certains aspects de valeur, n’est peut-être pas ce que nous voulons finalement poursuivre”.

Tomber à court d’or facile

Si vous vous rendez dans un endroit où personne n’est encore jamais allé, alors il se peut que, les filons d’or étant un peu érodés, vous puissiez ramasser de petites pépites d’or à la surface sans même creuser. Cela étant très facile, certains en profitent pour récupérer cet or rapidement.

Mais une fois que l’or à la surface est épuisé, si ces derniers veulent obtenir plus d’or, ils devront faire appel à des renforts et quelques pelles supplémentaires. C’est un peu plus de travail, certes, mais ils obtiendront plus d’or et cela en vaut donc la peine( illustration 15).

Mais lorsque le trou commence à être assez profond, on ne peut plus se contenter de creuser avec des pelles. Il faut une équipe plus nombreuse et surtout des machines plus lourdes pour extraire cet or (illustration 16). Encore une fois, vous pouvez toujours obtenir plus d’or, mais c’est plus de travail pour chaque petite pépite que vous extrayez. C’est le phénomène communément appelé “rendement décroissant” du travail que vous fournissez. Ce concept se retrouve dans de nombreux domaines, et il est donc très important de bien le comprendre.

D’ailleurs, ce concept, comme plusieurs des points que je vais aborder, est originaire de l’économie. Et dans certains cas, ils sont directement tirés de ce domaine, dans d’autres, ils ont été quelques peu modifiés.

Par exemple, dans le domaine de la santé mondiale, il me semble qu’il y a 15 ou 20 ans, les vaccinations de masse étaient l’une des opérations avec le rapport coût-efficacité des plus remarquables et donc probablement la meilleure chose à faire. Puis la Gates Foundation est intervenue et a financé une grande partie des interventions de vaccination de masse. Aujourd’hui, les interventions les plus rentables ont des rapports coût-efficacité loin derrière celui de la vaccination de masse à cette époque. C’est une bonne chose car nous avons pu ramasser toutes ses pépites d’or traînant sur le sol très rapidement. De même, si l’on considère le domaine de la sûreté de l’Intelligence Artificielle, écrire le premier livre sur la super-intelligence aura un impact énorme ! Alors qu’écrire le 101e livre sur le sujet passera inaperçu en comparaison.

Donc, j’ai parlé de la manière dont nous pourrions prendre en compte la pertinence d’un domaine d’intervention, l’intervention qu’une organisation mène et l’équipe qui la met en oeuvre. Je vais maintenant me concentrer particulièrement sur le premier point, en détaillant la pertinence d’un domaine d’intervention à travers trois critères différents.

Echelle

Le premier de ces critères est l’échelle du problème. Toutes choses étant égales par ailleurs, nous préférerions aller quelque part où il y a beaucoup d’or, plutôt qu’un endroit où il y en a peu. Et logiquement, par unité de travail, nous obtiendrons alors plus d’or de cette manière.

Potentiel d’amélioration

Deuxièmement : le potentiel d’amélioration du problème. Il serait favorable d’aller dans un endroit où nous pourrions avoir plus de progrès par unité de travail. Quelque part où il est agréable et facile de creuser le sol, c’est-à-dire l’opposé d’une extraction d’or au milieu d’un marécage sombre.

Non-encombrement

Et en troisièmement vient le non-encombrement du problème. On l’appelle également parfois, le caractère négligé du problème, mais je trouve cela déroutant. Le terme est un peu ambigu parce qu’il est parfois utilisé pour signifier que nous devrions allouer plus de ressources dans ce domaine. Or ici, c’est le fait qu’il y ait peu de personnes investies dans ce domaine, qui nous intéresse. Toutes choses étant égales par ailleurs, nous préférons aller dans une zone où aucune pépite d’or n’a été ramassée pour le moment, plutôt que dans une où beaucoup d’efforts ont été investis, et où extraire de l’or supplémentaire relèverait alors d’une grande difficulté supplémentaire.

L’idéal, bien sûr, serait d’être dans un monde où il y a énormément d’or, qui de plus serait facile à extraire et qui n’a attiré l’attention de personne jusque là. Mais il est évidemment rare que nous nous trouvions dans une situation aussi idéale. Une question se pose donc : comment pouvons-nous comparer les domaines de causes les uns aux autres ? Voici une tentative de réponse précise à cette question que je me suis permis de mettre sous forme d’équation. Je rassure les non-matheux, ce sera la seule dans cet exposé. C’est donc celle-ci (illustration 20):

Si vous n’êtes pas habitué à manipuler les dérivés, ignorez tout simplement les “d” sur l’illustration. En tout cas, à gauche se trouve la valeur du travail supplémentaire, c’est donc sur cette valeur que va se porter notre attention si nous essayons comparer les différents domaines dans lesquels nous devrions travailler davantage.

À droite, il s’agit d’une simple factorisation. C’est mathématiquement trivial, j’ai juste récupéré l’expression de gauche et j’y ai ajouté d’autres variables à droite, à gauche. A première vue, on dirait que j’ai empiré les choses. Mais, en réalité, les termes que j’ai ajoutés s’annulent mutuellement et permettent de facilement interpréter et mesurer la partie droite. Détaillons donc un peu les raisons pour lesquelles je pense que cela aide.

Le premier terme correspond à la valeur que vous produisez en, disons, progressant d’1% supplémentaire dans une solution. Et cela permet de déterminer à peu près l’importance du problème que vous examinez, et de tout le domaine. Je pense que c’est une définition assez précise de la notion d’échelle.

Le second terme est un peu plus compliqué. Il s’agit de l’élasticité. C’est une notion plus technique mais assez utile et large (consultez la page Wikipédia, si ça vous intéresse). Ici, elle permet de mesurer l’avancement d’une solution pour une augmentation proportionnelle de la quantité de travail effectuée.

Enfin, le dernier terme est égal à l’inverse de la quantité totale de travail effectué sur un problème. Ce qui correspond donc tout simplement à son encombrement.

Ce cadre, échelle, potentiel d’amélioration et non-encombrement, attire l’attention depuis quelques années mais sans en avoir eu jusque là une définition précise. Et donc malheureusement, différentes définitions de ces termes ont émergé, notamment pour le potentiel d’amélioration qui n’a pas toujours exactement la même signification qu’ici. Toutefois, je pense que cette idée de mesurer la quantité de travail supplémentaire nécessaire pour parvenir à une solution, est tout de même assez bien saisie ici.

Les trois dimensions de la solution comptent

Je pense que ces dimensions sont toutes les trois importantes. Et, encore une fois, cela signifie que nous ne voulons absolument pas travailler sur une solution qui est très médiocre dans l’une de ces dimensions. Je ne vais pas passer une heure à aider une abeille, même si effectivement personne d’autre ne semble l’aider et qu’il serait assez facile de lui apporter de l’aide, parce que l’échelle est ridicule. Je ne vais pas non plus travailler sur l’élaboration de machines à mouvement perpétuel, même si le domaine concentre peu de recherche et que cela serait vraiment fantastique si nous y parvenions, parce que cela ne semble pas faisable.

Et, de même, cela pourrait nous dissuader de travailler sur le réchauffement climatique. Car malgré l’échelle globale du problème, ses conséquences désastreuses et l’existence de solution qu’il faut “simplement” généraliser, c’est un problème qui attire déjà beaucoup d’attention.

Attention, voici quelques précisions à ce sujet. La première est que ce problème d’échelle va rester dans nos considérations tant qu’il y aura d’autres causes qui seront tout simplement beaucoup plus négligées. D’un autre côté, peut-être que vous pensez pouvoir faire exception si vous trouvez un bien meilleur moyen de progresser sur la question du changement climatique par rapport à ce qui est fait actuellement sur le sujet.

Mais malgré cela, peut-être que vous trouvez un peu surprenant que je défende que “le changement climatique n’est pas une cause de haute priorité”. Cela sonne très polémique et nous devrions en effet être sceptiques face à ce genre d’affirmation. Mais je pense que le terme de “haute priorité” est un peu excessif. C’est pourquoi je veux faire une distinction.

Les priorités absolues et les priorités marginales

Si nous cherchons à envoyer des personnes dans l’un des deux lieux illustrés ci-dessus pour y récolter de l’or, la solution optimale va dépendre de certains facteurs. Peut-être que nous enverrons la première personne à cet endroit sur la droite, où il n’y a certes qu’un peu d’or, mais qui est vraiment facile à récolter. Et par la suite, nous pourrons envoyer les dix personnes suivantes à gauche, parce qu’il y a bien plus d’or là-bas. La première personne pourra déjà récupérer la plus grande partie de l’or sur la droite. Et nous voulons que plus de personnes travaillent sur la gauche car l’extraction y est plus difficile. Laquelle de ces personnes faut-il envoyer prioritairement ? Cela va dépendre de la question que vous vous posez.

Ces chiffres ne sont pas représentatif du tout, je les ai juste inventés pour illustrer mon propos. Si nous nous posons la question “Combien l’humanité devrait dépenser sur telle ou telle cause ?”, nous obtenons, par exemple, une répartition comme celle sur la gauche, où le changement climatique semble prendre une place prépondérante.

Mais si nous nous demandons plutôt “Quelle est la valeur produite par un montant fixe supplémentaire investi dans ces causes ?”, alors le graphique peut sembler très différent. En effet ici, il s’agit bien de comprendre en plus de cela, combien d’argent a déjà été donné à la cause. Disons qu’on représente ce montant déjà donné sur le diagramme de gauche avec des lignes noires en pointillés. Le graphique de droite prend alors en compte, non seulement, le montant total à y consacrer, mais aussi le montant déjà investi et, bien sûr, les rendements des nouveaux dons.

Mais je pense, tout de même, que chacune de ces deux notions est importante, et que celle que nous devrions utiliser dépend de ce dont nous parlons. Si la conversation porte sur ce que nous devrions faire en tant qu’individus ou en tant que petits groupes, je pense que la notion de priorité marginale, c’est-à-dire de combien aident les ressources supplémentaires, est un meilleur guide. En revanche, si nous parlons de ce que nous devrions faire collectivement en tant que société ou à l’échelle mondiale, je pense qu’il est souvent correct de s’appuyer sur la notion de priorité absolue et de la quantité de ressources qui devraient y être investies.

Jusque là, je n’ai pas vraiment détaillé précisément ma vision de la valeur. Mais pour ce qui suit, je vais commencer à faire un peu plus d’hypothèses. À mon avis, beaucoup de personnes estiment que nous devons essayer d’apporter autant de valeur que possible sur le long terme. Toutefois, certaines personnes n’ont pas exactement ce point de vue, et d’autres n’ont pas encore pris le temps d’y réfléchir. Si vous n’avez pas ce point de vue, vous pouvez simplement le considérer comme une hypothèse pour le reste de l’article. Essayez de vous mettre à la place des gens qui ont ce point de vue et de comprendre ce qu’ils pensent. Si vous n’y avez pas encore réfléchi, prenez un peu de temps et réfléchissez-y. C’est une question assez intéressante qui mérite qu’on s’y attarde.

Donc, si nous nous soucions de créer autant de valeur que possible sur le long terme, pour revenir à notre métaphore de l’or, cela signifie que nous voulons extraire autant d’or que possible en fin de compte, plutôt que de se contenter d’en extraire autant que possible cette année.

L’or sur le long terme

Peut-être que certaines de nos technologies sont destructrices. Ainsi, nous pouvons utiliser de la dynamite pour extraire des tonnes d’or rapidement maintenant, mais elle a pour effet secondaire de détruire une petite partie de l’or au passage, que nous ne pourrons donc jamais récupérer plus tard. Cela ne serait pas un problème si nous nous concentrons uniquement sur la collecte d’or à court terme. Mais cela est mauvais du point de vue de la quantité d’or collectée au total.

En revanche, si nous avons à disposition différentes technologies, nous pouvons alors peut-être privilégier celles qui sont également efficaces mais moins destructrices. Même si évidemment, tout le monde ne sera pas prêt à faire ce compromis, certains se souciant uniquement de créer autant d’or que possible à court terme. Ainsi, quand on y réfléchit bien, l’un des principaux facteurs qui déterminent la quantité d’or qui sera finalement extraite est l’ordre dans lequel les technologies sont développées. Si la dynamite est découverte en premier, personne ne se privera de l’utiliser et une grande partie de l’or serait détruite. Alors que si la foreuse est découverte d’abord, le coût de changement de technologie s’ajoute au rendement plus faible de la dynamite à long terme, et dissuade son utilisation.

Des philosophes, comme Nick Bostrom, s’appuient sur cette idée pour défendre un développement de la sagesse sociale et de bonnes institutions gouvernementales, avant de commencer à développer des technologies ou de chercher à faire des progrès qui pourraient alors menacer la survie à long terme de notre civilisation. Ils défendent aussi l’idée d’essayer de se concentrer sur l’objectif de développer des technologies qui améliorent la sécurité des nouveaux développements, plutôt que sur celles qui sont plus risquées.

Travailler ensemble

Avec cela en tête, penchons nous maintenant sur les raisons d’entreprendre cette recherche de manière collaborative. Car malheureusement, beaucoup de personnes entreprennent actuellement cette aventure seuls de leur côté, et ils sont de plus en plus chaque année. Je suis pourtant très enthousiaste à propos de l’altruisme efficace, et j’apprécie de voir autant de gens s’intéresser à ce sujet.

Nous pourrions trouver un moyen de mieux coopérer. En effet, nous avons en grande partie le même point de vue ou des points de vue assez similaires sur ce qu’il faut valoriser. Peut-être que certains pensent que le bronze a également de l’importance, qu’il ne faut pas se limiter uniquement à l’or. Mais nous sommes tous d’accord sur le fait que l’or compte. Et cela représente finalement déjà une certaine forme de coopération. Il est dans notre intérêt de nous coordonner et de nous assurer que tout le monde puisse se concentrer sur ce qui a le plus de sens à ses yeux.

L’avantage comparatif

Un premier argument poussant à faire ces recherches de manière collaborative est l’avantage comparatif. Voici Harry, Hermione et Ron. Ils ont tous les trois, trois tâches à accomplir pour obtenir de l’or. Ils doivent, tout d’abord, faire leurs recherches, puis, mélanger quelques potions et enfin faire un tour de baguette magique. Hermione est de loin la meilleure en tout, mais elle ne peut pas se cloner, et ne peut donc clairement pas tout faire. Nous devons donc trouver un moyen de répartir le travail. C’est là qu’intervient la notion d’avantage comparatif. Hermione a un avantage absolu sur toutes ces tâches, mais ce serait un peu du gâchis de la faire travailler à l’élaboration des potions, car Harry n’est finalement pas si mauvais dans ce domaine. En revanche, ni Ron, ni Harry ne sont doués pour les recherches à la bibliothèque. Et il serait alors probablement plus pertinent qu’Hermione se charge plutôt de cette tâche.

L’avantage comparatif est donc un bon outil sur lequel s’appuyer pour choisir ce que nous devrions faire en tant qu’individus. Si je pense que m’investir dans un domaine technique est ce qu’il y a de plus valorisant à faire, mais, qu’en réalité, je suis un bien meilleur vulgarisateur, alors peut-être devrais-je essayer d’aider les chercheurs de ce domaine à communiquer leurs travaux pour que davantage de personnes s’y engagent et que davantage de personnes fantastiques y participent.

L’avantage comparatif à différents niveaux

Maintenant que l’on comprend mieux le mécanisme de l’avantage comparatif au niveau individuel, on peut également réfléchir à l’appliquer au niveau collectif. A la manière de différents individus, différentes organisations ou différents groupes peuvent être mieux placés pour saisir différentes opportunités.

C’est un peu plus spéculatif, mais je pense que l’avantage comparatif peut également s’appliquer au niveau du temps. Nous sommes probablement plus aptes, aujourd’hui, à faire certaines tâches, que nos ancêtres ne l’ont été ou que nos descendants ne le seront jamais. Certes, les actions de nos ancêtres ne peuvent pas être changées. Mais nous pouvons utiliser notre avantage comparatif vis-à-vis des futures générations. Face aux défis actuels et futures, il est logique de concentrer nos efforts sur les premiers qui arrivent. Car les générations de 2025 n’auront plus la possibilité d’agir sur les défis de 2020.

Une autre question se pose. Nous pouvons grandement influencer les générations futures qui s’intéresseraient et travailleraient sur ces défis futurs. Et ce potentiel d’influence est plus important pour nous qu’il ne le sera pour ces générations futures. Alors devrions-nous accorder du temps à la sensibilisation de leurs problèmes, car nous avons plus d’influence sur ceux-ci ?

Construisons une carte ensemble

Après avoir trouvé à quel problème s’attaquer, il faut donc que nous trouvions comment le résoudre concrètement. Mais le monde est vaste, complexe et désordonné. Et il est impossible que chacun de nous, individuellement, en élabore un modèle parfait. En fait, il est même trop compliqué pour espérer que quiconque n’y arrive un jour. Mais, heureusement, nous possédons tous quelques pièces de la carte menant à notre or tant recherché. C’est à dire, une compréhension partielle de ce modèle, dans ma métaphore ici. Nous avons donc besoin d’institutions pour assembler cette carte. Bien que ce problème soit complexe, car certaines personnes ont des pièces qui proviennent en réalité du mauvais puzzle, idéalement, les institutions seraient capables de filtrer et de n’assembler que les pièces utiles afin de nous guider vers notre but.

En tant que société, nous avons dû faire face à ce problème dans un certain nombre de domaines, et nous avons développé différentes institutions pour y remédier. On peut notamment citer le processus d’évaluation par les pairs (“peer review” en anglais) dans la communauté scientifique; ou bien l’encyclopédie Wikipédia qui a fait un énorme travail d’agrégation de connaissances; ou encore Amazon qui analyse la qualité de millions de produits grâce aux retours de ses utilisateurs. Enfin, on peut aussi penser à la démocratie qui valorise les opinions de chacun pour essayer de prendre les meilleurs décisions possibles.

Bien sûr, aucune de ces institutions n’est parfaite. Et c’est là qu’est le défi. De mauvaises pièces du puzzle s’immiscent dans beaucoup de nos cartes aux trésors. Et celles de nos exemples précédents ne sont pas épargnées. En effet, la crise de la reproductibilité, notamment dans certains domaines de la psychologie, a récemment fait les gros titres. Wikipédia n’y échappe pas non plus et se retrouve parfois vandalisée. Nous nous retrouvons alors à lire une page qui n’a aucun sens. Et Amazon est confrontée aux faux commentaires laissés par des vendeurs peu scrupuleux pour augmenter la note de leurs produits.

Malgré tout, nous devrions concentrer nos efforts à former cette institution qui viserait à regrouper les connaissances actuelles sur les moyens à mettre en œuvre pour faire le plus de bien possible. Que cette institution vienne au jour en adaptant une institution existante à notre objectif, ou que l’un ou l’une d’entre vous dans cette salle investisse son temps à la création de celle-ci, n’a pas d’importance. Je pense qu’arriver à la formation de cette bonne institution est un problème central. Et c’est un problème qui va continuer à gagner en importance à mesure que la communauté grandit.

De bonnes normes locales

Nous avons vu l’intérêt d’institutions mondiales pour rassembler et agréger ces informations. Un autre élément qui peut nous aider à obtenir une meilleure vision d’ensemble, est d’essayer d’implémenter de meilleures normes locales. Lorsque l’on commence à être écouté pour les idées que l’on partage, parfois, en réalité, nous ne sommes écoutés que pour le charisme que l’on dégage. Alors que l’attention des auditeurs devrait bien plutôt se concentrer sur la véracité des idées en question. Comment s’attaquer à ce problème ? Concrètement, nous aimerions promouvoir la diffusion des bonnes idées, inhiber celle des mauvaises, tout en encourageant les contributions originales. Une façon d’y arriver est de se fier à l’autorité des institutions. Celles-ci, en se basant et en produisant des recherches approfondies, obtiendraient avec un degré de confiance suffisamment élevé des résultats qu’elle pourrait ensuite ajouter à notre carte aux trésors collective. Mais cela présente l’inconvénient de considérablement ralentir l’obtention d’idées originales.

Porter une attention particulière aux raisons de nos croyances

Je pense qu’il est assez important de faire attention aux raisons à la base de nos croyances. Y croyez-vous parce que quelqu’un vous l’a dit ? Ou parce que vous avez vraiment pris le temps d’y réfléchir et finalement trouvé la réponse par vous-même ? Et la distinction entre ces deux raisons est fondamentale. Souvent, lorsqu’on vous partage une idée, on vous donne quelques raisons qui la justifient. Mais il ne faut pas se limiter à cela et il est préférable de justement ré-examiner l’argument en profondeur vous-même. Sinon il est facile d’oublier quelques subtilités.

De même que je considère qu’il faut être honnête avec vous-même vis-à-vis de cette question, il faut être tout aussi honnête avec les autres lorsque vous leurs partagez vos idées, afin qu’ils puissent à leur tour se forger leur opinion.

Le fait d’avoir découvert soi-même cette pièce du puzzle ne signifie pas nécessairement qu’il faille y accorder plus de crédit. Même en y passant du temps et en étant convaincu d’avoir tout considéré, on peut toujours être passé à côté d’un détail de la démonstration. Le niveau de crédibilité d’une croyance et les raisons menant à y croire peuvent donc être gardé séparément.

De plus, nos raisons individuelles et collectives de croire en telle ou telle idée peuvent être différentes. Considérons, par exemple, la croyance selon laquelle il coûterait environ 3 500 $ de sauver une vie du paludisme. Ce nombre est assez largement répandu dans la communauté de l’altruisme efficace. Et je pense que collectivement, la raison pour laquelle nous croyons cela est qu’il y a eu un certain nombre d’essais randomisés contrôlés. De plus, des chercheurs et chercheuses talentueuses de GiveWell ont examiné attentivement la question et se sont plongés dans tous les contrefactuels pour produire leur analyse et arriver à la conclusion que ce nombre de 3 500 $ est plutôt exact.

Réduire la chaîne

Mais ce n’est pas la raison pour laquelle j’y crois personnellement. En réalité, j’y crois parce qu’on m’a dit que GiveWell avait fait cette analyse et qu’ils avaient conclu 3 500 $. Mais ceux qui m’ont présenté ce nombre, ont-ils lu l’étude ou l’ont-ils entendu, tout comme moi ? Je suis allé le vérifier pour vous pendant ma préparation à cette conférence, et il est bien correct. Je raccourcis ainsi la chaîne du téléphone arabe de ce message. Parce qu’au fur et à mesure de la transmission, il est possible que des erreurs se glissent et se répète. Mais en revenant en arrière et en vérifiant les sources antérieures dans la chaîne, nous pouvons réduire ce phénomène et augmenter notre confiance dans le bien fondé de nos croyances.

Le désaccord est une opportunité d’apprendre

Il est également assez fréquent lorsque l’on tombe en désaccord au cours d’une conversation, que ce soit avec une partie d’une idée ou avec son intégralité,d’être tenté de simplement la rejeter. Mais cela n’est en réalité pas vraiment productif. Car même si une partie de l’idée est fausse, d’autres idées, également impliquées dans son processus de réflexion, pourraient combler une lacune dans votre perspective et donc améliorer votre carte aux trésors.

Et je suis le premier à blâmer pour ça. Mais je trouve qu’il est très intéressant de creuser un peu et de chercher à comprendre comment mon interlocuteur est parvenu à ces idées et comment il réfléchit concrètement. Parce qu’en réalité tout le monde est fascinant à sa manière et a quelque chose d’intéressant à nous apprendre. C’est aussi parce que c’est beaucoup plus poli et utile pour tout le monde en faisant comme cela. Personnellement, cela m’aide à me faire une idée plus précise de tous les éléments de preuve dont nous disposons collectivement.

Retrospective — Ce en quoi je crois et pourquoi

Dans cette section, nous allons mettre en pratique tout ce que nous venons de voir. Dans cette conférence, je vous ai partagé de nombreuses idées que j’estime importantes, mais je ne vous ai finalement pas dit grand-chose sur mon niveau de compétence dans ces domaines, ni pourquoi j’y crois. C’est donc ce que je vais faire à présent.

Je suis conscient que personne ne sort jamais d’une conférence en disant : “Oh, c’était tellement inspirant la façon dont elle a soigneusement repris chacun de ses arguments pour les défendre”. Mais je pense qu’il est tout de même important de le faire, et j’aimerais aussi que, pour la première fois, les gens sortent de celle-ci en disant cela. Alors je vais le faire.

Les distributions à queue lourde : je considère comme une croyance assez robuste que le type de distribution de base des opportunités dans le monde suive une distribution avec cette propriété de queue lourde. Cela se justifie par la reconnaissance de cette distribution dans de nombreux domaines différents et ma compréhension d’une partie de la théorie expliquant l’apparition de cette distribution. Je pense qu’il y a aussi une question empirique ouverte à creuser pour savoir où les valeurs extrêmes de cette distribution s’arrêtent exactement. Aussi, cette caractéristique de queue lourde n’est pas une propriété binaire, mais plutôt graduelle. Anders Sandberg en parlera davantage plus tard dans la journée.

Digression : Efficacité d’un marché altruiste

Attention, il y a une remarque importante à faire ici et c’est la seule digression que je vais me permettre dans cette conférence : quand on y réfléchit, il y a un mécanisme qui pourrait s’opposer à cet avantage que procure la distribution à queue lourde. Si les autres cherchent et saisissent systématiquement les meilleures opportunités et s’ils sont assez bons à cela, alors les meilleures opportunités restantes pourraient finalement ne pas être vraiment mieux que la partie “basse” de la distribution à queue lourde.

Cela se produit naturellement sur les marchés traditionnels. Comme vous le savez peut-être, il y a un éventail assez large de moyens pour gagner de l’argent. Le graphique ci-dessus représente une distribution à queue lourde des opportunités d’un de ces moyens. Mais alors que les meilleures opportunités sont prises au fur et à mesure, les nouveaux entrants en profitent de moins en moins. Et l’entrain pour cette méthode finit alors par diminuer, au profit d’autres activités momentanément plus lucratives. De plus en plus de personnes se dirigent alors vers ce nouveau domaine, avant que les meilleures opportunités soient toutes prises à leur tour et que les rendements décroissent alors à nouveau. Finalement, vous vous retrouvez avec une distribution beaucoup plus étroite de la valeur produite par ceux qui se sont essayés à ces différentes activités, par rapport à la première distribution.

Les possibilités altruistes de création de valeur pourraient, à terme, être poussées dans cette direction. Je ne pense absolument pas que nous nous trouvions actuellement dans un marché suffisamment efficace. Je doute beaucoup de son efficacité, et je ne suis absolument pas sûr de la façon dont nous courbons sa queue, non plus. Mais il est probable, à mesure que la communauté de l’altruisme efficace se développe, et que de plus en plus de personnes essaient activement de choisir les meilleures opportunités, que la queue de cette distribution soit de moins en moins lourde.

L’un des mécanismes qui conduit à la remarquable efficacité des marchés classiques est la rapidité de la boucle de rétroaction. Les acteurs de ses marchés remarquent assez vite s’ils s’enrichissent ou, au contraire, perdent de l’argent. Un autre mécanisme lié aux boucles de rétroaction est l’analyse : il s’agit de chercher à comprendre les actions les plus lucratives pour y investir alors plus de ressources, ce qui participe à l’efficacité du marché. Cette analyse devrait donc, selon moi, prendre une place importante au sein du projet dans lequel nous nous engageons collectivement ici.

Dans l’ensemble, je ne pense pas que nous ayons actuellement un marché efficace sur ce plan. La distribution des opportunités altruistes de création de valeur me semble bien être une distribution à queue lourde. Mais il est difficile de dire à quel point, car elle varie en fonction des actions déjà entreprises.

Factorisation des rapports coût-efficacité

La factorisation des rapports coût-efficacité : le concept me paraît pour le coup extrêmement simple, et je ne vois vraiment pas en quoi, il pourrait comprendre une erreur. La seule question empirique qui reste en l’air concerne l’importance de chacune de ces différentes dimensions. Il est possible que l’une d’entre elles varie beaucoup plus que les autres et en fait, j’ai assez de mal à percevoir l’importance que chaque dimension pourrait avoir. Par exemple, l’efficacité de certaines interventions portant sur la santé mondiale pouvait être jusqu’à trois ou quatre fois supérieure à d’autres, et les différences d’efficacité entre différentes causes peuvent être encore plus élevées que cela. Mais, encore une fois, je ne sais pas à quel point. En termes d’efficacité des différentes organisations d’une même cause, je ne suis malheureusement pas un expert, et je ne peux donc prétendre avoir un point de vue sur la question.

Rendement décroissant

Les rendements décroissants : je trouve ce point empiriquement solide. Parfois, dans de rares domaines, on peut observer des rendements croissants, grâce à l’économie d’échelle notamment, mais cela se limite à l’échelle d’une organisation ou des organisations d’un domaine. Par contre les rendements décroissants s’appliquent quasi-uniformément à l’échelle d’un domaine. Toutefois, certaines de mes connaissances, très intelligentes, estiment que j’exagère les arguments en faveur des rendements décroissants, donc, bien que j’en sois personnellement convaincu, j’ajouterais un appel à la prudence sur ce point.

Echelle, potentiel d’amélioration, non-encombrement

Échelle, potentiel d’amélioration, non-encombrement : selon moi, il est évident qu’ils comptent tous. Cette factorisation est tout simplement triviale mathématiquement et il est évident qu’elle soit correcte en tant que factorisation. Ce qui est moins évident en revanche, c’est de savoir s’il est possible de la décomposer en éléments plus facilement mesurables et s’il s’agit bien d’une manière utile de voir les choses. Je pense que c’est probablement le cas. Cette conviction vient du fait que cette factorisation correspond plus ou moins à un cadre informel déjà utilisé depuis quelques années et qui semble avoir fait ses preuves.

Les priorités absolues et les priorités marginales

Priorité absolue et priorité marginale : encore une fois, dans une certaine mesure, cela est juste trivial. Cette remarque prend surtout son sens dans la communication sur ses priorités. Il me semble que la distinction entre ces deux notions n’était pas systématiquement faite et que cela menait facilement à des quiproquos.

Progrès différenciés

Progrès différenciés : je pense que cet argument est fondamentalement valable. Il apparaît dans quelques articles universitaires, et certaines des personnes les plus intelligentes et raisonnables que je connaisse y croient également, ce qui me donne une conviction supplémentaire de sa véracité, en plus de mon introspection personnelle. En revanche, il n’a pas fait l’objet d’un examen très approfondi, et se révèle être un peu contre-intuitif. Il serait donc pertinent de le mettre un peu plus à l’épreuve.

L’avantage comparatif

L’avantage comparatif, de son côté, est une idée assez répandue en économie. Normalement, les marchés poussent chacun à travailler de manière à utiliser leur avantage comparatif. Mais ce n’est pas nécessairement le cas lorsque nous visons une valeur plus altruiste.

En ce qui concerne, son application dans le temps, cela est beaucoup plus spéculatif. Je pense être une des premières personnes à essayer de l’appliquer dans ce sens là. Et jusque là, personne n’a trouvé l’idée aberrante. Toutefois, prenez-la avec des pincettes, car elle n’a pas encore été vérifiée.

Agrégation des connaissances

L’agrégation des connaissances : je pense que tout le monde a l’intuition que cela serait bénéfique. Et je pense aussi qu’il y a un consensus assez général sur l’imperfection de nos institutions existantes. Quant au fait de construire de meilleures institutions, je suis moins convaincu de sa faisabilité.

Partager les raisons de nos croyances

Exposer les raisons de ses convictions : là encore, c’est simplement une question de bon sens. Peu de personnes remettront en cause ses bienfaits. Mais bien sûr, cela a un coût: cela ralentit notre communication, et ne sonne souvent pas très glamour, ce qui peut peut-être rebuter certains à s’intéresser au mouvement. Je pense cependant qu’il faut au moins inciter les gens à s’y essayer, mais sans être trop exigeants sur ce point. Je le crois, dans une certaine mesure, parce que beaucoup dans mon entourage valorisent cette idée, et que j’attribue particulièrement d’importance aux opinions des autres quand je ne vois pas de raison pour laquelle j’aurais de meilleures perspectives qu’eux.

Conclusion

Pour finir, pourquoi vous ai-je partagé toutes ces idées ? N’importe qui peut partir à la recherche de l’or sans avoir besoin de tous ces arguments théoriques sur sa répartition dans le monde. Mais, c’est bien parce qu’il est invisible que nous avons besoin de faire particulièrement attention à le chercher correctement. Il est donc tout aussi important pour notre communauté de faire en sorte que ces connaissances soient largement diffusées. Je pense que nous n’en sommes qu’aux premiers jours de l’altruisme efficace et qu’il est fondamental à la fois d’essayer d’intégrer ces connaissances dans ses fondations, et de chercher à encore les améliorer. Car nous ne voulons surtout pas d’un phénomène de ruée vers l’or, où tout le monde court après quelque chose qui s’avère finalement ne pas avoir tant de valeur.

Pour aller plus loin

Cet article fait partie d’une série d’articles exposant les idées clés d’un altruisme efficace. Cliquez ici pour en savoir plus.

Remerciement

Un grand merci à Antonin Broi, Tom Bry-Chevalier, Jim Buhler et Jérémy Flammanc pour leur temps et leur contribution à la traduction de cet article.