Guide Carrière -
Partie 5

‍Les plus gros problèmes à l’échelle mondiale et pourquoi ce ne sont pas ceux auxquels vous pensez

Nous avons passé une grande partie de la décennie écoulée à tenter de répondre à une question simple : quels sont les problèmes les plus importants et au caractère le plus négligé du monde ?

Nous voulions avoir un impact positif via nos carrières, et nous nous sommes donc mis en quête du domaine où nos efforts seraient les plus efficaces.

Notre analyse suggère que bien choisir le problème sur lequel travailler pourrait multiplier votre impact par plus de 100. Ce serait ainsi le facteur le plus déterminant de l’importance de votre impact.

L’article que vous vous apprêtez à lire présente un résumé de ce que nous avons appris. Vous allez découvrir pourquoi l’éradication de la diarrhée permettrait de sauver autant de vies que la paix dans le monde, pourquoi l’intelligence artificielle est peut-être un enjeu plus important encore et quelles sont vos options de carrière pour faire advenir les changements les plus urgents.

En bref, les problèmes les plus pressants sont ceux en travaillant sur lesquels on peut avoir le plus d’impact. Comme expliqué dans l’article précédent, il s’agit de problèmes qui ne sont pas seulement de grande ampleur, mais qui présentent aussi un caractère négligé et un potentiel d’amélioration. Plus ils seront pertinents au regard de ces critères, plus les retombées positives pour chaque action supplémentaire seront intéressantes. Ce ne sont donc pas les problèmes qui viennent à l’esprit immédiatement.

Si vous voulez lire la réponse directement (en tout cas, notre avis dessus), vous pouvez consulter notre liste des enjeux les plus pressants du monde.

Temps de lecture : 25 minutes

Pourquoi les problèmes des pays riches ne sont pas toujours les plus importants, et pourquoi charité bien ordonnée ne commence pas forcément par soi-même

Quand on a envie de contribuer positivement, on a tendance à se focaliser sur les problèmes de son propre territoire. Dans les pays riches, ce sont souvent des questions comme le sans-abrisme, l’éducation des milieux défavorisés et le chômage. Mais s’agit-il vraiment des enjeux les plus pressants ?

Aux États-Unis, 5 % seulement des dons aux organismes caritatifs sont attribués à des causes internationales¹. Les carrières les plus populaires chez les diplômées et diplômés d’un niveau master ou doctorat qui veulent avoir un impact positif sont les métiers de l’enseignement et de la santé, qui, ensemble, reçoivent environ 40 % des personnes diplômées à ce niveau, et qui permettent surtout d’aider des personnes aux États-Unis².

Vouloir aider votre propre pays avant tout n’est pas dépourvu de sens : vous connaissez mieux les enjeux et vous avez peut-être le sentiment de lui devoir quelque chose. Mais, en 2009, nous avons découvert une série de faits, détaillés ci-dessous, qui nous amènent à penser que les problèmes les plus pressants ne sont pas ceux qu’on rencontre autour de soi, mais ceux qui sont liés à la pauvreté dans les pays les moins favorisés, et en particulier dans le domaine de la santé, comme la lutte contre le paludisme et les vers parasites. (Nous y viendrons plus tard, mais nous considérons désormais qu’il y a même des enjeux encore plus pressants que la pauvreté, notamment les risques de catastrophes susceptibles d’affecter le monde entier et l’avenir de notre planète.)

Pourquoi affirmons-nous que les problèmes les plus pressants ne sont pas ceux qu’on peut observer au niveau local ? Au cours de nos recherches, nous avons fait la découverte d’un graphique assez ahurissant.

Il s’agit de la distribution du revenu mondial, dont nous avons déjà parlé dans un article précédent.

Quelqu’un qui se trouve à la limite du seuil de pauvreté en France (1 158 euros par mois en 2021) est plus riche qu’environ 70 % de la population de la Terre, et à peu près 20 fois plus que les 700 millions de personnes les plus pauvres de la planète, qui vivent pour l’essentiel en Amérique centrale, en Afrique et en Asie du Sud avec moins de 740 € par an. Ces nombres ont été ajustés en fonction de la parité de pouvoir d’achat (ils tiennent compte du fait que la même quantité d’argent permet de consommer davantage dans les pays défavorisés)⁴.

Comme nous l’avons également vu plus tôt, plus vous êtes pauvre, plus grand sera l’impact d’une somme d’argent supplémentaire sur votre bien-être. D’après ces constats, les populations les plus défavorisées étant 20 fois plus pauvres en Afrique, on peut partir du principe que les ressources qui leur sont consacrées les aident 20 fois plus.

De plus, il n’y a que 9 millions de personnes en situation de pauvreté relative en France, ce qui représente seulement 1,4 % des 650 millions de personnes vivant dans l’extrême pauvreté dans le monde⁵.

Et pourtant, beaucoup plus de ressources sont allouées à ce plus petit nombre d’individus. Les aides internationales de la part des pays développés totalisent environ 200 milliards de dollars par an, alors que les États-Unis dépensent 1 700 milliards par an en aides sociales pour leur propre population⁶.

Enfin, comme vu dans un article précédent, une part significative des interventions sociales aux États-Unis ne fonctionne probablement même pas. En effet, dans les pays riches, les problèmes rencontrés par les populations pauvres sont complexes et difficiles à résoudre. De plus, même les interventions dont l’efficacité a été prouvée sont chères et limitées dans leurs effets.

On constate une situation similaire dans d’autres pays riches, comme le Royaume-Uni, les États-Unis, la France, le Canada et les autres États de l’Union européenne. (En revanche, si vous habitez dans un pays à faible revenu, vous concentrer sur les problèmes autour de vous est peut-être bien la meilleure chose à faire.)

Nous ne sommes pas en train de nier la difficulté de ce que subissent les populations pauvres dans les pays riches, qui mènent peut-être même des vies plus dures encore, sous certains aspects, que celles des pays en développement. Il s’agit plutôt de dire que ces personnes sont beaucoup moins nombreuses et qu’il est plus compliqué de leur venir en aide.

Donc, si vous ne vous concentrez pas sur les problèmes de votre propre pays, à quoi consacrer vos efforts ?

La santé mondiale : un domaine dans lequel vous pouvez vraiment faire avancer les choses

Nous avons déjà eu l’occasion de vous parler du Dr Nalin, qui a contribué à mettre au point le traitement de la diarrhée par solution de réhydratation orale.

Et si nous vous disions qu’au cours de la seconde moitié du xx^e siècle, les efforts du Dr Nalin et de ses collègues ont permis de sauver autant de vies que ne l’aurait fait la paix dans le monde, si elle avait été atteinte à la même période ?

Grâce à des avancées comme la solution de réhydratation orale, le nombre de morts dues à des cas de diarrhée a diminué de 3 millions par an au cours des cinquante dernières années.

À l’inverse, l’ensemble des guerres et des famines d’origine politique ont tué environ 2 millions de personnes par an au cours de la seconde moitié du xx^e siècle⁷.

Et nous avons connu des victoires similaires sur d’autres maladies infectieuses.

La lutte contre les maladies à l’échelle mondiale est l’une des plus belles victoires de l’humanité, mais c’est un combat qui n’est pas terminé, et vous pouvez y participer via votre carrière.

Beaucoup de ces avancées, comme la campagne d’éradication de la variole, ont été propulsées par l’aide humanitaire⁷. En fait, bien que de nombreux spécialistes en économie considèrent que les aides internationales ont souvent été inefficaces dans plein de domaines, même les plus sceptiques s’accordent sur une exception : la santé.

Par exemple, William Easterly, auteur du livre Le Fardeau de l’homme blanc : L’échec des politiques occidentales d’aide aux pays pauvres, a écrit :

Il faut se concentrer sur l’essentiel : apporter aux pauvres, partout dans le monde, des choses aussi vitales que des vaccins, des antibiotiques, des compléments alimentaires, des semences plus résistantes, des engrais, des routes […]. Il ne s’agit pas de rendre les pauvres dépendants de cette manne, mais de leur apporter la santé, la nourriture, l’éducation et tout ce qui peut améliorer leur quotidien et renforcer les efforts qu’ils font de leur côté pour avoir une vie meilleure.

(Traduction : Patrick Hersant et Sylvie Kleiman-Lafon)

Au sein même de la santé, que prioriser ? Un économiste de la Banque mondiale nous a envoyé ces données, que nous avons également trouvées stupéfiantes.

Ce graphique représente une liste de traitements médicaux (par exemple, l’approvisionnement en médicaments contre la tuberculose ou la réalisation d’une opération chirurgicale), classés en fonction de l’amélioration de santé qu’ils permettent pour chaque dollar, d’après les résultats d’essais contrôlés randomisés rigoureux. La « santé » est mesurée en « années de vie pondérées par la qualité » (abrégé par QALY, en anglais), unité standard utilisée par les économistes de la santé.

Première chose : tous ces traitements sont efficaces. Tous ou presque trouveraient des financements dans des pays comme les États-Unis, le Royaume-Uni ou l’Union européenne. Les populations des pays pauvres, elles, meurent chaque jour de maladies qui auraient été soignées si elles étaient nées ailleurs.

Mais le plus surprenant, c’est que les plus efficaces soient à ce point au-dessus de la moyenne, comme le montre la hausse brutale tout à droite. Ces interventions particulièrement impressionnantes, parmi lesquelles on trouve les vaccins, présentent à la fois des bienfaits significatifs et des coûts remarquablement bas. L’intervention la plus efficace présente un rapport coût/efficacité plus de 10 fois supérieur à la moyenne, et 15 000 fois supérieur à celles en bas du classement⁸. Donc, en travaillant dans un organisme caritatif s’attelant à l’une des interventions les plus efficaces, vous auriez dix fois plus d’impact que dans un organisme caritatif choisi au hasard.

Cette étude n’est pas parfaite – certaines erreurs d’analyse affectent les résultats les plus extrêmes (sans surprise, du fait du phénomène de régression vers la moyenne) –, mais le constat reste percutant : les meilleures interventions en matière de santé sont beaucoup plus efficaces que la moyenne.

Partant de là, quel impact supplémentaire pouvez-vous avoir en consacrant votre carrière aux questions de santé mondiale ?

En effet, comme nous l’avons vu avec le premier graphique, les populations les plus défavorisées de la planète étant plus de 20 fois plus pauvres que celles des pays riches, les mêmes ressources les aident environ 20 fois autant (voir ici pourquoi)⁹.

Ensuite, dans le domaine de la santé, notre sujet actuel, il y a des interventions efficaces et peu onéreuses qui font consensus. En fouillant dans les données du deuxième graphique, on peut choisir les meilleures d’entre elles, et ainsi parvenir à encore 5 fois plus d’impact¹⁰. Au total, on obtient une multiplication de l’impact par 100¹¹.

Est-ce réaliste ? Le National Health Service, le système de la santé publique au Royaume-Uni, et de nombreuses agences gouvernementales aux États-Unis sont disposés à payer presque 27 000 € pour qu’un individu mène une année supplémentaire de vie en bonne santé¹². C’est un excellent emploi des ressources selon des critères ordinaires.

Cependant, les recherches de GiveWell ont constaté qu’il est possible d’offrir à un nourrisson une année de vie en bonne santé avec un don d’environ 90 € à l’une des organisations caritatives dans le domaine de la santé qui présentent les meilleurs rendements coût/efficacité, comme Against Malaria Foundation. C’est environ 0,33 % de 27 000 €¹³. Ce pourcentage suggère qu’une carrière chez un organisme comme AMF, au moins en termes de santé, atteindrait à elle seule l’impact de 300 carrières qui se consacreraient à des enjeux plus typiques dans les pays riches. (Même si nous sommes d’avis qu’une comparaison plus rigoureuse et plus complète aboutirait à des nombres un peu moins impressionnants¹⁴.) 

De telles différences d’échelle sont difficiles à saisir, mais, concrètement, une année de travail (à compétences égales) sur les meilleurs traitements dans le domaine de la santé mondiale aurait ainsi autant d’impact qu’un siècle d’efforts concentrés sur des problèmes propres aux pays riches.

Ces découvertes ont poussé beaucoup d’entre nous, à 80,000 Hours, à prendre la décision de donner au moins 10 % de notre revenu à des organismes caritatifs efficaces consacrés à la santé mondiale. Quelle que soit notre future carrière, ces dons nous permettront de faire une véritable différence. En fait, si on peut bel et bien multiplier son impact par 100 avec la stratégie vue ci-dessus, ces 10 % seraient l’équivalent d’un don de 1 000 % de notre revenu à des organisations qui se concentreraient sur la pauvreté dans les pays riches.

Si vous voulez en savoir plus sur vos possibilités de contribuer à la cause de la santé mondiale, vous pouvez consulter cet article plus complet.

Cependant, ces révélations ont à nouveau soulevé beaucoup de questions. Si quelques recherches nous suffisaient à découvrir un domaine qui nous permette d’avoir 10 à 100 fois plus d’impact, peut-être y avait-il des options encore meilleures ?

Nous avons envisagé de nombreuses voies d’aide aux populations défavorisées, comme les réformes commerciales, la promotion de la migration, la recherche sur le rendement agricole et la recherche biomédicale.

Sur un plan très différent, nous avons aussi songé à nous consacrer à la lutte contre l’élevage industriel. En bref, les intérêts des animaux sont très peu pris en considération par nos systèmes économiques et politiques actuels, alors qu’ils sont extrêmement nombreux : environ 100 milliards d’animaux meurent chaque année dans les élevages intensifs. Nous avons par exemple contribué à la création d’Animal Charity Evaluators, organisme qui travaille sur les moyens les plus efficaces d’améliorer le bien-être animal. Nous sommes toujours d’avis que l’élevage industriel est un problème pressant, comme nous l’expliquons dans cet article plus complet, mais nous avons fini par décider de nous consacrer à autre chose.

Pourquoi il est peut-être encore plus efficace de se consacrer aux générations futures qu’à la santé mondiale

Qu’est-ce que vous choisiriez, entre ces deux options ?

1. Prémunir une personne de souffrir l’année prochaine ;
2. Prémunir 100 personnes de souffrir (d’autant) dans 100 ans.

La plupart des gens préfèrent la seconde option. C’est un exemple rudimentaire, mais qui semble indiquer que les gens se soucient des générations futures.

Si l’humanité ne souhaitait pas laisser un héritage à celles et ceux qui lui succéderont, pourquoi investirions-nous autant d’énergie dans la science, dans les arts, dans la préservation de l’environnement ?

Nous, en tout cas, choisirions la seconde option sans hésiter. Et si les générations à venir ont de l’importance à vos yeux, peut-être devraient-elles devenir votre priorité – il y a du moins des arguments de poids en ce sens. Nous les avons découverts pour la première fois via des chercheurs du (humblement nommé) Future of Humanity Institute, de l’université d’Oxford.

Alors, quel est le raisonnement derrière tout ça ?

D’abord, les générations futures sont dignes de considération, mais elles ne peuvent ni voter, ni acheter quoi que ce soit, ni défendre leurs propres intérêts. Elles sont donc laissées de côté par notre système. Un exemple criant : l’échec mondial à parvenir à un accord international qui permette réellement de lutter contre le dérèglement climatique.

Ensuite, leurs tourments sont abstraits. Les enjeux comme la misère dans les pays pauvres ou l’élevage industriel se rappellent à nous régulièrement, mais il n’est pas aussi facile de visualiser les souffrances qui arriveront dans l’avenir. Les générations futures dépendent surtout de notre bonne volonté, et susciter cette bonne volonté en nous n’est déjà pas évident.

Enfin, selon toute probabilité, il y aura beaucoup plus d’individus en vie à l’avenir qu’il n’y en a à l’heure actuelle. La Terre restera habitable pendant au moins des centaines de millions d’années¹⁵. Notre espèce risque de s’éteindre bien avant, mais si nous avons une chance de nous en sortir, le nombre de personnes qui vivront dans le futur sera bien plus grand que le nombre de personnes actuellement en vie.

Faisons un calcul hypothétique : si chaque génération dure cent ans, alors, en cent millions d’années, il pourrait y avoir un million de générations¹⁶.

C’est un nombre si faramineux que l’échelle potentielle de n’importe quel enjeu qui affecterait les générations futures est démesurée par rapport à celle d’un problème qui ne concernerait que le présent. Cet enjeu pourrait concerner un million de fois plus de personnes, et l’ensemble des arts, des sciences, de la culture et du bien-être qui les accompagnent. Il est donc possible que les problèmes affectant les générations futures soient ceux de la plus vaste ampleur et au caractère le plus négligé. 

De plus, l’univers étant immense et l’avenir pouvant être très long, presque tout ce que vous valorisez pourrait être présent en bien plus grande quantité dans le futur.

Ces arguments suggèrent qu’il est beaucoup plus crucial qu’on en a généralement conscience de contribuer à la bonne marche de l’avenir – y compris à très, très long terme. (Nous traitons ces idées plus en profondeur dans un article indépendant du guide.)

Mais pouvons-nous vraiment aider les générations futures ou améliorer l’avenir à long terme ? Ces enjeux cochent bien les cases « grande ampleur » et « caractère négligé », mais peut-être sont-ils impossibles à résoudre ?

Un moyen d’aider les générations à venir : prévenir les risques existentiels négligés

À l’été 2013, Barack Obama a décrit le dérèglement climatique comme « la menace mondiale de notre ère ». Il n’est pas le seul à le penser. Demandez à n’importe qui de lister les plus gros problèmes auxquels les générations futures devront faire face, et la situation climatique sera probablement le premier qui lui viendra en tête.

En effet, beaucoup craignent que le dérèglement climatique entraîne un effondrement civilisationnel aux conséquences catastrophiques, voire l’extinction de l’espèce humaine¹⁷.

Nous rejoignons cette réflexion, dans une certaine mesure. Empêcher une catastrophe qui ferait drastiquement régresser la civilisation, voire annihilerait toute génération future est sans doute la meilleure aide que nous puissions apporter aux personnes qui viendront après nous. Si la civilisation survit, cela nous donne une chance de résoudre plus tard des problèmes comme la pauvreté et la maladie ; tandis qu’un danger véritablement existentiel est susceptible de condamner de tels progrès. (Nous plaidons ici pour la réduction des risques existentiels.)

Cependant, le dérèglement climatique est une cause déjà largement reconnue comme un danger planétaire (théories du complot mises à part) et reçoit des dizaines, voire des centaines de milliards de dollars d’investissements. Pour nous, il y a sans doute d’autres menaces bien plus importantes qui pèsent sur l’avenir de la civilisation.

Donc, même si nous sommes d’accord sur le fait que la lutte contre le dérèglement climatique est fondamentale pour aider les générations à venir, il y a probablement, à notre avis, encore plus d’impact potentiel dans des enjeux moins étudiés présentant davantage de risques existentiels.

(Vous pouvez en lire plus sur les menaces que représente le réchauffement climatique dans cet article plus complet.) 

Risques biologiques : la menace de maladies futures

En 2006, The Guardian a commandé des fragments d’ADN de variole par la poste. Une étude a estimé que l’assemblage de ces fragments en un brin complet, si transmis à 10 personnes, aurait pu en infecter jusqu’à 2,2 millions en 180 jours – et peut-être en tuer 660 000 – sans mesures de vaccination et de quarantaines rapides de la part des autorités¹⁸.

C’est en 2016 que nous avons pour la première fois écrit au sujet des risques que poseraient des pandémies catastrophiques. Sept ans plus tard, et trois ans après l’émergence de la COVID-19, notre inquiétude persiste.

La COVID-19 a chamboulé l’ordre du monde, et son bilan humain se porte aujourd’hui à plus de 10 millions de morts. Mais on peut sans peine imaginer des scénarios bien pires. 

Nous pourrions être les victimes, à l’avenir, de maladies bien plus mortelles que la COVID-19 ou la variole – soit apparues naturellement, soit créées en laboratoire (sachant que la biotechnologie est chaque année moins chère et plus accessible).

À nos yeux, les risques qu’une pandémie tue plus de 100 millions de personnes au cours du siècle à venir sont au moins aussi élevés, sinon plus, que ceux d’une guerre nucléaire ou d’une situation climatique désastreuse. C’est donc une menace au moins similaire en envergure, à la fois pour la génération actuelle et pour celles à venir.

Mais les risques de pandémie sont, même aujourd’hui, beaucoup moins étudiés que ceux de guerre nucléaire ou de catastrophe climatique. On estime que les efforts déployés pour lutter contre le dérèglement climatique se montent à plus de 600 milliards de dollars chaque année, contre 1 à 10 milliards de dollars injectés dans la biosécurité pour parer aux risques de pandémies particulièrement dramatiques.

Pire encore : par certains aspects, une pandémie pourrait poser des risques encore plus graves. On imagine difficilement que le dérèglement climatique ou une guerre nucléaire puissent tuer l’ensemble des êtres humains de la planète, et mettre un terme définitif à la civilisation, mais l’hypothèse d’une arme biologique dotée d’une telle puissance de destruction semble tout à fait envisageable, avec assez de temps.

Et pourtant, de nombreuses mesures relativement simples permettraient des progrès dans la biosécurité : amélioration de la réglementation des laboratoires, constitution de stocks plus importants d’équipements de protection individuelle (EPI), mise au point de diagnostics à bas coût pour détecter rapidement de nouvelles maladies, etc. Dans l’ensemble, nous sommes d’avis que la biosécurité est un enjeu plus pressant que le dérèglement climatique, et, à l’heure actuelle, qu’il s’agit d’un des enjeux les plus pressants du monde.

Lire cet article plus complet pour en savoir plus sur la contribution que vous pouvez apporter au domaine de la biosécurité.

Mais il y a des sujets qui pourraient se révéler encore plus importants et qui semblent encore plus négligés.

Éviter une catastrophe liée à l’IA

Vers 1800, la civilisation a vécu l’un de ses bouleversements les plus profonds depuis le début de l’histoire de l’humanité : la révolution industrielle¹⁹.

‍

À l’avenir, quelle sera la prochaine transition de cette envergure, la prochaine charnière de l’histoire qui façonnera l’existence de toutes les générations futures ? Si nous arrivons à identifier une telle transition, ce sera peut-être là le domaine le plus crucial dans lequel travailler.

Parmi les secteurs candidats, il y a le génie biologique – qui permet de remodeler en profondeur les êtres humains –, comme l’a défendu Yuval Noah Harari dans Sapiens.

Mais nous pensons qu’il y a un enjeu qui est encore moins étudié et qui se développe bien plus vite : l’intelligence artificielle.

Des milliards de dollars sont investis pour tenter de rendre l’intelligence artificielle plus performante, mais très peu d’efforts sont employés à s’assurer que ces capacités nouvelles sont mises en place de manière sécurisée et dans l’intérêt de l’humanité.

Pourquoi est-ce si important ? Deux grandes raisons :

D’abord, ces systèmes d’IA puissants pourraient être utilisés à mauvais escient. Par exemple, pour créer de nouvelles technologies dangereuses, comme des armes inédites et redoutables.

Ensuite, leur déploiement comporte des risques d’accidents. À cet égard, le « problème de l’alignement » est l’enjeu le plus crucial. C’est un sujet complexe, et si vous voulez l’explorer en détail, nous vous recommandons la lecture de notre article plus complet sur l’intelligence artificielle. Mais voici une introduction rapide.

Dans les années 1980, on présentait les échecs comme un exemple de discipline inaccessible à un ordinateur. Mais en 1997, le champion du monde Garry Kasparov a été battu par le programme Deep Blue. Depuis, les ordinateurs sont devenus bien meilleurs aux échecs que les humains.

En 2004, deux experts en intelligence artificielle ont présenté le camionnage comme un exemple de métier qui serait très difficile à automatiser. Aujourd’hui, des véhicules autonomes commencent à apparaître sur les routes²⁰.

En août 2021, une équipe d’experts et expertes prévisionnistes ont prédit qu’il faudrait 5 ans pour que voie le jour un ordinateur capable de résoudre des problèmes de mathématiques de concours scolaire niveau lycée. Google a fabriqué cette IA moins d’un an plus tard.

Fin 2022, ChatGPT est devenu la plateforme web à la croissance la plus rapide de tous les temps.

Les plus récentes de ces avancées ont été permises par les progrès en apprentissage automatique. Avant, la moindre tâche nécessitait la plupart du temps de donner à l’ordinateur des instructions détaillées. Aujourd’hui, nous avons des programmes qui apprennent tout seuls. L’algorithme célèbre pour ses prouesses à Space Invaders est également capable de jouer à environ 50 autres jeux d’arcade, de légender des images, de discuter avec des êtres humains et de manipuler un véritable bras de robot.

L’apprentissage automatique existe depuis des décennies, mais l’amélioration des algorithmes (surtout avec les techniques d’apprentissage profond ou deep learning), la rapidité des nouveaux processeurs, l’accroissement des jeux de données et les investissements faramineux d’entreprises comme Google ou Microsoft ont conduit à des progrès impressionnants bien plus vite qu’attendu.

Google DeepMind joue à Space Invaders à un niveau surhumain

De ce fait, de nombreux spécialistes jugent que l’arrivée d’une intelligence artificielle de niveau humain pourrait facilement se faire de notre vivant. Voici les résultats d’un sondage de 2022 ayant interrogé des centaines des meilleurs chercheurs et chercheuses en IA²¹ :

On observe que, pour la moitié des spécialistes, il y a 50 % (ou plus) de chances qu’on assiste à l’avènement d’une IA de niveau humain en 2050, d’ici à peine 30 ans. Certes, l’écart-type est important, mais cette incertitude élevée pourrait aussi signifier que cet événement apparaîtra plus tôt que prévu. Nous avons traité plus en profondeur la question de quand une IA de niveau humain pourrait arriver dans cet article plus complet.

Pourquoi est-ce aussi crucial ? Les gorilles sont plus rapides, plus forts et dotés d’une mâchoire plus puissante que nous. Mais il n’y a que 100 000 gorilles dans la nature, contre 7 milliards d’êtres humains, et leur sort dépend de nous²². C’est en grande partie dû à une différence d’intelligence.

Pour l’instant, l’intelligence des ordinateurs ne nous dépasse que dans des domaines limités (jouer à StarCraft, par exemple), et c’est déjà un bouleversement pour l’économie. Mais qu’arrivera-t-il lorsqu’ils seront plus malins que nous de toutes les manières possibles ou presque, comme nous par rapport aux gorilles ?

Cette transition pourrait avoir des conséquences énormes, dans le bon sens comme dans le mauvais. D’un côté, tout comme la révolution industrielle a automatisé le travail manuel, la révolution de l’IA pourrait automatiser le travail intellectuel, et ainsi permettre une prospérité et un accès aux ressources matérielles sans précédent.

Mais on ne peut pas garantir notre capacité à garder le contrôle sur un système qui nous surpasse et qui s’avérera peut-être plus stratégique que nous, plus persuasif et meilleur en résolution de problèmes. Nous devons nous assurer que le système d’IA partage nos objectifs.

Ce qui est loin d’être facile. Personne ne sait comment on installe des comportements moraux sur un ordinateur. En informatique, on parle de « problème de l’alignement ». 

Trouver une solution au problème de l’alignement est d’une importance potentiellement capitale, et pourtant, il est sous-étudié à l’heure actuelle.

Nous avons estimé à environ 400 le nombre de chercheurs et chercheuses qui travaillent directement dessus à temps plein, ce qui en fait un problème 10 fois plus négligé que la biosécurité.

Cependant, il y a un élan considérable en faveur de ces travaux. Ces dix dernières années, le secteur a gagné le soutien d’universitaires et d’entreprises²³, via des scientifiques comme Stephen Hawking, Stuart Russell (qui a rédigé le manuel sur l’IA le plus populaire du monde) et Geoffrey Hinton (un pionnier du domaine de l’IA). Si la partie technique de la recherche n’est pas ce qui vous correspond le plus, vous pouvez toujours contribuer autrement : par exemple exécuter des tâches de management ou d’assistanat, ou encore faire des dons ou collecter des fonds.

Ce sera également un gros enjeu pour les gouvernements. Les politiques publiques en matière d’IA se développent, mais les responsables politiques se concentrent davantage sur les questions à court terme, comme la réglementation concernant les véhicules autonomes et les suppressions de postes, que sur les questions à long terme (c’est-à-dire l’avenir de la civilisation).

Rendez-vous sur notre article complet sur l’IA pour trouver comment contribuer.

De tous les enjeux que nous avons traités jusqu’ici, la réduction des risques posés par l’IA fait partie des plus importants, mais aussi des plus négligés. C’est également un de ceux qui ne sont pas faciles à résoudre, mais nous pensons que malgré tout, c’est sans doute une des questions à plus fort impact des décennies à venir.

C’était une surprise pour nous lorsque nous avons examiné la question pour la première fois, mais les arguments nous semblent très convaincants. Aujourd’hui, nous étudions davantage l’apprentissage automatique que les moustiquaires anti-paludisme.

(Pour nous, réduire les risques d’extinction devrait être la priorité n^o 1 de l’humanité ; voir ici pour en savoir plus.)

Gestion de l’incertitude et stratégies « méta »

Nous avons beaucoup changé d’avis ces 12 dernières années, et nous ne sommes pas à l’abri de recommencer. Nous pourrions nous lancer dans l’IA ou dans la biosécurité avec la ferme intention d’y rester à long terme, mais et si un domaine encore plus pertinent émergeait dans les années à venir ? Et comment prendre en compte cette incertitude dans notre travail aujourd’hui ?

La recherche sur les causes prioritaires

Si vous ne savez pas bien quel est le problème le plus pressant à l’échelle du monde, voilà une réponse : « des recherches supplémentaires sont nécessaires ». Seule une minuscule fraction des milliards de dollars dépensés chaque année pour améliorer le sort de l’humanité est injectée dans des recherches qui permettraient d’identifier des manières plus efficaces d’employer ces ressources – la fameuse « recherche sur les causes prioritaires ».

Comme nous l’avons vu, certaines approches produisent de bien meilleurs résultats que d’autres. Les étudier est donc très important.

Une carrière dans ce domaine pourrait vouloir dire travailler dans une organisation comme Open Philanthropy, le Global Priorities Institute ou Rethink Priorities ; ou encore dans la recherche universitaire en économie, dans un think tank ou ailleurs. Pour en savoir plus, consultez notre article complet au sujet de la recherche sur les causes prioritaires.

Les interventions à grande échelle, par exemple l’amélioration du système politique

La deuxième stratégie, c’est de travailler sur des enjeux qui nous aideront à travailler sur beaucoup d’autres enjeux. On parle d’« interventions à grande échelle ».

Par exemple, avec des gouvernements plus éclairés, on pourrait résoudre plus facilement une grande partie des problèmes qui attendent les générations à venir. Le gouvernement des États-Unis, ou même l’Union européenne, joueront un rôle clé dans des questions comme la politique climatique, la politique de l’IA, la biosécurité et d’autres défis dont nous n’avons même pas encore idée. La gouvernance des grandes institutions est donc une problématique très importante (bien que peut-être pas négligée ni facile à résoudre).

Rien que vous investir dans votre communauté locale peut avoir des conséquences sur les responsables politiques à Bruxelles. Nous avons analysé l’action politique la plus simple qui soit, le vote, et constaté qu’elle pouvait avoir un impact très important.

Mais les enjeux comme la gouvernance des États-Unis reçoivent déjà énormément d’attention et ne sont donc pas faciles à faire avancer.

Nous préférons généralement les problématiques plus négligées qui auront un effet plus précis sur les générations futures. Par exemple, des travaux fascinants de Philip Tetlock montrent que certaines équipes et méthodes prédisent les événements géopolitiques avec beaucoup plus d’exactitude que les autres. Avec des informations plus fiables, nos responsables politiques pourraient mieux gérer les crises à venir, quelles qu’elles soient.

Pour en savoir plus, consultez notre article complet sur les possibilités de contribuer via l’amélioration des processus décisionnels. Cela dit, la catégorie des « interventions à grande échelle » étant l’une de celles sur lesquelles nous avons le plus d’incertitudes, nous aimerions beaucoup voir davantage de recherches à ce sujet.

Le développement et la promotion de l’altruisme efficace

Si vous ne savez pas quels seront les problèmes les plus pressants de demain, une troisième stratégie est, tout simplement, de mettre de l’argent de côté ou d’investir dans votre capital professionnel afin d’être dans une situation plus favorable pour avoir un impact positif lorsque vous aurez davantage d’informations.

Cependant, plutôt que privilégier des investissements d’ordre personnel, il peut être encore plus opportun de miser sur le collectif en bâtissant une communauté de personnes qui cherchent à contribuer.

Dans un article précédent, nous avons parlé de Giving What We Can (GWWC), un organisme réunissant une communauté de personnes qui donnent 10 % de leur revenu aux associations caritatives avec le meilleur rapport coût-efficacité²⁴. Pour chaque dollar investi dans la croissance de GWWC lors de ses premiers pas, plus de 9 $ ont déjà été reversés à ses organisations les plus recommandées, et les promesses de dons dépassent les 3 milliards.

En créant une communauté, GWWC a réussi à collecter beaucoup plus de fonds que ses fondateurs n’auraient pu en donner individuellement : ils ont réussi à avoir un effet multiplicateur sur leur impact.

Mais ce n’est pas tout : les membres financent les organismes caritatifs les plus efficaces du moment. Si la situation change, alors la cible des dons (dans une certaine mesure du moins) changera aussi.

Cette flexibilité rend l’impact particulièrement important à long terme.

Giving What We Can n’est qu’un exemple parmi tant d’autres projets dans la communauté de l’altruisme efficace, un ensemble de personnes qui visent à identifier les meilleurs moyens d’aider les autres et à agir dans ce sens. (Voir notre article complet sur la promotion de l’altruisme efficace.)

80,000 Hours est l’un de ces projets.

Quand on se demande quels sont les problèmes les plus urgents du monde, ce n’est pas l’orientation professionnelle qui vient en tête en premier. Mais beaucoup des jeunes les plus talentueux et talentueuses de la planète veulent avoir un impact positif au cours de leur vie et manquent de bons conseils pour y arriver. Chaque année, des milliers de personnes ont donc beaucoup moins d’impact qu’elles ne pourraient en avoir.

Nous aurions pu travailler nous-mêmes sur l’IA – par exemple. Mais en offrant de meilleurs conseils professionnels, nous guidons des milliers d’individus vers des carrières à fort impact. Ainsi, nous pouvons espérer (si nous faisons bien notre travail) avoir des milliers de fois plus d’impact nous-mêmes.

De plus, si nous découvrons de nouvelles options de carrière encore meilleures que celles que nous connaissons déjà, nous pouvons les promouvoir. Cette flexibilité, comme celle de Giving What We Can, nous permet d’avoir un plus grand impact à long terme.

Les stratégies indirectes que nous avons évoquées – la recherche sur les causes prioritaires, les interventions à grande échelle et la promotion de l’altruisme efficace – sont dites « méta », car elles opèrent en décalage d’un degré par rapport à la résolution concrète des problèmes pressants.

L’inconvénient du niveau méta, c’est que vous ne voyez pas aussi bien si vos efforts portent leurs fruits ou non. L’avantage, c’est qu’il est généralement plus négligé, les opportunités moins abstraites attirant davantage l’attention, et qu’il vous donne plus d’impact face à l’incertitude.

Comment identifier les enjeux les plus pertinents pour vous

Pour voir notre liste des problèmes les plus pressants du monde, dont beaucoup que nous n’avons pas encore mentionnés, cliquez ici :

Mais ce ne sont que nos recommandations. Ce qui compte pour votre carrière, c’est votre liste personnelle.

L’importance qu’on accorde à un problème dépend beaucoup de jugements de valeur et de questions empiriques qui peuvent faire débat, et vous n’êtes pas forcément d’accord avec nos réponses. Nous envisageons les erreurs potentielles de notre façon de voir les choses dans la section FAQ de notre liste d’enjeux.

L’adéquation personnelle est aussi un paramètre crucial, de même que les opportunités spécifiques que vous trouverez sur votre chemin. Nous ne pensons pas que tout le monde doive s’occuper du problème n^o 1. Si un domaine vous correspond particulièrement, vous aurez peut-être 10 fois plus d’impact en y travaillant que dans un autre qui ne vous motive pas. L’adéquation personnelle peut ainsi beaucoup changer votre classement personnel.

Mais n’oubliez pas qu’il y a beaucoup de manières possibles d’avoir un impact sur tel ou tel enjeu, et qu’il est donc souvent plus simple qu’on pourrait le croire de trouver un travail qui vous plaise dans un domaine que vous n’envisagiez pas de choisir jusque-là. De plus, il est plus facile de développer de nouvelles passions que ce qu’on pense généralement.

Malgré toutes les incertitudes, il est probable que votre choix d’enjeu soit de loin le facteur le plus déterminant de votre impact.

Intuitivement, on pourrait s’attendre à ce qu’un classement des enjeux par ordre d’importance ressemble à ça : certains enjeux plus pressants que d’autres, mais tous ou presque relativement intéressants.

En réalité, le classement ressemblerait davantage à ça :

Certains problèmes sont beaucoup plus importants que d’autres, parce que leur impact peut être multiplié par 10, voire 100 s’ils sont de plus grande ampleur, avec un caractère plus négligé et un meilleur potentiel d’amélioration, mais aussi si vous avez une meilleure adéquation personnelle avec le domaine concerné²⁵. En choisissant le bon enjeu, vous pourrez donc avoir 100 fois plus d’impact via votre carrière.

S’il n’y avait qu’une seule leçon à retirer de tout ce qui précède, ce serait la suivante : si vous voulez avoir un impact positif sur le monde, prenez le temps, à un moment ou à un autre, de vous renseigner sur les différents problèmes planétaires et sur les façons dont vous pouvez contribuer à les résoudre. C’est long, et il y a beaucoup à assimiler, mais c’est un des processus les plus intéressants et les plus cruciaux qui soient.