Nick Bostrom: Vivons-nous dans une simulation informatique (2001)

Je collectionne tous les textes les plus importants de tous les temps et de tous les peuples, influençant la vision du monde et la formation de l'image du monde ( "Ontol" ). Et là, j'ai pensé et pensé et avancé une hypothèse audacieuse que ce texte est plus révolutionnaire et plus important dans notre compréhension de la structure du monde que la révolution copernicienne et les œuvres de Kant. Dans Runet, ce texte (version complète) était dans un état terrible, je l'ai un peu peigné et, avec la permission du traducteur, je l'ai publié pour discussion.

"Vivez-vous dans une simulation informatique?"

par Nick Bostrom [Publié dans Philosophical Quarterly (2003) Vol. 53, No. 211, p. 243-255. (Première version: 2001)]



Cet article stipule qu'au moins l'une des trois hypothèses suivantes est vraie:

• (1) il est fort probable que l'humanité mourra avant qu'elle n'atteigne la phase «posthumaine»;
• (2) il est extrêmement peu probable que chaque civilisation posthumaine exécute un nombre significatif de simulations de son histoire évolutive (ou de ses variantes), et
• (3) nous vivons presque certainement dans une simulation informatique .

Il en découle que la probabilité d'être dans la phase d'une civilisation posthumaine qui pourra exécuter des simulations de ses prédécesseurs est nulle, à moins que nous n'acceptions le cas où nous vivons déjà dans une simulation comme vrai. D'autres conséquences de ce résultat sont également discutées.

1. Introduction

De nombreuses œuvres de science-fiction, ainsi que les prédictions de futuristes sérieux et de chercheurs en technologie, prédisent que des quantités colossales de puissance de calcul seront disponibles dans le futur. Supposons que ces prédictions soient correctes. Par exemple, les générations futures avec leurs ordinateurs ultra-puissants pourront exécuter des simulations détaillées de leurs prédécesseurs ou de personnes comme leurs prédécesseurs. Parce que leurs ordinateurs seront si puissants, ils pourront exécuter de nombreuses simulations comme celle-ci.Supposons que ces personnes simulées aient une conscience (et elles l'auront si la simulation est très précise et si un certain concept largement accepté de la conscience en philosophie est correct). Il s'ensuit que le plus grand nombre d'esprits comme le nôtre n'appartiennent pas à la race d'origine, mais appartiennent plutôt à des personnes simulées par les descendants avancés de la race d'origine. Sur cette base, on peut soutenir qu'il est raisonnable de s'attendre à ce que nous soyons parmi les esprits biologiques naturels simulés, et non parmi les esprits biologiques naturels originaux. Ainsi, si nous ne croyons pas que nous vivons maintenant dans une simulation informatique, nous ne devons pas supposer que nos descendants exécuteront de nombreuses simulations de leurs ancêtres. Telle est l'idée principale. Dans la suite de cet ouvrage, nous l'examinerons plus en détail.



Outre l'intérêt que peut représenter cette thèse pour ceux qui sont impliqués dans des discussions futuristes, il y a aussi ici un intérêt purement théorique. Cette preuve est un stimulant pour la formulation de certains problèmes méthodologiques et métaphysiques, et elle offre également des analogies naturelles avec des concepts religieux traditionnels, et ces analogies peuvent paraître surprenantes ou suggestives.



La structure de cet article est la suivante: au début, nous formulerons une certaine hypothèse que nous devons importer de la philosophie de l'esprit pour que cette preuve fonctionne. Nous examinons ensuite certaines des raisons empiriques de croire que l'exécution d'un vaste éventail de simulations de l'esprit humain sera disponible pour une civilisation future qui développera de nombreuses technologies qui ont été clairement définies pour être cohérentes avec les lois physiques et les contraintes d'ingénierie connues.



Cette partie n'est pas nécessaire d'un point de vue philosophique, mais encourage néanmoins à prêter attention à l'idée principale de l'article. Ceci est suivi d'une présentation de la preuve en substance, en utilisant quelques applications simples de la théorie des probabilités, et une section justifiant le principe d'équivalence faible que cette preuve utilise. À la fin, nous discuterons quelques interprétations de l'alternative mentionnée au début, et ce sera la conclusion de la preuve du problème de simulation.

2. Hypothèse d'indépendance des médias

Une hypothèse courante dans la philosophie de l'esprit est l'hypothèse de l'indépendance du transporteur. L'idée est que les états mentaux peuvent survenir dans n'importe quel milieu à partir d'une large classe de porteurs physiques. A condition que l'ensemble correct de structures et de processus informatiques soit incorporé dans le système, des expériences conscientes peuvent y apparaître. La propriété intrinsèque n'est pas la mise en œuvre de processus intracrâniens dans des réseaux de neurones biologiques à base de carbone: les processeurs à base de silicium à l'intérieur des ordinateurs peuvent faire exactement la même chose. Les arguments en faveur de cette thèse ont été avancés dans la littérature existante, et bien qu'elle ne soit pas complètement cohérente, nous la prendrons pour acquis ici.



La preuve que nous proposons ici, cependant, ne dépend d'aucune version très forte du fonctionnalisme ou du computationalisme. Par exemple, nous ne devrions pas accepter que la thèse de l'indépendance du porteur soit nécessairement vraie (à la fois dans le sens analytique et métaphysique) - mais devrions seulement accepter qu'en réalité, un ordinateur sous le contrôle du programme correspondant puisse posséder une conscience. ... De plus, nous ne devons pas supposer que pour créer de la conscience dans un ordinateur, nous devrions le programmer de manière à ce qu'il se comporte comme un humain dans tous les cas, passe le test de Turing, etc. l'hypothèse qu'il suffit de créer des expériences subjectivesde sorte que les processus de calcul dans le cerveau humain seraient structurellement copiés dans des détails appropriés de haute précision, par exemple, au niveau des synapses individuelles. Cette version raffinée de l'indépendance des médias est largement acceptée.



Les neurotransmetteurs, les facteurs de croissance nerveuse et d'autres produits chimiques plus petits que les synapses jouent clairement un rôle dans la cognition et l'apprentissage humains. La thèse de l'indépendance des médias n'est pas que les effets de ces produits chimiques sont faibles ou négligeables, mais qu'ils n'affectent que l'expérience subjective par un impact direct ou indirect sur l'activité de calcul. Par exemple, s'il n'y a pas de différences subjectives sans qu'il y ait également une différence dans la décharge synaptique, alors le détail de simulation requis est au niveau synaptique (ou supérieur).

3 limites technologiques du calcul

Au niveau actuel de développement technologique, nous n'avons ni équipement assez puissant ni logiciel approprié pour créer des esprits conscients sur un ordinateur. Cependant, de solides arguments ont été avancés selon lesquels si le progrès technologique se poursuit sans arrêt, ces limites seront finalement surmontées. Certains auteurs affirment que cette phase interviendra dans quelques décennies seulement. Cependant, aux fins de notre discussion, aucune hypothèse de calendrier n'est requise. La preuve de simulation fonctionne tout aussi bien pour ceux qui pensent qu'il faudra des centaines de milliers d'années pour atteindre une phase de développement «posthumain», lorsque l'humanité acquerra la plupart des capacités technologiques dont on peut maintenant démontrer qu'elles sontconforme aux lois physiques et aux contraintes matérielles et énergétiques.



Cette phase mature de développement technologique permettra de transformer les planètes et autres ressources astronomiques en ordinateurs d'une puissance colossale. Pour le moment, il est difficile d'être sûr des limites ultimes de la puissance de calcul qui seront disponibles pour les civilisations posthumaines. Comme nous n'avons toujours pas de «théorie de tout», nous ne pouvons pas exclure la possibilité que de nouveaux phénomènes physiques, interdits par les théories physiques modernes, puissent être utilisés pour surmonter les limitations qui, selon notre compréhension actuelle, imposent des limites théoriques au traitement de l'information à l'intérieur un morceau de matière donné. Avec un degré de fiabilité beaucoup plus élevé, nous pouvons établir les bornes inférieures du calcul posthumain, en supposant la mise en œuvre des seuls mécanismes déjà compris. Par exemple,Eric Drexler a donné une esquisse d'un système, de la taille d'un morceau de sucre (hors refroidissement et alimentation électrique), qui pourrait faire 10²¹ opérations par seconde. Un autre auteur a donné une estimation approximative de 10 ⁴² opérations par seconde pour un ordinateur de la taille d'une planète. (Si nous apprenons à créer des ordinateurs quantiques ou à construire des ordinateurs à partir de matière nucléaire ou de plasma, nous pouvons nous rapprocher encore plus des limites théoriques. Seth Lloyd a calculé la limite supérieure pour un ordinateur pesant 1 kg en 5 * 10 ⁵⁰ opérations logiques par seconde effectuées sur 10 ³¹ bits. Cependant, pour nos besoins, il suffit d'utiliser des estimations plus prudentes, qui n'impliquent que les principes de fonctionnement actuellement connus.)



La quantité de puissance informatique requise pour émuler un cerveau humain se prête à la même estimation approximative. Une estimation basée sur le coût de calcul de copier le fonctionnement d'un morceau de tissu neural que nous avons déjà compris et dont la fonctionnalité a déjà été copiée dans le silicium (à savoir, le système d'amélioration du contraste dans la rétine a été copié), donne une estimation d'environ 10 ¹⁴ opérations par seconde. Une autre estimation sur la base du nombre de synapses dans le cerveau et la fréquence de leur mise à feu donne une valeur de 10 ¹⁶ -10 ¹⁷opérations par seconde. En conséquence, encore plus de puissance de calcul peut être nécessaire si nous voulions simuler en détail le fonctionnement interne des synapses et des branches de dendrites. Cependant, il est hautement probable que le système nerveux central humain ait une certaine mesure de redondance au niveau micro pour compenser le manque de fiabilité et le bruit de ses composants neuronaux. Par conséquent, on s'attendrait à des gains d'efficacité significatifs en utilisant des processeurs non biologiques plus fiables et plus flexibles.



La mémoire n'est pas plus une limitation que la puissance de traitement. De plus, puisque le flux maximum de données sensorielles humaines est de l'ordre de 10 ⁸bits par seconde, puis simuler tous les événements sensoriels nécessiterait un coût négligeable par rapport à la simulation de l'activité corticale. De cette manière, nous pouvons utiliser la puissance de traitement nécessaire pour simuler le système nerveux central comme une estimation du coût total de calcul de la simulation de l'esprit humain.



Si l'environnement est inclus dans la simulation, cela nécessitera une puissance informatique supplémentaire - dont la quantité dépend de la taille et des détails de la simulation. Simuler l'univers entier jusqu'au niveau quantique est évidemment impossible, sauf si une nouvelle physique est découverte. Mais il en faut beaucoup moins pour obtenir une simulation réaliste de l'expérience humaine - tout autant qu'il en faut pour s'assurer que les personnes simulées interagissant de manière humaine normale avec l'environnement simulé ne remarqueront aucune différence. La structure microscopique de l'intérieur de la terre peut facilement être omise. Les objets astronomiques éloignés peuvent être soumis à un niveau de compression très élevé: la similitude exacte ne doit être que dans une gamme étroite de propriétés,que nous pouvons observer depuis notre planète ou depuis un vaisseau spatial à l'intérieur du système solaire. À la surface de la Terre, les objets macroscopiques dans des endroits inhabités doivent être simulés en continu, mais des phénomènes microscopiques peuvent se remplirad hoc , c'est-à-dire au besoin. Ce que vous voyez au microscope électronique doit paraître suspect, mais vous n'avez généralement aucun moyen de vérifier sa cohérence avec les parties non observables du micromonde. Des exceptions surviennent lorsque nous concevons délibérément des systèmes pour exploiter des phénomènes microscopiques non observables qui fonctionnent selon des principes connus pour produire des résultats que nous pouvons vérifier indépendamment. L'exemple classique de ceci est l'ordinateur. La simulation doit donc inclure des simulations continues d'ordinateurs jusqu'au niveau des portes logiques individuelles. Ce n'est pas un problème car notre puissance de calcul actuelle est négligeable par rapport aux normes posthumaines.



De plus, un simulateur posthumain aura une puissance de calcul suffisante pour suivre en détail l'état de la pensée dans tous les cerveaux humains à tout moment. Ainsi, lorsqu'il découvre qu'une personne est prête à faire des observations sur le microcosme, il peut remplir la simulation avec un niveau de détail suffisant autant que nécessaire. Si une erreur se produit, le directeur de la simulation peut facilement modifier les états de tout cerveau qui était au courant de l'anomalie avant qu'elle ne ruine la simulation. Alternativement, le réalisateur peut rembobiner la simulation quelques secondes en arrière et la redémarrer de manière à éviter le problème.



Il en découle que le plus coûteux dans la création d'une simulation qui ne se distingue pas de la réalité physique pour les esprits humains sera de créer des simulations de cerveaux organiques jusqu'au niveau neural ou sous-neural. S'il n'est pas possible de donner une estimation très précise du coût d'une simulation réaliste de l'histoire humaine, nous pouvons utiliser une estimation de 10 ³³ -10 ³⁶ opérations comme estimation approximative.



Au fur et à mesure que nous gagnerons en expérience dans la création de réalité virtuelle, nous comprendrons mieux les exigences de calcul nécessaires pour que ces mondes semblent réalistes pour leurs visiteurs. Mais même si notre estimation est erronée de plusieurs ordres de grandeur, cela n'a pas beaucoup d'importance pour notre preuve. Nous avons noté qu'une estimation approximative de la puissance de calcul d'un ordinateur de la taille d'une planète est de 10 ⁴²opérations par seconde, et cela ne prend en compte que les conceptions nanotechnologiques déjà connues, probablement loin d'être optimales. Un tel ordinateur peut simuler toute l'histoire mentale de l'humanité (appelons-le la simulation des ancêtres) en utilisant seulement un millionième de ses ressources en 1 seconde. La civilisation posthumaine pourrait éventuellement construire un nombre astronomique de tels ordinateurs. Nous pouvons conclure que la civilisation posthumaine peut exécuter une quantité colossale de simulations d'ancêtres, même si elle n'y consacre qu'une petite fraction de ses ressources. Nous pouvons arriver à cette conclusion, en admettant même une erreur significative dans toutes nos estimations.

• , -, .

4.

L'idée principale de cet article peut être exprimée comme suit: s'il y a une chance significative que notre civilisation atteigne un jour le stade post-humain et lancera de nombreuses simulations d'ancêtres, alors comment pouvons-nous prouver que nous ne vivons pas dans une telle simulation?



Nous développerons cette idée sous la forme d'une preuve rigoureuse. Introduisons les désignations suivantes:



- la part de toutes les civilisations du niveau humain qui survivent jusqu'au stade posthumain;

N est le nombre moyen de simulations d'ancêtres lancées par la civilisation posthumaine;

H est le nombre moyen de personnes qui vivaient dans une civilisation avant qu'elle n'atteigne le stade post-humain.



Ensuite, la proportion réelle de tous les observateurs ayant une expérience humaine qui vivent dans la simulation est:







Désignons comme la proportion de civilisations posthumaines qui sont intéressées à exécuter des simulations d'ancêtres (ou qui contiennent au moins un certain nombre de créatures individuelles qui s'y intéressent et disposent de ressources importantes pour exécuter un nombre important de simulations) et comme le nombre moyen de simulations d'ancêtres lancées par ces civilisations intéressées, nous obtenons:







Et donc:







En raison de la puissance de calcul colossale des civilisations posthumaines est extrêmement grande, comme nous l'avons vu dans la section précédente. En considérant la formule (*), nous pouvons voir qu'au moins une des trois hypothèses suivantes est vraie:

5. Le principe souple d'équivalence

Nous pouvons aller plus loin et conclure que, étant donné que (3) est vrai, vous pouvez presque certainement être sûr que vous êtes dans une simulation. De manière générale, si nous savons que la fraction x de tous les observateurs ayant une expérience de type humain vit dans une simulation, et nous n'avons aucune information supplémentaire qui montre que notre propre expérience particulière est plus ou moins vraisemblablement incarnée dans une machine, et non in vivo que d'autres expériences humaines, auquel cas notre confiance que nous sommes dans une simulation devrait être x:







Cette étape est justifiée par un principe d'équivalence très faible. Divisons les deux cas. Dans le premier cas, qui est plus simple, tous les esprits étudiés sont similaires au vôtre, en ce sens qu'ils correspondent exactement à votre esprit qualitativement: ils ont les mêmes informations et les mêmes expériences que vous. Dans le second cas, les esprits ne se ressemblent que dans un sens large, étant le genre d'esprits typiques des êtres humains, mais qualitativement différents les uns des autres et chacun a un ensemble d'expériences différent. Je soutiens que même lorsque les esprits sont qualitativement différents, la preuve de la simulation fonctionne toujours, à condition que vous n'ayez aucune information qui réponde à la question de savoir lequel des différents esprits est simulé et lequel est réalisé biologiquement.



Une justification plus rigoureuse du principe, qui inclut nos deux exemples particuliers comme des cas spéciaux triviaux, a été donnée dans la littérature. Le manque d'espace rend impossible de donner toute la justification ici, mais nous pouvons en donner une des raisons intuitives ici. Imaginez que x% d'une population possède une certaine séquence génétique S dans une certaine partie de leur ADN, qui est généralement appelée «ADN indésirable». Supposons en outre qu'il n'y ait pas de manifestations de S (autres que celles qui pourraient apparaître dans les tests génétiques) et qu'il n'y ait pas de corrélation entre la possession de S et d'éventuelles manifestations externes. Ensuite, il est bien évident qu'avant que votre ADN ne soit séquencé, il est rationnel d'attribuer la confiance en x% à l'hypothèse que vous avez un fragment S. Et cela est tout à fait indépendant du fait queque les personnes qui ont S ont des esprits et des expériences qui sont qualitativement différents de ceux qui n'ont pas S. (Ils sont différents simplement parce que tous les gens ont des expériences différentes, non parce qu'il y a un lien direct entre S et le type d'expérience que la personne vit.)



Le même raisonnement s'applique si S n'est pas la propriété d'avoir une certaine séquence génétique, mais plutôt le fait d'être dans une simulation, en supposant que nous n'avons aucune information qui nous permette de prédire les différences entre les expériences des esprits simulés et entre les expériences du biologique original. esprits.



Il convient de souligner que le principe souple d'équivalence ne met l'accent que sur l'équivalence entre les hypothèses sur lequel des observateurs vous êtes, lorsque vous ne disposez pas d'informations sur lequel des observateurs vous êtes. Il n'attribue généralement pas d'équivalence entre les hypothèses lorsque vous ne disposez d'aucune information spécifique sur l'hypothèse vraie. Contrairement à Laplace et à d'autres principes d'équivalence plus forts, il est donc à l'abri du paradoxe de Bertrand et d'autres difficultés similaires qui compliquent l'application illimitée des principes d'équivalence.



Les lecteurs familiers avec l'argument Doomsday (DA) (J. Leslie, «Is the End of the World Nigh?» Philosophical Quarterly 40, 158: 65-72 (1990)) peuvent craindre que le principe d'équivalence, utilisé ici est basé sur les mêmes hypothèses qui sont responsables de faire sortir le sol de l'AD, et que la contre-intuitivité de certaines des conclusions de cette dernière jette une ombre sur la validité du raisonnement sur la simulation. Ce n'est pas vrai. DA repose sur la prémisse beaucoup plus stricte et plus controversée qu'une personne devrait raisonner comme si elle était un échantillon aléatoire de l'ensemble des personnes qui ont jamais vécu et vivront (dans le passé, le présent et le futur), malgré le fait que que nous savons que nous vivons au début du 21e siècle, et non à un moment donné dans un avenir lointain. Le principe d'incertitude douce ne s'applique qu'à ces caslorsque nous n'avons pas d'informations supplémentaires sur le groupe de personnes auquel nous appartenons.



Si le pari est une base de croyance rationnelle, alors si tout le monde parie sur le fait qu'il soit dans une simulation ou non, alors si les gens utilisent le principe d'incertitude douce et parient qu'ils sont dans une simulation, en s'appuyant sur sachant que la plupart des gens y participent, alors presque tout le monde gagnera ses paris. S'ils parient qu'ils ne sont pas dans la simulation, presque tout le monde perdra. Il semble plus utile de suivre le principe de l'équivalence douce. De plus, on peut imaginer une séquence de situations possibles dans lesquelles une proportion croissante de personnes vivent dans des simulations: 98%, 99%, 99,9%, 99,9999%, etc. À l'approche de la limite supérieure, lorsque tout le monde vit dans une simulation (dont on peut déduire que tout le monde est dans une simulation), cela semble être une exigence raisonnable,de sorte que la certitude que l'on attribue au fait d'être dans une simulation se rapproche en douceur et en continu de la limite limite de la certitude totale.

6. Interprétation

La possibilité mentionnée au point (1) est tout à fait compréhensible. Si (1) est vrai, alors l'humanité échouera presque certainement à atteindre le niveau posthumain; aucune espèce à notre niveau de développement ne devient posthumain, et il est difficile de trouver une justification pour penser que notre propre espèce a des avantages ou une protection spéciale contre de futures catastrophes. Sous la condition (1), nous devons donc attribuer une haute certitude de Doom (DOOM), c'est-à-dire à l'hypothèse que l'humanité disparaîtra avant d'atteindre le niveau posthumain:







on peut imaginer une situation hypothétique dans laquelle nous avons des données qui se chevauchent nos connaissances sur f _p... Par exemple, si nous découvrons qu'un astéroïde géant est sur le point de nous frapper, nous pouvons supposer que nous avons été extrêmement malchanceux. Dans ce cas, nous pouvons attribuer à l'hypothèse Doom plus de crédibilité que notre attente de la proportion de civilisations au niveau humain qui ne pourront pas atteindre la posthumanité. Dans notre cas, cependant, nous ne semblons pas avoir de raison de penser que nous sommes spéciaux à cet égard, pour le meilleur ou pour le pire.



L'hypothèse (1) ne signifie pas en soi que nous allons probablement mourir. Cela suggère qu'il est peu probable que nous atteignions la phase posthumaine. Cette possibilité pourrait signifier, par exemple, que nous resterons aux niveaux actuels ou légèrement au-dessus pendant longtemps avant de disparaître. Une autre raison possible de la vérité de (1) est que, très probablement, la civilisation technologique va s'effondrer. En même temps, les sociétés humaines primitives resteront sur Terre.



L'humanité peut s'éteindre de nombreuses façons avant d'atteindre la phase posthumaine de développement. L'explication la plus naturelle (1) est que nous allons mourir à la suite du développement d'une technologie puissante mais dangereuse. Un candidat est la nanotechnologie moléculaire, dont le stade de maturité permettra la création de nanorobots auto-réplicatifs qui peuvent se nourrir de saleté et de matière organique - quelque chose comme une bactérie mécanique. Ces nanorobots, s'ils sont conçus à des fins malveillantes, peuvent entraîner la mort de toute vie sur la planète.



Une deuxième alternative à l'inférence du raisonnement de simulation est que la proportion de civilisations posthumaines qui sont intéressées à exécuter des simulations d'ancêtres est négligeable. Pour que (2) soit vrai, il doit y avoir une convergence stricte entre les voies de développement des civilisations avancées. Si le nombre de simulations d'ancêtres produites par les civilisations intéressées est exceptionnellement grand, alors la rareté de ces civilisations doit être en conséquence extrême. Pratiquement aucune civilisation posthumaine ne décide d'utiliser ses ressources pour créer un grand nombre de simulations d'ancêtres. De plus, presque toutes les civilisations posthumaines manquent d'individus qui ont les ressources et l'intérêt appropriés pour exécuter des simulations d'ancêtres; ou ils ont des lois soutenues par la force,empêcher le comportement des individus selon leurs désirs.



Quelle force peut conduire à une telle convergence? Quelqu'un pourrait soutenir que les civilisations avancées se développent toutes comme une seule et se développent le long d'une trajectoire qui conduit à la reconnaissance de l'interdiction éthique de faire des simulations d'ancêtres en raison de la souffrance que subissent les habitants de la simulation. Cependant, de notre point de vue actuel, il ne semble pas évident que la création de la race humaine soit immorale. Au contraire, nous avons tendance à percevoir l'existence de notre race comme d'une grande valeur éthique. De plus, la convergence des seules vues éthiques sur l'immoralité des simulations d'ancêtres ne suffit pas: elle doit être combinée avec la convergence de la structure sociale civilisationnelle, ce qui conduit au fait que les activités considérées comme immorales sont effectivement interdites.



Une autre possibilité de convergence est que presque tous les posthumains individuels dans presque toutes les civilisations posthumaines se développent dans une direction dans laquelle ils perdent l'envie d'exécuter des simulations ancestrales. Cela nécessitera des changements significatifs dans les motivations qui animent leurs ancêtres posthumains, car il y a certainement beaucoup de gens qui voudraient exécuter des simulations d'ancêtres s'ils en avaient l'occasion. Mais peut-être que bon nombre de nos désirs humains sembleront insensés à quiconque devient posthumain. Peut-être que la valeur scientifique des simulations d'ancêtres pour les civilisations posthumaines est négligeable (ce qui ne semble pas trop incroyable compte tenu de leur incroyable supériorité intellectuelle) et peut-êtreLes posthumains considèrent l'activité récréative comme un moyen très inefficace d'obtenir du plaisir - qui peut être obtenu beaucoup moins cher en stimulant directement les centres de plaisir du cerveau. Une conclusion qui découle de (2) est que les sociétés posthumaines seront très différentes des sociétés humaines: elles n'auront pas d'agents indépendants relativement riches qui ont une gamme complète de désirs de type humain et qui sont libres d'agir en accord avec eux. ...et qui sont libres d'agir conformément à eux.et qui sont libres d'agir conformément à eux.



La possibilité décrite par la découverte (3) est la plus intrigante sur le plan conceptuel. Si nous vivons dans une simulation, alors l'espace que nous observons n'est qu'un petit morceau de la totalité de l'existence physique. La physique de l'univers où se trouve l'ordinateur peut ou non ressembler à la physique du monde que nous observons. Si le monde que nous observons est quelque peu «réel», il ne se situe pas à un niveau fondamental de réalité. Il est possible que des civilisations simulées deviennent posthumaines. Ils peuvent à leur tour exécuter des simulations d'ancêtres sur des ordinateurs puissants qu'ils ont construits dans l'univers simulé. Ces ordinateurs seraient des «machines virtuelles», un concept très courant en informatique. (Applications Web écrites en script Java telles ques'exécute dans une machine virtuelle - un ordinateur simulé - sur votre ordinateur portable.)



Les machines virtuelles peuvent être imbriquées les unes dans les autres: il est possible de simuler une machine virtuelle simulant une autre machine, et ainsi de suite, avec un nombre d'étapes arbitrairement grand. Si nous pouvons créer nos propres simulations d'ancêtres, ce serait une preuve solide par rapport aux points (1) et (2), et nous devrions donc conclure que nous vivons dans une simulation. De plus, nous devrons soupçonner que les posthumains qui ont lancé notre simulation sont eux-mêmes des créatures simulées, et que leurs créateurs, à leur tour, peuvent également être des créatures simulées.



La réalité peut donc contenir plusieurs niveaux. Même si la hiérarchie doit se terminer à un certain niveau - le statut métaphysique de cette déclaration est assez flou - il peut y avoir suffisamment d'espace pour un grand nombre de niveaux de réalité, et ce nombre peut augmenter avec le temps. (Une considération qui va à l'encontre d'une telle hypothèse à plusieurs niveaux est que le coût de calcul des simulateurs de base sera très élevé. Simuler ne serait-ce qu'une civilisation posthumaine peut coûter trop cher. Si tel est le cas, nous devrions nous attendre à ce que notre simulation soit désactivée. quand on se rapproche du niveau posthumain.)



Bien que tous les éléments de ce système soient naturalistes, voire physiques, il est possible de tirer quelques analogies lâches avec les concepts religieux du monde. Dans un sens, les posthumains qui ont lancé la simulation sont comme des dieux par rapport aux personnes dans la simulation: les posthumains créent le monde que nous voyons; ils ont un intellect supérieur à nous; ils sont omnipotents dans le sens où ils peuvent interférer avec le fonctionnement de notre monde de manière à violer les lois physiques, et ils sont omniscients dans le sens où ils peuvent surveiller tout ce qui se passe. Cependant, tous les demi-dieux, à l'exception de ceux qui vivent au niveau fondamental de la réalité, sont soumis aux actions de dieux plus puissants qui résident sur des niveaux plus élevés de réalité.



La mastication plus poussée de ces thèmes peut aboutir à une théogonie naturaliste, qui étudiera la structure de cette hiérarchie et les restrictions imposées aux habitants par la possibilité que leurs actions à leur niveau puissent affecter l'attitude des habitants d'un niveau de réalité plus profond à leur égard. Par exemple, si personne ne peut être sûr qu'il est à un niveau de base, alors tout le monde devrait considérer la probabilité que ses actions soient récompensées ou punies, peut-être sur la base de certains critères moraux, par les maîtres de la simulation. La vie après la mort sera une réelle possibilité. En raison de cette incertitude fondamentale, même la civilisation à un niveau de base sera motivée à se comporter de manière éthique. Le fait qu'ils aient une raison de se comporter moralement sera bien sûr une raison impérieuse pour quelqu'un d'autre de se comporter moralement, et ainsi de suite,formant un cercle vertueux. Ainsi, vous pouvez obtenir quelque chose comme un impératif éthique universel, qui sera dans l'intérêt personnel de chacun, et qui vient de «nulle part».



En plus des simulations d'ancêtres, on peut imaginer la possibilité de simulations plus sélectives n'impliquant qu'un petit groupe de personnes ou un individu. Le reste des personnes sera alors des «zombies» ou des «personnes de l'ombre» - des personnes simulées uniquement à un niveau suffisant pour que les personnes entièrement simulées ne remarquent rien de suspect.



On ne sait pas combien il sera moins cher de simuler des personnes de l'ombre que de vraies personnes. Il n'est même pas évident qu'il soit possible pour un objet de se comporter de manière indiscernable d'une personne réelle et ainsi de ne pas avoir d'expériences conscientes. Même si de telles simulations sélectives existent, il n'est pas nécessaire d'être sûr d'y être avant d'être sûr que ces simulations sont beaucoup plus nombreuses que les simulations complètes. Le monde doit avoir environ 100 milliards d'auto-simulations de plus (simulations de la vie d'une seule conscience) qu'il n'y a de simulations complètes d'ancêtres - pour que la majorité des personnes simulées soient dans des auto-simulations.



Il est également possible que les simulateurs sautent par-dessus une certaine partie de la vie mentale des créatures simulées et leur donnent de faux souvenirs du type d'expérience qu'ils pourraient avoir pendant les périodes manquantes. Si c'est le cas, on peut imaginer la solution (étirée) suivante au problème du mal: qu'en réalité il n'y a pas de souffrance dans le monde et que tous les souvenirs de souffrance sont une illusion. Bien sûr, cette hypothèse ne peut être considérée sérieusement que dans les moments où vous-même ne souffrez pas.



En supposant que nous vivons dans une simulation, quelles sont les implications pour nous les humains? Contrairement à ce qui a été dit précédemment, les conséquences pour l'homme ne sont pas particulièrement drastiques. Notre meilleur guide sur la façon dont nos créateurs posthumains ont choisi d'organiser notre monde est l'exploration empirique standard de l'univers que nous voyons. Les changements apportés à une grande partie de notre système de croyance sont susceptibles d'être petits et doux - proportionnels à notre manque de confiance en notre capacité à comprendre les systèmes de pensée posthumains.



Une compréhension correcte de la vérité de la thèse (3) ne doit pas nous rendre «fous» ou nous forcer à quitter notre entreprise et à arrêter de faire des plans et des prévisions pour demain. La principale importance empirique de (3) pour le moment réside apparemment dans son rôle dans la triple conclusion donnée ci-dessus.



Nous devrions espérer que (3) est vrai parce qu'il réduit la probabilité de (1), cependant, si les contraintes de calcul font qu'il est probable que les simulateurs désactiveront la simulation avant qu'elle n'atteigne les niveaux posthumains, alors notre meilleur espoir est que (2) soit vrai. ...



Si nous en apprenons davantage sur la motivation posthumaine et les contraintes de ressources, peut-être en raison de notre évolution vers la posthumanité, alors l'hypothèse selon laquelle nous sommes simulés recevra un ensemble beaucoup plus riche d'applications empiriques.

7. Conclusion

Une civilisation posthumaine technologiquement mature aurait une énorme puissance de calcul. Sur cette base, le raisonnement sur la simulation montre qu'au moins une des thèses suivantes est vraie:

• (1) , , .
• (2) , , .
• (3) , , .

Si (1) est vrai, alors nous mourrons presque certainement avant d'atteindre le niveau posthumain.



Si (2) est vrai, alors il doit y avoir une convergence strictement coordonnée des voies de développement de toutes les civilisations avancées, de sorte qu'aucune d'entre elles n'ait d'individus relativement riches qui souhaiteraient exécuter des simulations d'ancêtres et seraient libres de le faire.



Si (3) est vrai, alors nous vivons presque certainement dans une simulation. La forêt sombre de notre ignorance rend prudent de répartir notre confiance presque uniformément entre les éléments (1), (2) et (3).



À moins que nous ne vivions déjà dans une simulation, nos descendants ne lanceront presque certainement jamais de simulations d'ancêtres.

Remerciements

Je remercie beaucoup de gens pour leurs commentaires, et en particulier Amara Angelica, Robert Bradbury, Milan Cirkovic, Robin Hanson, Hal Finney, Robert A. Freitas Jr., John Leslie, Mitch Porter, Keith DeRose, Mike Treder, Mark Walker, Eliezer Yudkowsky, et arbitres anonymes.



Traduction: Alexey Turchin





Plus d'œuvres d'Alexey Turchin:

• Un message à une intelligence artificielle peu amicale
• Glitch in the Matrix: légende urbaine ou preuve de la simulation?
• Typologie de la simulation et risques de résiliation

---

À propos d'Ontol

Ontol est une carte qui vous permet de choisir l'itinéraire le plus efficace pour la formation de votre vision du monde.



Ontol est basé sur une superposition d'évaluations subjectives, reflet des textes lus (idéalement, des millions / milliards de personnes). Chaque personne participant au projet décide pour lui-même quel est le top 10/100 des plus importants, ce qu'il a lu / regardé sur des aspects significatifs de la vie (réflexion, santé, famille, argent, confiance, etc.) au cours des 10 dernières années ou toute sa vie ... Ce qui peut être partagé en 1 clic (textes et vidéos, pas livres, conversations et événements).



Le résultat final idéal d'Ontola est un accès 10x-100x plus rapide (que les analogues existants de wikipedia, quora, chats, chaînes, LJ, moteurs de recherche) à des textes et des vidéos significatifs qui affecteront la vie du lecteur ("Oh, comment je souhaite que je lisez ce texte avant! Il est fort probable que la vie se soit déroulée différemment "). Gratuit pour tous les habitants de la planète et en 1 clic.

• Chaîne de télégramme: t.me/ontol
• Prototype de service Web: beta.ontol.org
• Sur Habré:
  
  
  
  
  • DeepMind Ontol: les ressources d'IA les plus utiles au monde
  • Ontol (= le plus utile) sur le travail à distance [sélection de plus de 100 articles]
  • Ontol: une sélection d'articles sur le «burnout» [100+]
  
  
  
• Ontol sur les startups de Y Combinator: www.ycombinator.com/library