https://bodybydarwin.com
Slider Image

Was ist die Ethik, neues Leben in einem simulierten Universum zu erschaffen?

2022

Das Folgende ist ein adaptierter Auszug aus A Big Bang in einem kleinen Raum: Die Suche nach neuen Universen von Zeeya Merali, ab sofort im Handel erhältlich. In dem Buch untersucht Merali die Möglichkeiten, ein Säuglingsuniversum in einem Labor zu erschaffen. In diesem Auszug trifft sie den bekannten Futuristen Anders Sandberg, um über die Ethik der potenziellen Schaffung eines neuen intelligenten Lebens in einem Babyuniversum oder die Möglichkeit der Entwicklung des Empfindungsvermögens in einer Computersimulation zu diskutieren.

Als Anders Sandberg in den 1980er Jahren ein Kind war, machte er gerne Simulationen auf seinem Sinclair ZX81 und machte sich Gedanken über Mini-Solarsysteme. Später entwickelte er künstliche neuronale Netze, die vom Gehirn inspirierte Lernalgorithmen verwenden. „Manche Menschen entspannen sich beim Fernsehen. Ich programmiere Simulationen, während ich philosophische Vorlesungen höre “, kichert Sandberg. Eines Tages im Jahr 1999, erinnert er sich, löschte er eine Kopie eines neuronalen Netzwerks auf seinem Computer und bekam ein "schlechtes Gewissen". Er musste sich sorgen: "Habe ich gerade eine kleine Schöpfung getötet?"

Nachdem Sandberg diese Schuldgefühle aufgrund des Verlusts seines neuronalen Netzwerks verspürt hatte, wechselte er den Gang zur Philosophie und schreibt nun über die Ethik der Simulationen am Future of Humanity Institute der Universität Oxford. Er argumentiert, dass die Menschen sich früher als gedacht mit Fragen auseinandersetzen müssen, wie sie Maschinenwesen mit Mitgefühl behandeln können. Er merkt jedoch an, dass es nicht nur unter der breiten Bevölkerung, sondern auch unter Wissenschaftlern allgemein eine Zurückhaltung gibt, sich diesen Problemen zu stellen.

Ich bin auf diese Zurückhaltung gestoßen, wenn ich mit Physikern gesprochen habe, die am Aufbau des Universums beteiligt sind. Einige haben versucht, Fragen nach den moralischen Konsequenzen der Schaffung von Leben in einem Kosmos aus dem Labor zu umgehen, und behauptet, dass solche Probleme außerhalb ihres Zuständigkeitsbereichs liegen. "Die meisten Leute haben ein Budget für Verrücktheiten und man darf nicht wirklich zu viel davon verbrauchen, denn wenn man auf dem Verrücktheitskonto überzeichnet ist, kann man offensichtlich nicht ernst genommen werden", sagt Sandberg. "So viele Leute schweigen über Überlegungen, die tatsächlich von Bedeutung sein könnten."

Sandberg kann sich vorstellen, warum eine superintelligente Rasse eine Simulation erstellt und uns hineingezogen hat. Viele der Gründe sind dieselben profanen Begründungen, die wir derzeit für die Ausführung von Simulationen haben. Zum Beispiel bemühen wir uns, den effizientesten Weg zu finden, um begrenztes Geld für die Gesundheitsfürsorge auszugeben. Ist es besser, eine Welt zu haben, in der der allgemeine Gesundheitszustand der Bevölkerung höher ist, die Gesundheitsversorgung jedoch ungleich verteilt ist, sodass eine Minderheit schrecklich leidet? Oder ist es besser, eine gerechtere Gesellschaft anzustreben, in der jeder Zugang zu demselben Gesundheitsniveau hat, auch wenn dieses Niveau tatsächlich recht niedrig ist? Das Simulieren dieser beiden Welten kann Ihnen bei der Entscheidung helfen. Solange keines der simulierten Wesen bewusste Erfahrungen hat, ist das in Ordnung. Wenn sie jedoch Intelligenz und Gefühle entwickeln, haben Sie möglicherweise versehentlich viel Leid in Ihrer künstlichen Welt verursacht.

Sandberg hält es für möglich, dass wir Teil einer relativ kleinen Simulation sind, die beispielsweise die Ergebnisse verschiedener Ausgabenstrategien des National Health Service für die britische Bevölkerung überwacht. In diesem Fall wären die Personen im Vereinigten Königreich, die diese Ressourcen nutzen, der Schwerpunkt, während der Rest des simulierten Universums möglicherweise nur für die Farbe eingezeichnet wird.

Aber jetzt möchte ich untersuchen, welche moralische Verantwortung wir als Programmierer unserer eigenen simulierten Universen haben. Erstens: Besteht die ernsthafte Gefahr, dass die Simulation einer Gesundheitspolitik eines Menschen ein Leben als Lebender entwickeln könnte? "Es ist weniger wahrscheinlich, dass künstliche Intelligenz versehentlich entsteht, als wenn jemand absichtlich damit anfängt, aber es würde mich nicht überraschen, wenn dies prinzipiell passieren könnte", sagt Sandberg. In diesem Fall liegt es wahrscheinlich daran, dass wir immer intelligentere Softwareprodukte entwickeln, die individuell keine Empfindungsfähigkeit entwickeln, sondern so konzipiert sind, dass sie mit anderen intelligenten Softwareprodukten kompatibel sind. Die Gefahr besteht darin, dass bei einer Verknüpfung das Ganze mehr als die Summe der Teile wird.

Nehmen wir an, dies geschieht versehentlich und unsere Gesundheitswesen entwickeln Erfahrungen. Sollen wir eingreifen oder den Stecker ziehen und ihr Leben beenden? In Bezug auf die Simulation des Gesundheitswesens, sagt Sandberg, wäre ein Vorschlag, um unsere Schuld zu lindern, einige unserer Kreationen dazu zu zwingen, durch Armut und schlechten Zugang zur Gesundheitsfürsorge zu leben, sie zu belohnen, wenn die Simulation vorbei ist, indem sie in eine andere Simulation übertragen werden, in der Sie können ein angenehmes Leben führen.

»Das hört sich sehr danach an, Leute in den Himmel zu schicken«, sage ich.

»Es ist eine gestohlene Idee«, räumt Sandberg ein. Aber einen künstlichen Himmel zu schaffen, um deine Wesen zu kompensieren, wirft ein neues Problem auf: Welche Version deiner misshandelten simulierten Entität lädst du ins Paradies hoch? Es scheint unfair, eine Person hochzuladen, nachdem ihre Erinnerungen und Gehirnfunktionen durch die Alzheimer-Krankheit zerstört wurden. Vielleicht sollten Sie eine jüngere Version hochladen. Es ist jedoch schwierig zu entscheiden, zu welchem ​​Zeitpunkt diese Entität übertragen werden soll und welche Lebensereignisse als entscheidend für die Entwicklung ihrer Identität angesehen und welche aus ihrem Gedächtnis gelöscht werden sollen. Sollten Sie diese Entität von einem Punkt in ihrem Leben vor oder nach der religiösen Bekehrung hochladen, sich verlieben, ein Kind haben oder einen traumatischen Vorfall erleben? "Wenn Sie glauben, dass Sie eine moralische Verantwortung für simulierte Einheiten haben, ist deren Ende ein wenig unklar", sagt Sandberg. »Vielleicht solltest du Kopien von ihnen zu jedem Zeitpunkt in ihrem Leben wiederbeleben.«

Es wäre ein Coup, ein Universum in einem Teilchenbeschleuniger zu erschaffen. Es ist jedoch unwahrscheinlich, dass wir im Labor die Kontrolle ausüben können, auf die sich Sandberg bezieht, wenn es um computer-simulierte Universen geht. Im LHC zum Beispiel verfolgen die Forscher hauptsächlich eine Strategie der Hoffnung und haben wenig Raum für differenziertes Basteln mit den Produkten von Partikelkollisionen. In diesem Fall können wir unbeabsichtigt Leben hervorbringen, wobei unsere Wesen in der Lage sind, die damit verbundenen Schmerzen und Freuden zu erfahren, aber wir hätten danach keine Kontrolle über ihr Wohlergehen. Sollen wir es trotzdem tun?

Obwohl dies ein klassisches Problem ist, über das Philosophen im Rahmen von Simulationen lange nachgedacht haben, stellt Sandberg fest, dass es keinen Konsens gibt. Vielleicht ist die einfachste Antwort, einfach nein zu sagen. Wenn es eine Chance gibt, dass Ihr Universum die Produktion eines fühlenden Wesens beinhaltet, das Schmerzen erleidet, sollten Sie es nicht schaffen. Andere werden sagen, dass es auf die Gesamtsumme der Erfahrungen im Universum ankommt; Wenn Sie die glücklichen Menschen addieren, die unglücklichen Menschen subtrahieren und eine insgesamt positive Antwort finden, dann machen Sie weiter und machen Sie es. Wieder andere haben argumentiert, dass man ein gewisses Maß an durchschnittlichem Glück im Universum haben muss. Aber es gibt keine klare mathematische Antwort für das, was ein gutes Universum ausmacht. Wir kehren wieder zum Gesundheitspuzzlespiel zurück, leicht angepasst: Wäre ein Universum, in dem fast jeder ein bisschen glücklich ist, aber ein paar Menschen schrecklich gefoltert werden, besser oder schlechter als eines, in dem die Hälfte der Bevölkerung wahnsinnig glücklich und die andere Hälfte ein bisschen glücklich ist elend? "Wie auch immer Sie versuchen, es zu argumentieren, Sie können einen Fall vorbringen, aber dann wird jemand ein Gegenbeispiel finden, das zeigt, warum es schlecht ist", sagt Sandberg.

Es könnte auch der Fall eintreten, dass die Schaffung intelligenter Beobachter die Menge des Guten im Universum kontinuierlich erhöht, selbst wenn wir die Kontrolle über unsere Kreationen verlieren. "Ein Argument, das ich vorbringen würde, ist, dass intelligentes Leben versucht, die Kontrolle über seine Umwelt zu übernehmen, um die Dinge für sich selbst zu verbessern", sagt Sandberg. "Man sollte eigentlich damit rechnen, dass ein Universum, das von intelligenten Beobachtern überflutet wird, in der Regel etwas besser zu leben ist als Universen, die keine haben."

Es ist ehrlich gesagt eine Ansicht, die ich nicht berücksichtigt hatte. Vielleicht sind wir moralisch verpflichtet zu versuchen, mehr Leben ins Leben zu rufen. Ich danke Sandberg und verabschiede mich beruhigt. Ich hoffe natürlich, dass er Recht hat, denn es geht buchstäblich um astronomische Fragen.

Angepasster Auszug aus einem Urknall in einem kleinen Raum: Die Suche nach neuen Universen von Zeeya Merali. Copyright © 2017. Erhältlich bei Basic Books, einem Abdruck von Perseus Books, LLC, einer Tochtergesellschaft der Hachette Book Group, Inc.

Die Populärwissenschaft freut sich, Ihnen eine Auswahl neuer und bemerkenswerter wissenschaftsbezogener Bücher vorstellen zu können. Wenn Sie Autor oder Herausgeber sind und ein neues und aufregendes Buch haben, von dem Sie glauben, dass es unsere Leser lieben würden, setzen Sie sich bitte mit uns in Verbindung! Senden Sie eine E-Mail an

Kepler ging schließlich das Benzin aus, aber es wird immer unsere Planetenjagdambitionen beflügeln

Kepler ging schließlich das Benzin aus, aber es wird immer unsere Planetenjagdambitionen beflügeln

CES 2019, dritter Tag: Ein Superheldenhubschrauber, ein Fahrrad mit Alexa und eine angeschlossene Kettlebell

CES 2019, dritter Tag: Ein Superheldenhubschrauber, ein Fahrrad mit Alexa und eine angeschlossene Kettlebell

Muskelgedächtnis ist real, aber es ist wahrscheinlich nicht das, was Sie denken

Muskelgedächtnis ist real, aber es ist wahrscheinlich nicht das, was Sie denken