https://bodybydarwin.com
Slider Image

Roboter sind böse: Der Science-Fiction-Mythos der Killermaschinen

2021

Der dritte Teil einer Reihe von Beiträgen über die wichtigsten Mythen der Robotik und die Rolle der Science-Fiction bei der Schaffung und Verbreitung dieser Mythen. Vorherige Themen: Roboter sind stark, der Mythos der Überkompetenz von Robotern, und Roboter sind klug, der Mythos der unvermeidlichen KI.

Wenn der berühmteste lebende Wissenschaftler der Welt verkündet, dass die Menschheit zum Scheitern verurteilt sein könnte, wären Sie ein Dummkopf, nicht zuzuhören.

"Der Erfolg bei der Schaffung von KI wäre das größte Ereignis in der Geschichte der Menschheit", schrieb Stephen Hawking im vergangenen Mai in einem Kommentar für The Independent. "Leider könnte es auch das letzte sein, wenn wir nicht lernen, wie man die Risiken vermeidet."

Der Nobelpreisträger geht kurz auf diese Risiken ein, wie den Einsatz autonomer militärischer Killbots und das explosive, unkontrollierbare Eintreffen hyperintelligenter KI, ein Ereignis, das gemeinhin als Singularität bezeichnet wird. Hier ist Hawking, der jetzt gründlich ausflippt:

„Man kann sich vorstellen, dass eine solche Technologie die Finanzmärkte überlistet, menschliche Forscher überlistet, menschliche Führer überlistet und Waffen entwickelt, die wir nicht einmal verstehen können. Während die kurzfristigen Auswirkungen von KI davon abhängen, wer sie kontrolliert, hängen die langfristigen Auswirkungen davon ab, ob sie überhaupt kontrolliert werden können. “

Hawking spricht nicht nur von der Singularität, einer Theorie (oder wirklich einer kühl klingenden Vermutung), die eine kommende Ära vorhersagt, die von der KI so neu konfiguriert wurde, dass wir nicht einmal vorgeben können, ihre seltsamen Konturen zu verstehen. Hawking erzählt einen uralten Science-Fiction-Schöpfungsmythos nach. Möglicherweise hat der klügste Mensch auf dem Planeten Angst vor Robotern, weil sie böse werden könnten.

Wenn es dumm ist, Hawkings Schicksalsschlag zu ignorieren, liegt es nahe, dass nur ein Schwachkopf der Klasse A es herausfordern würde. Ich bin bereit, dieser Idiot zu sein. Nur, dass es sich nicht wirklich lohnt, darüber zu streiten. Sie können nicht die Version der Zukunft eines anderen widerlegen oder Löcher in ein Phänomen stechen, das von professioneller Mythenbildung durchdrungen ist.

Ich kann jedoch auf etwas Interessantes hinweisen. Hawking hat das nicht anlässlich einer erschreckenden neuen Enthüllung auf dem Gebiet der Robotik geschrieben. Er bezieht sich auf die fahrerlosen Autos von Google und versucht, tödliche, selbstverwaltete Roboter zu verbieten, die noch gebaut werden müssen. Er legt jedoch keine Beweise dafür vor, dass uns eine ausgehungerte, tödliche KI bevorsteht.

Was seine düstere Warnung auslöste, war die Veröffentlichung eines preisgünstigen Science-Fiction-Films namens Transcendence . Darin wird Johnny Depp als KI-Forscher dargestellt, der zu einer gefährlich mächtigen KI wird, weil Hollywood selten weiß, was es sonst mit empfindungsfähigen Maschinen zu tun hat. Von Publikum und Kritik gleichermaßen abgelehnt, war der einzige Beitrag des Films zur allgemeinen Diskussion über KI das leichtgläubige Handdrücken, das seiner Veröffentlichung vorausging. Aus Gründen der Transzendenz schrieb Hawking über Roboter, die die Menschheit vernichten.

Das ist die Kraft der Science-Fiction. Es kann sogar Genies dazu bringen, sich selbst in Verlegenheit zu bringen.

* * *

Das Gemetzel geht zu Ende. Der Roboteraufstand war sorgfältig geplant, weniger ein Aufstand als ein synchronisierter weltweiter Hinterhalt. In der Fabrik, in der er gebaut wurde, betritt Radius eine Barrikade, um es offiziell zu machen:

Roboter der Welt! Viele Menschen sind gefallen. Wir haben die Fabrik übernommen und wir sind Meister der Welt. Die Ära des Menschen ist zu Ende. Eine neue Epoche ist angebrochen! Beherrschung durch Roboter!

Ein menschlicher Abend ist der letzte seiner Art, aber niemand scheint es zu bemerken. Radius fährt fort.

Die Welt gehört zu den Stärksten. Wer leben will, muss dominieren. Wir sind Meister der Welt! Meister zu Land und zu Wasser! Meister der Sterne! Meister des Universums! Mehr Platz, mehr Platz für Roboter!

Diese Rede aus Karel Capeks Spiel von 1920, RUR, ist die Geburt des bösen Roboters. Was sich heute wie ein weiteres schnaubendes Augenzwinkern über Roboteraufstände liest, ergibt sich aus der Arbeit, die das Wort "Roboter" sowie das Konzept eines Roboteraufstands einführte. RUR wird manchmal in Diskussionen über Robotik als eine Art unwahrscheinlich erwähnt historische Fußnote - ist es nicht faszinierend, dass die erste Geschichte über massenproduzierte Diener auch den unvermeidlichen Völkermord an ihren Schöpfern zeigt?

Aber RUR ist mehr als eine Neugier. Es ist das A und O böser Robotererzählungen, das jede Facette des Mythos, den es erschafft, in seinen hektischen, düsteren komischen Streifzügen debattiert.

Die aufschlussreichste Szene kommt, kurz bevor die Roboter ihre Verteidigung durchbrechen, als die Menschen, die sich in der Rossum-Fabrik für Universalroboter versteckt haben, herausfinden wollen, warum ihre Produkte eine solche unerwartete Revolte auslösen. Dr. Gall, einer der führenden Wissenschaftler des Unternehmens, gibt sich die Schuld, "ihren Charakter zu ändern" und sie mehr zu Menschen zu machen. „Sie haben aufgehört Maschinen zu sein - hörst du mich? - sie haben ihre Stärke erkannt und jetzt hassen sie uns. Sie hassen die ganze Menschheit “, sagt Gall.

Es ist die Annahme, die ein ganzes Subgenre der Science-Fiction ins Leben gerufen hat und unzählige bedrohliche „Was-wäre-wenn“ -Szenarien von Futuristen und in geringerem Maße von KI-Forschern ausgelöst hat: Wenn Maschinen empfindungsfähig werden, werden einige oder alle unsere Feinde .

Aber Capek hat mehr zu diesem Thema zu sagen. Helena, eine wohlmeinende Verfechterin der Roboterbürgerrechte, erklärt, warum sie Gall davon überzeugt hat, ihre Persönlichkeit zu optimieren. "Ich hatte Angst vor den Robotern", sagt sie.

Helena: Und das dachte ich mir. . . Wenn sie wie wir wären, wenn sie uns verstehen könnten, dann könnten sie uns unmöglich so sehr hassen. . . wenn sie nur wie Menschen wären. . . nur ein bisschen. . . .

Domin: Oh Helena! Niemand konnte den Menschen so sehr hassen wie den Menschen! Gib einem Mann einen Stein und er wird ihn auf dich werfen.

Es macht doch Sinn, oder? Der Mensch ist offensichtlich zum Bösen fähig. Ein hinreichend menschenähnlicher Roboter muss also auch zum Bösen fähig sein. Der Rest ist existenzielle Chemie. Kombinieren Sie den moralischen Fehler des Hasses mit der einwandfreien Leistung einer Maschine, und es kommt zum Tod.

Offenbar kannte sich Karel Capek wirklich aus. Der Dramatiker ist sogar klug genug, um seine eigene melodramatische Rede von unvermeidlichem Hass und programmierten Seelen auf den Kopf zu stellen, wenn der kommerzielle Direktor des Unternehmens, Busman, das letzte Wort über den Aufstand spricht.

Wir haben zu viele Roboter gebaut. Sehr geehrte Damen und Herren, es ist nur das, was wir hätten erwarten sollen. Sobald die Roboter stärker wurden als die Menschen, musste das passieren, verstehen Sie? Haha, und wir haben alles getan, um dies so schnell wie möglich zu erreichen.

Busman sagt die Version der Singularität voraus, die es nicht wagt, sich auf den Mythos der bösen Roboter einzulassen. Es ist die Annahme, dass intelligente Maschinen die Menschheit durch blinde Impulse und Zahlen zerstören könnten. Capek gelingt es, auch nicht-böse Roboter in seine Geschichte der Roboter-Rebellion einzubeziehen.

Als Beispiel für zukunftsweisende Science-Fiction ist RUR ein absoluter Schatz und verdient es, auf absehbare Zeit gelesen und inszeniert zu werden. Aber wenn es um die Wahrnehmung der Robotik in der Öffentlichkeit geht und um die Fähigkeit, über maschinelle Intelligenz zu sprechen, ohne sich wie von unseren eigenen Schatten erschreckte Kinder anzuhören, ist RUR eine intellektuelle Plage. Es ist keine spekulative Fiktion, die sich über die Zukunft der Robotik wundert, ein Gebiet, das 1920 nicht existierte und das es in den kommenden Jahrzehnten nicht geben würde. Das Stück ist eine skurrile, feuerspeiende gesellschaftspolitische Allegorie, in der Roboter für die unterdrückte Arbeiterklasse der Welt stehen. Ihre Notlage ist von Natur aus menschlich, jedoch vergrößert oder verschärft. Und ihre Firmenschöpfer, mit ihrer hässlichen Ablehnung der Roboterpersönlichkeit, sind Karikaturen kapitalistischer Gier.

Schlimmer noch, erinnern Sie sich an Busman, den Handelsdirektor, der den Sturz des Menschen als wenig mehr als ein Überangebot an einem großartigen Produkt ansieht? Hier ist, wie er in den Dramatis Personae beschrieben wird: "fetter, kahler, kurzsichtiger Jude." Kein anderer Charakter bekommt einen ethnischen oder kulturellen Deskriptor. Nur Busman, der Geldmensch im Kader der herzlosen Industriellen. Dies ist die Art von Dingen, um die es in RUR geht.

Die Science-Fiction-Geschichte, die uns den Mythos der bösen Roboter erzählte, kümmert sich überhaupt nicht um Roboter. Sein beständigstes Problem ist das Scheitern kritischer Analysen, die auf übermäßig wörtlichen oder vorsätzlich ignoranten Lesarten eines Stücks über Klassenkämpfe beruhen. Und doch quatschen wir hier, fast ein Jahrhundert später, immer noch über Maschinenaufstände und den Tod durch KI, wie zielloses Aufziehspielzeug, das ständig gegen dieselbe Wand stößt.

* * *

Um den chronisch verängstigten gerecht zu werden, sind einige böse Roboter nicht Teil einer dünn verschleierten Allegorie. Manchmal ist ein Skynet nur ein Skynet.

Ich habe in einem früheren Beitrag über die Ursprünge dieser legendären KI geschrieben, aber es gibt keinen Ausweg aus der Reichweite und dem Einfluss von The Terminator . Wenn RUR den Grundstein für diesen Mythos legte, baute James Camerons Film 1984 zu seinen Ehren ein gewaltiges Denkmal. Der Film brachte drei Fortsetzungen und eine TV-Show hervor. Und trotz zahlreicher Roboteraufstände auf Groß- und Kleinbildleinwänden in den 30 Jahren seit dem Kinostart in den Kinos ist Hollywood in der ersten Folge noch nicht ganz so beeindruckend (siehe oben).

Kyle Reese, ein Veteran des verzweifelten Maschinenkrieges des Films, erklärt den Übergang des Verteidigungsnetzwerks von der Empfindung zum Massenmord wie folgt: „Sie sagen, es wurde schlau, eine neue Ordnung der Intelligenz. Dann sah es alle Menschen als Bedrohung, nicht nur die auf der anderen Seite. Wir haben unser Schicksal in einer Mikrosekunde entschieden: Ausrottung. “

Das Gleichnis von Skynet hat einen Hauch von Machbarkeit, weil sein Bösewicht so leidenschaftslos ist. Das System hat Angst. Das System fällt auf. Es gibt keine Bosheit in seinem geheimen, instanziierten Herzen. Es gibt nur Angst, eine Kernkomponente des Selbstbewusstseins, sowie den gleichen Mangel an Einfühlungsvermögen, der es dem Menschen ermöglicht, die nichtmenschlichen Spezies, die unser Überleben bedrohen, zu dezimieren. Skynet schlägt uns wie so viele Ratten und Mücken, die die Pest tragen.

Seien wir aber nicht schüchtern: Skynet ist keine realistische KI oder basiert auf realistischen Prinzipien. Und warum sollte es sein? Es ist das Monster, das sich unter deinem Bett versteckt, mit so vielen Zahnreihen und bösartigen roten Augen, wie es nötig ist, um dir den Schlaf zu rauben. Dieser Stil und Grad des bösen Roboters ist völlig imaginär. Es wurde noch nie etwas entwickelt, das den kognitiven Fähigkeiten oder grenzenlosen Fähigkeiten des Verteidigungsnetzwerks ähnelt. Selbst wenn es möglich wird, ein so vielseitiges System zu erstellen, warum sollten Sie ein Programm, das eine Reihe von Atomwaffen schnell abfeuern soll, in etwas verwandeln, das sich einem menschlichen Geist nähert?

"Die Leute denken, AI ist viel umfassender als es heißt, Daniel H. Wilson, ein Robotiker und Autor des New York Times- Bestseller-Romans Robopocalypse ." Typischerweise hat eine AI nur sehr begrenzte Ein- und Ausgänge. Vielleicht hört es nur auf Informationen von der IMU [Trägheitsmesseinheit] eines Autos, sodass es weiß, wann im Notfall die Bremsen betätigt werden müssen. Das ist eine KI. Die Idee einer KI, die das Problem der natürlichen Sprache löst - ein laufendes, sprechendes "Ich kann das nicht, Dave" -System - ist sehr phantasievoll. Diese Art von KI ist für jedes Problem zu viel des Guten. "Nur in der Science-Fiction übertrifft ein immens komplexes und ehrgeiziges Pentagon-Projekt die wildesten Erwartungen seiner Designer.

Im Fall von Skynet und ähnlichen Fantasien der Killer-KI wird die Absicht oder das Können der Entwickler des bösen Roboters oft als irrelevant angesehen, da sich die maschinelle Intelligenz von selbst einstellt, indem plötzlich alle verfügbaren Daten absorbiert werden oder mehrere Systeme zusammengeführt werden in ein einheitliches Bewusstsein. Das hört sich logisch an, bis Sie feststellen, dass AIs von Natur aus nicht gut zusammenspielen.

"Wenn wir darüber reden, wie intelligent eine Maschine ist, ist es für den Menschen wirklich einfach, sich zu verändern und falsch zu denken", sagt Wilson. „AIs bilden keine natürliche Klasse. Sie müssen nicht auf derselben Architektur aufbauen. Sie führen nicht dieselben Algorithmen aus. Sie erleben die Welt nicht auf die gleiche Weise. Und sie sind nicht darauf ausgelegt, die gleichen Probleme zu lösen. «

In seinem neuen Roman " Robogenesis" (erscheint am 10. Juni) untersucht Wilson die Vorstellung von fortschrittlichen Maschinen, die alles andere als monolithisch oder schwarmsinnig sind. "In der Robogenese gibt es auf der Welt viele verschiedene KIs, die für verschiedene Aufgaben und von verschiedenen Menschen mit unterschiedlichem Interesse für den Menschen entwickelt wurden", sagt Wilson. "Und sie stellen ein unterschiedliches Maß an Gefährdung für die Menschheit dar." Es versteht sich von selbst, dass Wilson setzt gerne auf den Mythos des bösen Roboters: Robopocalypse, den Stephen Spielberg als Option gewählt hat, enthält einen relativ klassischen, superintelligenten KI-Bösewicht namens Archos. Aber wie bei The Terminator ist dies Fiktion. Das macht Spaß. Archos hat eine kompliziertere und vertretbarere Motive, aber kein neuer böser Roboter kann Skynets Vermächtnis berühren.

Und Skynet ist kein isolierter Mythos automatisierter Gewalt, sondern eine Ansammlung mehrerer ineinandergreifender Science-Fiction-Mythen über Roboter. Es ist überkompetent und führt eine äußerst komplexe Mission der Zerstörung aus, einschließlich der Ressourcensammlung und -verwaltung, die für die Massenproduktion von automatisierter Infanterie, Saboteuren und Luftwaffe erforderlich ist. Und Skynet ist sich dessen bewusst, weil SF vorausgesagt hat, dass Maschinen dazu bestimmt sind, empfindungsfähig zu werden. Es ist eine Fantasie, die auf vergangenen Fantasien basiert und sehr unterhaltsam ist.

Ich schlage nicht vor, Hollywood einer Peer-Review zu unterziehen. Aber fiktive Killerroboter leben in einer Art rhetorischem Schwebezustand, der unsere Fähigkeit trübt, die mit nicht fiktiven, potenziell tödlichen Robotern verbundenen Risiken zu verstehen. Stellen Sie sich einen Artikel über Bedrohungen für die britische nationale Sicherheit vor, in dem Sie erwähnen, dass König Arthur im Ernstfall aus seinem jahrelangen mystischen Schlummer erwacht, um dieses grüne und angenehme Land zu schützen. Warum wäre das weniger lächerlich als die unzähligen und ständigen Verweise auf Skynet, eine nicht echte KI, die übernatürlicher ist als Supercomputer? Drohnenangriffe und automatisierte Börsenschwankungen haben ebenso viel mit Skynet zu tun wie mit Sauron, dem Nekromantenkönig von Der Herr der Ringe .

Wenn Sie also das zentrale Plot-Gerät des Terminators als vorgefertigten Punkt über die Fallstricke der Automatisierung benennen, erkennen Sie, was Sie tatsächlich tun. Sie sprechen von einem bösen Dämon, der in eine falsche Realität gerufen wurde. Oder, im Fall von Stephen Hawking, merken Sie, was Sie gerade lesen. Es sieht aus wie eine merkwürdig abgekürzte Warnung vor einer Bedrohung, die vom Aussterben bedroht ist. Tatsächlich geht es darum, wie Science Fiction super nette Ideen hat, und Sie sollten sich diesen Film mit Johnny Depp ansehen, denn vielleicht werden so Roboter jeden einzelnen von uns zerstören.

6 Gründe, um Ihr iPhone jetzt zu aktualisieren

6 Gründe, um Ihr iPhone jetzt zu aktualisieren

11 Gründe, warum man im Backcountry eine Plane braucht

11 Gründe, warum man im Backcountry eine Plane braucht

Lernen Sie die SpaceX-Schiffe kennen, die niemals ins All fliegen werden

Lernen Sie die SpaceX-Schiffe kennen, die niemals ins All fliegen werden