https://bodybydarwin.com
Slider Image

Das Ende ist KI: Die Singularität ist die glaubensbasierte Initiative von Sci-Fi

2021

Der zweite Teil einer Reihe von Beiträgen über die wichtigsten Mythen der Robotik und die Rolle der Science-Fiction bei deren Entstehung und Verbreitung. Vorherige und frühere Themen: Roboter sind stark, der Mythos der roboterhaften Hyperkompetenz, und Roboter sind böse, der Mythos der Killermaschinen.

1993 schrieb Vernor Vinge einen Artikel über das Ende der Welt.

"Innerhalb von 30 Jahren werden wir die technischen Mittel haben, um übermenschliche Intelligenz zu schaffen", schreibt Vinge. "Kurz danach wird die menschliche Ära beendet sein."

Zu dieser Zeit war Vinge eine Art Doppeldrohung - ein Informatiker an der San Diego State University sowie ein anerkannter Science-Fiction-Autor (obwohl seine Hugo-Preise später kommen würden). Dieser letzte Teil ist wichtig. Denn die Zeitung, die für ein NASA-Symposium geschrieben wurde, liest sich wie eine brillante Mischung aus faszinierender Science-Fiction und weltlicher Prophezeiung.

"The Coming Technological Singularity" (Die kommende technologische Singularität) skizziert eine Zeit, in der immer schnellere Zuwächse an Verarbeitungsleistung direkt an künstlicher Intelligenz vorbeiziehen - Systemen mit menschenähnlicher Erkenntnis und Empfindung - und hyperintelligente Maschinen entstehen lassen.

„Aus menschlicher Sicht wird diese Änderung ein Wegwerfen aller bisherigen Regeln sein, vielleicht im Handumdrehen, ein exponentieller Ausreißer, der jeder Hoffnung auf Kontrolle entgeht. Entwicklungen, von denen vorher angenommen wurde, dass sie nur in 'einer Million Jahren' stattfinden könnten (wenn überhaupt), werden wahrscheinlich im nächsten Jahrhundert stattfinden. “

Dies ist, was Vinge die Singularität nannte, ein Punkt in unserer kollektiven Zukunft, der durch das rasante Tempo der Technologie völlig und unwissentlich verändert wird. Die Singularität, die Vinge ausführlich untersucht, aber demütig auf den wegweisenden Mathematiker John von Neumann zurückführt, ist das Äquivalent eines schwarzen Lochs für den Futuristen und beschreibt, wie sich der Fortschritt selbst weiter beschleunigen wird Je näher der Beginn der Superintelligenz der Maschine rückt, desto schneller. Sobald künstliche Intelligenz (KI) erreicht ist, kann die globale Transformation Jahre oder nur Stunden dauern. Insbesondere zitiert Vinge eine SF-Kurzgeschichte von Greg Bear als Beispiel für das letztere Ergebnis, wie ein Prophet, der seine Argumentation für die kommenden Endzeiten mit Schriftstellen untermauert.

Aber der Punkt hier ist einfach - die Singularität wird durch Schwung kommen. Intelligente KIs werden geniale KIs hervorbringen, kybernetisch verbesserte Post-Human-KIs werden riesige Köpfe bilden, und diese großen digitalen Kräfte werden nicht nur jedes Bit verfügbarer Daten lernen und teilen, sondern auch neu definieren, wie Informationen gelernt und geteilt werden. "Das physische Aussterben der Menschheit ist eine Möglichkeit, schreibt Vinge, aber er lässt auch eine Zukunft zu, die von" gütigen Göttern "überwacht wird. Er malt eine lebendige Reihe von Optionen und diskutiert die psychologischen Fallen der digitalen Unsterblichkeit (unter Berufung auf eine weitere SF-Geschichte). dieses von Larry Niven) und die Aussicht, dass das Internet plötzlich in kollektiver, alptraumhafter Empfindung erwacht.

Um an die Singularität zu glauben, muss man an einen der größten Mythen glauben, die die Science-Fiction jemals erzählt hat: Roboter sind schlau.

Das dringendste Merkmal der Singularität ist ihre kurzfristige Gewissheit. Vinge glaubte, dass es bis 2023 oder spätestens 2030 erscheinen würde. Ray Kurzweil, ein versierter Futurist, Autor (sein 2006 veröffentlichtes Buch "The Singularity is Near" hat die Theorie populär gemacht) und kürzlich bei Google eingestellt, hat 2029 als das Jahr bezeichnet, in dem Computer mit der menschlichen Intelligenz mithalten und diese übertreffen werden. Je nachdem, mit welcher Leuchte Sie einverstanden sind, hat der Mensch zwischen 9 und 16 gute Jahre vor sich, bevor ein Pantheon von Maschinengottheiten entscheidet, was er mit uns machen soll.

Wenn Sie sich fragen, warum die Menschheit die Nachricht von ihrer bevorstehenden Irrelevanz mit solch stiller Gelassenheit behandelt, ist es möglich, dass die Spezies einfach in Ablehnung gerät. Vielleicht sind wir nicht bereit, die harten Wahrheiten zu akzeptieren, die von Vinge, Kurzweil und anderen klugen Köpfen gepredigt werden.

Genauso möglich ist jedoch eine andere Form der Verweigerung. Vielleicht kümmert sich niemand an der Macht um die Singularität, weil sie sie als Science-Fiction anerkennt. Es ist eine Theorie, die von einem SF-Autor vorgeschlagen wurde. Seine Konsequenzen sind in der Bildsprache von SF zusammengefasst. Um an die Singularität zu glauben, muss man an einen der größten Mythen glauben, die SF jemals erzählt hat: Roboter sind schlau und stehen immer kurz davor, schlauer zu werden als wir.

Mehr als 60 Jahre AI-Forschung weisen darauf hin. Deshalb ist die Singularität nicht mehr oder weniger als die Begeisterung für Nerds.

* * *

Bei aller Liebe zum Detail haben SF-Autoren die seltsame Angewohnheit, den Raum während der Geburt des Maschinengefühls zu verlassen.

Nehmen Sie Vernor Vinges 1981 erschienene Novelle True Names und seinen machtgierigen KI-Antagonisten. Es wird Mailman genannt, da es sich um eine Art Snail-Mail-Interaktion mit anderen Hackern in naher Zukunft handelt (zunächst tarnt es sich als einer von ihnen) und mindestens einen Tag benötigt, um eine einzelne Antwort zu erstellen. Als die räuberische Software schließlich eine kleine Gruppe von Hackern im Cyberspace bekämpft, dehnt sich Vinges Beschreibung nach Seiten aus, da beide Seiten die kollektive Rechenleistung des gesamten vernetzten Globus beherrschen, was zu weit verbreiteten Ausfällen und Marktabstürzen führt.

Und doch werden die Ursprünge des Mailman - des weltweit ersten wirklich selbstbewussten Computersystems - in der letzten Szene der Novelle auf einige Absätze reduziert. Die KI wurde ein Jahrzehnt zuvor von der NSA gegründet und war ein undenkbares Sicherheitsprogramm, ein automatisierter Sleeper-Agent, der in einem bestimmten Computernetzwerk sitzen und nach und nach Daten und Erkenntnisse sammeln sollte. Die Regierung hat das Projekt getötet, aber versehentlich eine Prise Code hinterlassen. Wie ein Hacker erklärt: "Im Laufe der Jahre wuchs es langsam - sowohl aufgrund seiner natürlichen Tendenzen als auch aufgrund der erhöhten Leistung der Netze, in denen es lebte."

Das ist es. Die größte Errungenschaft auf dem Gebiet der KI geschieht zufällig und unbemerkt.

Um Vernor Vinge gerecht zu werden, ist dies eines der häufigsten Ausweichmanöver bei SF-Robotern. In dem 1970er-Film Colossus: The Forbin Project und dem 1966er-Roman, auf dem es basierte, ist wahre KI das spontane Nebenprodukt zweier AIs-nahen Treffen. Colossus, ein automatisiertes Verteidigungssystem, das für das amerikanische Atomarsenal zuständig ist, beginnt, Informationen mit seinem sowjetischen Amtskollegen Guardian auszutauschen. Was auch immer die beiden Programme zu sagen haben, das Publikum sieht oder hört es nie und die menschlichen Charaktere auch nicht. Die Systeme mischen sich und entstehen innerhalb weniger Minuten als eine einzige, allwissende Einheit. Gleiches gilt für den spirituellen Nachfolger von Colossus, Skynet. In The Terminator von 1984 erfahren wir, dass das genozidale Militärsystem einfach "schlau geworden" ist. Fall abgeschlossen. Die Fortsetzung von 1991 fügt einige weitere Details hinzu, die besagen, dass Skynet ungefähr 25 Tage nach dem Einschalten selbstbewusst wurde. Später würden weniger einflussreiche Terminator- Fortsetzungen den plötzlichen Aufstieg des Systems erläutern und beweisen, dass aus narrativer Sicht einige Bösewichte besser im Schatten gelassen werden. Aber die ersten beiden Filme sind entschlossen, sich von der fiktiven Mechanik des Maschinengefühls abzuwenden.

In all diesen Geschichten ist die Botschaft jedoch identisch: Die Ankunft der KI ist prädestiniert. Die Logik fordert es, basierend auf der einfachen, unwiderlegbaren Beobachtung, dass Computer sich so schnell verbessern. Bei all dieser Dynamik ist es unvermeidlich, dass automatisierte Systeme von vornherein in die Empfindung geraten. Es ist so selbstverständlich, dass jede flüchtige Websuche eine Reihe ähnlicher Behauptungen von nicht-fiktiven KI-Forschern hervorbringt.

Leider zeigen dieselben Suchergebnisse, wie schrecklich KI-Forscher die Zukunft vorhersagen. Die schlimmsten Straftäter sind zwei der Giganten des Feldes. 1957 prognostizierte der Informatiker und zukünftige Nobelpreisträger Herbert Simon, dass die Psychologie bis 1967 ein weitgehend computergestütztes Gebiet sein und ein Computer einen Schachweltmeister aus Fleisch und Blut schlagen würde. Mit letzterer Behauptung hatte er 30 Jahre Verspätung, und erstere ist heute genauso rätselhaft wie 1957. Aber Simon war in Fahrt und kündigte 1965 an, dass „Maschinen innerhalb von zwanzig Jahren in der Lage sein werden, jegliche Arbeit zu verrichten ein Mann kann das. "

Marvin Minsky, Mitbegründer des MIT Artificial Intelligence Laboratory, äußerte sich noch optimistischer zu künstlicher allgemeiner Intelligenz (AGI), dem in der KI-Forschung am häufigsten verwendeten Begriff für Maschinen-Smarts auf menschlicher Ebene. 1970 schätzte Minsky seine Ankunft in nur drei bis acht Jahren.

Seien Sie versichert, AGI ist 1978 oder 1985 nicht heimlich aufgetaucht und hat begonnen, Daten im Terrabyte-Bereich zu verschlingen. Aber das hat Vinge und Kurzweil nicht davon abgehalten, ihre eigenen Fristen zu setzen. Es hat die Singularität auch nicht vollständig als eine Wiederholung des grenzenlosen, nicht unterstützten Optimismus entlarvt, der die KI-Forschung über Jahrzehnte hinweg belastet hat (zufälligerweise kurz nach Minskys Vorhersage von 1970). Wie Charaktere, die in der Zeitschleife des Terminators gefangen sind, scheinen wir dazu verdammt, denselben Zyklus von Prophezeiung und Verlegenheit zu wiederholen und den zentralen Fehler von Simon und Minsky zu wiederholen.

Um zu sehen, dass AGI unvermeidlich ist, muss man wie SF so oft vorgehen und sich Roboter als monströse oder messianische Genies vorstellen, die darauf warten, dass sie passieren, und Menschen als Dummköpfe.

* * *

Wenn Sie einer der wahren Anhänger der Singularität sind, sind Sie wahrscheinlich mit einer schockierenden Menge an Fachsprache bewaffnet, die aus der Schnittstelle von KI-Forschung und Neurowissenschaften entlehnt wurde. Wie jede große Prophezeiungssprache entzünden diese Wörter den Verstand, auch ohne näher darauf einzugehen. Neuronale Netze. Neuromorphe Systeme. Computergehirne funktionieren wie unsere eigenen und sind es in gewisser Weise schon seit Jahrzehnten. Es gibt vielversprechende Projekte aus der Praxis, wie das 1, 3 Mrd. USD teure Human Brain Project der EU, dessen ehrgeiziges Ziel darin besteht, eine vollständige digitale Simulation eines biologischen Gehirns zu erstellen und dieses Modell zum Antrieb physikalischer Roboter zu verwenden. Wahrlich, die Singularität liegt bei uns.

Mit wenigen Ausnahmen führt der Weg zur maschinellen Hyperintelligenz direkt durch das menschliche Gehirn. Und jeder, der behauptet, die biologische Intelligenz zu verstehen, ist ein Narr oder ein Lügner.

Die Neurowissenschaften haben unglaubliche Fortschritte bei der direkten Beobachtung des Gehirns erzielt und Verbindungen zwischen elektrischer und neurochemischer Aktivität und einigen Verhaltensformen hergestellt. Aber je näher wir dem Geist kommen, desto komplexer erscheinen seine Strukturen und Muster. Ziel des Human Brain Project und der US-amerikanischen BRAIN-Initiative ist es, die Tatsache anzugehen, dass wir erstaunlich wenig darüber wissen, wie und warum Menschen an etwas denken. Diese Projekte sind keine Anzeichen für einen Triumph über unsere Biologie oder Anzeichen dafür, dass die Ziellinie in der Nähe ist. Sie geben Demut zu.

Unterdessen glauben die Befürworter der Singularity immer noch, dass Intelligenz durch bloße Rechenleistung brachial ins Leben gerufen werden kann. Egal, dass Simon und Minsky dasselbe dachten und sich als absolut, peinlich falsch erwiesen haben oder dass der einzige Beweis dafür, dass dieser Ansatz funktioniert, überhaupt kein Beweis ist, sondern Science-Fiction. In diesen Geschichten ist AGI so machbar, dass es sich praktisch wünscht, es zu sein.

"Jeder, der echte Wissenschaft geleistet hat, sei es im Labor oder im Programmieren, weiß, dass es nicht so ist, als ob Sie auf Compile klicken, und plötzlich funktioniert Ihr Programm einwandfrei. Ramez Naam, ein SF-Autor, Technologe, sagt, KI-Patentinhaber und ironischerweise Dozent an der Singularity University. Obwohl Naams eigene Romane das Vernetzen und Hochladen des menschlichen Bewusstseins beinhalten, ist er einer der lautstärksten Kritiker der Singularität nicht anders als unsere veralteten AI-Erwartungen.

»Wenn Sie vor 50 Jahren jemanden gefragt hätten, wie der erste Computer aussehen würde, der einen Menschen im Schach besiegt, würden sie sich eine allgemeine KI vorstellen«, sagt Naam. Es wäre eine empfindungsfähige KI, die auch Gedichte schreiben und eine Vorstellung von richtig und falsch haben könnte. Und das ist es nicht. Es ist überhaupt nichts dergleichen. “Obwohl es 1997 Garry Kasparov übertroffen hat, ist IBMs Deep Blue der Empfindung nicht näher als ein ThinkPad-Laptop. Und trotz seiner Gefährdungsstärke kann IBMs Watson weder Schach spielen noch eines von Googles Roboterautos fahren, sagt Naam. »Wir tendieren sowieso nicht zur allgemeinen KI. Wir bauen einfach immer bessere Spezialsysteme. «

Selbst wenn Sie verschiedene spezialisierte Systeme umständlich aufeinander übertragen würden, würde dies nicht zu AGI führen. Tatsächlich könnte das in SF funktionieren, wo AGIs nach denselben vereinfachten Regeln wie Hollywoods Hackerversion zu spielen scheinen, in der Lage sind, krasse Unterschiede in Programmiersprachen und Datenprotokollen zu beseitigen und Informationen wie ein Zauberer zu siphonen und zu nutzen Es ist eine arkane, grenzenlose Ressource. Vorausgesetzt, Sie könnten eine Ansammlung intelligenter Maschinen in einem System vereinen, würde dies nicht auf magische Weise zu kreativer, adaptiver Erkenntnis oder Lernfähigkeit führen (anstatt sich diese zu merken). Obwohl die menschliche Intelligenz erst noch quantifiziert werden muss, wissen wir zumindest, dass sie zutiefst nichtlinear ist. Synaptische Aktivitäten können über weite, scheinbar nicht zusammenhängende Regionen des Gehirns fließen, wodurch Geschwindigkeit und Effizienz für eine sich wiederholende, weitreichende Flexibilität geopfert werden. Und unsere Erinnerungen sind formbar und unvollständig wie nichts in der codierten oder mechanischen Welt. Sind das Design-Fehler, die behoben werden sollen? Oder sind sie Merkmale und ein Beweis dafür, dass Intelligenz eine Black Box ist, bei der wir immer noch nicht über die Werkzeuge verfügen, um richtig aufzubrechen? Dies sind die Fragen, die noch beantwortet werden müssen, bevor jemand die ersten primitiven Versuche unternehmen kann, AGI von Grund auf neu zu erstellen oder auf irgendeine Weise Menschen und Maschinen zu einem Hybrid zusammenzuführen, der darauf hinausläuft.

Ich behaupte nicht, dass Maschinengefühl eine Unmöglichkeit ist. Durchbrüche können nicht ausgeschlossen werden, bevor sie nicht aus der Luft kommen. Der Glaube an die Singularität sollte jedoch als ein säkulares, SF-basiertes Glaubenssystem anerkannt werden. Ich versuche nicht schüchtern zu sein, wenn ich es mit Prophezeiungen und Science Fiction vergleiche. Da es keine Beweise für die bevorstehende Explosion der maschinellen Intelligenz gibt und die AGI-Fristen, die gekommen und gegangen sind, absichtlich ignoriert werden, verlässt sich die Singularity stattdessen auf das Winken von Hand. Das ist SF-speak für einen nicht näher bezeichneten Technologiesprung. Es gibt jedoch einen anderen Namen für diese Art von Verknüpfung. Es heißt Glaube.

44 Prozent Rabatt auf einen KitchenAid-Mixer und andere tolle Angebote, die heute stattfinden

44 Prozent Rabatt auf einen KitchenAid-Mixer und andere tolle Angebote, die heute stattfinden

In dieser spektakulären Blooper-Rolle krachen und brennen SpaceX-Raketen

In dieser spektakulären Blooper-Rolle krachen und brennen SpaceX-Raketen

Wie Sie Ihre Wäsche waschen, ohne sie zu strapazieren

Wie Sie Ihre Wäsche waschen, ohne sie zu strapazieren