https://bodybydarwin.com
Slider Image

Roboter sind stark: Der Science-Fiction-Mythos der Roboterkompetenz

2021

Der erste in einer Reihe von Beiträgen über die wichtigsten Mythen der Robotik und die Rolle der Science-Fiction bei ihrer Entstehung und Verbreitung. Andere Themen: Roboter sind schlau, der Mythos der unvermeidlichen KI, und Roboter sind böse, der Mythos der Killermaschinen.

Letzte Woche habe ich mit einer nicht ganz einfachen Frage eine kleine Störung im Internet verursacht: Sollte ein Roboterauto das Leben seines Besitzers opfern, um zwei Fremden zu ersparen?

Es sollte nie eine rhetorische Frage sein. Nachdem ich mich mit Patrick Lin, dem Robo-Ethiker der California Polytechnic State University, unterhalten hatte, der zunächst das Thema ethische Fahrzeuge in einem Interview für Wired vorstellte und mit einem Rechtsprofessor und Prodekan an der Brooklyn Law School über die rechtlichen Konsequenzen diskutierte, wurde ich überzeugt: Für das Wohl unserer Spezies ist die Antwort eine zusammenzuckende, aber vollherzige Bestätigung. Wenn ein autonomes Fahrzeug wählen muss, ob es in die Wenigsten stürzt, um die Vielen zu retten, sollten diese ethischen Entscheidungen im Voraus ausgearbeitet und in seine Algorithmen eingearbeitet werden. Für mich deuten alle anderen Optionen auf ein Chaos von Rechtsstreitigkeiten oder einen monströsen, maschinengestützten Battle Royale hin, da alle Roboter - ob im Automobilbereich oder auf andere Weise - der Sicherheit ihrer Besitzer Vorrang einräumen und die natürliche Auslese auf die Straße lenken.

Die Reaktion auf diese Geschichte war vielfältig, wie es für ein so komplexes Gedankenexperiment sein sollte. Es zeigten sich jedoch einige Trends.

Erstens gab es die üblichen Kommentare zu Robo-Phobics, die möglicherweise über meine Überschriften hinaus oder über die Zusammenfassungen hinaus gelesen haben, die in Antwortstücken zu Gizmodo und Slate vorgestellt wurden . Der (bisher) beliebteste Kommentar auf Facebook: "Genug, um zu rechtfertigen, dass NIEMALS Roboter oder selbstfahrende Autos hergestellt werden. Ethische und moralische Entscheidungen sollten von Menschen getroffen werden, nicht von ihren Kreationen." In ähnlicher Weise wurde über Skynet gesprochen, weil Terminator- Referenzen ebenso unbezwingbar sind wie die fiktiven Robotermörder des Films, obwohl sie genauso humorlos sind und auf nichts basieren, was jemals im wirklichen Leben passiert ist.

Die interessanteren Antworten waren jedoch die Entlassungen, die in zwei Varianten erfolgten: die Empfehlung, dass alle Roboterautos einfach dem ersten Gesetz der Robotik des legendären SF-Autors Isaac Asimov folgen sollten (dass ein Roboter einem Menschen durch Handlung oder Untätigkeit keinen Schaden zufügen darf) oder Vorhersagen, dass Roboterautos so unfehlbar sein werden, dass tödliche Kollisionen obsolet werden. „Ich glaube nicht, dass dies ein Problem sein würde“, schrieb Reddit-Benutzer iamnotmagritte. „Die Autos würden wahrscheinlich miteinander kommunizieren und die Situation insgesamt vermeiden, und falls dies nicht ausreicht, sollten sie sich gegenseitig mitteilen, zu welchen Pfaden sie gehen sollen Vermeiden Sie jeden Absturz. "Während einer Twitter-Diskussion mit Tyler Lopez, der das zugehörige Slate- Stück schrieb und einige hervorragende Punkte über die technische und rechtliche Unfähigkeit aktueller autonomer Autos machte, jegliche Art von" who do i kill? "- Wagenproblem zu lösen, Lopez teilte diese Ansicht. Da Fahrzeuge und Straßeninfrastruktur miteinander vernetzt waren, schlug er vor, dass die mit dem moralischen Algorithmus verbundenen Gefahren stattdessen durch Netzwerkalgorithmen gelöst würden. "

Mit anderen Worten, Roboter müssen lediglich angewiesen werden, niemanden zu töten, geschweige denn zwei Personen, und sie werden diese Mission maschinengenau ausführen.

Das ist beunruhigend. Für mich ist es ein Beweis für etwas, das ich seit Jahren vermutet habe, das ich aber nicht aussprechen oder zumindest erwähnen konnte, ohne noch mehr wie ein unerträglicher Snob zu wirken. Aber hier ist es: Menschen verstehen im Großen und Ganzen nicht, wie Roboter arbeiten.

Dies sollte keine große Überraschung sein. Die Robotik ist ein immens komplexes Forschungsgebiet, und nur ein verschwindend kleiner Teil der Menschheit bildet aus oder arbeitet als Robotiker. Aber man könnte das auch von der Physik sagen, und dennoch fühlt sich der Durchschnittsmensch nicht qualifiziert, die Mechanismen der Gravitationslinsenbildung oder die gruselige Machbarkeit alternativer Universen, die sich bei jeder Entscheidung, die wir treffen, verzweigen, beiläufig einzuschätzen.

Worum geht es also bei Robotern, bei denen angenommen wird, dass sie sie verstehen?

Auch das ist keine rhetorische Frage. Die Antwort ist Isaac Asimov. Oder allgemeiner Science Fiction. SF-Autoren haben den Roboter erfunden, lange bevor es möglich war, einen zu bauen. Auch wenn automatisierte Maschinen aus der modernen Existenz nicht mehr wegzudenken sind, kommt der Roboter SF immer weiter. Und im Großen und Ganzen lügt es weiter. Wir glauben zu wissen, wie Roboter funktionieren, weil wir Lagerfeuergeschichten über solche gehört haben, die es nicht gibt.

Ich werde mich in zukünftigen Beiträgen mit anderen wichtigen Mythen der Robotik befassen, aber beginnen wir mit der für Roboterautos wichtigsten und der Notwendigkeit, ethische Rahmenbedingungen für jede autonome Maschine zu entwickeln, die in unserer Mitte arbeitet.

Sprechen wir über den Mythos der Roboterkompetenz.

* * *

»Vertraue mir«, sagt Bishop, bevor sich das Messer in Bewegung setzt. In einer der berühmtesten Szenen eines Films voller berühmter Szenen sticht der Androide (gespielt von Lance Henriksen) den Tisch zwischen seinen gespreizten Fingern, und die des Space Marine stecken seine Hand fest. Er ersticht andere Lücken, und das Tempo nimmt zu, bis die Klinge verschwimmt und der Tisch in Staccato-Wahnsinn geraten ist. Wenn er fertig ist, sehen wir, dass Bischof sich leicht geklaut hat. Aber der arme Marine ist unversehrt. Eine tapfere Leistung, die nur ein Nebeneffekt ist, wenn man eine künstliche Person ist.

So stellt Aliens seinen residenten Roboter und sein unmenschliches Maß an Kompetenz vor. Bishop verfügt nicht nur über unheimliche Messerkenntnisse und Hand-Auge-Koordination, sondern ist auch unerschütterlich tapfer, unmenschlich immun gegen Klaustrophobie, er ist in der Lage, Kampfraumschiffe fachmännisch zu steuern (nicht gerade Standardausbildung für einen medizinischen Offizier), und ist kaum beeindruckt, wenn sein Körper in zwei Hälften zerrissen wird . Wirklich, es gab keinen Grund, Menschen auf diese verdammte Wanzenjagd zu schicken. Eine Besatzung aus bewaffneten Kunststoffen - die - wie Bishop - Schaden anrichten sollte - hätte von LV-426 aussteigen können, ohne dass ein Tropfen ihres weißen Blutes vergossen worden wäre.

Warum genau ist Bischof so ein bemerkenswertes Exemplar? Es ist nicht so, dass Aliens in unsere Zukunft geblickt und die Geheimnisse der Robotereffizienz gelüftet haben, die moderne Robotiker erst noch entdecken müssen. Es ist, weil, wie die meisten SF, der Film eine Arbeit der Abenteuererfindung ist. Und wenn es das Hauptziel einer Geschichte ist, zu begeistern, müssen ihre Roboter begeistern.

Aliens setzt lediglich eine Tradition fort, die auf das erste inoffizielle Android der Literatur zurückgeht, Frankensteins Monster, ein versammeltes Wesen, dessen übermenschliche körperliche und geistige Begabung nicht auf der Qualität der Rohstoffe beruht - er wurde nicht von olympischen Athleten zusammengenäht und Nobelpreisträger. Die Perfektion des Monsters ist genauso unerklärt wie die von Bishop oder unzähligen anderen fiktiven Automaten, von Star Treks Daten bis zu Almost Human 's Dorian. Man könnte natürlich die Gründe erraten. Wo der Mensch ein zufälliges Durcheinander von genetischen Merkmalen ist, werden einige wertvolle, andere schlecht angepasste Roboter sorgfältig optimiert. Maschinen werden nicht müde oder verlieren die Nerven. Obwohl ihre Programmierung kompromittiert werden kann oder plötzlich unangenehme Überlebensinstinkte auftauchen, ist ihre Fähigkeit, Aufgaben zu erfüllen, sichergestellt. Roboter sind so unfehlbar wie die Schweizer Uhren, von denen sie abstammen.

Der Mythos der Roboterkompetenz basiert auf einer Ahnung. Und es ist eine Vermutung, die von echten Robotern größtenteils als absolut falsch erwiesen wurde.

Tatsächliche Roboter sind Geräte von äußerst geringem Wert und Fähigkeit. Sie machen ein oder zwei Dinge mit Kompetenz und alles andere schrecklich oder gar nicht. Auto-Assembly-Bots können ein Fahrzeug in einem Bruchteil der Zeit, die eine menschliche Besatzung möglicherweise benötigt, und ohne gesundheitliche Bedenken lackieren oder punktschweißen. Das ist ihr Messertrick. Bitten Sie sie jedoch, Polster anzubringen, und sie würden das Fahrzeug höchstwahrscheinlich in Stücke schlagen.

Roboterautos verfügen derzeit über ein ähnliches Know-how wie Roboterautos. Wie der Atlantik kürzlich beschrieben hat, benötigen fahrerlose Fahrzeuge von Google detaillierte LIDAR-Karten - 3D-Modelle, die mit Lasern erstellt wurden, die die Konturen einer bestimmten Straße abfahren. Autonome Autos müssen beeindruckende Dinge tun, zum Beispiel die Nähe umliegender Autos erkennen und die Vorfahrt an Kreuzungen bestimmen. Sie sind jedoch algorithmisch an ihre Laserstraßen gebunden. Sie bleiben auf dem vorgeschriebenen Kurs und folgen einer Spur sensorgenerierter Brotkrumen. Verglichen mit dem, womit die Menschen zu kämpfen haben, sind diese Roboter die am besten geschützten permanenten Studentenfahrer. Niemand befragt sie, indem er Fußgänger oder betrunkene Fahrer auf ihren Weg schickt oder sie durch nicht kartierte, schneebedeckte Feldwege umleitet. Ihre Fähigkeit, tödliche Kollisionen zu vermeiden, bleibt ungetestet.

Natürlich werden sie besser. Die Sensoren werden sich verbessern und vermehren, die Steuerungsalgorithmen werden robuster, und vielleicht beginnen die Roboter miteinander zu sprechen und warnen sich gegenseitig vor drohender Gefahr. Der Sprung von einer Welt ohne Abstürze zu einer Welt ohne Abstürze ist jedoch eine Annahme, die von den harten Realitäten der Robotik im Besonderen und mechanischen Geräten im Allgemeinen nicht gut unterstützt wird. Maschinen brechen. Software stolpert. Die Automobilumgebung ist eine der strafbarsten und herausforderndsten im gesamten technischen Bereich. Sie erfordert Komponenten, die wilden Temperaturschwankungen, tückischen Straßenzuständen und dem unerwarteten Ausfall anderer Komponenten in einem komplizierten, ineinandergreifenden System standhalten. Es gibt nur einen Weg anzunehmen, dass Roboter immer wissen, dass ein Reifen im Begriff ist zu pusten, oder dass sie den Notfall an alle Autos in der Nähe senden können, von denen jedes mit der augenblicklichen, wunderbaren Leistung eines Hollywood-Stuntfahrers reagiert. Dafür können Sie kein Robotiker sein oder jemand, dessen Computer unerklärlich abgestürzt ist oder dessen WiFi jemals ausgefallen ist oder dessen Streaming-Video momentan stottert. Um in den Mythos der Roboterkompetenz - oder wirklich der Hyperkompetenz - einzusteigen, muss man glauben, dass Roboter perfekt sind, weil SF es so sagt.

* * *

Wenn jemand Isaac Asimovs Gesetze der Robotik zitiert, ist das ein unbeabsichtigter Hilferuf. Es bedeutet, dass er oder sie Roboter als ein modernes Märchen sieht, die von Google gebauten Nachfolger des glitchy alten Golems des jüdischen Mythos.

Aber Asimovs Gesetze waren nicht dazu gedacht, zukünftige Dilemmata in Verbindung mit Robotern mit der Kraft von Leben und Tod zu lösen. Sie sind Erzählgeräte, deren übersichtliche, vereinfachte Anweisungen Lücken, Widersprüche und logische Lücken zulassen, die zu überzeugenden Geschichten führen können. Wenn Sie eines dieser Gesetze zitieren, geraten Sie in eine Doppelfalle, die dieselbe gefährlich enge Argumentation verwendet wie die Hersteller und Entwickler von Asimovs Robotern (die angeblich falsch handeln). Und noch schlimmer, Sie verlassen sich auf Fantasien, um Ihr Denken über die Realität zu lenken. Selbst wenn es möglich wäre, einfach allen Robotern zu befehlen, niemals eine Person zu verletzen, es sei denn, sie sind plötzlich in der Lage, die Gesetze der Physik zu überwinden oder den Blue Screen of Death in all seinen Wechselfällen zu verbannen, werden große automatisierte Maschinen rollen oder stolpern oder in Menschen stürzen. Dies mag selten sein, aber für einige arme Seelen ist es unvermeidlich. Das Militär, immer noch der größte Anbieter von F & E-Mitteln für Robotik, hat möglicherweise etwas darüber zu sagen, dass das Erste Gesetz auf alle derartigen Maschinen angewendet wird.

Was nicht heißt, dass SF bedeutet, uns über Robotik in die Irre zu führen, oder ignoriert werden sollte. Ich habe mit vielen Robotikern und Forschern der künstlichen Intelligenz gesprochen, die von überkompetenten Schurken inspiriert waren, vom HAL 9000 des Jahres 2001 bis zum T-800 des Terminators . Der Traum von Roboterkraft ist berauschend. Dass die Systeme, die diese Wissenschaftler erstellen, normalerweise blasse Schatten menschlicher Kompetenz sind, ist eine bloße Tatsache der Robotik. Schließlich geht es bei der Automatisierung in fast allen Fällen nicht darum, eine übermenschliche Fähigkeit zu schaffen. Es geht darum, Menschen aus der Gleichung herauszunehmen, Geld zu sparen oder ihr Leben zu retten oder ihnen die Zeit und die Mühe zu ersparen, etwas Langweiliges zu tun. Eine Predator-Drohne ist kein besseres Flugzeug als ein bemannter F-16-Jäger, weil sie ein Roboter ist. Tatsächlich ist es überhaupt kein besseres Flugzeug. Drohnen sind ausnahmslos die am wenigsten beeindruckenden Militärfahrzeuge am Himmel. Aber sie sind klein und billiger zu kaufen und einzusetzen als eine richtige Tötungsmaschine in der Luft. Diese Technologie ist "gut genug", wenn Sie ein Bodenziel in einer Region ermorden möchten, in der Luftverteidigungstechnologie für Deckung sorgt. Aber stellen Sie sie gegen traditionelle Angriffsfahrzeuge oder Systeme, die darauf ausgelegt sind, in Flugzeuge einzudringen, und bewaffnete Drohnen werden sich nur dadurch auszeichnen, dass sie zu rauchenden Ruinen werden.

In sehr speziellen, sehr begrenzten Anwendungen sind Roboter stark. In den meisten Fällen sind sie jedoch schwach. Sie sind kostengünstige Ersatzprodukte. Oder es handelt sich um unglaublich bescheidene Geräte, wie die unbeholfenen, unbeholfenen Humanoiden der DARPA Robotics Challenge, die dafür bekannt sind, dass sie sich nach und nach durch Aufgaben (Fahren eines Fahrzeugs, Überqueren von Trümmern, Verwenden eines Elektrowerkzeugs) kämpfen, die jede leistungsfähige Person ausführen würde exponentiell weniger Zeit. Journalisten sind oft an diesem Mythosbau beteiligt. Sie steigern die automatisierten Fähigkeiten, romantisieren die Entscheidungsfindung bei der Bewältigung einer Aufgabe durch einen Roboter oder verwandeln jede Diskussion über Exoskelette und fortschrittliche Prothesen für Behinderte in eine strahlende Prophezeiung über die kommenden Iron Man-ähnlichen Fähigkeiten. Wo Journalisten falsche, SF-bezogene Vorurteile über Robotertechnologie abbauen sollten, verweisen sie stattdessen auf die Geschichten des Derring-Do und bekräftigen das Gefühl, dass SF die ganze Zeit Recht hatte. Egal, ob es sich um eine Schein-Szenerie handelt oder um eine verzerrte Medienberichterstattung, Roboter sind stark, denn alles andere wäre ein Buzzkill.

Das macht mich zu dem Typ, der ernsthaft auf jeder Roboterparty kackt. Ich denke, es gibt jedoch eine andere Option. Roboter können beeindruckend sein, ohne überbewertet zu sein. Ein Roboterglied kann eine bemerkenswerte Leistung sein, da es die Unabhängigkeit eines Amputierten wiederherstellt, und nicht, weil Almost Human sich vorstellt, dass ein bionisches Bein großartig ist, um Menschen durch den Raum zu treten. Es ist möglich, SFs Gedankenexperimente und vage Vorhersagen zu lieben, während man erkennt, dass es nicht im besten Interesse von SF ist, streng genau zu sein. Roboter neigen nicht dazu, in die langweilige Literatur über Hochschulprofessoren und ihre verzweifelten Angelegenheiten zu schlurfen. Fiktive Maschinen sind die besseren, aufgewerteten Engel unserer Natur, die ihre Schöpfer mit unvorstellbarem Verstand und körperlichem Können beschützen. Häufiger erheben sie sich in makellosen, einseitigen Coups gegen ihre Meister, die ungefähr so ​​machbar (und unmöglich aus der Popkultur zu verbannen) sind wie Zombieausbrüche. Roboter sind perfekt, weil das die Version von Robotern ist, die am meisten Spaß macht.

Das ist eine dumme Art, über echte Roboter nachzudenken oder darüber zu sprechen, die zusammenbrechen und zu kurz kommen. Die Automatisierung verändert unsere Gesellschaft auf beunruhigende und aufregende Weise. Mord (an einigen Orten) ist mit Robotern einfacher. Kollisionen könnten eines Tages mit Robotern reduziert werden. Maschinenautonomie vernichtet ganze Berufe und schafft oder verbessert andere. Roboter haben erst begonnen, das menschliche Leben neu zu konfigurieren. Halten Sie für einen Moment den Mund über die künstlichen Helden und Schurken von SF und die einfachen, schlecht informierten Fantasien, die die Lücken des technischen Verständnisses füllen. Es gibt zu viele tatsächliche, fehlbare Roboter, über die man sprechen kann. Und in unserem kurzen, brutalen Fleischsackleben bleibt nur so viel Zeit, um zu besprechen, was wir mit ihnen machen werden.

Das schmutzige Geheimnis des Recyclings: Die meisten Dinge, die recycelt werden könnten, sind es nicht

Das schmutzige Geheimnis des Recyclings: Die meisten Dinge, die recycelt werden könnten, sind es nicht

Schwerkraft und gutes Timing halfen dem Hubble, einen Stern aus dem frühen Universum zu erkennen

Schwerkraft und gutes Timing halfen dem Hubble, einen Stern aus dem frühen Universum zu erkennen

Diese Grafiken zeigen Amerikas komplizierte Beziehung zur körperlichen Betätigung

Diese Grafiken zeigen Amerikas komplizierte Beziehung zur körperlichen Betätigung