Keanu im Kopf: Cyberpunk 2077s KI und was dazu noch fehlt
Datenschutz in der Dystopie und mehr Themen im Expertengespräch
Über Cyberpunk 2077 kann man viel philosophieren und beim Spielen gingen mir einige Fragen durch den Kopf: Wie kann man eine ganze Persönlichkeit auf einem Chip speichern? Werden in 50 Jahren wirklich nur noch Großkonzerne die Welt regieren? Was macht Technologie mit uns? Wie viele Seiten EULA muss ich lesen, bevor ich Raketen in meine Waden einbaue? Wie weit ist es wirklich noch vom DualSense-Controller bis zum Braindance? Und vor allem: Endet ein Johnny Silverhand irgendwann auch in meinem Kopf?
Vielleicht gingen euch auch ganz andere Fragen durch den Kopf, aber ich dachte mir: Ganz ehrlich, warum holen wir nicht mal jemanden, der sich mit künstlicher Intelligenz in Videospielen auskennt. Jemand, der uns über den Inhalt und die Plausibilität dieses Cyberpunk-Spiels so richtig aufklären kann.
Prof. Dr. Stephan Schwingeler ist Kunsthistoriker und Medienwissenschaftler und beschäftigt sich jetzt schon seit mehr als einem Jahrzehnt mit Computerspielen in Medien und Kunst. Er schrieb 2008 "Die Raummaschine - Raum und Perspektive im Computerspiel". Ein Buch, dass sich mit der Räumlichkeit in Spielen beschäftigt. 2014 erschien "Kunstwerk Computerspiel - Digitale Spiele als künstlerisches Material", das erhellend eine Debatte einschaltete, die Spieler und Beobachter dieses Mediums nicht erst seit gestern umtreibt. Im Zuge dessen gewann Prof. Dr. Schwingeler viele Einblicke über Science Fiction und künstliche Intelligenz in den Game Studies, weshalb er der perfekte Gesprächspartner zu meinen vielen philosophischen und theoretischen Fragen wurde.
Wenn ihr euch das Video jetzt anschaut, dann philosophiert gerne mit und teilt uns gerne Eure Perspektiven und Gedanken zu diesen doch sehr weit gefächerten Themenbereichen mit. Hier folgt nur ein kleiner Ausschnitt mit den wichtigsten Themen im Interview:
Schaut euch das vollständige Video an, unten findet ihr ein paar Highlights zum Lesen, die Zeitangaben, von wo diese Stellen stammen findet ihr auch dort.
Es fängt immer mit Space Invaders an.
Eurogamer.de (4:25): Wie wahrscheinlich ist es, dass so eine große Menge an Informationen irgendwann Mal überhaupt auf so einem Silizium-Splitter landet? Gibt es bereits Beispiele für Hardware, die große Ladungen an Informationen im menschlichen Gehirn abspielen kann?
Schwingeler: Ja so etwas ähnliches gibt es tatsächlich. Es wird bereits an sogenannten BCIs gearbeitet: Brain Computer Interfaces. Es geht ja hier um die Frage nach der Schnittstelle. Wie kommen Informationen in etwas rein? Was gibt es für Berührungspunkte zwischen dem Gehirn und irgendeiner Information, die abgespeichert ist? Und in der Realität - in der aktuellen Forschung - ist es so, dass das nicht über SD-Karten oder so funktioniert, sondern über EEGs - also über Schnittstellen. Die werden auf den Kopf gesetzt und die messen die elektrische Aktivität der Hirnströme: Elektroenzephalographie. Und damit kann man tatsächlich schon was anfangen!
Man kann damit zum Beispiel Prothesen steuern. In der Prothetik wird das so gemacht, dass man Schnittstellen schafft zwischen dem Gehirn und einem "Ding", einer Hardware. Und das funktioniert ganz wunderbar. Damit kann man sogar schon einfache Computerspiele spielen. Ich habe selbst schon mal mit meinen Gehirnströmen auf einer Gamescom (glaub ich) Space Invaders gespielt. Und da denkt man dann an "links" und die Kanone geht nach links - oder man denkt an "rechts" und die Kanone geht nach rechts.
Das kann man durch eine BCI tatsächlich schon herstellen. Dass wie bei Matrix oder so Informationen direkt ins Gehirn eingespeist werden und man sagt "Ich kann Kung-Fu!", das ist natürlich Science Fiction! Aber der Punkt ist, dass natürlich die Science Fiction auch Dinge vormacht, die dann gewissermaßen in die Welt kommen dadurch - also eine Idee entsteht - und das wiederum beeinflusst auch Wissenschaftlerinnen und Wissenschaftler, Forscherinnen und Forscher. Und so kann man sagen, dass es nicht ausgeschlossen ist, dass wenigstens daran gearbeitet oder in die Richtung nachgedacht wird, so etwas zu machen.
Diese BCIs sind zum Beispiel auch schon in der Spielzeugindustrie: Also ich setze mir ein EEG auf den Kopf und kann dann beispielsweise ein "Star Wars"-Spielzeug so spielen, dass ich, wenn ich mich konzentriere, einen Ball in einer Röhre hoch schweben lassen kann. Ich kann gewissermaßen die "Force" - also die "Macht" aus dem Film - ausüben. Das gibt's schon, auch in der Spielzeugindustrie.
Schöpfer gegen Schöpfung oder doch nur eine Cyberpsychose?
Eurogamer.de (19:10): Da gibt's ja auch den Turing-Test, der bestimmt, ob eine KI anfangen kann, selbstständig zu denken. Wann ist der Punkt überschritten, an dem eine KI keine künstliche Intelligenz mehr ist, sondern selbständig denken kann? Würdest du sagen Johnny Silverhand ist ein Mensch, weil er quasi das vollkommen selbständige Denken innehat?
Schwingeler: Da wären wir ja bei der Frage, was einen Menschen ausmacht. Ist ein Mensch nur der Geist, der in seiner körperlichen Hülle steckt und ist diese körperliche Hülle gewissermaßen wie die Hardware austauschbar? Oder macht den Menschen mehr aus? Macht ihn nicht vielleicht auch seine Körperlichkeit aus und vielleicht die Kombination aus Beidem? Die Frage kann ich gar nicht unbedingt beantworten.
Eurogamer.de: Die müssen wir dann jeder für uns selbst entscheiden. Das ist also die Antwort.
Schwingeler: Ja, oder die muss vielleicht auch einfach die Zukunft zeigen. Also ich würde zum Beispiel sagen, den Menschen macht auch seine Körperlichkeit mit aus. Er ist nicht ohne Weiteres von seinem Körper loszulösen. Er ist nicht nur ein geistiges Wesen, sondern eben auch ein körperliches, was den Menschen mitbestimmt. Die Eigenarten des Aussehens, des Bewegens usw. Das gehört alles zur Menschlichkeit dazu. Und was wäre, wenn ich jetzt meinen Geist - meine "Software" - in eine neue Art "Hardware" transferiere? Wäre es nicht möglich, dass ich dann verrückt werde, weil mein Körper dann auf einmal nicht mehr zu meinem Geiste passt? Also das klingt für mich nach der Blaupause für eine Persönlichkeitsstörung, die sich da entwickeln kann. Aber ich bin kein Mediziner und deshalb kann ich das eigentlich gar nicht genau sagen (lacht). Ist ja Spekulation.
Eurogamer.de (22:15): Passend dazu gibt es in Cyberpunk 2077 die Krankheit "Cyberpsychose". Cyberpsychose tritt in der Spielwelt dann auf, wenn sich ein Charakter zu viele Implantate einsetzt und den Körper zu sehr modifiziert, sodass ihr Geist, genau mit dem was eben beschrieben wurde, nicht klar kommt. Der Geist fühlt sich in dem modifizierten Körper nicht mehr wohl. Er fühlt sich nicht mehr menschlich und das führt zum Verlust menschlicher Bedürfnisse wie Essen und Schlafen. Cyberpsychose führt im letzten Stadium zu Suizid oder Mord, weil Cyberpsychos die "normale Menschlichkeit" in ihrem Umfeld nicht mehr aushalten können.
Im Spiel gibt es einen Haufen Splitter, die man sammeln und lesen kann. Darunter befindet sich eine Rubrik "Technologien" und dort steht etwas Interessantes zum Relic 2.0. Das nutzt den Körper als Wirt, um die Prozesse der KI darin zu ermöglichen.
Menschen als Batterien tauchen ja schon häufig in anderen Medien des Genres auf: Matrix als bekanntestes Beispiel, eXistenZ, Final Fantasy: The Spirits Within, Quake 4 oder Soylent Green. Woher rührt diese Idee? ist es eine Befürchtung, die man haben sollte, falls die Energieressourcen der Erde knapp werden?
Schwingeler: Ja, woher rührt diese Vorstellung - Was ist das eigentlich für eine Vorstellung? Das ist ja die Vorstellung, dass sich etwas gegen uns wendet - dass wir nicht mehr Herr sind dessen, was wir da erfunden haben. Auf einmal stecken wir nicht mehr die Batterien in das technische Ding hinein, das wir als Werkzeug oder so benutzen, sondern wir selbst werden zur Batterie umfunktioniert. Und wieder haben wir die Idee oder die Vorstellung dass sich hier die Schöpfung gegen den Schöpfer wendet. Im Matrix-Fall ist das jetzt noch einmal ganz schön zu sehen: die Maschinen versklaven die Menschen, drehen den Werkzeug-Gedanken und das Spiel von "Wer ist denn eigentlich wessen Herrn?" um. Menschen werden zur Energiequelle und als Batterie angezapft.
Und da haben wir genau wieder das Thema: Die Menschen verlieren die Kontrolle über das, was sie da erfunden oder in die Welt gesetzt haben. Die Schöpfung wendet sich gegen den Schöpfer. Es ist eine Geschichte von Kontrollverlust, die damit einhergeht, dass die Schöpfung überhandnimmt und den Schöpfer dann im Endeffekt unterjocht. Und das sind gute Geschichten, um Konflikte zu illustrieren. Ich kann wunderbar ein Feindbild aufbauen, ich kann sagen: das sind die bösen Maschinen, die bösen Programme oder die bösen Algorithmen oder die bösen Splitter.
Das sind alles natürlich auch gute Geschichten, um Konflikte aufzubauen und deshalb sieht man die relativ häufig in bestimmten Narrativen. Das sind Geschichten von Dystopie - von einer düsteren Zukunft. Das hat mit einem Horror- oder Grusel-Faktor zu tun. Du hast jetzt zum Beispiel eXistenZ von Cronenberg angesprochen. Das ist ein Film der auch wunderbar an der Stelle mit dem Body-Horror arbeitet. Die Controller in dem Film, der übrigens auch ein super Film über Computerspiele ist, sind aus Fleisch gemacht. Und das ist dann natürlich auch dafür da, damit das den Zuschauern richtig nahe geht.
Unterm Strich: Es geht um Hybris. Es geht um menschlichen Größenwahn. Es geht darum, dass hier thematisiert wird, sich als Schöpfer aufzuschwingen. Um das: "Obacht! Das sollte man nicht als Mensch!" Denn das darf im Endeffekt ja nur Gott. Dementsprechend haben wird ganz viele Geschichten durch die Menschheitsgeschichte hindurch - nicht nur in Science-Fiction oder in Computerspielen -, wo die menschliche Hybris dem Menschen im Endeffekt zum Verhängnis wird und die Schöpfung sich gegen den Schöpfer wendet. Im Kern der Geschichte steht oft ein moralisches Ende, wo wir dann sehen, dass der Mensch doch bitte Mensch bleiben sollte und die Schöpfung anderen höheren Mächten vorbehalten ist. Es sind oft auch religiöse Geschichten, die da erzählt werden.
Neuro-Cinema wird das neue Netflix
Eurogamer.de (36:35): Wir biegen ab zum unreligiösen Thema Braindances. Die wurden in Cyberpunk 2077 dazu erfunden, um eigene Erinnerungen oder Emotionen aufzuzeichnen oder jene anderer Personen abzurufen und selber zu erleben. Quasi eine VR-Brille, die allerdings direkt mit dem Gehirn verbunden ist und somit alle Sinne benutzen kann. Wenn wir alle vier Jahre eine neue Generation an Konsolen haben, wie realistisch ist so eine Hardware dann in 50 Jahren, die sich auf alle Sinne ausweitet? Gibt es bereits Beispiele, die in diese Richtung gehen?
Schwingeler: Ja. Klar! Das sind Vorstellungen, die definitiv älter sind als Cyberpunk 2077. Die Vorstellung, etwas zu erleben - und zwar medial mit allen Sinnen - sind Geschichten, die in der jüngsten Vergangenheit in Filmen erzählt werden, wie Strange Days oder einem weiteren Film mit Keanu Reeves, Johnny Mnemonic. Der steckt sich ja auch was in den Kopf hinein und kann dann andere Persönlichkeiten nachempfinden. (Ana: Ich glaub es war ne Disk.) Früher war es eine Disk, heute ist es dann eine längere SD-Karte. Also haben wir es hier ganz klar auch mit Mediengeschichte zu tun.
Jedenfalls gibt's auch in der Medientheorie natürlich solche Vorstellungen. Es gibt zum Beispiel einen Medientheoretiker, Peter Weibel, der schon 1996 auf der ersten Welle der Virtual Reality, die in den Consumer-Bereich zu schwappen beginnt, den Text "Neuro-Cinema" schreibt. Da skizziert er die Geschichte bzw. den Werdegang des technischen Bildes - also von der Fotografie über den Film über Computer Animation bis hin zu interaktiven Simulations-Bildern, wie wir sie heute aus Computerspielen kennen. Er kommt zu dem Schluss, dass die nächste Stufe - in 1996 (!) - das sogenannte "Neuro-Cinema" sein müsste.
Also eigentlich genau die Vorstellung, mit der wir es hier zu tun haben. Bei Strange Days. Bei Johnny Mnemonic. Bei Cyberpunk 2077. Dass wir nämlich eine Schnittstelle haben, die uns einen medialen Inhalt gewissermaßen direkt ins Gehirn spült und dass wir dadurch diese Inhalte nicht nur durch Augen und Ohren wahrnehmen, sondern durch den ganzen Körper - also riechen, schmecken und fühlen können. [...] Die Vibration im Controller ist übrigens auch schon eine kleine Vorstufe oder Idee dessen, was sich eventuell durch diese Schnittstellen bewahrheiten könnte.
In dem Moment, wo solche Stories von Medien kommen, dass ich gewisse Dinge [wie Braindance und Co] erleben kann, wird es zu einer Meta-Erzählung über Computerspiele selbst. Das Spiel thematisiert eine Zukunft seines eigenen Mediums, indem es vormacht, wie Games eigentlich 2077 eventuell aussehen könnten. Das sind auch immer ganz spannende Momente, in denen Spiele über sich selbst erzählen.
Datenschutz kommt in Dystopien wie Cyberpunk 2077 viel zu kurz.
Eurogamer.de (44:10): Mal eine ganz pragmatische Frage. V erhält ja in den Missionen wie bei einer Polizeiakte komplette Profile zu den Zielpersonen. Und da verbirgt sich, glaube ich, eine große Angst, die uns sicher schon in 2021 mitbegleitet: Wie sieht es eigentlich mit Datenschutz aus? Ist es ein Thema, wenn jeder nachverfolgen kann, wie viele Raketen ich mir in meine Arme baue und bei wem wie modifizieren lasse?
Schwingeler: Das ist natürlich ein Horror. Also Datenschutz gibt's nicht mehr. Ist ja klar. In den Dystopien, über die wir hier reden, da würde ich gerne mal einen NPC sehen, der so ein richtig schön piefig spießiger Datenschutzbeauftragter ist. Das wäre eigentlich mal ganz cool, in den Geschichten jemanden einzubauen, der die Charaktere, die sich gerade Mantis Blades an die Arme bauen, unterbricht und sagt: "Aber hast du denn auch das End-User Licence Agreement gelesen?" Das passt da natürlich in die Narration nicht rein, würde das nämlich komplett bremsen. So eine Geschichte käme da nicht gut in Gang, wenn man da noch 20 Seiten EULAs lesen müsste und dementsprechend hat das da keinen Platz.
In der realen Welt ist es natürlich ein Thema, wie man mit Datenschutz umgeht. Wir haben alle Angst davor, gläsern und durchsichtig zu werden. Es ist aber eben auch immer wichtig, nicht zu vergessen, dass viele End-Userinnen und -User eben ihre Daten ganz freiwillig preisgeben und das eigentlich ganz toll finden. Und da braucht man meines Erachtens nach Kompetenz im Umgang mit den eigenen Daten.
[...]
Eurogamer.de (55:44): Wie wichtig ist die eigene Identität für einen Menschen?
Schwingeler: Wahrscheinlich sehr wichtig. Wäre ich ein Psychiater oder Psychologe, könnte ich das wahrscheinlich besser beantworten (lacht).
Aber es ist ja so, dass die Identität bedeutet, dass das Bewusstsein sich im Einklang befindet. Das Gegenteil von identisch ist ja "verschieden" und wenn sich da eben Diskrepanzen entwickeln, dann mutmaße ich mal, ist es nicht so gesund. Und das kann eben zu problematischen Dingen führen. Dafür bin ich nicht der Experte, kann aber sagen, dass die Identität sehr wichtig für einen Menschen ist.
Eurogamer.de: Ist die Identität denn etwas, das die Menschlichkeit am Ende von einer KI unterscheidet? Kann eine KI eine eigene Identität entwickeln?
Schwingeler: Theoretisch. Wenn das programmiert ist. Wenn die KI gesagt bekommt, dass sie eine Identität entwickeln soll. Wir reden ja hier die ganze Zeit über Computerprogramme, die so tun, als wären sie intelligent. Also eigentlich nachgeahmte Intelligenz. Das, was wir als Menschen für intelligent halten. Und das wird durch Computerprogramme irgendwie nachgemacht, um den Menschen - Stichwort: Turing-Test - davon zu überzeugen, dass das, mit dem wir zu tun haben, kein Computer(programm) ist, sondern ein Mensch. Also geht es die ganze Zeit eigentlich um eine Illusionstechnik, wenn du so willst.
Der Sprung, der in der Science Fiction oder auch in Pinocchio, gemacht wird, ist, dass dieses Nachahmen wegfällt und die KI, das künstliche Wesen, irgendwann nicht mehr nachahmt, sondern ein eigenes genuines Bewusstsein entwickelt - also eine Identität, wenn man so will. Das heißt also in den Narrationen, die wir über diese künstlichen Wesen aller möglicher Art kennen, wird die Identität immer wieder als der letzte Funke dargestellt, der nötig ist, um eine nachgeahmte Intelligenz von einer echten künstlichen Intelligenz zu unterscheiden. Aus einer Perspektive des Analysierens von Geschichten, würde ich sagen, dass Identität der letzte "Spark", der letzte Funke ist, der nötig ist, um aus einer Holz-Marionette einen echten Jungen zu machen.
Eurogamer.de: Damit bin ich zufrieden! Vielen Dank! Wir haben heute sehr viele sehr interessante Fragen geklärt - Wir danken Prof. Dr. Stephan Schwingeler für die Bereitschaft und die Einblicke in die Medienwelt von Computerspielen, in diesem Falle vor allem natürlich zu den Themen in Cyberpunk 2077.
Falls ihr jetzt irgendwelche besonderen Fragen, Anmerkungen oder einfach Gedanken habt: Ab damit nach unten, denn uns interessiert natürlich auch, wie Ihr euch in Cyberpunk 2077 mit den Themen auseinandersetzt!