Arbeitserleichterung oder jüngstes Gericht

Ich habe selten erlebt, dass ich von einem Event mit einem mulmigen Gefühl nach Hause gefahren bin, doch die Berliner Diskussionsrunde mit Fabian Westerheide (Unternehmer, Investor und Redner im Bereich von Drohnen, Robotik und künstlicher Intelligenz) und Andreas Brandhorst (Science-Fiction-Autor) ließ mich doch etwas nachdenklich zurück. Sie haben zwar kein Horror-Szenario an die Wand gemalt, in dem Skynet schon vor der Tür steht, um alles in Schutt und Asche zu legen; und auch die Vorteile als Arbeitserleichterung  wurden thematisiert. Doch unsere Gesellschaft befindet sich offenbar näher an der im Spiel gezeigten Vermischung mit Künstlicher Intelligenz und Robotern als ich es mir ausgemalt habe. Man könnte und sollte zwar Regeln für die gemeinsame Existenz entwerfen - so der Tenor. Und für die Bereiche, in denen man intelligenter Technik die Kontrolle überlässt. Doch „Wir müssen uns heute im Klaren sein, welche Werte wir verkörpern, weil die Maschinen lernen von uns“, postulierte Westerheide. Der biologische Mensch werde dagegen irgendwann in der Minderheit sein.

Ethische Bedenken

Dazu kämen die machtpolitischen Vorteile, die für Unternehmen oder Staaten mit geringen ethischen Bedenken viel zu groß seien, um die Gelegenheit auszulassen: „Putin hat gesagt, wer die KI beherrscht, beherrscht die Welt – und da ist was Wahres dran“, so Brandhorst. Die Gesellschaft müsse sich also die Frage stellen, welchen Grad der Autonomie sie etwa Kampfdrohnen zugesteht: Schon heute gibt es laut Westerheide Exemplare, die notfalls auch autonom töten können, wenn die Funkverbindung zu ihrem „Piloten“ am Joystick abbricht.

Drei Figuren, viele Entscheidungen

Um die Sache interessanter zu machen, schlüpft man als Spieler selbst in die Rolle von drei künstlichen Figuren. Sie müssen im bekannten Stil von Quantic-Dream-Spielen jede Menge Entscheidungen treffen und ihren Alltag meistern. Der kalt und mechanisch agierende Connor ist ein Prototyp, der menschlichen Ermittlern bei der Aufklärung von Verbrechen hilft, an denen Androiden beteiligt sind. Kara sucht nach Identität, Liebe und Empathie wird durch ihr Mitleid mit einem kleinen Mädchen und ihren gemeinsamen Wunsch nach Freiheit zur Gejagten. Markus schließlich soll sich zum Anführer der Rebellion der Androiden aufschwingen. In der realen Welt versuche vor allem China, mit der Hilfe von Künstlicher Intelligenz bis 2030 die Welt zu beherrschen, so Westerheide: Ein Ziel sei es, die Dominanz der US-amerikanischen App-Hochburg Silicon Valley zu brechen. Der KI-Spezialist sorgt sich dabei vor allem um den Verlust europäisch geprägter Werte und Ethik:

„Sind’s amerikanische Freiheitswerte oder werden es die russischen Werte sein? Unsere europäischen Werte sind nicht definiert - und wir sind technologisch so weit hintendran. Ich habe dazu Studien gemacht: Wir haben einen Marktanteil von drei Prozent in Deutschland (…) Es gibt keine deutsche Zukunft im Moment. Unsere Werte werden nicht in diesem System drin sein, ergo werden wir überhaupt nicht mehr repräsentativ. Und da habe ich persönlich viel mehr Sorge drum, in einer Welt zu leben, in der ich keinen Einfluss mehr auf die Moral habe. Denn das amerikanische Auto entscheidet einfach in einer Situation, wie es für seinen Wertekodex am besten handelt“.

Etwas hölzern…

Mitten im Familiendrama

Ein Vorteil an den Fleißarbeiten ist, dass man auf dem Streifzug durchs Haus Hintergründe des Familiendramas erfährt. Nebenbei kundschaftet man schon einmal den Hinterhof als potenziellen Fluchtweg aus oder gewinnt mit geschickten Dialogen das Vertrauen der eingeschüchterten Tochter. Nachdem sie sich aus ihrem mit Polstern gebauten Rückzugsort wagte, überreichte sie mir z.B. einen Schlüssel, der später noch nützlich werden könnte. Wie die Eskalation später abläuft, haben wir aufgrund der begrenzten Spielzeit noch nicht erfahren. Die relativ stark verzweigten Diagramme am Ende jeder Szene ließen aber bereits erahnen, dass die eigenen Wege und Abwägungen später noch eine wichtige Rolle spielen könnten. Auch Markus beginnt zu menscheln und seine Rolle als Mitglied der Gesellschaft zu überdenken: Auf einem Botengang zum Malerbedarf führt mich meine Neugier an einer lautstarken Demonstration vorbei.

Futuristischer Gleiter

Unklare Rolle in der Gesellschaft

Nach der Attacke der Demonstranten will ihn sein Mentor außerdem fit für ein selbstständiges „Leben“ machen. „Ich werde nicht immer da sein“, gibt er zu Bedenken und fordert ihn auf, seine eigene Rolle und seine Ziele in der Gesellschaft zu ergründen. Ein interessanter Ausgangspunkt, denn wie Quantic Dream bereits verraten hat, muss man in seiner Rolle später entscheiden, wie konsequent und gewaltsam sich der Widerstand der Maschinen gegen seine menschlichen Herrscher auflehnt. De Fondaumière betont, dass sein Spiel keine Antworten geben, sondern Fragen aufwerfen soll: „So könnte die Zukunft aussehen und ihr müsst entscheiden!“ Das rege natürlich zum Nachdenken darüber an, wie schnell wir als Gesellschaft auf die Entwicklung reagieren müssen, um etwa die Künstliche Intelligenz zu begrenzen. Laut Westerheide könnten eines Tages auch eine Art „Menschenrechte“ für KIs nötig werden:

„Ich habe letztes Jahr vorm Bundestag dafür plädiert, wir müssen sie wie Firmen behandeln: Rechenschaft ablegen, haftbar machen, was Versicherung angeht. Aber sie können sich auch selbst verwalten, Steuer erheben, Leute einstellen. Jeder Algorithmus da draußen, der mit Aktien handelt, hat bereits einen enormen Einfluss auf uns. Wir müssen ein rechtliches Grundkonstrukt dafür haben, das dann erweiterbar ist. Vielleicht kriegen sie irgendwann Menschenrechte. Das wird nicht ohne gehen und das wird mit einem gewissen Konflikt einhergehen.“

Killswitch oder Massenmord?

In David Cages Abenteuer spielt die Wahrnehmung ebenfalls eine wichtige Rolle: Die visuelle Umsetzung profitiert erneut stark vom Aufwand, der ins Performance-Capturing geflossen ist. 300 Schauspieler arbeiteten über zwei Jahre lang daran, die 37.000 Animationen authentisch in den Kasten zu bekommen. Danach folgte natürlich noch die Zusammenführung, bei der die nicht aufgenommenen Augenbewegungen direkt von den Designern animiert werden. Das Ergebnis kann sich wirklich sehen lassen, wird vor allem zu Beginn allerdings ein wenig von der störrischen Kameraführung  gestört.

Ein Spiel als Lobby-Programm für KI-Rechte?

Trotzdem dürfte der Großteil der Spieler sich bei so viel Liebe zum Detail stark mit den Protagonisten identifizieren. Die künstlichen Personen scheinen hier allgemein deutlich sympathischer rüberzukommen scheinen als ihre Gesprächspartner aus Fleisch und Blut. „Das Spiel ist ein Lobbyprogramm für KI-Rechte“, scherzte auch Westerheide, weil sie zumindest im Einstieg viel rationaler und sozialer agierten als die Menschen. De Fondaumière konterte allerdings mit dem Argument, dass sich die Persönlichkeit der Charaktere später noch entwickelt. Das Design der Kulissen hinterließ ebenfalls schon einen interessanten Eindruck: Quantic Dream hat sich für einen Mix aus vielen verfallenen Stadtteilen und futuristisch aufgemotzten reicheren Vierteln entschieden.