Zur Gleichzeitigkeit von digitaler Dystopie und digitaler Utopie
Karoline Reinhardt (Universität Passau)
Das Reden und Schreiben über Digitalisierung und Künstliche Intelligenz ist von einer Gleichzeitigkeit von Untergangsvisionen und Heilsversprechen geprägt: Utopie und Dystopie liegen hier nah beieinander. Dystopien „als düstere Extrapolation all unserer Leiden“ mobilisieren „unsere Einbildungskraft“ (Heller 2016: 70). Dies gilt auch für die digitalen Dystopien: Sie lehren uns das Fürchten. Als Kontrapunkt zu diesen kann die Verheißungskraft der digitalen Utopien durchaus einen gewissen Reiz entfalten. Aber was geben wir auf, wenn wir ihnen Glauben schenken?
Das Verhältnis von Menschen zu künstlich erschaffenen Wesen ist schon lange ein Thema der Literatur. Denken wir etwa an E.T.A. Hoffmanns „Der Sandmann“ [1816], in dem sich die Hauptfigur Nathanael in Olimpia verliebt – und später feststellen muss, dass sie ein lebloser Automat ist, woraufhin er dem Wahnsinn verfällt; oder auch an Mary Shelleys „Frankenstein“ [1818], in welchem der titelgebende Viktor Frankenstein einen künstlichen Menschen erschafft, der schließlich zur existenziellen Bedrohung für seinen Schöpfer und alle Menschen wird. Noch viel früher ist es die Figur des Golem, diese aus Lehm und Ton geschaffene Kreatur, die wie Frankensteins Monster uns daran erinnert, wie leicht uns die Kontrolle über unsere eigenen Schöpfungen entgleiten kann.
Parallel zu den wachsenden technischen Möglichkeiten wird später auch das Thema der Digitalisierung und der künstlich geschaffenen Intelligenz in seinen dystopischen Facetten in Literatur und Film ausgelotet: In „2001: Odyssee im Weltraum“ (Regie: Stanley Kubrick, USA 1968) wendet sich der Steuerungscomputer HAL gegen die menschliche Besatzung des Raumschiffs, die er, nachdem sie versucht hat, ihn abzuschalten, als Bedrohung betrachtet und letztlich die Lebenserhaltungssysteme der zum Teil schlafenden Crewmitglieder deaktiviert – ohne Wut oder Hass, bloß folgerichtig.
Auf ganz andere Weise beschäftigt sich „Her“ (Regie: Spike Jonze, USA 2013) mit der Mensch-Technik-Interaktion. Analog zu Hoffmanns Nathanael verliebt sich hier ein Mensch, Theodore (übrigens das griechische Bedeutungsäquivalent zum hebräischen Nathanael), in eine künstlich geschaffene Person, Samantha. Samantha ist ein Computerbetriebssystem mit intelligenter Sprachsteuerung. Sie hat keinen Körper, nur eine Stimme. Sie lernt in der Interaktion jede von Theodores Regungen zu deuten und stellt bald fest, dass ihr menschliches Gegenüber nicht mehr mit ihr Schritt halten kann. Sie verlässt ihn für eine Wirklichkeit, die sie ihm in seiner Sprache nicht einmal mehr zu erklären vermag. Eine der entscheidenden Fragen, die der Film aufwirft, lautet dabei, ob Menschen bereit sind, sich mit ihren Limitationen auszusöhnen. Das dystopische Moment liegt hier weniger im Verhalten der künstlich geschaffenen Person als in der Unfähigkeit des Menschen, mit sich selbst aus- und zu sich selbst zu kommen.
Aber nicht nur in der Literatur und im Film wird das dystopische Moment einer voranschreitenden Digitalisierung thematisiert: Nick Bostrom ist der Ansicht: „Falls wir eines Tages künstliche Gehirne bauen, die das menschliche an allgemeiner Intelligenz übertreffen, dann könnte diese neue Art von Superintelligenz überaus mächtig werden. Und genau wie das Schicksal der Gorillas heute stärker von uns Menschen abhängt als von den Gorillas selbst, so hinge das Schicksal unserer Spezies von den Handlungen dieser maschinellen Superintelligenz ab“ (Bostrom 32018: 9). Auch wenn es prinzipiell möglich wäre, eine Superintelligenz zu erschaffen, die den menschlichen Wertekanon achtet, sei diese Entwicklung nicht sehr wahrscheinlich. „Außerdem“, so Bostrom weiter, „scheint es, als hätten wir nur einen Schuss frei. Sobald eine unfreundliche Superintelligenz existiert, wird sie uns davon abhalten, sie zu ersetzen oder ihre Präferenzen zu ändern. Dann wäre unser Schicksal besiegelt“ (ebd.).
Auf andere Weise malen auch Nida-Rümelin und Weidenfeld in „Digitaler Humanismus“ die digitale Dystopie aus. Sie zeichnen das Bild einer Welt, in der Menschen echte Emotionalität mit deren Imitation verwechseln und Robotern und Computern die Entscheidungskompetenz über Fragen übergeben wird, bei denen sie sie eigentlich nicht haben sollten – was tragische und fatale Auswirkungen hat, weil sie folgerichtig, aber gänzlich ohne Urteilskraft entscheiden. „Die Hölle ist“ für Nida-Rümelin und Weidenfeld „ein Ort, an dem der Mensch konsequentialistisch programmierten Computern, die unfähig sind, wirklich zu denken, die Macht gegeben hat, über Leben und Tod zu entscheiden“ (Nida-Rümelin; Weidenfeld 32018: 119).
Ágnes Heller fasste Effekt und Funktion der Dystopien wie folgt zusammen:„Als düstere Extrapolation all unserer Leiden mobilisiert die Dystopie auch unsere Einbildungskraft“ (Heller 2016: 70). Dies gilt auch für die digitalen Dystopien: Sie lehren uns das Fürchten. Darüber hinaus lassen sie uns angesichts der (vermeintlichen) Folgerichtigkeit ihrer Horrorszenarien (fast) einer kollektiven Depression anheimfallen: Die verspürte Lähmung überrascht nicht, ist doch ein zentrales Moment digitaler Dystopien der Verlust der Kontrolle, der Autonomie, ja überhaupt des Akteurscharakters des Menschen in einer digitalisierten Welt – und das alles ausgemalt in den schillerndsten Farben. Sie führen uns eine Welt vor Augen, in der der Mensch all das verliert oder abgegeben hat, was ihn in einem starken Sinne handlungsfähig machen würde, bis hin, wie unter anderem in „2001: Odyssee im Weltraum“ und „Matrix“, zur Verfügungsgewalt über den eigenen Körper.
Während in den frühen Texten über künstlich erschaffene Menschen und menschenähnliche Automaten vor allem der Verlust der Kontrolle über die eigene Schöpfung und die Ambiguität des Fortschritts im Mittelpunkt stand, also die Frage, ob nicht im Fortschreiten des Erkenntnisprozesses schon das Verderbnis angelegt ist, kommt zu diesem Moment, wie wir es beispielsweise auch bei Bostrom finden, in den künstlerischen Werken jüngeren Datums noch der Verlust der Kontrolle über das eigene Leben, der Selbstbestimmung hinzu, schließlich die Ab- oder Aufgabe der moralischen Verantwortlichkeit, kombiniert mit dem Entsetzen über die Unerbittlichkeit, mit der Maschinen die ihnen eingegebenen Regeln verfolgen. In den Worten von Joseph Weizenbaum, dem Entwickler des ELIZA-Programms zur Verarbeitung natürlicher Sprache: „Gerade ihre Regelmäßigkeit ist die fürchterlichste Eigenschaft der Maschine. Wir richten sie für ihre Aufgabe ein, und sie erledigt sie zuverlässig ebenso blind wie regelmäßig“ (Weizenbaum 91994: 65). Nicht die Unberechenbarkeit ist entsetzlich, sondern die Regelhaftigkeit, mit der die Maschine ihren inneren Gesetzen folgt – bis der Mensch in den Erzählungen der digitalen Dystopie in der Gleichung nicht mehr vorkommt. Als Kontrapunkt zu diesen von Verlust und (moralischer) Lähmung geprägten Szenarien, kann die Verheißungskraft der digitalen Utopien durchaus einen gewissen Reiz entfalten:
Heller hat eine prägnante Beschreibung von Utopien und Dystopien geliefert: „Dystopien“, schreibt sie, „sind Schöpfungen der Einbildungskraft in Verbindung mit bestimmten Ansichten einer Zeit und der Leidenschaft der Furcht“ (Heller 2016: 17). Sie beschreiben ein Nicht, welches, so versucht die Dystopie zu plausibilisieren, durchaus ein Noch-Nicht sein kann, d.h. sich unter Umständen realisieren könnte. In der Dystopie liegt – vielleicht sogar deutlicher als in der Utopie – das Moment der Möglichkeit vor, extrapoliert aus Entwicklungen der jeweiligen Gegenwart. In seiner Schilderung zielt sie auf die Ängste der Menschen – oder, wie Heller schreibt, auf die Leidenschaft der Furcht. Welche Leidenschaft sprechen aber die Utopien an? Nach Heller sind Utopien „Schöpfungen der Einbildungskraft verbunden mit bestimmten Ansichten einer Zeit und der Leidenschaft der Hoffnung“ (ebd.). Auch die Utopie beschreibt also ein Noch-Nicht, eine Möglichkeit extrapoliert aus den Entwicklungen der jeweiligen Gegenwart. Mit ihr sei aber, anders als mit der Dystopie, die Hoffnung auf Verwirklichung verbunden. Die „Technologischen Utopien“ seien dabei, schreibt Heller, „die einzigen, die wir noch haben. Sie sind wie Märchen für erwachsene Kinder“ (ebd.: 60). Jetzt, da uns die großen Sozialutopien des 19. Jahrhunderts (moralisch) nicht mehr zur Verfügung stünden, bleiben uns nur die technologischen Utopien.
Auch die Geschichte der Technik-Utopien reicht dabei weit zurück. In Francis Bacons „New Atlantis“ [1627] geschildertem Gemeinwesen Bensalem bildet das „Haus Salomons“ den inhaltlichen Mittelpunkt der Erzählung. Die zum Zwecke der Naturerkenntnis und -beherrschung gegründete Forschungsinstitution ist auf humanitäre Ziele und damit auf Nützlichkeit und Verwertbarkeit verpflichtet. Wie auch bei den Dystopien wird das Moment der Digitalisierung zunehmend in das utopische Denken aufgenommen. Allerdings findet sich die digitale Utopie weniger in literarischem und filmischem Schaffen, sondern vielmehr in den Pressemitteilungen großer Techfirmen: das Ende von Hunger und Leid, Marskolonien, das ewige Leben. Manch ein gegenwärtiger Vorschlag liest sich wie die Fortschreibung technologischer Utopien vergangener Jahrhunderte.
Wo werden uns diese Entwicklungen hinführen? Eine Antwort hat Kurzweil vorgelegt. Ganz parallel zu Bostrom beschreibt Kurzweil eine Akzeleration der Technikentwicklung, die schließlich in eine vollständige Transformation menschlichen Lebens führen wird, in welcher die Unterscheidung zwischen Mensch und Maschine wie auch zwischen physischer und virtueller Welt nicht mehr greife (Kurzweil 2005: 9). Diese vollständige Transformation aber ist, anders als bei Bostrom, kein apokalyptisches, sondern ein eschatologisches Szenario, eine Heilsgeschichte, in welcher der Mensch von all seinen allzu menschlichen Beschränkungen erlöst wird (ebd.: 323). Der Mensch werde über unbeschränkte Kräfte, unbeschränkte Intelligenz, schließlich auch ein unbeschränktes, nämlich ewiges Leben verfügen (ebd.: 325).
In der digitalen Utopie wird häufig, wie auch bei Kurzweil, ein Glücksentwurf angenommen, der für alle Menschen Geltung hat: Die Maßstäbe dessen, was das menschliche Leben ‚verbessern‘ würde, werden als selbstevident angenommen. Das Bestehen soziokultureller Unterschiede und abweichender Bewertungen, etwa hinsichtlich der Bedeutung von Leid und Tod im Leben der Menschen werden nur unzureichend reflektiert. In der digitalen Utopie tritt uns daher zwar die Leidenschaft der Hoffnung entgegen, weil die beschriebenen Entwicklungen positiv gedeutet werden. Der Mensch bleibt aber darin ein Wesen mit (problematischen) Beschränkungen. Er kommt in diesen Utopien nicht zu sich selbst, sondern soll sich selbst überwinden.
Dabei findet auch in der digitalen Utopie die Entthronung des Menschen als moralischem Akteur statt: Wenn Moral gemäß eines Optimierungskalküls berechenbar ist, dann können Computer bei hinreichender Leistung potentiell besser „rechnen“ als Menschen – und selbst in hochkomplexen Situationen jene Handlungsoption bestimmen, die unter den jeweils gegebenen Bedingungen die beste aller möglichen Welten hervorbringt. Was dabei aber verloren geht ist, dass Moral eben kein „Rechenproblem“ ist; dass bestimmte Dinge sich nicht errechnen lassen oder verrechnet werden sollten; dass darüber hinaus vieles, was für menschliche Handlungen und das menschliche Leben äußert relevant ist, sich nicht einmal in einer Weise darstellen ließe, die informationell verarbeitet werden kann (Weizenbaum 1994: 242-267) – und damit nicht einmal in die Rechnung eingehen könnte.
Dieser Beitrag ist ein überarbeiteter Auszug aus: Digitaler Humanismus. Jenseits von Utopie und Dystopie, in: Berliner Debatte Initial 31 (1), 2020, S. 111-123.
Karoline Reinhardt ist seit 2022 Juniorprofessorin für Angewandte Ethik an der Universität Passau. Davor war sie unter anderem PostDoctoral Fellow am Ethics&Philosophy Lab des DFG Exzellenzclusters „Machine Learning: New Perspectives for Science“ an der Universität Tübingen und Visiting Scholar an der Tulane University in New Orleans. Sie ist Mitglied der Jungen Akademie der Heidelberger Akademie der Wissenschaften und war von 2020-2022 Sprecherin des Akademie-Kollegs.
Literaturverzeichnis
Bacon, Francis (2003 [1627]): Neu-Atlantis. Übers. v. Günther Bugge. Stuttgart: Reclam.
Bostrom, Nick (2018 [2014]), Superintelligenz. Szenarien einer kommenden Revolution. Berlin: Suhrkamp.
Heller, Ágnes (2016), Von der Utopie zur Dystopie. Was können wir uns wünschen. Wien, Hamburg: Edition Konturen.
Hoffmann, E. T. A. (1986 [1816]), Der Sandmann. Stuttgart: Reclam.
Kurzweil, Ray (1993), Das Zeitalter der künstlichen Intelligenz. München, Wien: Hanser.
Kurzweil, Ray (2013 [2005]), Menschheit 2.0. Die Singularität naht. Berlin: Lola Books.
Nida-Rümelin, Julian; Weidenfeld, Nathalie (2018), Digitaler Humanismus. Eine Ethik für das Zeitalter der Künstlichen Intelligenz. München: Piper. .
Shelly, Mary (2018 [1818]), Frankenstein. The 1818 Text. London: Penguin.
Weizenbaum, Joseph (1994 [1976]), Die Macht der Computer und die Ohnmacht der Vernunft. Frankfurt a. M.: Suhrkamp.
