Disruptionen in Zeitlupe? Sorgen in der digitalen Transformation
Von Armin Grunwald (Karlsruher Institut für Technologie)
Disruption ist zu einem vielfach verwendeten Begriff geworden, zunächst als disruptive Innovation im wirtschaftlichen Wettbewerb, zurzeit eher anlässlich aktueller Krisenphänomene wie Pandemie und Ukraine-Krieg. Verbreitete Sorge ist, dass die digitale Transformation vieler gesellschaftlicher Bereiche durch allmähliche Entwicklungen wie etwa Zersetzung der Demokratie, Freiheitsverlust oder zunehmende Abhängigkeit Kipp-Punkte erreichen und unbemerkt disruptiv werden könnte:
Die Wortherkunft von ‚Disruption‘ verweist auf unangenehm wirkende Bedeutungen (lt. disrumpere = platzen, zerbrechen, zerreißen). So erscheint der Begriff geeignet, den aktuell vielfach beschworenen Übergang in eine Zeit der permanenten Krise mit dem Zerbrechen stabiler gesellschaftlicher Zustände und zunehmender Planungsunsicherheiten anzuzeigen: neue Angst vor einem Atomkrieg, das Ende der Bewohnbarkeit des Planeten Erde oder das Ende der Freiheit nach Machtübernahme durch einen KI-Algorithmus.
Semantisch enthält ‚Disruption‘ zwei Bedeutungsanteile: das Zerbrechen bislang stabiler Verhältnisse einerseits und die Schnelligkeit dieses Zerbrechens andererseits. Zerbrechen und Abbruch können sich allerdings auch allmählich über längere Zeiträume vorbereiten, sich allmählich durch schwache Signale ankündigen und erst im zeitlichen Verlauf zu plötzlich auftretenden qualitativen Brüchen führen. Materialermüdung und Verschleiß sind Beispiele aus der technischen Welt. Sie führen langsam zur Degradation von Technik. Lange funktioniert diese dennoch verlässlich weiter, bis zu einem bestimmten Zeitpunkt etwas von einem auf den anderen Moment ausfällt oder zusammenbricht, wenn also etwa der Keilriemen reißt oder eine Brücke einstürzt. Das Disruptive ist dabei in den inkrementellen Prozessen angelegt, kann aber lange unsichtbar bleiben und so der Erkennung und dem frühzeitig intervenierenden Eingriff entgehen.
Meine These ist, dass einige mit der Digitalisierung einhergehende Herausforderungen möglicherweise allmähliche Disruptionen in diesem Sinne sein können. Hans Jonas hat im „Prinzip Verantwortung“ (1979) darauf hingewiesen, dass die großen ethischen Herausforderungen moderner Zivilisation nicht aus katastrophalen und disruptiven Einzelereignissen, sondern als Folge des reibungslosen Funktionierens von Technik und ihres Erfolges auf Märkten und bei Nutzern nur allmählich eintreten. Der Klimawandel, maßgeblich verursacht durch die im reibungslosen Betrieb von fossil betriebenen Kraftwerken und Fahrzeugen entstehenden Treibhausgasemissionen, ist ein gutes Beispiel für eine allmähliche Disruption.
Analog könnte in der Digitalisierung der teils atemberaubende Erfolg vieler technischer Entwicklungen und innovativer Geschäftsmodelle zu allmählichen Veränderungen mit dem Potential allmählicher Disruption führen. Sorgen machen sich fest am möglichen Verschwinden von Verantwortung in komplexen Mensch/Maschine-Systemen, an der schleichenden Unterordnung unter vermeintliche digitaltechnische Sachzwänge, an der zunehmenden Abhängigkeit von intransparenten Entscheidungen von KI-Systemen und an einem möglicherweise drohenden Kontrollverlust den Algorithmen gegenüber. Entgegen dem Bemühen um menschliche Autonomie und Wahlfreiheit durch digitale Technologien könnte es zur schleichenden Normierung menschlichen Handelns nach den Regeln der Software bzw. ihrer Hersteller oder Betreiber und damit zum allmählichen Freiheitverlust kommen.
Allmähliche Disruptionen zeigen übergreifende Muster. In ihrer epistemologischen Dimension sind sie schlecht erkennbar. In frühen Phasen ist die Datenlage dünn und lässt bestenfalls schwache Signale mit begrenzter Evidenz erkennen. Aussagen zur zukünftigen Entwicklung bleiben tendenziell spekulativ. Erst im zeitlichen Fortschreiten werden die Datenlage entweder besser und die epistemische Evidenz für eine allmähliche Disruption größer, weil die Effekte sichtbarer werden, oder die Vermutungen bzw. Befürchtungen lassen sich nicht erhärten.
In der ethischen Dimension ist die Herausforderung, die nur allmählich sichtbar werdenden Entwicklungen nach Dringlichkeit und Handlungsnotwendigkeit zu beurteilen. Ein bloßer Verdacht auf allmähliche Disruption reicht nicht für die Einleitung weitreichender Maßnahmen mit z.B. erheblichem Ressourcenbedarf. Dies ist ein typisches Vorsorgeproblem: wann ist eine Diagnose zukünftiger Probleme hinreichend evident, um intervenierende Maßnahmen und Lasten zu rechtfertigen?
Dieses aus der Klimadebatte wohl bekannte Phänomen führt auf eine spezifische kommunikative Dimension. Auf der einen Seite kommt es zu Verharmlosung und einem Abwiegeln mit dem Verweis, es sei zu früh zum Handeln, man müsse eine bessere Datenlage abwarten. Auf der anderen Seite werden schwache Signale als ernste Warnungen mit weitreichenden Befürchtungen rascher Disruption verstanden, dann wird dringend nach Maßnahmen gerufen. Gegenseitige Vorwürfe von Übertreibung, Ideologie, Spekulation, Verharmlosung und Schönrednerei, Leichtsinn, Verantwortungslosigkeit, versteckten Interessen oder permanenter Bedenkenträgerei sind die Folge.
Viertens liegt hier eine potentiell tragische Dimension vor. Denn im inkrementell-allmählichen Verlauf können sich schwerwiegende Disruptionen schleichend mit zunächst schwacher Evidenz ankündigen, dann aber möglicherweise abrupt und ohne Umkehrmöglichkeit vollziehen. Aus der Debatte zum Klimawandel sind Kipp-Punkte bekannt, an denen eine sich beschleunigende Dynamik in Gang kommen könnte und zu einer Disruption des Weltklimas führen würde. Tragisch ist die Konstellation, dass aufgrund der epistemologischen Probleme ein Kipp-Punkt erst dann zweifelsfrei erwiesen ist, wenn er bereits überschritten ist. Dann aber ist es zum Handeln zu spät, jedenfalls für Prävention und Vorsorge. Dies illustriert die fiktive, in verschiedenen Varianten kursierende Dialektik von Herr und Knecht:
Ein Herr hat einen Knecht. Dieser Knecht muss alles für den Herrn tun. Dadurch verlernt der Herr die lebensnotwendigen Dinge. Der Herr wird abhängig vom Knecht, und schließlich wird aus dem Knecht der eigentliche Herr. Der Herr muss dann dafür sorgen, dass es dem Knecht gut geht. Fatal daran ist: Der Übergang vom Herrn zum Knecht geschieht unmerklich.
(frei nach Hegel; in dieser Fassung nach A. Grunwald: Der unterlegene Mensch. München, S. 17).
Die Frage ist, ob in der Digitalisierung bereits solche Punkte erreicht oder überschritten sind. Zumindest in Bezug auf eine latente Disruption ist dies wahrscheinlich der Fall. Während die Abhängigkeit moderner Gesellschaften von der Stromversorgung immer wieder Thema ist, gerade in der gegenwärtigen Energiekrise, und die Abhängigkeit von Gaslieferungen im Zuge des Ukraine-Kriegs sichtbar wurde, ist die weitgehend total gewordene, individuelle wie kollektive Abhängigkeit vom Funktionieren digitaler Technologien und des Internets bislang kaum ein Thema. Bei einem Ausfall des Internets würde umgehend die Weltwirtschaft zusammenbrechen, wären keine Finanztransaktionen mehr möglich, die internationalen Logistikketten der Versorgung würden kollabieren, weder öffentliche noch private Kommunikation würde noch funktionieren, wäre ohne Bargeld kein Bezahlvorgang mehr möglich und bliebe nur die Tauschwirtschaft.
Diese Abhängigkeit ist im Zuge des Erfolgs der Digitalisierung allmählich entstanden, so wie das Klimaproblem allmählich mit dem Erfolg der fossil betriebenen Energiewirtschaft und Mobilität kam. Abhängigkeiten sind selbst zwar noch keine Disruption, tragen jedoch ihren Keim in sich: es braucht nur einen Anlass wie z.B. einen weltweiten Angriff von Hackern auf das Internet in bislang unbekannter Größenordnung oder einen bislang physikalisch unbekannten Effekt systemischer Dimension. Die total gewordene Abhängigkeit von digitalen Technologien ist eine latente Disruption auf Abruf, in Zeitlupe entstanden, aber im Ernstfall abrupt eintretend mit schwerwiegenden Folgen.
In langen Zeiten hoher Stabilität ist das Bewusstsein verblasst oder verlorengegangen, wie fragil und vulnerabel moderne Gesellschaften sind. Gerade in Bezug auf die technischen Infrastrukturen wie der Digitalisierung herrscht die Annahme eines immerwährenden reibungslosen Funktionierens vor. Vorsorge wie sorgfältiges Monitoring potentiell disruptiver Entwicklungen, die Erarbeitung von Maßnahmen zum frühzeitigen Gegensteuern, die Implementierung von Redundanzen und Puffern zur Erhöhung der Resilienz und die Entwicklung von Plänen B für den Fall einer katastrophalen Disruption waren kaum oder gar kein Thema, auch nicht in Wissenschaft und Politik. Pandemie und der Krieg mit Energiekrise sind auf eine Gesellschaft getroffen, die die Möglichkeit von Ereignissen dieses Typs verdrängt hatte.
Zurzeit ist die Bereitschaft deutlich größer, sich mit der Möglichkeit von sich langsam aufbauenden Disruptionen auseinanderzusetzen. Dies ist klar eine interdisziplinäre Aufgabe, in der Technik-, Sozial- und Naturwissenschaften gefragt sind – aber auch die Philosophie. Gerade die erwähnte epistemologische und die ethische Dimension allmählicher Disruptionen erfordern begriffliche Klarheit und subtile Argumentation, um Licht in die epistemologische Gemengelage zu bringen und diese einer möglichst rationalen und nachvollziehbaren Beurteilung zuzuführen.
Armin Grunwald, Professor für Technikethik, leitet das Institut für Technikfolgenabschätzung und Systemanalyse (ITAS) am Karlsruher Institut für Technologie (KIT) und das Büro für Technikfolgenabschätzung beim Deutschen Bundestag (TAB). Seit 2021 ist er Mitglied im Deutschen Ethikrat.
Publikationen zum Thema: Der unterlegene Mensch: Die Zukunft der Menschheit im Angesicht von Algorithmen, künstlicher Intelligenz und Robotern. München 2019; Digitalisierung als Prozess. Ethische Herausforderungen inmitten allmählicher Verschiebungen zwischen Mensch, Technik und Gesellschaft. Zeitschrift für Wirtschafts- und Unternehmensethik 20(2019)2: 121–145.
