Wer wählt, wenn die Maschine handelt? Prohairesihumanismus – Umrisse einer technikethischen Denkrichtung
Von Thomas Keuthen (DHBW) –
Ein Algorithmus lehnt einen Kreditantrag ab. Ein neuronales Netz stellt eine Diagnose, die zutrifft, ohne dass jemand sagen könnte, warum. Ein Fahrzeug bremst. Niemand hat das im strengen Sinne gewollt und doch ist etwas geschehen, das Folgen hat. Unsere ethischen Grundbegriffe sind darauf nicht eingerichtet: Sie setzen einen Urheber voraus, eine Absicht, eine Begründung. Mein Vorschlag ist, nicht das Subjekt preiszugeben, sondern die Fähigkeit zur freien Wahl neu zu verorten.
Drei Stellen, an denen die alten Begriffe reißen
Vorweg eine Einschränkung: Die klassische Ethik scheitert an der digitalen Technik nicht im Ganzen, sondern an drei genau benennbaren Stellen, an denen sie voraussetzt, was digitale Systeme systematisch unterlaufen. Ich nenne sie Bruchlinien, die dem Begriffsgebäude Risse zufügen, ohne es zum Einsturz zu bringen.
Die erste ist das Handeln ohne Subjekt. Von Aristoteles bis in den Existentialismus denken wir jede Handlung von einem Urheber her: Es gibt einen Akteur, er hat eine Absicht, und diese Absicht erklärt, warum gehandelt wurde. Darauf ruht unsere Sprache von Verantwortung, Schuld und Verdienst. KI-Systeme aber vollziehen zielgerichtete Operationen, ohne dabei irgendetwas zu beabsichtigen, und was herauskommt, ist oft emergent: nicht einmal für die Entwickler:innen vollständig vorhersehbar. Das Resultat sieht aus wie ein Handeln und ist im Ergebnis auch eines, ohne dass jemand handelt. Andreas Matthias (2004: 175) hat dafür den Begriff der Verantwortungslücke geprägt: Ein Schaden tritt ein, aber ein:e Verantwortliche:r lässt sich nicht benennen.
Die zweite Bruchlinie ist das Wissen ohne Verstehen. Traditionell gilt Wissen als wahre, gerechtfertigte Überzeugung: Ich weiß etwas, wenn meine Annahme zutrifft und ich Gründe angeben kann. Tiefe neuronale Netze liefern hochpräzise Ergebnisse in Diagnostik und Materialforschung. Ihre internen Prozesse aber bleiben für den menschlichen Verstand undurchsichtig (vgl. Burrell 2016). Funktionalität tritt an die Stelle der Begründung. Die unbequeme Frage lautet: Ist ein Resultat noch Wissen, wenn niemand sagen kann, warum es wahr ist?
Die dritte Bruchlinie ist die implementierte Moral. Klassische Ethiken setzen eine:n Akteur:in voraus, der in der Situation abwägt. Die Informationstechnologie verlagert solche Abwägungen in die Entwurfsphase: Wer ein Kreditscoring entwirft, wer Content-Moderation programmiert, trifft die ethisch entscheidenden Festlegungen im Voraus. Moral war einmal situative Praxis; sie wird nun zur Eigenschaft von Systemen, eingebaut, bevor das System läuft.
Ein alter Begriff für ein neues Problem
Diese Risse lassen sich nicht mit ein paar neuen Vokabeln kitten. Es braucht einen Kompass, der weder das mündige Subjekt streicht, noch die Selbstüberwindung des Menschen zum technischen Programm erklärt. Für diese Mitte schlage ich den Namen Prohairesihumanismus vor, ein Kunstwort aus zwei Teilen.
Der erste ist die prohairesis. Aristoteles (2020: Buch III, Kap. 4–5) entwickelt diesen Begriff für den Akt der überlegten Wahl. Wichtig ist, was sie gerade nicht ist: nicht der Wunsch, denn wünschen kann ich mir auch, was unerreichbar ist; nicht die Begierde, denn die überfällt mich, ohne dass ich sie wählte. Sie ist die nach Beratung getroffene Entscheidung, jene Wahl, die mein Tun überhaupt erst als das meine erkennbar macht. Aristoteles bindet sie an den logos, das vernünftige Überlegen, und die phronesis, die Klugheit, in einer Lage zu sehen, was hier und jetzt richtig ist.
Der zweite Teil, der Humanismus, knüpft an die Renaissance an, an Erasmus und Pico della Mirandola. Diese Tradition ist keine bloße Menschenfreundlichkeit. Sie ist die These, dass die Würde des Menschen gerade darin liegt, dass er, in dem was er ist oder sein kann, nicht festgelegt ist: Ein Wesen der unabgeschlossenen Selbstgestaltung, dessen Würde darin besteht, sich entwerfen zu dürfen und zu müssen.
Beides zusammen behauptet eine Sache: Was den Menschen in einer Welt, die ihn als Datenpunkt, Profil und Schnittstelle verarbeitet, noch als Menschen ausweist, ist die Fähigkeit zur verantworteten Wahl. Und sie ist auf stille Weise gefährdet. Nicht weil Maschinen begännen, selbst zu wählen, sondern weil unsere Wahlräume durch Voreinstellungen und Plattformarchitekturen unmerklich enger werden. Rouvroy und Berns (2013) sprechen hier von einer algorithmischen Gouvernementalität.
Die Wahl ist verteilt und bleibt doch menschlich
Nun der entscheidende und zugleich angreifbarste Schritt: Aristoteles verankert die Wahl im einzelnen vernünftigen Menschen. Sie geschieht in ihm. Ich schlage dagegen vor, sie als verteiltes Geschehen zu denken, verteilt auf Entwicklerinnen, Betreiber, Nutzer, Aufsichtsbehörden, Infrastrukturen. Kein technisches System ist das Werk eines Einzelnen; es trägt die Spuren vieler Wahlen. Zusammen bilden sie kein bloßes Bündel, sondern ein Netz von Wahlpunkten, an denen Menschen mit unterschiedlicher Reichweite in das System hineinwählen.
Zwei Missverständnisse will ich ausräumen. Verteilung heißt erstens nicht Atomisierung. Es heißt nicht, dass, jeder ein bisschen schuld ist und sich am Ende deshalb niemand mehr verantwortlich fühlt. Im Gegenteil: Erst das Netz der Wahlpunkte erlaubt es, Verantwortung zuzuordnen, indem gefragt wird, wer an welcher Stelle wählte, welchen Spielraum er hatte, welche Information er hatte. Zweitens heißt Verteilung nicht, dass das System selbst wählte. Die Maschine wählt nicht. Verteilt sind die Bedingungen einer gelingenden Wahl: Beratung, Information, Rückholbarkeit, Achtung der Beteiligten als Selbstzweck.
Damit grenze ich mich vom Posthumanismus ab. Rosi Braidotti (2013) liest die Verflechtung von Menschen, Werkzeugen, Institutionen und Codes als Auflösung des souveränen Subjekts. Ich lese dieselbe Verflechtung anders: als Verteilung der Wahlfähigkeit, nicht als ihr Verschwinden. Das ist mit Aristoteles verträglicher, als es klingt. Er bestimmt den Menschen als zoon politikon, dessen Wahlfähigkeit sich nie im einsamen Akt konstituiert, sondern in gemeinsamer beratender Praxis.
Drei Anker, damit die Wahl nicht beliebig wird
Eine verteilte Wahl ohne normativen Halt liefe leer. Ich binde sie an drei Bezugspunkte.
Würde, mit Kant (2015) verstanden als das, was einen Menschen zum Selbstzweck macht, der niemals nur als Mittel behandelt werden darf. In soziotechnischen Systemen heißt das: Niemand darf ausschließlich Optimierungsobjekt, Datenquelle oder Aufmerksamkeitsressource sein. Der Mensch ist nie nur Input.
Freiheit, republikanisch verstanden als Nicht-Beherrschung. Frei ist nicht in erster Linie, wer keine Hindernisse vorfindet, sondern wer nicht der willkürlichen Macht eines anderen ausgesetzt ist. Digital gewendet: Frei ist, wessen Wahlräume nicht durch intransparente Eingriffe geformt werden.
Zukunftsfähigkeit verlängert Kants kategorischen Imperativ in die Zeit: Handle so, dass du das Wählen-Können kommender Generationen nicht substantiell verkürzt. Anders als bei Jonas (1979) geht es dabei nicht um den Erhalt einer vorgegebenen Natur des Menschen, sondern um den Erhalt einer Fähigkeit.
Die drei stehen in keiner festen Rangordnung, sondern in Spannung: Freiheit kann mit Würde, Zukunftsfähigkeit mit gegenwärtiger Freiheit kollidieren. Das ist kein Mangel der Theorie, sondern der Raum, in dem verteilte Wahl ihre Gestalt erst findet.
Einlagern, nicht delegieren
Daraus folgt eine Verschiebung von der Tugend zur Architektur. Die Tugendethik fragt, was für ein Mensch die Entwicklerin, der Ingenieur, die politische Entscheiderin sein soll. Die Frage bleibt richtig, genügt aber nicht. Die Wahl, die ein humanistischer Charakter trifft, muss auch in das System eingelagert werden, als Datenschutz im Bauprinzip, als Prüfbarkeit von außen, als Rückholbarkeit, als Erklärbarkeit. Für diese Übersetzung von Werten in Gestaltung gibt es längst Verfahren (vgl. van den Hoven 2013; Friedman/Hendry 2019).
Eine Unterscheidung ist dabei entscheidend und sie ist der eigentliche humanistische Vorbehalt: Die Wahl wird in die Architektur eingelagert, nicht an sie delegiert. Einlagerung heißt, dass das System die menschliche Wahl wirksam macht, ihre Möglichkeiten offenhält und ihre Folgen rückholbar lässt. Delegation hieße, dass das System die Wahl ersetzt, indem es sie ein für alle Mal entscheidet. Das System ist Vermittlung der Wahl, nicht ihr Ersatz.
Der Ort ethischer Reflexion verschiebt sich damit: weg vom Schreibtisch und vom Moment der Anwendung, hin zu den Entwürfen, die festlegen, welche Wahlräume ein System künftig zulassen wird.
Fünf Prüffragen
Bleibt der unbequemste Einwand: Ist dieser Vorschlag mehr als Rhetorik? Ich denke, fünf Prüfschritte lassen sich gewinnen. Wahlpunkt-Mapping: Wo im System können Menschen wählen und wo sollten sie es können? Audit der Voreinstellungen: Welche Defaults engen Wahlräume unmerklich ein? Reversibilitätsprüfung: Welche Festlegungen lassen sich zurücknehmen, welche nicht? Würde-Stresstest: Werden Beteiligte irgendwo ausschließlich als Mittel behandelt? Generationenprüfung: Welche Wahlmöglichkeiten künftiger Generationen verkürzt die anstehende Festlegung?
Diese Fragen sind nicht algorithmisch. Sie liefern keine Entscheidungsregel und verlangen, wie jede ernsthafte Ethik, Urteilskraft. Aber sie sind operativ: Sie kann an konkrete Entwürfe und Regulierungsvorhaben angelegt werden
Eine verschiebende Position
Der Prohairesihumanismus tritt nicht an, die bisherigen Ethiken abzulösen. Er verschiebt das Feld nur: vom einsamen Subjekt zur verteilten Wahl, von der Reflexion im Augenblick zur Einlagerung in den Entwurf, von der Tugend des Einzelnen zur Architektur des Systems.
Technik ist niemals neutral. Sie trägt die Spuren dessen, wie wir sie denken, nutzen und gestalten. Solange wir diese Spuren als Spuren unserer Wahl lesbar halten, sind sie weder Schicksal noch Verhängnis. Genau deshalb ist die naheliegendste Reaktion auf die drei Bruchlinien die falsche: Nicht das wählende Subjekt ist aufzugeben, sondern die Frage neu zu stellen, wo überall gewählt wird und wer dort eigentlich wählt.
Zur Person: Thomas Keuthen beschäftigt sich mit digitalen Transformationen, Geschäftsprozessmanagement sowie dem Einsatz von Künstlicher Intelligenz in Organisationen. Ein weiterer Schwerpunkt seiner Arbeit liegt auf den gesellschaftlichen und ethischen Auswirkungen digitaler Technologien.
Er ist Autor der bei Springer Gabler erschienenen Bücher Prompt Engineering im Geschäftsprozessmanagement – Innovation mit KI als Schlüssel zur Effizienz und Digitale Technologien verstehen und gestalten – Mensch, Maschine, Moral.
Literatur
Aristoteles (2020). Nikomachische Ethik (Übers. U. Wolf). Reinbek: Rowohlt.
Braidotti, R. (2013). The Posthuman. Cambridge: Polity Press.
Burrell, J. (2016). How the machine ‘thinks’: Understanding opacity in machine learning algorithms. Big Data & Society, 3(1), 1–12. doi.org/10.1177/2053951715622512
Friedman, B. & Hendry, D. G. (2019). Value Sensitive Design: Shaping Technology with Moral Imagination. Cambridge, MA: MIT Press.
Jonas, H. (1979). Das Prinzip Verantwortung. Versuch einer Ethik für die technologische Zivilisation. Frankfurt a. M.: Insel.
Kant, I. (2015). Grundlegung zur Metaphysik der Sitten. Stuttgart: Reclam.
Matthias, A. (2004). The responsibility gap: Ascribing responsibility for the actions of learning automata. Ethics and Information Technology, 6(3), 175–183. doi.org/10.1007/s10676-004-3422-1
Rouvroy, A. & Berns, T. (2013). Gouvernementalité algorithmique et perspectives d’émancipation. Réseaux, 177(1), 163–196.
van den Hoven, J. (2013). Value sensitive design and responsible innovation. In R. Owen, J. Bessant & M. Heintz (Hrsg.), Responsible Innovation (S. 75–83). Chichester: Wiley.
