Der programmierte Mensch: Smarte Anwendungen, Gamification und die Beeinträchtigung menschlicher Autonomie. Ein Appell
von Moritz Dittmeyer (München)
Über Potenziale und Risiken der voranschreitenden Digitalisierung unserer Gesellschaft wird viel diskutiert: Es geht um Transhumanismus, um Cyborgs, um die Überwindung oder gar um die Unterwerfung des Menschen und um Künstliche Intelligenzen, die über sich hinauswachsen und sich verselbstständigen. Vollkommen zurecht fragen wir uns, welchen Einfluss digitale Technologien auf die conditio humana haben und was davon zu halten ist, wenn mit uns interagierende Maschinen und Systeme immer intelligenter und uns Menschen damit immer ähnlicher werden. Kurz, wir fragen uns was passiert, wenn die Maschinen zu Menschen werden?
Doch drehen wir den Spieß einmal um und fragen: Was ist, wenn die uns tagtäglich belgleitenden, intelligenten Geräte wie Computer, Smartphones, Wearables oder anderweitigen smarte Gadgets mit ihren ausgeklügelten Algorithmen und Feedbackmechanismen dazu führen, dass wir Menschen den Maschinen immer ähnlicher werden. Anstatt mit menschlichen Maschinen, hätten wir es dann mit maschinenartigen Menschen zu tun. Im Vertrauen, dass die Algorithmen und Mechanismen unserer smarten Trabanten schon dafür sorgen, dass wir uns optimal verhalten, lehnen wir uns zurück und lassen sie unser Leben für uns managen. Doch verabschieden wir uns dadurch nicht ein Stück weit von unserem Menschsein, wenn wir uns auf diese Art und Weise quasi programmieren lassen, das Richtige zu tun, anstatt als autonome Subjekte selbst herauszufinden und umzusetzen, was wir für richtig erachten?
In Smarte neue Welt beschwert sich der Internettheoretiker Evgeny Morozov bereits 2013 darüber, dass vermeintlich smarte Gadgets dumme Menschen hervorbrächten. Seiner Meinung nach machen die digitalen Technologien unser Leben zwar angenehmer, rauben ihm aber zugleich etwas von seinem Sinn, da sie uns nicht zum Nachdenken animieren. [i] Für diese Tendenz kann Gamification mitverantwortlich gemacht werden.
Unter Gamification ist eine im Grunde recht simple Strategie der Verhaltensbeeinflussung zu verstehen, die im Rahmen der voranschreitenden Digitalisierung in den letzten 10 Jahren immens an Popularität gewonnen hat. Viele, der gerne als smart bezeichneten Gerätschaften, Anwendungen und Systeme bedienen sich im- oder explizit des Gamification-Ansatzes, um neben der Aufzeichnung, Verarbeitung und Bewertung des Nutzer*innenverhaltens, die Anwender*innen auch auf eine, vermeintlich spielerische Art und Weise zu motivieren, bestimmte Dinge zu tun.
Bewusst, selbstbestimmt und in Maßen eingesetzt mag die Verwendung von gamifizierten Anwendungen oder Systemen kein Problem darstellen. Schließlich kann per se nichts gegen die Steigerung des Spaßfaktors alltäglicher und zum Teil lästiger Aufgaben eingewendet werden. Doch was passiert, wenn wir ständig in gamifizierten Kontexten verkehren und dies mitunter unbewusst oder gar unfreiwillig? Eine grundlegende Problematik typischer gamifizierter Anwendungen und Systeme, auf die ich im Folgenden das Augenmerk legen möchte, besteht darin, dass sie darauf abzielen, Menschen zu programmieren, sich auf von Algorithmen und ihren Entwickler*innen vorherbestimmte Art und Weise zu verhalten:
„A gamified human is a human with a program installed in his mind. And gamification is programming humans, so that they proceed along the lines of an algorithm.”[ii]
Ein Algorithmus bezeichnet eine schrittweise, wohldefinierte Handlungsvorschrift zur Lösung eines gegeben Problems. Im Rahmen von Gamification bedeutet das erst einmal, ein Problem zu definieren und es in klare Teilziele mit bestimmten Erfolgskriterien zu zerlegen. Als dann gilt es, das Verhalten der Nutzer*innen zu registrieren, hinsichtlich der implementierten Erfolgskriterien zu bewerten und sie mittels Vergabe von Punkten, Abzeichen, usw. sowie der Rückmeldung wie sie im Vergleich zu anderen gerade abschneiden, zu motivieren die richtigen Schritte so lange zu vollziehen bis das gesetzte Problem gelöst ist.
Stehen wir nun andauernd unter dem Einfluss gamifizierter Anwendungen und Systeme, wie es von Visionär*innen des Gamification-Ansatzes propagiert wird,[iii] werden wir permanent dazu angehalten, vordefinierte Probleme in vorherbestimmter Manier zu lösen. Dazu kommt, dass gamizierte Anwendungen und Systeme oftmals eine gewisse Penetranz aufweisen. Auf angenehme und Aufmerksamkeit heischende Art und Weise werden wir konstant darüber informiert, welches Problem es als nächstes zu lösen gilt, wie viele Punkte und welche neuen Abzeichen wir in der Zwischenzeit gesammelt haben, wie unsere Mitstreiter*innen gerade performen und welche Highscore wir mit etwas mehr Anstrengung noch knacken könnten.[iv] Diese andauernde Berieselung mit Informationen, Handlungsmöglichkeiten und angenehmen Reizen lenkt ab, vernebelt uns den Kopf, führt uns womöglich in die Irre und macht uns unter Umständen sogar süchtig.[v] In jedem Fall regt es uns nicht dazu an, uns eigenständige Gedanken darüber zu machen, was wir denn eigentlich wollen und welche Schritte wir gehen müssen, um das Anvisierte zu erreichen.
Werfen wir einen genaueren Blick auf diese Tendenzen, offenbart sich, dass eine umfassende Verwendung von Gamification Gefahr birgt unsere Autonomie in doppelter Hinsicht zu beeinträchtigen. Was wir unter Autonomie genau zu verstehen haben, ist eine schwierige Frage, die ich hier allenfalls kurz anreißen kann: Entgegen eines negativen Verständnisses von Freiheit, bei dem der Fokus auf der Möglichkeit das zu tun, was wir wollen, liegt, beinhaltet Autonomie auch die Fähigkeit das Gewollte zu tun. Allgemein bietet es sich demnach an, Autonomie als Fähigkeit sich selbst zu bestimmen auszubuchstabieren.
Unterstellen wir gamifizierten Anwendungen oder Systemen das Potential, uns in die Irre zu führen, stark abzulenken oder gar süchtig zu machen, ist relativ ersichtlich, warum dies als Einschränkungen unserer Autonomie zu verstehen sind. Betroffen ist hier erst einmal die Autonomie unserer Handlungen – die sogenannte Handlungsautonomie. Werden wir in einem Moment durch falsche Informationen oder mangelnde Transparenz in die Irre geführt, stark abgelenkt oder von unseren Süchten überwältigt, können wir nicht autonom handeln. Wir sind nicht in der Lage das zu tun, was wir eigentlich wollen und tun würden, stünden wir nicht unter dem täuschenden, stark ablenkenden oder süchtig machenden Einfluss. Sowohl ein ausreichendes Maß an Verständnis bezüglich dessen, was wir im Begriff stehen zu tun, als auch die Abwesenheit kontrollierender Einflüsse, die uns davon abhalten rationale Entscheidungen zu treffen und umzusetzen, gehören zu den Voraussetzungen autonomen Handelns.[vi]
Auch wenn Gamification – ähnlich wie Nudging[vii] – gerne als sanfte Form der Einflussnahme deklariert wird, als Beeinflussungsform also, die nicht im klassischen Sinne unsere Freiheit einschränkt, wie etwa unmittelbarer Zwang, Sanktionen oder Gesetze, scheint es dennoch Dynamiken und Mechanismen zu geben, die autonomes Handeln verhindern. Mangelt es im Kontext des Einsatzes gamifizierter Anwendungen und Systeme an Transparenz oder werden wir absichtlich falsch informiert darüber etwa, dass wir überhaupt beeinflusst werden, in wessen Interesse das eigentlich erfolgt (zum Beispiel in dem unserer Arbeitgeber*in) oder mit welchen weiteren wesentlichen Konsequenzen wir zu rechnen haben (etwa Preisgabe sensibler Daten), verstehen wir gar nicht so recht, in was wir uns da eigentlich hineinbewegen. Uns fehlt das notwendige Verständnis über unsere Situation und den Handlungskontext, um überhaupt autonom handeln zu können. Werden gamifizierte Anwendungen oder Systeme darüber hinaus absichtlich so gestaltet, dass sie uns Betroffene stark ablenken oder süchtig machen, dann beeinträchtigt das natürlich ebenfalls unsere Handlungsautonomie. Das gilt zum Beispiel, wenn süchtig machende Elemente aus dem Glücks- oder Computerspielbereich implementiert oder gamifizierte Anwendungen und Systeme so aufdringlich gestalten werden, dass sie uns davon ablenken, rationale Entscheidungen zu treffen.
Ein Schritt in die richtige Richtung wäre sicherlich, gamifizierte Anwendungen und Systeme immer mit einer Art Gebrauchsanweisung oder Beipackzettel auszuliefern. Auf diese Art und Weise wäre zumindest hinreichende Transparenz hergestellt, die es uns Nutzer*innen erlaubt selbst und informiert zu entscheiden, ob und in welchem Ausmaß wir eine jeweilige gamifizierte Anwendung oder System gebrauchen wollen.
Doch kommen wir zurück zur Erkenntnis, dass viele gamifizierte Anwendungen und Systeme darauf abzielen Betroffene zu programmieren, sich auf sich auf von Algorithmen und ihren Entwickler*innen vorherbestimmte Art und Weise zu verhalten. Denn unabhängig der soeben skizzierten Beeinträchtigungen unserer Handlungsautonomie, droht diese Dynamik unsere Autonomie in anderer und deutlich subtilerer Hinsicht zu unterlaufen. Um das zu sehen, müssen wir noch einen Schritt weitergehen als oben und anerkennen, dass autonom zu sein mehr bedeutet, als „nur“ lokal autonom zu handeln. Tun wir das, dann spielen auch schleichende Prozesse eine Rolle, die zwar nicht unbedingt akut aber in Summe und auf Dauer unsere Fähigkeit, ein selbstbestimmtes Leben zu führen, unterlaufen. Dieses globalere Autonomiekonzept wird gerne als Autonomie der Person oder personale Autonomie bezeichnet. Als autonom in diesem weiteren Sinne gelten wir nur dann, wenn wir in der Lage sind unser Leben im Lichte eigener Wünsche, Gründe, Werte und Regeln zu führen. Wir müssen unser Leben selbst in die Hand nehmen, uns unsere eigenen Meinungen bilden, herausfinden, was wir wirklich für wünschens- und erstrebenswert erachten und uns über die Zeit hinweg selbst treu bleiben. Es geht also darum, nachhaltig Kontrolle über unsere eigene Identität auszuüben und uns proaktiv selbst zu gestalten.[viii]
Dafür erweist sich insbesondere das Kultivieren und Praktizieren zentraler rationaler Fähigkeiten, wie etwa kritisches Denken und Selbstreflexion als essentiell. Kritisches Denken beläuft sich darauf Gründe und Einstellungen rational zu begutachten, abzuwägen und im Lichte neuer Erfahrungen anzupassen. Selbstreflexion beinhaltet über sich selbst und die Quellen der eigenen Motivation nachzudenken. Nur wenn wir das tun, sind wir in der Lage die notwendige Selbstkenntnis zu erlangen, um ein eigenes Selbstverständnis und eine individuelle Persönlichkeit herauszubilden. Denn, wie wir von dem berühmten liberalen Philosophen John Stuart Mill lernen können, ist eine individuelle Selbstgestaltung ein wesentlicher Ausdruck menschlicher Autonomie. Wenn wir etwas bloß tun, glauben oder wollen, weil es andere tun, glauben oder wollen oder, weil es normal ist das zu tun, zu glauben oder zu wollen, dann kommt uns unsere Autonomie abhanden. Nehmen wir jedoch von unseren rationalen, uns Menschen auszeichnenden Fähigkeiten Gebrauch, fangen wir also an das Gewöhnliche kritisch zu hinterfragen, dann resultiert daraus, so Mill, quasi automatisch ein gewisses Maß an Individualität. Ihm zufolge ist demnach Autonomie notwendig mit dem Streben nach Individualität, also nach einer eigenständigen, selbstgeformten Persönlichkeit verbunden.
Darüber hinaus müssen wir als autonome Personen auch über ein hinreichendes Maß an Selbstkontrolle und Willensstärke verfügen. Nur wenn wir in der Lage sind, diejenigen Handlungen und Projekte, die wir als wünschens- oder erstrebenswert erachten, auch ohne fremde Unterstützung in die Tat umzusetzen, können wir erfolgreich die Kontrolle über unsere Identität ausüben und unser Leben tatsächlich selbst bestimmen.
Befinden wir uns nun aber ständig in den Fängen gamifizierter Anwendungen und Systeme, drohen wir aus den Augen zu verlieren, wie wichtig es ist diese zentralen rationalen Fähigkeiten zu erlernen und auszuüben. Anstatt angeregt zu werden, darüber nachzudenken, was wir denn eigentlich wollen und wie es zu haben ist, wird uns die Wirklichkeit algorithmisch vorstrukturiert und spielerisch aufbereitet präsentiert. Dies beinhaltet bereits eine Vorentscheidung darüber, was das Erwünschte ist und wie es bestmöglich realisiert werden kann. Kritisches Denken und Selbstreflexion wird kurzgeschlossen. Zwar können wir auswählen, welche Mission wir heute bestreiten und welche persönlichen Challenge wir als nächstes annehmen wollen, ob wir unseren virtuellen Avatar lieber mit einem Hammer oder einer Sichel ausstatten möchten oder welche Mitarbeiter*in wir am liebsten zu einem persönlichen Duell einladen. Wir werden jedoch nicht dazu animiert, darüber zu reflektieren und kritisch zu hinterfragen, was das eigentlich alles soll und bedeutet. Schlimmer noch, weil wir ständig damit beschäftigt sind ein uns präsentiertes Problem nach dem anderen zu lösen, schwinden die Freiräume den status quo kritisch zu hinterfragen – schlicht deshalb, weil unsere geistigen Kapazitäten ständig von der Problemlöserei okkupiert werden. Entgegen der im Rahmen personaler Autonomie geforderten individuellen Selbstentfaltung, besteht hier also die Gefahr der Gleichschaltung.
Verstärkt wird dieses Risiko dadurch, dass es ja nicht unbedingt zwangsläufig wirklich unsere Probleme sind, mit denen wir ständig konfrontiert werden und die wir auf spielerische Art und Weise lösen sollen. Gamifizierte Anwendungen und Systeme werden meist für eine breitere Masse entwickelt und propagiert. So geht es darum Verhaltensweisen hervorzurufen, die, allgemein betrachtet, als Teil des guten Lebens angesehen werden. Diese entsprechen nicht zwangsläufig der individuellen Bedürfnislage von uns Nutzer*innen, sondern heutzutage leider noch allzu oft der privilegierter, weißer, gut bezahlter, heterosexueller Männer.
Doch nicht nur kritisches Denken und Selbstreflexion drohen unter einer umfassenden Verwendung von Gamification zu leiden sondern auch Willensstärke und Selbstkontrolle. Intelligente Algorithmen mit ihren ausgeklügelten Feedback- und Motivationsmechanismen und spielerischen Belohnungen lassen uns die Notwendigkeit, zumindest ein Mindestmaß an Willensstärke und Selbstkontrolle zu kultivieren, aus den Augen verlieren. Gewöhnen wir uns daran, ständig mit neuen Motivationshäppchen versorgt zu werden, ist zu befürchten, dass wir eine motivationale Abhängigkeit zu den uns tagtäglich begleitenden gamifizierten Anwendungen und Systemen entwickeln. Ohne externe motivationale Unterstützung schaffen wir es nicht mehr, unsere Pläne und Projekte in die Tat umzusetzen. Sind unsere smarten Begleiter*innen mal außer Gefecht gesetzt, hören wir auf uns gesund zu ernähren, Sport zu treiben, mit dem Fahrrad oder öffentlichen Verkehrsmitteln zu fahren oder uns auf der Arbeit anzustrengen. Es besteht somit die Gefahr, dass wir uns zu infantilisierten Objekten entwickeln, die sich zurücklehnen und ihr Leben freiwillig in die Hände smarter Algorithmen und spielerisch daherkommender Belohnungsstrukturen geben. Anstatt als autonome Subjekte selbstreflexiv ein eigenes Selbstverständnis entwickeln und aus eigener Kraft und Kreativität heraus, eigene Projekte zu realisieren und selbstgewählte Pläne in die Tat umzusetzen, lassen wir unser Leben von den uns umgebenden gamifizierten Anwendungen und Systemen managen. Darunter leidet unsere personale Autonomie.
Wir sollten also aufpassen und nicht gedankenlos auf den Zug selbsternannter Gamification-Gurus aufspringen und versuchen die Gamifizierung unserer Lebenswelt immer weiter zu treiben. Die Verwendung gamifizierter Anwendungen und Systeme mag sich zwar gut anfühlen, unser Verhalten temporär optimieren und gar unser Autonomieerleben in bestimmten Situationen steigern, übertreiben wir es aber, droht unsere personale Autonomie auf der Strecke zu bleiben. Dann laufen wir Gefahr eine Gesellschaft gleichgeschalteter und infantiler Individuen zu produzieren, in der Freiheit nur noch simuliert wird und wir Menschen zusehends auf unsere digitalen Helferlein angewiesen sind, die sicherstellen, dass wir uns richtig verhalten.
Wenn wir uns schon berufen fühlen, immer mehr smarte Gerätschaften und Anwendungen zu entwickeln, dann sollten wir bei deren Gestaltung darauf achten, dass autonomiekonstituierende Fähigkeiten wie Selbstreflexion, Willensstärke und Selbstkontrolle gefördert und nicht beeinträchtigt werden. Die neuen digitalen Möglichkeiten sollten gezielt dazu eingesetzt werden, uns zu animieren uns selbst Gedanken dazu zu machen, was wir wollen und uns selbst erkennen zu lassen, was das Richtige ist. Ist das der Fall, dann hätten wir es mit wirklich smarten Anwendungen und Systemen zu tun, die das klassische humanistische Bildungsideal, Menschen zu mündigen also autonomen Bürger*innen zu erziehen, tatsächlich befördern anstatt es insgeheim zu torpedieren.
Moritz Dittmeyer steht im Begriff seine Promotion zur Idee und Ethik von Gamification an der philosophischen Fakultät der Ludwig-Maximilians-Universität abzuschließen. Er lebt und arbeitet in München.
[i] Morozov, Evgeny (2013). Smarte neue Welt. Digitale Technik und die Freiheit des Menschen. München: Karl Blessing.
[ii] Kopeć, Jarosław (2015). „Let’s Put Programs in our Minds. The Ideology of Gamification. Case Study of HabitRPG.“ In: Gamification. Critical Approaches. Warsaw: University of Warsaw, S. 9–26.
[iii] Als Beispiel: McGonigal, Jane (2011). Reality Is Broken. Why Games Make Us Better and How They Can Change the World. London: Penguin Books.
[iv] Als Illustration siehe zum Beispiel Jesse Schells Vortrag „+10 Points for Eating Cereal? Visions of the Gamepocalypse“ aus dem Jahre 2010 (https://youtu.be/JjwzL_3at88).
[v] Bisweilen wird sogar absichtlich mit Mittel gearbeitet, die süchtig machen sollen: https://www.theverge.com/2015/5/6/8544303/casino-slot-machine-gambling-addiction-psychology-mobile-games.
[vi] Siehe zum Beispiel Faden, Ruth R. und Tom L. Beauchamp (1986). A History and Theory of Informed Consent. Oxford: Oxford University Press.
[vii] Nudges bezeichnen sogenannte Stupser, die menschliches Verhalten beeinflussen sollen, ohne dabei Ver- oder Gebote zu verwenden oder ökonomische Anreize zu setzen. Siehe Thaler, Richard H. und Cass R Sunstein (2009). Nudge. Improving Decisions about Health, Wealth and Happiness. London: Penguin Books.
[viii] Siehe zum Beispiel Sneddon, Andrew (2013). Autonomy. London: Bloomsbury.
