Sollten Berufsempfehlungen durch Algorithmen abgegeben werden?
Antonia Kempkens (Universität Bremen)
Als ich in der 11. Klasse war, haben wir einen Schulausflug ins Berufsinformationszentrum der Bundesagentur für Arbeit gemacht, um herauszufinden, welche Berufe zu uns passen. Nachdem wir am Computer Fragen zu unseren Interessen beantwortet hatten, wurde uns eine Liste mit zu uns passenden Berufen ausgestellt. Auf meiner stand ganz oben „Umwelttechnik“ – das habe ich mir gemerkt. Allerdings weiß ich bis heute nicht, was das genau heißt. Solche Berufsempfehlungen gibt es auch aktuell und sie werden in App Form weiterentwickelt. Dadurch bergen sie alte und noch dazu neue ethische Probleme.
Ethische Relevanz
Was soll daran problematisch sein? Bin ich durch die Empfehlung, Umwelttechnikerin zu werden, zu Schaden gekommen? Nein, ich war nur kurz enttäuscht, dass kein Beruf empfohlen wurde, den ich kannte, aber ich habe meine Zukunftspläne nicht von dieser Empfehlung abhängig gemacht. In meinem Fall ist es nur schade, dass ich nicht tiefergehend darüber informiert wurde, was Umwelttechnik ist, wie man sich zu einer Umwelttechnikerin ausbilden lassen kann und welche beruflichen Aussichten damit einhergehen. Wer weiß, ob ich sonst jetzt diesen Artikel schreiben würde…
In anderen Fällen kann eine solche Berufsempfehlung jedoch auch negative Auswirkungen haben. Man stelle sich eine Person vor, die schon immer Ärztin werden wollte. Nun wird bei der Berufsempfehlung die Ausbildung zur Ärztin nicht vorgeschlagen. Das kann zumindest im ersten Moment zu Selbstzweifeln führen: „Wenn es mir nicht empfohlen wird, Ärztin zu werden, bin ich dann nicht geeignet?“. Natürlich ist es möglich, sich von diesem Ergebnis zu distanzieren und weiterhin an dem ursprünglichen Traum, Ärztin zu werden, festzuhalten. Allerdings kann dies auch schwerfallen, insbesondere wenn die Teilnehmenden nicht darüber aufgeklärt werden, dass es sich nur um eine Empfehlung handelt.
In Teil drei der „Fack ju Göhte“ Filmreihe werden solche möglichen negativen Effekte überspitzt dargestellt. Die Klasse 11b der Goethe-Gesamtschule besucht ebenfalls das Berufsinformationszentrum, um sich eine Empfehlung abzuholen, und bekommt vermeintlich miserable Zukunftschancen prophezeit. Daraufhin sehen die Schüler*innen keinen Sinn mehr darin, sich überhaupt zu bemühen, die Schule abzuschließen – die Berufsempfehlung wirkt demotivierend. Nicht nur aus ethischer Sicht sollte das nicht das Ziel einer Berufsempfehlung sein.
Verzerrungen in Algorithmen
Ist es überhaupt sinnvoll, Berufsempfehlungen von einem Computer generieren zu lassen? In Anbetracht der Fehler, die einem Computer unterlaufen können, scheint die Antwort „Nein“ zu sein. Der Computer generiert die Empfehlung mit Hilfe von Algorithmen, also einer Reihe von Anweisungen, die Schritt für Schritt ausgeführt werden, um eine Aufgabe oder ein Problem zu lösen. Die Algorithmen können auf verschiedene Art und Weise funktionieren. Er könnte zum Beispiel die Angaben der Berufssuchenden mit Erfahrungen von Menschen, die bereits einen Beruf ausüben, vergleichen. Dadurch kommt es zu Informationen wie „Wer einen 1,0 Notendurchschnitt hatte, hat mit einer Wahrscheinlichkeit von 83% Medizin studiert“, und, daraus abgeleitet, wird Menschen mit einem Notendurchschnitt von 1,0 empfohlen, Medizin zu studieren.
Die Schulnoten sind allerdings nicht das einzige Entscheidungskriterium bzw. müssen gar kein Kriterium sein. So könnten allen möglichen Berufen 20 Eigenschaften zugeordnet werden, sodass Informationen entstehen wie „Wer am liebsten den ganzen Tag an der frischen Luft wäre, sollte einen Beruf ergreifen, der das ermöglicht. Möglich ist das für Förster*innen, Landwirt*innen, Gärtner*innen etc.“. Mehrere dieser Entscheidungskriterien kommen zusammen und formen die Empfehlung.
Ethisch problematisch wird es, wenn die in die Algorithmen integrierten Erfahrungen von Menschen, die bereits einen Beruf ausüben, verzerrt sind, zum Beispiel durch soziologische Phänomene. In der Soziologie ist bekannt, dass Kinder von Akademiker*innen meist auch Akademiker*innen werden, während Kinder von beispielsweise Handwerker*innen oft ebenfalls einen Ausbildungsberuf ergreifen. Diese Entscheidungen müssen aber nicht unbedingt die erste Wahl der Individuen gewesen sein, sie können in Abhängigkeit von der Unterstützung der Eltern getroffen worden sein. Wenn die Erfahrungen der Individuen jedoch als Entscheidungskriterien für die Algorithmen dienen, wird per Algorithmus Kindern von Akademiker*innen überproportional oft ein Studium vorgeschlagen und Kindern von Handwerker*innen eine Ausbildung. Diese Verzerrung in den Daten, auf die sich die Algorithmen bezieht, sorgt dafür, dass die Berufsempfehlung nicht unbedingt im besten Interesse der Berufssuchenden liegt, sondern Stereotype reproduziert.
Die Abbildung des zweiten Bildungsweges ist ebenfalls schwierig. Es ist möglich nach dem Hauptschulabschluss zuerst einen Ausbildungsberuf erlernen und später auf dem zweiten Bildungsweg das Abitur nachholen und eventuell noch ein Studium beginnen. Diese Optionen werden nicht deutlich durch eine Empfehlung, die ausschließlich die Ausgangssituation in den Blick nimmt.
Übersicht und Wissensproduktion
Der Einsatz von Algorithmen zur Berufsempfehlung kann auch positive Effekte haben, denn er bietet zum Beispiel einen schnellen Überblick über ein großes, scheinbar unüberschaubares Angebot. Zudem kann er auf wichtige, aber unterbesetzte Berufe wie zum Beispiel in Pflege oder öffentlicher Verwaltung aufmerksam machen. An dieser Stelle wird es allerdings schon wieder problematisch, denn wie wird garantiert, dass keine Manipulation stattfindet? Es könnte allen Berufssuchenden, die Interesse an der Zusammenarbeit mit Menschen haben, der Pflegeberuf oder eine Ausbildung in der öffentlichen Verwaltung empfohlen werden, um Personalnotstände auszugleichen. Einerseits gesellschaftlich ein nobles Ziel, aber andererseits würden auf diesem Wege die Berufssuchenden als Mittel zum Zweck benutzt werden und das würde Kants ethischem Kriterium der Achtung für die Menschenwürde nicht standhalten.
Es muss also dafür gesorgt werden, dass das Aufmerksam machen auf den Berufssuchenden noch unbekannte oder zumindest unübersichtliche Möglichkeiten der Berufswahl im Vordergrund der Berufsberatung steht. Der Vorteil des schnellen Überblicks und der Wissensproduktion durch algorithmische Berufsempfehlung kann vollständig ausgekostet werden, wenn eine ausführliche Aufklärung über die vorgeschlagenen Berufe zwingend dazu gehört. Damit diese Berufe möglichst passend sind, müssen von den Berufssuchenden (und eventuell von Berufsausübenden) einige Daten erfragt werden. Denn je mehr Informationen in die Algorithmen eingehen, desto genauer ist die daraus abgeleitete Empfehlung. Es müssten also nicht nur Noten, sondern auch Interessen, Vorlieben und Wünsche für die Zukunft angegeben werden, um eine möglichst passende Berufsempfehlung zu bekommen. Doch Achtung: Je persönlicher, desto ethisch problematischer.
Missbrauch der Daten
Denn hier kommt ein neues ethisches Problem ins Spiel, das durch das Phänomen des Datensammelns auftritt. Dadurch, dass das Analysieren von Daten auch außerhalb des Bereichs der Berufsempfehlung sehr schnell zu Entscheidungsvorschlägen führen kann, sind digitale Daten zu einem sehr wichtigen Rohstoff geworden – sie werden sogar als das Öl des 21. Jahrhunderts bezeichnet. Wenn die persönlichen Interessen, Vorlieben und Wünsche zur Verarbeitung durch die Algorithmen gespeichert werden, ist Missbrauch der Daten durch unbefugte Personen möglich. Wenn der zukünftige Arbeitgeber eines Erziehers auf die angegebenen Interessen Zugriff bekommt und liest, dass dieser eigentlich nie mit Kindern arbeiten wollte, könnte er diese Information gegen die Person verwenden. Oder wenn eine Journalistin durch den Zugriff auf angegebene Wünsche über eine Politikerin erfährt, dass diese am liebsten an der frischen Luft arbeitet, könnte sie einen reißerischen Artikel darüber verfassen, dass die Politikerin doch lieber an der frischen Luft hätte bleiben sollen.
Bedingungen für die Berufsempfehlung durch Algorithmen
Die Berufsempfehlung durch Algorithmen ist nicht prinzipiell falsch, aber eine Abwägung der möglichen Konsequenzen ist notwendig. Es kann Vor- und Nachteile geben und zur Auflösung dieses Konfliktes sind bestimmte Bedingungen hilfreich. Um die Vorteile einer Berufsempfehlung, die durch Algorithmen ausgesprochen wird, nutzen und die Probleme minimieren zu können, sollten die Empfehlungen möglichst frei von Verzerrungen durch frühere Erfahrungen sein. Solche Verzerrungen (etwa im Sinne einer Reproduktion von Stereotypen), könnten zum Beispiel vermieden werden, indem Informationen zum Werdegang der Eltern nicht in die Empfehlung einbezogen werden.
Außerdem sollten die Empfehlungen mit einer ausführlichen Aufklärung über die vorgeschlagenen Berufe einhergehen, damit keine Manipulation möglich ist und Neugier statt Desinteresse dominiert. Es sollte zudem darüber aufgeklärt werden, dass die aktuelle Situation der Berufssuchenden nicht determinierend ist, da zum Beispiel ein zweiter Bildungsweg gegangen werden kann. Zudem müssen die Menschen die Empfehlungen selber abstrahieren und reflektieren können – eine Hilfestellung durch die App oder durch das Informationszentrum wäre dabei wünschenswert. Abschließend dürfen die Daten nicht gespeichert werden, um Missbrauch von persönlichen Informationen zu vermeiden. Eine Möglichkeit sind Masked Federated Learning Systeme, die zum Beispiel die Grundlage der deutschen Corona Warn App bilden – hier verbleiben die persönlichen Informationen auf dem eigenen Endgerät.
Wenn die ethischen Probleme ausgeschlossen würden, könnten viele Berufssuchende von einer algorithmischen Empfehlung profitieren und eventuell mit einem Vorschlag wie „Umwelttechnik“ etwas anfangen.
Antonia Kempkens ist Doktorandin an der Universität Bremen und arbeitet an ihrem Dissertationsprojekt zu der Frage „Elemente eines öffentlichen Datenökosystems – welche ethischen Leitlinien sind zu beachten?“. Nach dem Bachelorstudium in Philosophie und Soziologie an der Otto-Friedrich-Universität in Bamberg hat sie den Master Komplexes Entscheiden an der Universität Bremen erworben.
