Die Macht der Algorithmen: Willkommen in der Algokratie

Ein großer Teil der Veränderungen in der Welt wird von Algorithmen gesteuert. In Zukunft könnten sie sogar unsere Politik bestimmen.

Geschrieben und geprüft von der Psychologin Valeria Sabater.

Letzte Aktualisierung: 11. März 2023

Ob Jobsuche, eine Beschwerde beim Kundenservice, Information über ein Bankprodukt, die Buchung eines Flugs oder eines Hotelzimmers, Nachrichten, Informationen und Werbung: Hinter all diesen und vielen anderen Diensten verstecken sich Algorithmen, die entwickelt werden, um unsere täglichen Aufgaben zu erleichtern. Willkommen in der Algokratie, der Welt der Algorithmen, die unser Leben bestimmen.

Algorithmen werden in allen Aspekten unseres Lebens immer mächtiger: Sie lernen rasch und arbeiten immer effizienter. Sie halten unsere Wünsche, Bedürfnisse, Gewohnheiten, Interessen und persönlichen Daten als Zeichenreihen fest und passen sich an, um uns ein schnelles und zufriedenstellendes Erlebnis zu ermöglichen und den Aufwand dafür möglichst gering zu halten. Dating-Apps verwenden sie für die Partnervermittlung, Jobportale versuchen dir damit den “Traumjob” zu vermitteln. Sie sind allgegenwärtig und verleihen jenen Machern, die sie entwickeln, eine unglaubliche Macht.

Die Voreingenommenheit in der Algokratie

Algorithmen können unser Leben vereinfachen. Du liebst vielleicht die Natur und setzt dich für Umweltschutz ein. In sozialen Netzwerken helfen dir Algorithmen, Gleichgesinnte und Informationen über dieses Thema zu finden. Das mag praktisch und zeitsparend sein, da du geliefert bekommst, was dich interessiert. Doch erinnern wir uns an den Fall von Molly Russell. Das junge Mädchen suchte Informationen zum Thema Suizid und Selbstverletzung. In allen ihren Netzwerken wurde sie schließlich nur noch mit diesem Thema bombardiert und geriet in eine Informationsblase, der sie nicht entkommen konnte. Das 14-jährige Mädchen traf schließlich eine drastische Entscheidung und nahm sich das Leben.

Die algorithmische Voreingenommenheit verleiht uns das falsche Gefühl  der Kontrolle über die Informationen, die wir erhalten und die Entscheidungen, die wir treffen. Wir vergessen, dass die Daten und Informationen, die uns die Algorithmen liefern, nicht unvoreingenommen sind. Dahinter verstecken sich Interessen, die wir nicht wahrnehmen, da wir glauben, dass wir selbst entscheiden, was wir sehen und was nicht.

In der Algokratie triffst nicht du die Entscheidungen

Die künstliche Intelligenz gibt uns ein falsches Gefühl der Kontrolle und Selbstwirksamkeit. Dieses Gefühl verstärkt sich durch den Einsatz von ChatGPT, ein Chatbot, der Abschlussarbeiten, die Redaktion von Berichten oder tägliche Aufgaben übernehmen kann. Du glaubst, dass du damit effizienter arbeiten kannst, doch in Wahrheit ist es der Chatbot, der “denkt”, nicht du selbst. Das kann zwar auch Vorteile haben, verstärkt jedoch die algorithmische Voreingenommenheit: Du glaubst, eigenständige Entscheidungen zu treffen, obwohl das nicht der Fall ist.

Algorithmen sind nicht unparteiisch

In ihrem Buch Angriff der Algorithmen¹ beschreibt Cathy O’Neil Algorithmen als “Massenvernichtungswaffen”. Diese Rechenwerte sind nicht frei von moralischen und kulturellen Voreingenommenheiten und verbergen Interessen, die wir nicht auf den ersten Blick erkennen. In ihrem Buch berichtet O’Neil von einer Lehrerin, die wegen einer negativen Bewertung durch einen Algorithmus ihren Job verlor. Der Algorithmus analysierte alles, von persönlichen Nachrichten bis zu medizinischen Berichten. Auch bei der Bewertung zur Vergabe von Hypotheken oder Zuschüssen kommen diese Algorithmen zum Einsatz. Bestimmte ethnische Gruppen werden beispielsweise benachteiligt.

Die meisten Unternehmen und Organisationen halten sich an diese schnellen und praktischen Analysen. Durch ihre Voreingenommenheit kommen sie zu dem Schluss, dass die Ergebnisse der Algorithmen immer gültig sind, auch wenn sie nicht fair sind. Oft findet keine persönliche Überprüfung statt.

Algokratie: Algorithmen im Dienste der Politik

Politiker scheinen oft weit weg von den realen Problemen der Bürgerinnen und Bürger zu sein. Sie gehen ihre eigenen Wege und entscheiden oft über die Bevölkerung hinweg. Eine Studie der Beratungsfirma Deloitte zeigt, dass in Zukunft Algorithmen und KI den Großteil der politischen Entscheidungen übernehmen könnten. Es würde genügen, die von den großen Tech-Unternehmen über Handys und Computer gesammelten Daten zu analysieren, um die Bedürfnisse der Bevölkerung zu kennen und angemessene Maßnahmen zu treffen.

Künstliche Intelligenz kann auch trainiert werden, um sicherzustellen, dass das gesamte politische Management nicht betrügerisch ist. Ihre Fähigkeit zur Analyse würde eine Vielzahl von Beratern ersetzen und den öffentlichen Stellen unendlich viel Arbeit ersparen. Die Algokratie als Ersatz für Politiker mag dystopisch erscheinen, es handelt sich jedoch um eine reale Möglichkeit.

Die Universität Utrecht hat in einer Studie gezeigt, dass es von Vorteil sein könnte, wenn Algorithmen den gesamten bürokratischen Teil von Regierungsorganisationen ersetzen. Der Grund? Die Bürgerinnen und Bürger neigen dazu, einer Maschine mehr Vertrauen zu schenken als einem Politiker (eine weitere offensichtliche Voreingenommenheit).

Fazit

Die algorithmische Voreingenommenheit birgt Gefahren, die wir noch nicht ausreichend abschätzen können. Wir glauben, selbst zu entscheiden, sind jedoch in den Netzen der Algorithmen gefangen, die uns vorgeben, welche Entscheidungen wir zu treffen haben. Hinter diesen Algorithmen verbergen sich Unternehmen, die uns steuern. Wir glauben, in einer freien Welt zu leben, sind jedoch weit davon entfernt. Wir müssen verstehen, dass Algorithmen nicht von selbst entstehen: Die Unternehmen, die sie programmieren, haben immer ein bestimmtes Ziel.

Literaturempfehlung

1. Angriff der Algorithmen: Wie sie Wahlen manipulieren, Berufschancen zerstören und unsere Gesundheit gefährden, Cathy  O’Neil, Hanser 2017