04 – Ein Blick ins Universum – 02 – Psychologisch – Warum wir dem glauben, was wir nicht sehen können: Die Psychologie der Undurchsichtigkeit

August 3, 2026 Nick Ein Blick ins Universum, Psychologisch, Wurzelbote, Wurzelbote-Ausgabe-03-2026 0

Es ist ein Moment, der jeden Tag millionenfach passiert und fast nie hinterfragt wird: Ein Feed lädt, und plötzlich ist ein Beitrag da — dieser, nicht ein anderer, jetzt, nicht später. Niemand hat je erklärt bekommen, warum. Die meisten Menschen stellen sich diese Frage auch gar nicht bewusst. Und genau darin liegt, wie die Forschung der vergangenen zehn Jahre zeigt, eine der wirkungsvollsten psychologischen Eigenschaften algorithmischer Systeme: Sie funktionieren am besten, wenn sie gar nicht als Entscheidung wahrgenommen werden.

Was diese Unsichtbarkeit mit den Menschen macht, die tagtäglich mit ihr leben, ist erstaunlich gut erforscht — nur selten wird es in dieser Deutlichkeit zusammengeführt. Es geht dabei nicht um die Frage, ob Algorithmen manipulieren oder süchtig machen; das war Gegenstand früherer Ausgaben dieses Themenblocks. Es geht um etwas Grundlegenderes: darum, wie ein menschlicher Verstand überhaupt mit einer Entscheidungsmacht umgeht, die er nicht sehen, nicht befragen und in den seltensten Fällen auch nur als solche erkennen kann.

Teil 1: Wenn niemand die Kriterien kennt

Eine Freundschaft, die es nie gab,,,

2015 untersuchte ein Forschungsteam um Motahhare Eslami von der University of Illinois, wie vierzig Facebook-Nutzer:innen die Kuration ihres eigenen News Feeds wahrnahmen. Das Ergebnis überraschte selbst die Forschenden: 62,5 Prozent der Teilnehmenden wussten zu Beginn der Studie nicht, dass ihr Feed überhaupt algorithmisch gefiltert wird — sie gingen schlicht davon aus, alle Beiträge ihrer Kontakte zu sehen. Als das Forschungsteam ihnen mit einem eigens entwickelten Werkzeug zeigte, welche Beiträge tatsächlich unsichtbar blieben, reagierten viele mit Überraschung, manche mit Ärger.

Besonders aufschlussreich war ein wiederkehrendes Muster in den Interviews: Mehrere Teilnehmende hatten das Ausbleiben von Beiträgen enger Kontakte nicht dem Feed zugeschrieben, sondern der Beziehung selbst. Eine Teilnehmerin erklärte sich das Phänomen monatelang, weshalb eine ihr nahestehende Person kaum noch in ihrem Feed auftauchte, mit der stillen Vermutung, die Freundschaft sei distanzierter geworden, als sie dachte — bis sich herausstellte, dass ein Algorithmus die Beiträge lediglich nicht ausgespielt hatte. Die Erklärung, die für sie am naheliegendsten schien, war auch die menschlichste: eine veränderte Beziehung. Die tatsächliche Ursache — eine unsichtbare technische Entscheidung — kam den meisten gar nicht in den Sinn, weil sie von ihrer Existenz nichts wussten.

Quelle: Herzbaum-DALIB-Universe
KI-generiert mit Nano Banana Pro

Interessant ist, was nach der Entdeckung geschah. In einer Nachbefragung zwei bis sechs Monate später zeigte sich: Die grundsätzliche Zufriedenheit mit den Inhalten im Feed veränderte sich kaum. Was sich veränderte, war etwas anderes — die Teilnehmenden interagierten aktiver mit der Plattform, und ihr Gefühl, die eigene Umgebung mitgestalten zu können, war spürbar gestiegen. Allein das Wissen um die Existenz eines Algorithmus, unabhängig davon, ob man seine genaue Funktionsweise versteht, veränderte demnach das eigene Kontrollgefühl — ein Hinweis darauf, dass nicht die Undurchsichtigkeit selbst das Kernproblem ist, sondern das Nicht-Wissen um ihre bloße Existenz.

Das Unwissen ist kein Einzelfall

Was in der Studie wie ein methodisches Randergebnis wirkt, bestätigt sich auf europäischer Ebene in großem Maßstab. Für die repräsentative Bevölkerungsumfrage der Bertelsmann Stiftung aus dem Jahr 2019 befragte das Forschungsteam um Viktoria Grzymek und Michael Puntschuh gemeinsam mit dem Umfrageprojekt eupinions über 10.000 Menschen in allen damals 28 EU-Mitgliedstaaten. Das Ergebnis war eindeutig: Fast die Hälfte der Europäerinnen und Europäer weiß nicht, was ein Algorithmus überhaupt ist — obwohl solche Systeme längst in sehr konkreten Lebensbereichen mitentscheiden: welche Werbung eingeblendet wird, wer einen Kredit oder einen Studienplatz bekommt, wer auf Dating-Plattformen als passend vorgeschlagen wird. Lediglich acht Prozent der Befragten trauten sich zu, viel über Algorithmen zu wissen. Es geht bei dieser Unwissenheit nicht um mangelndes Interesse oder fehlende Intelligenz, sondern um eine strukturelle Eigenschaft der Systeme selbst: Sie sind so gebaut, dass ihre Existenz möglichst nicht auffällt. Ein Empfehlungsalgorithmus, der als Algorithmus erkennbar wäre, würde genau jene Reaktanz auslösen, die Unternehmen zu vermeiden versuchen — deshalb wird Personalisierung in aller Regel als selbstverständlicher Teil der Nutzungserfahrung inszeniert, nicht als separate, benennbare Entscheidung.

Ein Detail der Bertelsmann-Studie relativiert dabei einen naheliegenden Verdacht: dass mehr Wissen über Algorithmen automatisch zu mehr Misstrauen führt. Das Gegenteil war der Fall. Europaweit sahen 46 Prozent der Befragten mehr Vorteile als Risiken in algorithmischer Entscheidungsfindung, nur 20 Prozent mehr Probleme — und unter denjenigen, die von sich selbst behaupteten, viel über Algorithmen zu wissen, fiel dieses Verhältnis noch positiver aus. Wissen über ein System scheint also nicht zwangsläufig Skepsis gegenüber diesem System zu erzeugen. Es verschiebt eher die Grundlage, auf der Vertrauen entsteht — von einem unbewussten, unhinterfragten Vertrauen hin zu einem informierten.

Für das eigene Selbstverständnis ist dieser Unterschied größer, als er zunächst klingt. Wer glaubt, aus freien Stücken zu entscheiden, was ihn interessiert, während in Wirklichkeit ein vorsortiertes Angebot diese Entscheidung längst eingegrenzt hat, lebt in einer Illusion von Autonomie, die sich nicht schlecht anfühlt — gerade deshalb aber auch nicht hinterfragt wird. Erst das Wissen um die Vorsortierung selbst eröffnet überhaupt die Möglichkeit, zwischen echter und vermeintlicher Wahlfreiheit zu unterscheiden. Genau das ist der Punkt, an dem Undurchsichtigkeit aufhört, ein rein technisches Detail zu sein, und zu einer Frage der persönlichen Selbstbestimmung wird.

Psychologisch betrachtet trifft diese Undurchsichtigkeit auf einen sehr menschlichen Reflex — den Wunsch, jedes Ereignis irgendeiner Ursache zuzuordnen. Bleibt die wahre Ursache verborgen, wird sie nicht einfach als unbekannt stehengelassen. Stattdessen suchen Menschen nach der nächstplausiblen Erklärung, die ihnen zur Verfügung steht — meist eine, die etwas über sie selbst, ihre Beziehungen oder ihr eigenes Verhalten aussagt, nicht über ein Unternehmen und dessen Ranking-Entscheidungen. Genau diese Verschiebung der Ursache — weg vom unsichtbaren System, hin zur eigenen Person oder den eigenen Beziehungen — ist einer der stillsten, aber folgenreichsten psychologischen Effekte der grauen Eminenz, von der in der Historisch-Rubrik dieser Ausgabe die Rede war: Eine Macht, die nicht nur unbemerkt bleibt, sondern deren Wirkung sich Menschen im Zweifel selbst zuschreiben.

Teil 2: Wie sich Menschen die Blackbox erklären

Bereits die Studie von 2015 identifizierte zehn unterschiedliche, informell entstandene Erklärungsmuster, mit denen die Teilnehmenden versuchten, das Verhalten ihres Feeds zu verstehen — von der Vorstellung, Beiträge mit vielen Kommentaren würden bevorzugt, bis zu der Annahme, der Algorithmus richte sich vor allem nach dem eigenen Klickverhalten. Manche dieser Theorien trafen ungefähr zu, andere nicht — entscheidend war nicht ihre Richtigkeit, sondern dass sie überhaupt gebildet wurden. Eine Folgestudie desselben Teams aus dem Jahr 2016 erweiterte den Blick von Facebook auf soziale Feeds im Allgemeinen und bestätigte: Solche Volkstheorien sind kein Randphänomen einzelner technikferner Nutzer:innen, sondern ein nahezu universelles Bewältigungsmuster. Wo eine Erklärung fehlt, wird eine erfunden — plausibel genug, um das eigene Verhalten danach auszurichten, aber natürlich nur selten überprüft.

Der Mechanismus dahinter ist denkbar einfach: Menschen ertragen unklare Kausalität schlecht. Fehlt eine belastbare Erklärung, wird nicht mit Unwissenheit gelebt, sondern mit der plausibelsten verfügbaren Vermutung, sei sie auch noch so absurd — und diese Vermutung wird anschließend wie eine Tatsache behandelt. Wer glaubt, der Algorithmus bevorzuge kurze Texte, schreibt fortan kürzer. Wer glaubt, Fragen in Beiträgen würden stärker ausgespielt, stellt fortan mehr Fragen. Die „Volkstheorie“, so will ich das hier mal nennen, wird so von einer bloßen Erklärung zu einer handlungsleitenden Regel — unabhängig davon, ob sie der tatsächlichen Funktionsweise auch nur nahekommt.

Teil 3: Das Vertrauensparadox

Warum wir dem Algorithmus misstrauen und ihm gleichzeitig mehr vertrauen als uns selbst…

Quelle: Herzbaum-DALIB-Universe
KI-generiert mit Nano Banana Pro

2015 veröffentlichte ein Forschungsteam um Berkeley Dietvorst von der Wharton School ein Experiment, das seither zu den meistzitierten der Entscheidungspsychologie zählt. Versuchspersonen sollten den Studienerfolg von Bewerbenden für ein MBA-Programm einschätzen — teils mit Zugriff auf die Prognose eines menschlichen Experten, teils auf die eines Algorithmus. Das Ergebnis: Die Fehlerquote der menschlichen Teilnehmenden lag im Schnitt 15 bis 29 Prozent höher als die des Algorithmus. Trotzdem verließen sich die Versuchspersonen signifikant seltener auf die algorithmische Prognose, sobald sie den Algorithmus einmal bei einem Fehler beobachtet hatten — und zwar unabhängig davon, wie viele richtige Einschätzungen er zuvor geliefert hatte. Ein einziger sichtbarer Fehler genügte, um das Vertrauen einbrechen zu lassen. Bei einem menschlichen Experten passierte genau das nicht: Ein Fehler wurde eher verziehen. Dietvorsts eigene Erklärung dafür: Das Vertrauen in einen Algorithmus sinkt bei einem beobachteten Fehler schneller als das Vertrauen in einen Menschen bei genau demselben Fehler — von einer Maschine wird also stillschweigend Fehlerfreiheit erwartet, von einem Menschen jedoch nicht.

Vier Jahre später fand ein Team um Jennifer Logg von der Georgetown University in sechs Experimenten das exakte Gegenteil. Ob es um die Einschätzung visueller Reize, die Vorhersage von Musikcharts-Platzierungen oder von Beziehungs-Matches ging: Versuchspersonen folgten algorithmischem Rat durchgängig williger als menschlichem — selbst wenn ihnen über den Algorithmus so gut wie nichts über dessen Funktionsweise mitgeteilt wurde. Ein weiterer Befund der Studie: Wer im vorgeschalteten Zahlenverständnis-Test besser abschnitt, verließ sich stärker auf den Algorithmus — Vertrauen in Algorithmen hing also auch von der eigenen Zahlenkompetenz ab, nicht nur vom Algorithmus selbst. Am aufschlussreichsten ist dabei eine Randbeobachtung der Studie: Der Effekt war am stärksten ausgeprägt in genau jenen Bereichen, die von den Versuchspersonen als besonders undurchsichtig empfunden wurden.

Dietvorsts eigenes Team lieferte 2018 einen Anschluss, der die Kontrollfrage aus Teil 1 dieses Artikels noch einmal aufgreift: In drei weiteren Studien zeigte sich, dass Menschen einem fehlerhaften Algorithmus deutlich eher vertrauten, wenn sie dessen Prognosen wenigstens geringfügig selbst anpassen durften — und zwar unabhängig davon, wie stark diese Anpassung tatsächlich das Ergebnis veränderte. Selbst eine Modifikation, die kaum etwas am eigentlichen Resultat änderte, genügte, damit die Versuchspersonen sich zufriedener fühlten, dem Algorithmus mehr zutrauten und ihn in Folgeaufgaben wieder wählten. Nicht die tatsächliche Kontrolle über das Ergebnis war entscheidend, sondern das Gefühl, überhaupt eine zu haben.

Damit schließt sich ein Kreis zu Teil 1 dieses Artikels. Dieselbe Undurchsichtigkeit, die im Alltag zu stiller Selbstzuschreibung führt, sorgt in kontrollierten Experimenten für überdurchschnittliches Vertrauen — solange niemand den Algorithmus tatsächlich bei einem Fehler beobachtet. Ranking-Algorithmen in sozialen Feeds sind in dieser Hinsicht ein Idealfall für das zweite Muster, nicht das erste: Niemand sieht die Beiträge, die ein Algorithmus zurückgehalten hat, also sieht auch niemand seine Fehler. Was übrig bleibt, ist ein System, dem strukturell mehr vertraut wird als einem Menschen — nicht weil es sich dieses Vertrauen sichtbar verdient hätte, sondern weil es nie dabei erwischt werden kann, es zu enttäuschen.

Eine weitere Beobachtung aus der Forschung fügt dem Bild eine zusätzliche Ebene hinzu: Sowohl Dietvorst als auch Logg und ihre Teams fanden, dass die Bereitschaft, einem Algorithmus zu folgen, davon abhängt, wogegen er antritt. Im Vergleich zu einer fremden Person schneidet der Algorithmus meist gut ab. Im Vergleich zur eigenen Einschätzung dagegen sinkt die Bereitschaft, ihm zu folgen, spürbar — das eigene Urteil wird selbst dann verteidigt, wenn der Algorithmus nachweislich treffsicherer ist. Für einen personalisierten Feed bedeutet das: Er tritt in der Wahrnehmung der Nutzenden nie offen gegen die eigene Meinung an, sondern bleibt im Hintergrund, während man glaubt, frei zwischen den eigenen Interessen zu wählen. Genau dieser Verzicht auf einen sichtbaren Wettstreit ist es, der ihm erlaubt, in der für Vertrauen günstigsten Position zu bleiben.

Teil 4: Was es gibt — Medienkompetenz statt Anlaufstellen

Anders als bei den Themen früherer Ausgaben dieses Themenblocks handelt es sich bei algorithmischer Undurchsichtigkeit nicht um ein klinisches Phänomen, für das es Beratungsstellen oder Therapieangebote gibt. Was es stattdessen gibt, sind unabhängige Aufklärungsangebote, die genau an diesem Punkt ansetzen: klicksafe.de, die von der Medienanstalt Rheinland-Pfalz koordinierte EU-Initiative für Medienkompetenz, bietet kostenlose, werbefreie Informationsmaterialien zu algorithmischen Systemen, Empfehlungsmechanismen und digitaler Selbstbestimmung — von einfach verständlichen Erklärtexten über Quizze zu einzelnen Plattformen bis zu Materialien für pädagogische Fachkräfte. Die Verbraucherzentrale bündelt unter verbraucherzentrale.de in der Rubrik „Digitale Welt“ verständlich aufbereitete Informationen zu Algorithmen, Datenschutz und automatisierten Entscheidungen, ergänzt um ein digitales Glossar und konkrete Musterbriefe für den Fall, dass man von einem Unternehmen Auskunft über die eigenen Daten verlangen möchte. Beide Angebote ersetzen keine Beratung im klassischen Sinn, aber sie schließen genau die Lücke, die die Bertelsmann-Studie aus Teil 1 offenlegt: das schlichte Nichtwissen darüber, was ein Algorithmus überhaupt ist und tut.

Quelle: Herzbaum-DALIB-Universe
KI-generiert mit Nano Banana Pro

Fazit: Was bleibt

Am Ende dieser Rubrik steht kein einzelner Mechanismus, sondern ein doppeltes psychologisches Blindfeld. Zum einen die stille Neigung, für unsichtbare Entscheidungen sichtbare, meist persönliche Erklärungen zu erfinden oder zu finden — eine Freundschaft, die sich verändert hat, ein eigenes Verhalten, das falsch gewesen sein muss. Zum anderen ein Vertrauen, das genau dort am größten wird, wo am wenigsten überprüfbar ist, ob es gerechtfertigt ist. Beide Muster brauchen einander nicht zu widersprechen — im Gegenteil, sie verstärken sich gegenseitig. Wer nicht weiß, dass ein System existiert, kann ihm auch nicht misstrauen. Und ein System, dessen Fehler niemand zu Gesicht bekommt, verliert nie das Vertrauen, weil es sich das nie verdienen musste.

Bemerkenswert ist dabei, wie wenig es braucht, um dieses Gleichgewicht zu verschieben: Schon das bloße Wissen um die Existenz eines Algorithmus stärkte in der Eslami-Studie das Kontrollgefühl der Teilnehmenden, und schon eine minimale, kaum wirksame Anpassungsmöglichkeit reichte in Dietvorsts Experimenten, um Vertrauen wiederherzustellen. Nicht die vollständige Durchschaubarkeit eines Systems scheint also entscheidend zu sein, sondern das Gefühl, überhaupt eine Ahnung von seiner Existenz und einen Rest an Einfluss auf sein Ergebnis zu haben. Genau darin liegt, psychologisch betrachtet, ein guter Teil dessen, was die graue Eminenz so lange so mächtig gemacht hat — und genau darin liegt auch, warum die Bertelsmann-Zahlen aus Teil 1 Grund zur Hoffnung geben, statt nur zur Sorge: Wissen über ein System scheint niemanden zwangsläufig misstrauischer zu machen. Es macht ihn nur zu jemandem, der eine bewusste Entscheidung trifft, statt eine unbewusste hinzunehmen.

Diese Fragen, aus soziologischer, soziokultureller und sozioökonomischer Sicht behandeln die weiteren Artikel dieses Themenblockes hier im Wurzelboten ausführlich.

Der Wurzelbote ist das rollende Themenmagazin des Herzbaum-DALIB-Universe. Neue Artikel erscheinen wöchentlich, passend zu den Ausgaben des Blätterboten. Den Blätterboten gibt es kostenlos auf https://hdu-niverse.de/blaetterbote.

Quellen:

Hinterlasse jetzt einen Kommentar

Kommentar hinterlassen

E-Mail Adresse wird nicht veröffentlicht.


*