Dark Patterns

Unternehmen am schmalen Grat unterwegs

Zwischen überzeugendem Design und Beeinflussung mittels absichtlicher Irreführung ist wenig Raum. Wie einfach ein Produkt im Web auffindbar oder ein Account registriert ist, oder wie intuitiv man eine App bedienen kann, entscheidet über Erfolg oder Misserfolg eines digitalisierten Unternehmens. Zudem verleitet uns die moderne Wirtschaft auf Basis von wissenschaftlichen Erkenntnissen über die menschliche Psyche ständig zu profitsteigernden Handlungen. Die Trickkiste für Verkaufsstrategien ist voll mit psychologischen Werkzeugen; abgesehen von der allgegenwärtigen, mehr oder weniger offensichtlichen Werbung und von Pseudogelegenheiten, müssen wir zum Beispiel Rolltreppen in Kaufhäuser einer Verkaufsstrategie entsprechend abfahren. Oder Produkte werden uns unvermeidbar ins Sichtfeld gelegt. Oder uns werden Ablenkungsangebote gemacht, um ein anderes Produkt mit der höchsten Gewinnspanne als wertvoller zu empfinden. Im Alltag fallen uns diese Tricks oft gar nicht mehr auf. Besonders der digitale Dienstleistungssektor und E - Commerce Plattformen nutzen persuasives Design der "dunklen" Machart. Dabei missbraucht eine Kombination aus Psychologie, Marketing und Design unsere Empfänglichkeit für solche Techniken. Sie werden meist subtil angewandt und sind in der Praxis schon dermaßen üblich, dass wir uns eher wundern, wenn uns die Machart einer Onlineanwendung nicht in eine vorbestimmte Richtung drängt. Die Mehrzahl der eingesetzten Dark Patterns ist eine sanfte Form von Einflussnahme und die Nachteile oder Schäden für Verbraucher:innen sind meist überschaubar. Die Frage jedoch bleibt - wo liegt die Grenze zwischen legitimen verkaufsfördernden Methoden und unethischer Manipulation und wann wird es zu viel? Es gibt immer mehr davon und der Trend zeigt in eine abträgliche Richtung.

Dark Patterns sind nicht neu

Menschen haben im Alltag nicht die Zeit jede Detailinformation zu analysieren und müssen rasch Beschlüsse fassen. Die Art wie unser Denken funktioniert, ist durch die Evolution an die Notwendigkeit schneller Entscheidungen angepasst. In der Psychologie spricht man dabei von Heuristiken. Einfache Entscheidungsregeln helfen uns Situationen schnell zu kategorisieren und robust nacheinander durch schnelles Entscheiden zu bewältigen. Nur 5% unserer Gehirnleistung wenden wir am Tag für rationelles Denken auf, ein energieaufwendiger jedoch entscheidungsschwacher Vorgang. Die anderen 95% erledigt sozusagen unser Autopilot. Damit möchte unser Gehirn aufgrund angeborener oder angelernter Heuristiken rasch und energiesparsam, und eher unbewusst entscheiden. Eine wichtige Heuristik ist beispielsweise, dass wir uns bei Unsicherheit für die bekanntere Option entscheiden. Eine andere bekannte Erkenntnis der Verhaltenspsychologie der 1950er Jahre ist, dass Menschen, sobald man sie mit zu vielen Entscheidungsinformationen überlädt, gar keine vernünftige Entscheidung mehr treffen können. Solche Forschungsergebnisse über schnelle unwillkürliche Assoziationen machen sich Dark Patterns zu Nutze. Ihr Ziel ist es, dass wir uns nicht entscheiden, sondern eine vorbereitete Auswahl bestätigen.

Manipulative Personalisierung wird immer raffinierter

Aufgrund kapitalistischer Wachstumsprämisse müssen vor allem digitale Services ständig neue Nutzer:innen gewinnen. Unternehmen, die sich keiner Dark Patterns bedienen, haben die Befürchtung im Konkurrenzkampf ins Hintertreffen zu geraten. Kennzahlen für den Erfolg messen sich z.B. an Neuanmeldungen beim Newsletter, egal ob die Zustimmung gewollt erfolgte oder durch einen bewusst herbeigeführten Irrtum bei den Besucher:innen eines Webshops. Oder an den Klickzahlen, die zu einer kommerziellen Seite leiten, egal ob die User gewollt oder durch Irreführung dorthin gelotst wurden. Psychotricks und bösartiges Design helfen solche Kennzahlen zu erreichen, ohne dass sich dabei ein Service, ein Inhalt oder eine Ware des Unternehmens verbessert hätten und steigern so ohne nennenswerte Unkosten den Umsatz.

Eine EU Studie untersuchte 2022 das Ausmaß des Problems in der Union, denn Dark Patterns beeinträchtigen unsere Privatsphäre, den Verbraucherschutz und schädigen den fairen Wettbewerb. Das Ergebnis zeigt, 97 % der beliebtesten Webseiten und Apps nutzen mindestens an einer Stelle solche Methoden aus. 

Kurz darauf betonte auch eine OECD Studie im Bericht "Dark commercial patterns" wie wenig Konsument:innen der 38 am meisten entwickelten Länder im digitalen Raum gegen Manipulationsversuche dieser Art vorbereitet sind. Zwei weitere Erkenntnisse wurden hervorgehoben: Erstens sammeln Unternehmen auf diese Weise deutlich mehr Informationen über Verbraucher:innen und zweitens können sie diese fragwürdigen Hilfsmittel bei unterschiedlichen Nutzer:innengruppen leicht auf Wirksamkeit testen und schrittweise so immer mehr personalisieren. Der Werkzeugkasten an Dark Patterns wird durch deren eigenen Einsatz immer ausgefeilter.

In Österreich betraute 2023 die Arbeiterkammer die Expert:innen des ÖIAT mit dem Thema für eine Studie. Darin wird unter anderem der technologische Fortschritt in der Emotionserkennung problematisiert. Die Relevanz von künstlicher Intelligenz nimmt zu und diese kann durch Mimik- und Spracherkennung erkennen, wann eine Person am empfänglichsten für Werbung zu einem bestimmten Produkt oder Dienstleistungen ist. Problematisch, sowohl im Sinne des Konsumentenschutzes, als auch durch die Verletzung von Menschenwürde. Insbesondere bei vulnerablen Gruppen haben Dark Patterns leichteres Spiel; etwa bei Minderjährigen, nicht Internet - affinen Menschen oder bildungsfernen Bevölkerungsgruppen mit schwächeren Sprachkenntnissen.

Legislative Bestrebungen gegen Dark Patterns

In der EU gibt es mehrere Ansätze gegen Methoden mit irreführendem Design. Zum Schutzarsenal gehören die Datenschutzgrundverordnung ("DSGVO"), der Digital Services Act ("DSA"), der Digital Markets Act ("DMA") und die Richtlinie über unlautere Geschäftspraktiken ("UCPD")- Zudem sind neue Verordnungen wie der Data Act und der AI Act aufgrund der rasanten Entwicklung vorgeschlagen und im Entstehen. Interessanterweise bringt die EU seit Mai 2023 in einem dreijährigen Projekt ebenso künstliche Intelligenz zur Erkennung von Dark Patterns in Stellung, um das Spielfeld KI nicht komplett der "dunklen Seite" zu überlassen.

Seit dem 2. Mai 2023 versucht das Gesetz über Digitale Märkte (DMA - digital market act) zumindest bei den marktbeherrschenden Technologieriesen den Einsatz von Dark Patterns einzuschränken. Dabei sind sogenannte "Gatekeeper" definiert. Sie haben entweder eine besonders bedeutende Stellung im europäischen Binnenmarkt, oder über 45 Millionen monatliche User:innen und einen Mindestumsatz von siebeneinhalb Milliarden Euro.

Laut Artikel 70 des DMA betrifft sie folgendes Verbot: Gatekeeper sollten kein Verhalten an den Tag legen, das die Wirksamkeit der in dieser Verordnung festgelegten Verbote und Verpflichtungen untergraben würde. Ein solches Verhalten umfasst das vom Gatekeeper verwendete Design, die Darstellung der Wahlmöglichkeiten des Endnutzers in einer nicht neutralen Weise oder die Verwendung der Struktur, Funktion oder Funktionsweise einer Benutzerschnittstelle oder eines Teils davon, um die Autonomie, Entscheidungsfreiheit oder Wahlmöglichkeiten des Nutzers zu untergraben oder zu beeinträchtigen. Auch DMA Artikel 63 befasst sich konkret mit dem wohlbekannten Dark Pattern, welches Nutzer:innen schwer macht, ein Service abzubestellen oder einen Account auf einer Plattform zu löschen.

Allerdings kritisieren Forscher:innen am DMA, dass unzählige kleinere Anbieterfirmen, die der Gatekeeper Definition nicht entsprechen, durch den Rost fallen und nicht belangt werden können. Diese kleineren Unternehmen mögen zwar mengenmäßig nicht so viele Menschen schädigen, wie zum Beispiel unfaire Designelemente auf Amazon oder Facebook, der Schaden kann durch aggressivere Methoden allerdings größer ausfallen, so die Kritik. 

Die andere EU Verordnung, der Digital Services Act (DSA) deckt ein weiter gestecktes Feld des Internet ab. Das Gesetz gilt ab dem 17. Februar 2024 europaweit, für große Suchmaschinen und Onlineplattformen gelten gewisse Sorgfaltspflichten bereits seit November 2022. Der DSA verbietet Dark Patterns im Artikel 23a:

Die Anbieter von Online-Plattformen dürfen ihre Online-Schnittstellen nicht in einer Weise gestalten, organisieren oder betreiben, die die Fähigkeit der Empfänger ihres Dienstes, freie und fundierte Entscheidungen zu treffen, täuscht, manipuliert oder anderweitig wesentlich verzerrt oder beeinträchtigt.

Hier - so die Diskussion - sei aber unklar, ob das Verbot für alle Vermittlungsdienste oder nur für Online-Plattformen gelten soll. Die Formulierung, obwohl an sich ambitioniert, bleibe zu vage, betonen damit befasste Wissenschaftler:innen. Zudem fordern die Autor:innen der weiter oben erwähnten EU Studie ein gezieltes Verbot von ganz bestimmten Dark Patterns. Es sei einerseits ungenügend definiert, wer sich an die Vorgaben halten muss, und andererseits, was genau alles nicht erlaubt ist. Lediglich drei Dark Patterns (assymetric choice, nagging, hard to unscubsribe - Erklärungen siehe unten) werden vom DSA konkret adressiert. Um die Unklarheit bei der Verantwortung über weitervermittelte Daten auszugleichen, wird im vorbereiteten Data Act (in dessen Erwägungsgrund 34) erläutert, dass Dritte bei der Gestaltung ihrer digitalen Schnittstellen nicht auf Dark Patterns zurückgreifen dürfen. Und zwar vor allem nicht in einer Weise, die Anwender:innen im Sinne des in der DSGVO definierten Grundsatzes der Datenminimierung dazu verleitet, noch mehr persönliche Daten preiszugeben.

Die älteren bestehenden Verordnungen, die Datenschutzgrundverordnung (DSGVO von 2016) als auch die Richtlinie gegen unlautere Geschäftspraktiken (RL 2005/29/EG) erwähnen Dark Patterns nicht dezidiert, bieten aber durch ihre inhaltliche Breite eine judikative Handhabe.

• Artikel 5(1)a) der DSGVO fordert Transparenz und Fairness bei Datenerhebung.
• Artikel 12 besagt, dass uns Informationen in einer "knappen, transparenten, verständlichen und leicht zugänglichen Form unter Verwendung einer klaren und einfachen Sprache" zur Verfügung gestellt werden müssen.
• Artikel 25 der DSGVO verlangt den wirksamer Schutz durch Technik und durch datenschutzfreundliche Voreinstellungen für die Rechte und Freiheiten von natürlichen Personen. Diese gesammelten Daten dürfen nicht ohne Eingreifen der betroffenen Person einer unbestimmten Zahl von natürlichen Personen zugänglich gemacht werden.
• Auch die Richtlinie für unlauteren Wettbewerb von 2005 kannte noch keine Dark Patterns, ermöglicht jedoch Strafmaßnahmen gegen irreführende Werbung und Gestaltung. Ein Nachteil hier ist jedoch, dass die Richtlinie primär für Unternehmen ausgelegt ist, welche sich durch die regelwidrige Praxis der Konkurrenz benachteiligt sieht, und nicht für Verbraucher:innen.

Die von Fachwissenschaftler:innen zu Dark Patterns betriebene Seite Deceptive Design stellt den einzelnen unlauteren Methoden das entsprechende Gesetz gegenüber.

Diese Vorgaben erwiesen sich bisher in der Praxis leider als eher zahnlos gegen Dark Patterns. Es gibt zu wenig Beispiele erfolgreicher Gerichtsprozesse und die bisherigen Fälle beschränkten sich auf zu eng gefasste Auslegungen, wie etwa den Missbrauch bei einer manipulativen Cookie Zustimmung. Aber selbst da wirkt der Schutz nicht ausreichend. Es gilt in der DSGVO zwar die Grundvoraussetzung der "wirksamen Einwilligung" und "freiwilligen Zustimmung" durch Nutzer:innen, wenn das in der legalen Grauzone aber als formell ausreichend eingeholt gilt, indem in der Praxis die Erlaubnis von Unternehmen durch Dark Patterns erschlichen wird, führt das die Verordnung ad Absurdum.

Die KI Expertin vom Stanford College Jennifer King sieht ein  weiteres Grundproblem darin, dass Dark Patterns immer raffinierter werden, indem dynamische, datengesteuerte Algorithmen zum Einsatz kommen, die durch komplexeres Einwirken auf die Psyche unsere Entscheidungsfindung manipulieren. Dies kennt man beispielsweise von Content Feeds, die uns mit scheinbar endlosem Engagement vereinnahmen. Die Verweildauer auf Seiten wird so lange wie möglich verlängert, indem uns z. B. fortlaufende Handlungsaufforderungen bei der Stange halten. Dies ist weniger offensichtlich, als zum Beispiel eine Cookie Zustimmungen inkorrekt einzuholen. Auf diese zunehmend ausgefeilten Methoden haben weder die alten noch die kommenden Regelungen bislang eine Antwort. Wer sich für diese Thematik und deren gesamtgesellschaftliche Auswirkungen interessiert, sei der New York Times Bestseller "Abgelenkt!" von Johann Hari empfohlen.

Als Einzelperson kann man sich vor Dark Patterns am ehesten schützen, indem man auf Tricks und Täuschungen auf den verschiedenen Webseiten und Anwendungen achtet und lernt gewisse Ähnlichkeiten in der Methode zu erkennen. Das Phänomen macht deutlich, dass wir uns als User:innen der digitalen Welt nicht mehr damit begnügen können, nur die Inhalte der Webangebote zu prüfen. Wir müssen zusätzlich auch das Design von Benutzeroberflächen kritisch hinterfragen lernen. Mit dem Bewusstsein darüber, welche Methoden im Einsatz sind, fällt man seltener darauf herein. Deshalb listen wir zu diesem Zweck weiter unten viele Beispiele. Grundsätzlich helfen folgende Leitlinien: 

1. Lesen vor dem Klicken -  Details beachten, nicht ablenken lassen, nicht sofort die vordergründige Möglichkeit annehmen!
2. Zeit lassen: Aufgrund stressiger Elemente und Meinungen anderer keine überstürzte Entscheidung treffen!
3. Am Ende kontrollieren: Warenkorb und (vor)markierte Optionen vor dem Bezahlen noch einmal prüfen!

Dennoch und unabhängig vom individuellen Aspekt und der eigenen Verantwortung beim Umgang mit abträglichen Entwicklungen des Web, eine generelle Verbesserung in der Durchsetzung der Verbote von Dark Patterns ist längst überfällig. Diese Verantwortung darf nicht auf uns User:innen abgewälzt werden. Wer kennt das nicht, nach dem mühsamen Durchklicken der sechsten umständlichen Cookie Zustimmungsabfrage geben wir uns geschlagen. Selbst wenn uns die Unrechtmäßigkeit bewusst ist, geben wir der Bequemlichkeit und dem "bisschen" Kontrollverlust nach. Das EVZ wartet gespannt auf Judikatur, die die Einhaltung der neuen Regeln z.B. im DMA oder DSA einfordert, als auch auf hoffentlich schärfere und konkrete Verbote von Dark Patterns im kommenden Data oder KI Act.