Gestern war ein großer Tag. Er wird in die Geschichte der IT eingehen: Die Whistleblowerin Frances Haugen sagte vor einem Senatsausschuss aus, der sich mit Jugendschutz in den sozialen Medien, insbesondere Facebook
beschäftigt.
Ihr Vorwurf: Facebook wisse aufgrund inhouse durchgeführter Forschungen sehr genau, dass seine Empfehlungsmechanismen so konstruiert sind, dass die durch diese Algorithmen bevorzugt präsentierten Inhalte soziale Schäden verursachte. Sie führen laut dazu, dass junge Frauen ihre Körper verabscheuen, Anorexie bekommen, dass Ethnien zum Rassenhass aufgestachelt werden und Gewalt ausgeübt wird. Dies deshalb, weil extremere Inhalte besser klicken und weil alle Mechanismen verhindert werden, die die rasante Ausbreitungsgeschwindigkeit von News hemmen könnten. Außerdem spreche Facebook gezielt Kinder unter 13 Jahren an. Zudem seien die eingesetzten AI-Algorithmen zur Erkennung Minderjähriger und gefährlicher Inhalte nicht effizient. Sie würden nur etwa 20 Prozent der Kinder erkennen, deren Accounts dann gelöscht werden. Algorithmen zur Erkennung gefährlicher oder gewalttätiger Inhalte würden, wenn überhaupt, nur in wenigen Ländern respektive Sprachbereichen eingesetzt. Facebook tue auch bewusst viel zu wenig dagegen, dass über die Plattform von anderen Staaten Spionage zu Lasten der USA betrieben wird. Kurz: Facebook vermeide jeden Mechanismus so weit wie möglich, der den Gewinn verringern könnte. Haugen: „Das Unternehmen wird von Metriken gesteuert, nicht von Menschen.“ Ethische Überlegungen spielten bei der Ausgestaltung des Geschäftsmodell und der Algorithmen die geringstmögliche Rolle, Kontrollmechanismen würden nur dann aktiviert, wenn dies absolut unvermeidlich sei, beispielsweise kurz vor den US-Wahlen. Nach den Wahlen seien diese sofort wieder deaktiviert worden, was eine der Ursachen für den Erfolg der Aufrufe zur Erstürmung des Kapitols am 6. Januar gewesen sei.
Dies alles geschehe beziehungsweise geschehe nicht, weil Facebook durch wirksamere Maßnahmen zur Verhinderung sozialer und politischer Schäden mit weniger Wachstum bezahlen müsste. Facebook stelle Gewinn grundsätzlich über alle Anliegen, und dies liege vor allem an Mark Zuckerberg, der die letzte Instanz bei allen wichtigen Entscheidungen von Facebook sei.
Haugen fordert eine Regulierung, die Facebook und Big Tech insgesamt zwingt, Rohdaten sowie Algorithmen und hausinterne Forschung transparent zu machen. Das werde von einigen Big-Tech-Firmen teilweise bereits getan. Weiter fordert sie eine staatliche Regulierungsbehörde, die mit Algo-Spezialisten besetzt wird und tatsächlich beurteilen kann, wie die Algorithmen arbeiten. Grundsätzlich müsse man sich vom empfehlungsbasierten Algo-Ranking verabschieden und Inhalte anders, beispielsweise chronologisch, präsentieren, um negative Auswirkungen, wie sie sich bei Facebook-Nutzern zeigen, zu verhindern. Haugen zu den Senatsmitgliedern: „Die Tabakindustrie wurde stark reguliert, weil einer von zehn Rauchern Krebs bekommt. Aber zwei von zehn jugendlichen Facebook-Usern bekommen seriöse psychische Probleme. Das ist intolerabel. Sie müssen handeln!“ Haugen zitierte auch Daten, nach denen 13 Prozent der britischen und sechs Prozent der US-amerikanischen Selbstmordgefährdeten den Ursprung ihrer Selbstmordgedanken bei Instagram verorten.
Es scheint, dass das Maß der Toleranz bei aller Präferenz für möglichst unumschränkte Meinungsfreiheit in den USA langsam voll ist. Der zuständige Ausschuss, der sich diesmal lediglich mit Themen rund um den Jugendschutz befasste, ist überparteilich besetzt. Weitere Themen – nämlich das fehlende Vorgehen gegen politische Manipulation und Spionage sowie die unumschränkte Marktmacht des Riesen, zu dem auch der Messengerdienst WhatsApp und der Foto/Film-Sharing-Dienst Instagram gehören, wurden nur angerissen und sollen in separaten Hearings vertieft werden.
Fazit
Es scheint, als würde man auch in den USA endlich wach, wo die Tech-Riesen ja ansässig sind. Infolgedessen kann sie auch nur die dortige Regierung regulieren. Deshalb ist das, was jetzt dort passiert, von äußerster Bedeutung. Die anderen Großen hören die Glöckchen anscheinend schon läuten. So hat Youtube vor kurzem mehr als 100.000 Filme gelöscht, die Falschinformationen übers Impfen enthielten. Hoffentlich war auch der Schmarrn, mit dem QAnon die Welt verunsichert, darunter. Wer weiß: Vielleicht trägt eine konsequente Regulierung und gegebenenfalls Aufspaltung der Social-Media-Giganten mehr dazu bei, dass die Welt sich endlich mit ihren realen (z.B. Klimawandel, Armut) Problemen befasst statt mit aufgebauschtem Unfug wie den derzeit im Schwange befindlichen Verschwörungstheorien und anderem medial aufgeblähten Unsinn. Wer weiß, vielleicht ist Facebook in einem Jahr nicht mehr die Dreckschleudermaschine, die wir kennen.
