Versteckte Regeln, sichtbare Folgen: Wer moderiert unsere Timeline?

Episode von CAISzeit – In welcher digitalen Gesellschaft wollen wir leben? von Center for Advanced Internet Studies, Matthias Begenat · 16. Juli 2025 · 59 min

Hasskommentare, Aufrufe zur Gewalt oder rassistische Äußerungen – täglich werden Milliarden Inhalte in sozialen Medien veröffentlicht, darunter auch problematische Äußerungen. Doch wie werden diese Inhalte erkannt und wie moderiert? Warum bleiben hasserfüllte Postings in vielen Fällen online, während scheinbar harmlose Postings gelöscht werden? Wer entscheidet darüber? Wie funktioniert die Moderation der Inhalte genau? Und welche Rolle spielt Künstliche Intelligenz dabei?

Gemeinsam mit den Forscher:innen Anna Ricarda Luther (Institut für Informationsmanagement Bremen, Universität Bremen), David Hartmann (Weizenbaum-Institut & TU Berlin) und Prof. Dr. Hendrik Heuer (CAIS, Forschungsprogramm "Design vertrauenswürdiger Künstlicher Intelligenz") spricht Host Dr. Matthias Begenat über die Moderation der Inhalte auf Social-Media-Plattformen.

Ein besonderer Fokus liegt auf den sozialen Folgen. Hassrede bleibt nicht nur im digitalen Raum, sondern beeinflusst die Lebensrealität von Aktivist:innen, Lokalpolitiker:innen, Journalist:innen und engagierten Nutzer:innen. Wer regelmäßig angegriffen wird, zieht sich häufig zurück – mit direkten Auswirkungen auf politische Teilhabe und Meinungsvielfalt.

Trotz der Herausforderungen gibt es Entwicklungen, die Anlass zur Hoffnung geben. Die Forscher:innen sprechen über neue gesetzliche Regulierungen wie den Digital Services Act, fordern mehr Transparenz und Kontrolle sowie besseren Zugang zu Plattformdaten. Außerdem diskutieren sie zivilgesellschaftliche Initiativen, die sich für sichere digitale Räume starkmachen: Wie kann Moderation besser, fairer und wirksamer werden? Welche Verantwortung tragen Plattformen – und welche Rechte sollten Nutzer:innen haben?

Disclaimer:

In dieser Folge wird über hasserfüllte Sprache, beleidigende Begriffe und diskriminierende Konzepte gesprochen – u.a. zum Genozid in Myanmar und Tigray und über rassistische Äußerungen. Aus Transparenzgründen haben wir uns entschieden, diese Begriffe im Original wiederzugeben. Wenn Euch das belastet, überspringt gerne die entsprechenden Passagen.

4:28 – 5:06: Genozid an den Rohingya in Myanmar

Hinweis:

https://hateaid.org/

Empfehlungen zum Thema:

Initiative Save Social

Beitrag von Hendrik Heuer, Anna Ricarda Luther und David Hartmann auf der re:publica 25

Data Workers Inquiry

"The Cleaners" (2018) – Dokumentarfilm

"Careless People" von Sarah Wynn-Williams

"Code & Vorurteil - Über Künstliche Intelligenz, Rassismus und Antisemitismus"

"Empire of AI" von Karen Hao

Weitere Episoden von „CAISzeit – In welcher digitalen Gesellschaft wollen wir leben?“

Alle Episoden von CAISzeit – In welcher digitalen Gesellschaft wollen wir leben? · Mehr Wissenschaft-Podcasts