Vor 13 Jahren zur Zeit des Arabischen Frühlings wurden die sozialen Medien durchaus euphorisch als Mittel demokratischer Mobilisierung gefeiert. Doch spätestens  2017 kippte das Bild. Die Chefs von Google, twitter und facebook mussten vor dem US-Kongress offenlegen, dass ihre Plattformen intensiv genutzt worden waren, um die Wahl von Donald Trump 2016 zu beeinflussen und die Gesellschaft zu polarisieren. In Myanmar nutze das Militärregime facebook, um Gewalt und Vertreibung gegen die einheimische Minderheit der Rohingya zu koordinieren und anzustacheln. In Indien wurde Whatsapp zum Synonym für Lynchgewalt. Deutschland wiederum erlebte schon seit 2016 eine Welle rechtsextremistischer Hetze gegen Flüchtlinge auf facebook und twitter, die hunderte Brand- und Terroranschläge gegen Flüchtlingseinrichtungen und Gewalt gegen Menschen auslöste, bis hin zum Mord an Walter Lübcke, Halle (beide 2019) und Hanau (2020).
Doch mit der Gewalt formierte sich auch der Widerstand. So hatte Kübra Gümüşay schon auf der re:publica 2016 gefordert die Liebe gegen den Hass zu organisieren. (1) Ein Jahr später konnte mensch tatsächlich von einer Bewegung sprechen: Zivilgesellschaft und Staat mobilisierten gemeinsam gegen Hass im Netz und konnten einige wichtige Erfolge erzielen.

Die Gesetze: NetzDG und DSA
Seit diesem Februar gilt das Digitale Dienstleitungen Gesetz (engl. DSA). Der europäische Nachfolger des von Heiko Maas initiierten Netzwerkdurchsetzungsgesetzes verpflichtet nun alle Online-Anbieter*innen zur Einrichtung von Mechanismen, um zumindest alle gemeldeten gesetzeswidrigen Beiträge zeitnah zu entfernen. Für große und sehr große Unternehmen (twitter/X, google, meta, tictoc) gelten nochmal weitergehende Regelungen.

Hass melden, anzeigen und verfolgen
Parallel zur Verschärfung der Gesetzeslage, die sich vor allem gegen die Verantwortungslosigkeit der großen Plattformen richteten, haben inzwischen zahlreiche Bundesländer Sonderstaatsanwaltschaften und Meldeportale eingerichtet, die strafrechtlich relevante Hassangriffe entgegennehmen und eigenständig verfolgen. (2) Menschen, die direkt angegriffen werden und sich zivilrechtlich gegen Beleidigungen, Bedrohung und sexuelle Belästigung wehren wollen, finden juristische Unterstützung z.B. bei hateaid und hatefree.de.
Das Netz ist somit kein straffreier Raum mehr. Aber was passiert mit dem legalen Rest, der Art von Inhalten die „awful but lawful“ und durch die Meinungsfreiheit (oder herrschende Machtstrukturen) gedeckt sind?

Opferberatung
Betroffene von Hass im Netz brauchen nicht nur juristischen, sondern in der Regel auch menschlichen (psychosozialen) Beistand. Mit hateaid finanziert die Bundesregierung inzwischen eine auf digitale Hassangriffe spezialisierte Beratungsstelle. Jugendliche finden schon seit 2010 Unterstützung durch jugendliche Medienscouts bei juuuport. Die große Masse der psychosozialen Beratungsangebote ist bei digitaler Gewalt allerdings immer noch überfordert.

Content Moderation der Plattformen
Die großen Plattformen haben zahlreiche Prozesse etabliert, um unerwünschte Inhalte schon kurz nach der Veröffentlichung (3) oder nach einer Meldung zu blockieren oder in der Reichweite einzuschränken. Allerdings kritisieren Initiativen wie die  Global Alliance Against Digital Hate & Extremism (in der LOVE-Storm Mitglied ist), dass:

• diese Praxis außerhalb der USA und Europas noch deutlicher unterfinanziert ist,
• politische Entscheider*innen und reichweitenstarke Influencer*innen oftmals von den Regeln ausgenommen werden.
• die Plattformen und ihre KI-Systeme in vielen Regionen nur unzureichende kulturelle und sprachliche Kompetenzen besitzen, um Gewalt effektiv erkennen zu können, und die (KI-)Entscheidungen „herrschende Vorurteile“ (bias) und Machtstrukturen verstärke. (4)
• die Entscheidungsprozesse nicht transparent sind und manche Maßnahmen wie Reichweiten-Reduzierungen für die Betroffenen nicht erkennbar sind (Shadowbanning)   

Digitale Zivilcourage statt Gegenrede
Die Idee der Gegenrede baut darauf, die „schweigende Mehrheit“ der Zuschauenden gegen den Hass zu mobilisieren und so eine demokratische Gegenöffentlichkeit zu schaffen. Gerade in Deutschland fand die Idee zwischen 2017 und 2020 mit #ichbinhier und der von Jan Böhmermann initiierten „Anti-Troll-Trollarmee“ Reconquista Internet schnell zehntausende Anhänger*innen. Auch LOVE-Storm entstand mit der Idee großer Gegenrede-Communities. Heute reden wir jedoch eher von digitaler Zivilcourage, um Betroffene zu stärken und Gewalt zu deeskalieren. Wichtiger als „mehr zu sein“ ist es, dass die Betroffenen nicht alleine sind. Dazu braucht es weniger Gegenrede und mehr Awareness.

Einer der größten Erfolge im Kampf gegen Hasskommentare wird in der Öffentlichkeit kaum diskutiert: Die Qualität der Kommentarspalten großer Medien ist trotz der seit 2016 angestiegenen gesellschaftlichen Polarisierung insgesamt deutlich besser geworden. Viele Verlage und Sender haben inzwischen klare Moderationsrichtlinien und auch die notwendigen Strukturen, um ihre Diskussionsräume so zu moderieren, dass verbale Gewaltexzesse schnell gelöscht und übereifrige Diskutierende zur Ordnung gerufen werden können. Wer sich hier mit einer politischen Meinung outet, kann zwar Widerspruch ernten, muss aber nicht befürchten, verbal niedergemacht und zum Schweigen gebracht zu werden. 

Ausblick
Im verflixten siebten Jahr ist die Bewegung gegen Hass im Netz nicht schwächer geworden. Viele Akteure haben sich etabliert, die Netzwerke zwischen ihnen sind stärker geworden, auch internationaler. Konflikt und Empörung sind für viele Plattformen und Netzakteure immer noch Garant für Reichweite und Teil des Business-Modells. Doch die Nutzenden und Netzanbieter*innen haben inzwischen eine Wahl. Mit Zivilcourage, Community Management und Chat-Moderation können wir uns das Netz zurückerobern.

Anmerkungen
1 https://www.youtube.com/watch?v=BNLhT5hZaV8
2 Eine Übersicht vieler Melde- und Beratungsstellen kann über LOVE-Storm.de/support abgerufen werden.
3 Laut Meta (facebook, instagram, whatsapp) werden 90% der Inhalte automatisch gefunden. Nur 10% werden von Nutzer*innen gemeldet. https://transparency.fb.com/enforcement/detecting-violations/technology-...
4 Beispielsweise dokumentierte Human Rights Watch Ende 2023, eine Reihe von Vorfällen in denen facebook  und instagram systematisch Palästinensische Stimmen zum Gaza-Konflikt unterdrücke, oder sogar per Auto-Übersetzung palästinensische Profile als Terroristen markierte und so selber Hass schürte. https://www.hrw.org/report/2023/12/21/metas-broken-promises/systemic-cen...