„Die Techriesen brauchen öffentlichen Druck – auch von der Wirtschaft“

Auf Social Media gehört Hassrede zum Alltag, der deutsche Wahlkampf heizt die Gemüter weiter auf. Zwar sind Plattformen wie Facebook oder TikTok verpflichtet, gegen Hetze vorzugehen. Doch die Techriesen drückten sich vor ihrer Verantwortung, sagt Josephine Ballon von HateAid. Sie zieht den Milliardenkonzern X zur Rechenschaft.
Berlin, 2023. Josephine Ballon verklagt die Social-Media-Plattform X (ehemals Twitter), die im Jahr zuvor von Techmilliardär Elon Musk gekauft wurde. Das Landgericht Berlin soll klären, ob Nutzer*innen der Plattform einen Anspruch darauf haben, dass antisemitische Inhalte entfernt werden – auch wenn die diskriminierenden Aussagen sie nicht direkt adressieren. Die Klage wurde von HateAid gemeinsam mit der European Union of Jewish Students (EUJS) eingereicht. Antisemitische Äußerungen seien nach den Allgemeinen Geschäftsbedingungen (AGB) von X nicht erlaubt, trotzdem würden entsprechende Inhalte selten gelöscht, sagt Geschäftsführerin Ballon. „Wir von HateAid sehen dort eine große Schutzlücke.“
Im Prozess geht es für sie um grundlegende juristische Fragen, aber auch um das generelle Machtungleichgewicht zwischen Konzernen und Nutzer*innen. „Es gibt ganze Industrien, die sich darauf verlassen, dass Menschen ihre Rechte nicht kennen oder nicht glauben, dass sie eine Klage gegen große Unternehmen gewinnen könnten.“ Entsprechende Klagen seien für Einzelpersonen mit hohen Kostenrisiken verbunden und auch deswegen extrem selten.

Josephine Ballon hat Rechtswissenschaften an der Universität Potsdam studiert und ist seit 2018 als Rechtsanwältin zugelassen. Sie arbeitete zunächst in den Bereichen Verbraucherschutz und Legal Tech, wurde dann im Herbst 2019 Head of Legal bei HateAid. Seit September 2023 ist sie zusammen mit Anna-Lena von Hodenberg Geschäftsführerin der Menschenrechtsorganisation gegen digitale Gewalt.
Diesem Ungleichgewicht etwas entgegenzusetzen – das treibt Ballon an und spiegelt sich in ihrer Karriere. Seit 2019 unterstützt sie als Head of Legal die Menschenrechtsorganisation HateAid, seit einem Jahr ist sie deren Geschäftsführerin. Die Organisation vertritt unter anderem Menschen, die Opfer von digitaler Gewalt werden, etwa in Form von Hasskommentaren, Morddrohungen per E-Mail oder sexualisierten Bild- und Videofakes. „In den sozialen Medien werden Persönlichkeitsrechte oft mit den Füßen getreten“, erklärt die Rechtsanwältin. „Das hat Folgen für die ganze Gesellschaft.“ Denn Menschen, die öffentlich bloßgestellt und erniedrigt wurden, trauen sich häufig nicht mehr, an öffentlichen Diskursen teilzunehmen, wie eine Studie von HateAid aus dem Jahr 2024 zeigt. Mehr als die Hälfte der Befragten gab dort an, sich aus Angst vor Hass im Netz zurückzuziehen und sich seltener zum eigenen politischen Standpunkt zu bekennen. „Unter diesen Umständen ist Meinungsfreiheit kaum noch gegeben“, sagt Ballon. Eine neue Studie der Organisation belegt außerdem, dass die Mehrzahl politisch Engagierter bereits digitale Gewalt erfahren hat.
Es gibt ganze Industrien, die sich darauf verlassen, dass Menschen ihre Rechte nicht kennen.
„Angegriffen & alleingelassen: Wie sich digitale Gewalt auf politisches Engagement auswirkt. Ein Lagebild“
Die Technische Universität München befragte in Kooperation mit HateAid politisch Aktive zu ihren Erfahrungen mit digitaler Gewalt. Die Studie zeigt: Digitale Anfeindungen gegen Politiker*innen, Aktivist*innen und andere politisch Engagierte prägen die politische Arbeit.
Die Studie ist hier verfügbar.

Wie gut greift der DSA wirklich?
Seit vergangenem Jahr gilt in der EU ein neues Gesetz über digitale Dienste, das Abhilfe schaffen soll: der Digital Services Act (DSA). Dieser regelt unter anderem den Umgang von sozialen Medien mit rechtswidrigen Inhalten neu. Ein Fortschritt, meint Josephine Ballon, aber nicht in jeder Hinsicht: „Wir hatten in Deutschland vorher eine Regulierung, die in Bezug auf extremistische Inhalte schärfer war.“ Nach dem Netzwerkdurchsetzungsgesetz (NetzDG) musste eine Plattform beispielsweise ein Hakenkreuz, das gemeldet wurde, innerhalb von 24 Stunden löschen – nach dem DSA nur noch „unverzüglich“, ohne konkrete Zeitangabe.


Zudem stellt sich die Frage, wie gut Plattformen wie Facebook, Instagram, Tiktok und YouTube die DSA-Vorgaben tatsächlich umsetzen. HateAid hat dies ein Jahr lang untersucht. Als Ergebnis reichte die Organisation bei den Aufsichtsbehörden Beschwerden wegen des Umgangs aller großen sozialen Netzwerke mit rechtswidrigen Inhalten ein. Die Bilanz sei ernüchternd, sagt die Geschäftsführerin von HateAid: „Die Meldewege sind nicht benutzungsfreundlich, intransparent und nutzen teilweise sogar Einschüchterungsmethoden.“ Bei YouTube etwa muss die meldende Person ihren vollständigen Namen angeben, um eine Beschwerde einzureichen. Das bedeutet, dass der*die Verfasser*in des gemeldeten Posts den Namen zu lesen bekommen könnte. Eine anonymisierte Meldung ist nicht möglich. Gut geschützt sind Nuter*innen demnach nicht.
Bereits der Melde-Button sei schwer zu finden, sagt Josephine Ballon. „Wir sehen darin den Versuch, Menschen davon abzuhalten, rechtswidrige Inhalte zu melden. Die Plattformen nutzen jedes Schlupfloch, das ihnen der DSA bietet.“ Auch gegen TikTok hat HateAid deshalb im letzten Jahr eine Beschwerde eingereicht. Nach Meinung der Organisation muss der Gesetzestext des DSA geschärft werden, um konkrete Vorgaben zu definieren. Nicht nur für die Meldewege, sondern auch in Bezug auf die Moderation und die Algorithmen, über die problematische Inhalte ausgespielt werden.
Wer klagt, braucht einen langen Atem
Wer es mit den großen US-Konzernen juristisch aufnimmt, braucht Durchhaltevermögen und tiefe Taschen. Das hat Josephine Ballon in ihrem Prozess gegen X feststellen müssen. Erst anderthalb Jahre nach Einreichung der Klage kam es im vergangenen Sommer zum ersten Verhandlungstermin. Das Landgericht Berlin folgte der Argumentation von X, dass die deutsche Justiz nicht zuständig sei, und wies die Klage ab. Die Begründung: Ballon und Mitklägerin Avital Grinberg (EUJS) könnten nur in Deutschland klagen, wenn sie entweder selbst direkt Ziel von antisemitischen Inhalten seien – dann greife das deutsche Strafrecht – oder wenn sie „Verbraucher*innen“ seien, die sich auf die vertraglichen AGB berufen können. Dies sei aber nicht der Fall, da das Verfahren strategisch geführt würde, stellvertretend für alle potentiellen Nutzer*innen.
Lange Wartezeiten und ein Gericht, das nicht zuständig ist – hat man gegen die großen Techkonzerne überhaupt eine Chance, Frau Ballon? „Ja“, sagt sie mit Nachdruck. „Vor allem, wenn man den öffentlichen Druck aufrechterhält und die Wirtschaft auch Stellung bezieht. Denn die Wirtschaft hält das Geschäftsmodell der Social-Media-Plattformen durch ihre Werbeanzeigen am Leben.“ Immerhin, mehr als 80 internationale Medien haben bereits über den X-Prozess berichtet. Ein Erfolg. Die Klägerinnen sind derweil beim Kammergericht Berlin in Berufung gegangen. Sollte dies keine Klärung bringen, ist Josephine Ballon schon auf den nächsten Schritt vorbereitet: Eine Vorlage an den Europäischen Gerichtshof hält sie für möglich. Am langen Atem wird es nicht scheitern.
HateAid
HateAid ist eine gemeinnützige Organisation, die sich für Menschenrechte im digitalen Raum einsetzt und sich auf gesellschaftlicher wie politischer Ebene gegen digitale Gewalt und ihre Folgen engagiert.