Hass im Netz: Warum der DSA noch nicht genug schützt
Gewalt gegen Frauen, queere Menschen und andere von Diskriminierung betroffene Gruppen im digitalen Raum ist kein Einzelfall – sie hat System. Der Digital Services Act (DSA) der Europäischen Union verpflichtet Plattformen dazu, gegen digitale Gewalt vorzugehen. Doch kann das Gesetz besonders gefährdete Gruppen wirksam schützen? Asha Allen, Leiterin des gemeinnützigen Centre for Democracy and Technology Europe in Brüssel, hat untersucht, ob und wie Plattformen ihrer Verantwortung nachkommen. Sie warnt: Die fehlende Sicherheit im Netz schränke die demokratische Teilhabe von Frauen, queeren Personen und anderen Gruppen ein.
TikTok, Instagram, X und andere Plattformen sind wichtige Orte gesellschaftlicher und politischer Debatten – doch nicht alle können sich dort sicher bewegen. Eine repräsentative Studie des Kompetenznetzwerkes gegen Hass im Netz aus 2024 zeigt: 57 Prozent der Befragten äußern ihre politische Meinung aus Angst vor Hass seltener, 55 Prozent beteiligen sich seltener an Diskussionen. Frauen und mehrfach diskriminierte Menschen sind besonders häufig von Anfeindungen und sexualisierten Übergriffen betroffen. „Digitale Gewalt bedroht die demokratische Resilienz und Teilhabe“, sagt Asha Allen, die Leiterin des Centre for Democracy and Technology Europe ist. Diese Feststellung passt zum aktuellen gesellschaftspolitischen Klima: Misogynie und Hass werden zunehmend als freie Meinungsäußerung legitimiert, statt als Formen von Gewalt benannt zu werden. Auch Plattformen berufen sich auf dieses Argument und nutzen es als Rechtfertigung dafür, nicht konsequent gegen digitale Gewalt vorgehen zu müssen.
Allen beschäftigt sich seit über zehn Jahren mit Geschlechtergerechtigkeit im Internet. Ihr erstes Forschungsprojekt setzte sich mit dem Menschenhandel von Frauen und Mädchen auseinander. „Ich habe damals herausgefunden, dass kriminelle Netzwerke Onlineplattformen nutzten, um Frauen und Mädchen mit vermeintlichen Sommerjobs anzuwerben, hinter denen sich Menschenhandel und sexuelle Ausbeutung versteckten.“ Digitale Technologien hätten neue Möglichkeiten eröffnet, die geltenden Menschenrechte zu unterlaufen. Asha Allen betont deshalb, dass Onlineplattformen keine Orte seien, die vom analogen Leben getrennt seien. Vielmehr seien sie Orte, an denen patriarchale und geschlechtsdiskriminierende Gewalt, die schon lange in der analogen Welt existiere, verstärkt würde.
Asha Allen ist Direktorin und Generalsekretärin des Centre for Democracy and Technology Europe. Seit vielen Jahren beschäftigt sie sich mit digitaler Gewalt und den Auswirkungen von Technologie auf die gesellschaftliche und politische Teilhabe. Sie berät Politiker*innen zur Umsetzung des Digital Services Act und setzt sich dafür ein, dass die Perspektiven betroffener Communitys in die Plattformregulierung einfließen.
Immer mehr Frauen und queere Menschen sagen, dass sie wegen Hass, Hetze und Misogynie nicht mehr öffentlich auftreten wollen.
Ein Gesetz allein reicht nicht
In den vergangenen Jahren hat sich Allen für die Entwicklung des Digital Services Act (DSA) eingesetzt. Dass dieser geschlechtsspezifische Gewalt ausdrücklich als systemisches Risiko nennt, hält sie für einen wichtigen Fortschritt. Ob er Frauen und queere Menschen auf digitalen Plattformen tatsächlich besser schützt, lässt sich bislang jedoch kaum beurteilen. „Es ist ein kompliziertes Puzzle“, sagt die Expertin. Denn der DSA wirkt nicht allein. Er ergänzt die Istanbul-Konvention, den AI Act und die EU-Richtlinie zur Bekämpfung von Gewalt gegen Frauen und häuslicher Gewalt. Die EU-Mitgliedstaaten müssen diese Richtlinie bis zum 14. Juni 2027 in nationales Recht umsetzen.
Trotzdem ist der DSA ein wichtiger Teil des Puzzles. Er verpflichtet sehr große Plattformen wie Facebook, Instagram, TikTok oder X dazu, systemische Risiken zu erkennen und einzudämmen. „Der DSA nimmt erstmals auch Formen digitaler Gewalt in den Blick, die nicht unbedingt rechtswidrig sind, aber dennoch großen Schaden anrichten“, sagt Asha Allen. Dazu gehören Systeme oder Algorithmen, die dazu beitragen, extrem frauenfeindliche Inhalte zu empfehlen oder Politiker*innen, Journalist*innen oder Aktivist*innen einzuschüchtern und über misogyne Desinformation anzugreifen. Der DSA zwingt die Plattformen dazu, regelmäßig zu bewerten, welche Risiken von ihren Diensten ausgehen, wie ihre Systeme diese verstärken und was sie dagegen unternehmen. Der DSA gibt zwar den Rahmen vor, verpflichtet aber nicht zu einer einheitlichen Methode für diese Risikobewertungen. Zivilgesellschaftliche Organisationen haben deshalb eigene Standards empfohlen; auch die UN-Leitprinzipien für Wirtschaft und Menschenrechte können Orientierung bieten.
Aus Sicht von Asha Allen beziehen die Plattformen zivilgesellschaftliche Organisationen und betroffene Communitys bei ihren Risikobewertungen noch nicht ausreichend ein. „Viele Teams und Stellen, die für Vertrauen und Sicherheit zuständig waren, sind seit dem Inkrafttreten des DSA abgebaut worden. Zugleich haben große Plattformen Kontakte zu zivilgesellschaftlichen Organisationen in Europa reduziert“, kritisiert sie.
Ähnliche Lücken auf allen Plattformen
Wie Plattformen geschlechtsspezifische Gewalt behandeln, hängt auch von ihrem jeweiligen Geschäftsmodell ab. Das Centre for Democracy and Technology hat etwa die Risikobewertungen von Pornhub, Xvideos und Stripchat untersucht. Auf solchen Plattformen stellen intime Aufnahmen und sexualisierte Deepfakes, die ohne Zustimmung der gezeigten Personen verbreitet werden, besondere Risiken dar. „Einige Plattformen setzen sich in ihren Risikoberichten konkreter mit geschlechtsspezifischer Gewalt auseinander. Andere beschränken sich auf den allgemeinen Hinweis, dass sie bereits Richtlinien gegen Hassrede haben“, sagt Allen.
Die Analyse des Centre for Democracy and Technology deckt erhebliche Lücken auf: Die Plattformen definieren geschlechtsspezifische Gewalt uneinheitlich und belegen nur unzureichend, ob ihre Gegenmaßnahmen wirken. Um diese Wissenslücke zu schließen, überlegt die Organisation, in Zukunft ein „Vetted Researcher“ zu werden. Mit diesem Status könnte die Organisation Zugang zu Plattformdaten beantragen und wissenschaftlich prüfen, ob die Schutzmaßnahmen gegen systemische Risiken wirken.
Wissen als erster Schritt zum Schutz
Gesetze können jedoch nur effektiv schützen, wenn Menschen ihre Rechte kennen und wahrnehmen. „Die Nutzer*innen müssen wissen, dass es den DSA gibt, welche Rechte er ihnen zuschreibt und wie sie sich gegen digitale Gewalt wehren können“, sagt Allen. Zugleich brauchen Politik und Behörden das Wissen derjenigen, die digitale Gewalt beobachten und Betroffene unterstützen. Deshalb hat das Centre for Democracy and Technology die DSA Civil Society Coordination Group aufgebaut, zu der rund 70 Organisationen gehören. Das Netzwerk koordiniert die Arbeit der Zivilgesellschaft, um die Umsetzung des DSA mitzugestalten. Zugleich setzt es sich dafür ein, dass Regulierungsbehörden die Zivilgesellschaft regelmäßig einbeziehen, auch bei Maßnahmen gegen geschlechtsspezifische Gewalt. Für Allen geht es dabei letztlich darum, wer im digitalen Raum sichtbar sein und mitreden kann. „Immer mehr Frauen und queere Menschen sagen, dass sie wegen Hass, Hetze und Misogynie nicht mehr öffentlich auftreten wollen. Dadurch werden der digitale Raum und die politischen Debatten homogener. Ihnen wird vermittelt: Ihr gehört hier nicht hin.“ In einer Zeit, in der Gleichberechtigung weltweit angegriffen werde, könne das über Generationen negativ nachwirken, so Allen. „Höchste Zeit, dass wir dieses Thema priorisieren!“
DSA Civil Society Coordination Group
Die DSA Civil Society Coordination Group ist ein informelles Netzwerk des Centre for Democracy and Technology in Brüssel. Die Gruppe koordiniert die Zusammenarbeit ihrer Mitglieder, um sich für eine wirksame Durchsetzung des DSA einzusetzen. Hierfür analysiert sie die Risikobewertungen großer Onlineplattformen, macht sich für den Schutz der Menschenrechte stark und setzt sich dafür ein, dass mehr Forschende, zivilgesellschaftliche Akteur*innen und betroffene Communitys in Konsultationen mit den Regulierungsbehörden präsent sind.
