Fünf Jahre NetzDG: Was tun gegen Hassrede im Internet?
Das Gesetz zur Verbesserung der Rechtsdurchsetzung in sozialen Netzwerken, kurz NetzDG, wurde 2017 verabschiedet. Der damalige Justizminister Heiko Maas wollte damit eine rechtliche Grundlage für das Löschen von Hasskommentaren in sozialen Netzwerken schaffen und dadurch die Unternehmen bei Hassrede und digitaler Gewalt in die Pflicht nehmen. Jetzt wird es durch den Digital Services Act weitgehend abgelöst. Nadine Brömme von das NETTZ, der Vernetzungsstelle gegen Hate Speech, und Sina Laubenstein von der Gesellschaft für Freiheitsrechte (GFF) ziehen Bilanz in einem Gespräch über das umstrittene Gesetz, das im Februar eine neue Novellierung erfuhr: Unternehmen sollen strafrechtlich relevante Inhalte nun nicht nur löschen, sondern auch beim Bundeskriminalamt (BKA) melden.
Welche Bilanz ziehen Sie nach fünf Jahren NetzDG, Nadine Brömme und Sina Laubenstein?
Sina Laubenstein: Als es mit dem NetzDG losging und es die ersten Gespräche über ein solches Gesetz geben sollte, war ich begeistert, dass das Thema endlich ernst genommen wird. Denn 2016 und 2017 hieß es bei Gesprächen mit Vertreter*innen aus Politik, Strafverfolgung oder Medien über digitale Gewalt und Hassrede im Netz häufig: „Du bist doch selbst schuld, wenn du mit Hasskommentaren konfrontiert wirst. Logg dich einfach aus den sozialen Netzwerken aus und klapp den Laptop zu!“ Doch aus heutiger Sicht sehe ich das NetzDG eher kritisch. In erster Linie, weil private Unternehmen die Entscheidung darüber treffen, was als strafrechtlich relevant erachtet wird.
Das heißt, die Unternehmen löschen eigeninitiativ oder auf Meldung hin Beiträge von ihren Plattformen – Verleumdungen zum Beispiel, Beleidigungen und Volksverhetzung.
Nadine Brömme: Genau. Vor fünf Jahren haben wir in erster Linie über Hatespeech gesprochen. Seit der Pandemie gibt es noch mehr Hassrede und Desinformation. Dass sich beides nicht trennen lässt, sehen wir am Beispiel von Renate Künast. Die Grünen-Politikerin hatte gegen den Facebook-Konzern Meta geklagt, weil dort ein Falschzitat von ihr kursierte. Nun müssen auf gerichtliche Anweisung hin auch Varianten des Zitats entfernt werden. Vielleicht verschwinden dank des NetzDG mehr Inhalte als früher. Durch die Zunahme an Desinformation, Falschnachrichten und Verschwörungserzählungen kommen aber auch immer mehr Inhalte hinzu. Die Rechtsdurchsetzung funktioniert nicht.
Sina Laubenstein ist Politikwissenschaftlerin und arbeitet seit 2021 bei der Gesellschaft für Freiheitsrechte zum Thema digitaler Gewaltschutz. Bei den Neuen deutschen Medienmacher*innen leitete sie zuvor das Projekt „Die Würde des Menschen ist unhassbar – No Hate Speech“, das unter anderem die Umsetzung der Europarats-Initiative No Hate Speech Movement in Deutschland umfasst. Außerdem berät sie zivilgesellschaftliche und politische Akteurinnen und Akteure zu Strategien im Umgang mit Extremismus und Online-Hatespeech.
Nadine Brömme beschäftigt sich seit mehr als zehn Jahren mit digitaler Kommunikation und begleitet digitale Transformationsprozesse für zivilgesellschaftliche Organisationen und Unternehmen. Ihr besonderes Interesse gilt dem Einfluss der Digitalisierung auf den gesellschaftlichen Diskurs. Dieser Frage geht sie seit 2017 im betterplace lab als Co-Leiterin für das NETTZ nach, der Vernetzungsstelle gegen Hate Speech.
Einer Studie zufolge begegnet jede*r Dritte Hasskommentaren im Internet.
Nadine Brömme: Wir alle müssen uns bewusst machen, dass tagtäglich Menschen wegen ihrer Hautfarbe, ihrer Religionszugehörigkeit oder ihrer sexuellen Identität angegriffen werden. Oder schlicht deshalb, weil sie ihre Meinung äußern. Das betrifft auch Menschen wie Sina und mich. Wir sind zwar weiße Frauen und damit sicher ein Stück weit privilegiert. Aber wir setzen uns für demokratische Werte ein, und auch das ist ein Grund, im Netz angegriffen zu werden.
Sina Laubenstein: Ich war gerade erst auf einer Veranstaltung, auf der es darum ging, dass digitale Gewalt immer noch als Afterthought zu analoger Gewalt gedacht wird. Digitale Gewalt ist jedoch nicht zweitrangig, sondern steht auf einer Ebene mit analoger Gewalt. Das Bewusstsein dafür ist zwar gewachsen, aber noch keine Selbstverständlichkeit – insbesondere bei Strafverfolgungsbehörden.
In den fünf Jahren, in denen es das NetzDG gibt, ist es wirklich nur begrenzt gelungen, Dinge zu verbessern. Die Dynamik im Netz ist einfach sehr schnell und die gesetzliche Ebene sehr langsam.
Inwiefern hilft das NetzDG?
Nadine Brömme: Es ist natürlich schon wegweisend, dass es ein Instrument gibt, das den digitalen Raum reglementieren soll. Wobei es die bestehende Rechtsdurchsetzung ist, die nun auf das Digitale übertragen werden soll. Aber ich sehe es ähnlich kritisch wie Sina. Es gibt beispielsweise eine Untersuchung vom Counter Extremism Project, die zeigt, dass der „notice and take down“-Ansatz nicht wirklich funktioniert. YouTube hat Zugang zu illegalen Videos, die in einer Stichprobe gemeldet wurden, nur zu 35 Prozent gesperrt oder gelöscht. Facebook hat die gemeldeten Fotos zwar gesperrt, aber damit im Zusammenhang stehende rechtswidrige Inhalte blieben bestehen.
Sina Laubenstein: In den fünf Jahren, in denen es das NetzDG gibt, ist es wirklich nur begrenzt gelungen, Dinge zu verbessern. Die Dynamik im Netz ist einfach sehr schnell und die gesetzliche Ebene sehr langsam.
Liegt es an der Trägheit der Behörden, dass es nicht gut funktioniert? Dass die Polizei Straftaten im Netz nicht richtig ernst nimmt, ergab ja auch das Experiment von Jan Böhmermann in der Satiresendung „ZDF Magazin Royale“ Ende Mai.
Sina Laubenstein: Teilweise – genau das hat die Böhmermann-Recherche gezeigt. Es braucht also noch viel Sensibilisierung bei der Polizei und bei Strafverfolgungsbehörden. Die Digitalunternehmen wehren sich aber auch sehr stark dagegen, aktiv zu werden. Das sehen wir seit Februar deutlich bei der Novellierung des Netzwerkdurchsetzungsgesetzes, nach der die Unternehmen strafrechtlich relevante Inhalte nicht nur löschen, sondern auch beim Bundeskriminalamt (BKA) melden sollen. Dadurch sollen Täter*innen tatsächlich verfolgt und bestraft werden können. De facto findet diese Umsetzung der Novellierung allerdings nicht statt. Gleichzeitig muss diese Novellierung auch kritisch betrachtet werden, denn durch die Weiterleitung der Unternehmen an das BKA entsteht dort ja eine riesige Datenbank.
Nadine Brömme: Die Motivation, die strafbaren Inhalte weiterzuverfolgen und nicht zu löschen, ist ja eine richtige. Nicht zuletzt für Analysezwecke – wenn es etwa um die Frage geht, wie Accounts, von denen Hassrede ausgeht, zusammenhängen. Aber genau wie Sina sehe ich eine Herausforderung in der Vorratsdatenspeicherung.
Aber wenn das NetzDG und seine Anpassung nicht wie gewünscht Menschen vor Hassrede im Internet schützen, was kann dann getan werden? Die Gesellschaft für Freiheitsrechte (GFF) schlägt beispielsweise Account-Sperren vor.
Sina Laubenstein: Dieses Sperren von Accounts, die für rechtswidrige Äußerungen missbraucht werden, gehört zu einem Entwurf für das digitale Gewaltschutzgesetz der GFF. Demzufolge soll die Verantwortung für die Durchsetzung dieser Maßnahmen nicht bei den privaten Unternehmen, sondern beim Staat liegen. Auch diese Sperren sind letztlich nur ein weiterer Baustein in der Konstruktion, die es braucht, um gegen digitale Gewalt und Hassrede vorzugehen. Ein weiterer wichtiger Baustein, der häufig ausgelassen wird und der aber in unserem Entwurf zum digitalen Gewaltschutzgesetz ganz zentral ist, ist die Frage, wie Betroffene unterstützt werden können. Bei allem Diskutieren über die Identifikation der Täter*innen und die Pflicht der Plattformen muss auch dafür gesorgt werden, dass es bundesweit genug Beratungsstrukturen für Betroffene von digitaler Gewalt gibt. Und wie lassen sich Justiz- und Strafverfolgungsbehörden sensibilisieren? Immer wieder höre ich von Betroffenen, dass sie zur Polizei gehen und die Mitarbeitenden einfach nicht erkennen, wenn eine Aussage sexistisch, rassistisch oder antisemitisch ist. Dadurch können Betroffene retraumatisiert werden. Auch Angehörige brauchen möglicherweise Unterstützung – wenn etwa die eigene Tochter Zielscheibe von digitaler Hassrede wird.
Nadine Brömme: Das trifft sich mit unserem Ansatz bei das NETTZ, der Vernetzungsstelle gegen Hate Speech. Nur das Zusammenspiel unterschiedlicher Interventionen und Präventionsansätze gegen Hass im Netz kann etwas bewirken. Denn keine zivilgesellschaftliche Organisation, kein gesetzliches Instrument, keine Polizeibehörde kann allein etwas gegen Hass unternehmen, es braucht wirklich diese vielfältigen Ansätze und eine interdisziplinäre Zusammenarbeit. Das ist tatsächlich eine Herausforderung, weil es dafür wenig Ressourcen gibt.
Müssten jenseits von zivilgesellschaftlichem Engagement und persönlicher Eigenverantwortung nicht dennoch die Unternehmen stärker in die Pflicht genommen werden? Algorithmen in sozialen Plattformen generieren Filterblasen. Und wenn ich einmal auf Querdenker*innen-Abwege geraten bin, wird mir verstärkt vergleichbarer Content in den Thread gespült – so der Eindruck.
Nadine Brömme: Dazu fällt mir ein Gespräch mit Frances Haugen ein, der Whistleblowerin, die zahlreiche Dokumente ihres ehemaligen Arbeitgebers Facebook veröffentlicht hat. Ihren Schilderungen zufolge wird der schmale Grat zwischen Gewinnmaximierung und gesellschaftlicher Verantwortung beim Meta-Konzern immer finanziell entschieden. Gleichzeitig hat sie deutlich gemacht, dass es oftmals ganz einfache technische Lösungen gäbe. Abends könnte beispielsweise der Thread bei Instagram verlangsamt werden. So müssten Jugendliche vor dem Schlafengehen weniger belastende Informationen verarbeiten. Denn laut einer internen Untersuchung befördert der Konsum von Instagram vor allem bei jungen Mädchen Depressionen und Essstörungen. Solche Vorschläge werden aber nicht umgesetzt.
Sina Laubenstein: Ich greife hier das Stichwort Transparenz auf. Wir wissen einfach viel zu wenig. Es gibt diese Berichte, dass Empfehlungsalgorithmen immer radikalere und extremere Nachrichten in die Timeline spülen. Aber letztlich bleibt es spekulativ. An diesem Punkt müsste angesetzt und die Forschung zu den Funktionsweisen der Algorithmen erlaubt und vorangetrieben werden. Vor allem im Hinblick darauf, wie krass die Auswirkungen auf Individuen und die Gesprächskultur sind.
Das NETTZ
Das NETTZ ist die Vernetzungsstelle gegen Hate Seech, die digitale Zivilcourage fördert und für eine positive Debatten- und Meinungskultur im Netz eintritt. Akteurinnen und Akteure der Zivilgesellschaft werden als „Community der Gegenrede“ gefördert und unterstützt.
www.das-nettz.de
