„Hätte eine Frau Smart Glasses erfunden, hätten sie andere Funktionen“
Vom Fall Collien Fernandes bis zum ungefragten Filmen mit Kamerabrillen: Sexualisierte Gewalt im Netz beginnt oft schon mit dem Design digitaler Produkte. Die HateAid-Geschäftsführerinnen Anna-Lena von Hodenberg und Josephine Ballon fordern deshalb „Safety by Design“. Wie beim Airbag oder Sicherheitsgurt sollen Risiken für deren Nutzer*innen von Anfang an mitgedacht werden – und Plattformen beweisen, dass ihr Design sicher ist. Wie sich das politisch durchsetzen lässt, erklären sie im Interview.
Der Fall Collien Fernandes hat viel mediale Aufmerksamkeit bekommen. Welche Muster sexualisierter digitaler Gewalt zeigt er uns?
Anna-Lena von Hodenberg: Der Aufschrei war so groß, weil viele Frauen solche Angriffe selbst erlebt haben. Sie treffen Frauen, die in der Öffentlichkeit stehen, aber auch die Kollegin oder die Exfreundin. Es geht dabei immer um Diffamierung und Machtausübung. Während im persönlichen Umfeld häufig ein Rachemotiv hinzukommt, geht es bei bekannten Frauen darum, ihnen ihre Kompetenz abzusprechen und sie aus digitalen Öffentlichkeiten herauszudrängen.
Warum lassen sich sexualisierte Bilder, die ohne Einwilligung erstellt oder verbreitet werden, so schwer aus dem Netz entfernen?
Josephine Ballon: Bildbasierte sexualisierte Gewalt spielt sich zum Großteil nicht auf den großen Big-Tech-Plattformen wie Facebook oder Instagram ab, sondern in den Nischen des Internets, etwa auf kleinen Pornowebseiten oder in frauenfeindlichen Foren. Oft gibt es dort nicht einmal Meldewege für verbotene Inhalte oder eine vernünftige Erreichbarkeit der Anbieter.
Anna-Lena von Hodenberg ist gelernte Journalistin und arbeitete unter anderem für RTL und den NDR. 2015 wechselte sie zu Campact, wo sie Kampagnen gegen Rechtspopulismus und Rassismus verantwortete. 2018 gründete sie HateAid mit und ist seither Geschäftsführerin.
von Hodenberg: Über die Google-Bildersuche sind diese Seiten und Foren gut zu finden, obwohl Google Meldewege eingerichtet hat und illegale Inhalte regelmäßig entfernt. Doch weil die kleinen Plattformen nichts gegen bildbasierte sexualisierte Gewalt unternehmen, tauchen entsprechende Inhalte dort immer wieder auf und erscheinen dann auch erneut in der Google-Bildersuche. Deshalb ist es wahnsinnig schwierig, sie vollständig aus dem Netz zu bekommen.
Männer entscheiden, wie ein Produkt designt und an wem es getestet wird.
Sie fordern, Sicherheit bei der Entwicklung digitaler Produkte mitzudenken. Was bedeutet „Safety by Design“?
von Hodenberg: Das Prinzip kennen wir von Sicherheitsgurten und Airbags: „Safety by Design“ denkt von Anfang an alle Risiken mit, die ein Produkt für Nutzer*innen haben könnte, und gestaltet es so, dass mögliche Schäden verringert werden. Der Ansatz ist: Anbieter müssen erst mal beweisen, dass ihr Design sicher ist, statt dass Nutzer*innen oder Behörden beweisen müssen, dass es nicht sicher ist.
Wie müsste das bei Smart Glasses aussehen, also bei Brillen mit integrierter Kamera?
Ballon: Hätte eine Frau Smart Glasses erfunden, hätten sie andere Funktionen. Es gibt legitime Anwendungen für Smart Glasses, etwa die freihändige Navigation. Aber die Funktion, anlasslos zu filmen und Aufnahmen dauerhaft zu speichern, um sie ins Internet hochzuladen, sollte in meinen Augen abgeschaltet werden. Ich sehe keine Möglichkeit, solche Produkte sicher zu betreiben. Kamerabrillen sind längst im Handel, die bisherigen Schutzmaßnahmen wie eine Anzeige-LED, die beim Aufnehmen leuchtet, reichen aber nicht aus. Meines Erachtens gibt es für die Aufnahmefunktion keinen legitimen Anwendungsbereich. Jedenfalls müssten Kamerabrillen deutlich als solche erkennbar sein, und zwar auch dann, wenn sie nicht filmen. Ob die Leute sie dann noch tragen wollen, ist eine andere Frage.
Welche Rolle spielt das Geschlecht bei der Entwicklung solcher Produkte?
Ballon: Die Risiken eines neuen Produktes in Bezug auf geschlechtsspezifische Gewalt sind oft vorhersehbar. Ob sie erkannt und ernst genommen werden, hängt aber davon ab, wessen Perspektive in die Entwicklung einfließt. Ich will nicht sagen, dass wir es mit einem reinen Geschlechterproblem zu tun haben. Aber die Entscheidungsstrukturen sind nicht darauf ausgerichtet, alle – und damit auch weibliche – Perspektiven einzubeziehen.
von Hodenberg: Wer hat die Macht, wer gestaltet? Wer entscheidet, wie Produkte designt und an wem sie getestet werden? Die Antwort: Es sind alles Männer.
Josephine Ballon hat Rechtswissenschaften an der Universität Potsdam studiert und ist seit 2018 als Rechtsanwältin zugelassen. Sie arbeitete zunächst in den Bereichen Verbraucherschutz und Legal Tech und wurde dann im Herbst 2019 Head of Legal bei HateAid. Seit September 2023 ist sie zusammen mit Anna-Lena von Hodenberg Geschäftsführerin der Menschenrechtsorganisation gegen digitale Gewalt.
Sie sehen gerade einen Platzhalterinhalt von YouTube. Um auf den eigentlichen Inhalt zuzugreifen, klicken Sie auf die Schaltfläche unten. Bitte beachten Sie, dass dabei Daten an Drittanbieter weitergegeben werden.
Mehr InformationenSteht der Schutz der Nutzer*innen dem Geschäftsmodell der Plattformen entgegen?
von Hodenberg: Meines Erachtens ja. Darum geht es auch in anderen Bereichen, die reguliert werden. Die Tabakindustrie will so viele Zigaretten wie möglich verkaufen und hat Verbote über Jahre erfolgreich verhindert, anstatt Menschen zu schützen, die an den Folgen des Tabakkonsums erkranken oder sterben. An dem gleichen Scheideweg stehen wir jetzt mit den großen Social-Media-Plattformen.
Die Sicherheit von Menschen ist zur geopolitischen Verhandlungsmasse geworden.
Was muss politisch passieren, damit Sicherheit im Plattformdesign verbindlich wird?
Ballon: Ein Anfang wäre, die Regulierung durchzusetzen, die wir bereits haben: Der Digital Services Act bietet gute Grundlagen, um Risiken auch durch Veränderungen am Plattformdesign zu minimieren. Das gilt auch für Smart Glasses: Sobald Aufnahmen der Brillen im Internet landen, müssen Plattformen dieses Risiko bewerten und Missbrauch verhindern. Außerdem könnte die EU schneller handeln und mutigere Maßnahmen ergreifen. Sie kann nicht nur hohe Bußgelder gegen Techkonzerne verhängen, sondern tatsächliche Veränderungen einfordern. Im Idealfall kämen Produkte und Dienstleistungen, die Nutzer*innen schaden, gar nicht erst in Umlauf.
Was bremst die Durchsetzung des DSA?
von Hodenberg: Die großen US-Konzerne üben gemeinsam mit der US-Regierung enormen Druck auf die EU-Kommission aus. Sie stellen Plattformregulierung als Zensur dar. Gleichzeitig drohen sie mit Strafzöllen. Die Sicherheit von Menschen, auch von Kindern, ist damit zur geopolitischen Verhandlungsmasse geworden. Das ist ein riesiges Problem.
Sie beide sind seit dem letzten Jahr von US-Einreisebeschränkungen betroffen. Was bedeutet das für Ihre Arbeit?
von Hodenberg: Das war ein massiver Akt der Einschüchterung. Vordergründig traf er uns persönlich, im Endeffekt aber alle zivilgesellschaftlichen Organisationen und Forschenden, die sich dafür einsetzen, dass Plattformen sicherer werden. Für uns war klar: Es geht um den Kern unserer Arbeit, da lassen wir nicht nach.
Ballon: Der DSA kann nur durchgesetzt werden, wenn Wissenschaft und Zivilgesellschaft mitmachen. Sie liefern Daten und weisen auf Verstöße hin. Wenn sie sich aus Angst vor Repressionen zurückziehen, wird es kaum noch Durchsetzung geben. Wir haben die vergangenen Jahre darauf hingearbeitet, mit dem DSA ein stabiles Rahmenwerk zum Schutz der Nutzerrechte zu schaffen. Wenn wir uns jetzt zurückziehen, war alles umsonst. Das werden wir nicht akzeptieren.
Was macht Ihnen Hoffnung?
Ballon: Die Entwicklungen in den USA rütteln die Menschen auf und zeigen, dass digitale Gewalt uns alle betreffen kann. Als die US-Regierung das Einreiseverbot gegen uns an Weihnachten vergangenen Jahres verhängte, waren wir uns nicht sicher, ob jemand für den DSA aufstehen würde. Aber bisher hält die Politik an dem Gesetz fest. Das Potenzial, sich gegen die großen Plattformen durchzusetzen, ist also da.
von Hodenberg: Mir macht der DSA Hoffnung. Er wird noch nicht konsequent durchgesetzt, aber er ist da. Und Europa macht mir Hoffnung: Wenn wir uns mit anderen Staaten zusammentun und an der internationalen Rechtsordnung festhalten, können wir zeigen, dass es anders geht. Dann ist nicht alles verloren.
HateAid
HateAid ist eine gemeinnützige Organisation, die sich für Menschenrechte im digitalen Raum einsetzt und sich auf gesellschaftlicher wie politischer Ebene gegen digitale Gewalt und ihre Folgen engagiert.