Ferda Ataman: „Daten haben ein hohes Diskriminierungspotenzial“
Ferda Ataman arbeitet daran, Wissen über digitale Diskriminierung zu verbreiten. Im Interview spricht die Unabhängige Bundesbeauftragte für Antidiskriminierung von rechtlichen Grauzonen, persönlichen Erfahrungen und warum es Offenheit braucht, um Diskriminierung zu verringern.
Am 23. April 2024 ist Ataman mit anderen Expert*innen zu Gast beim Mercator Forum „Digitale (Ohn-)Macht – Teilhabe und Zusammenhalt in der digitalisierten Gesellschaft“.
Frau Ataman, Sie sind Antidiskriminierungsbeauftragte des Bundes. Das heißt, Sie beschäftigen sich mit Machtdynamiken – auch im digitalen Raum. Inwiefern beeinflussen die digitalen Entwicklungen der letzten Jahre Ihre Arbeit?
Wir arbeiten auf Grundlage des Allgemeinen Gleichbehandlungsgesetzes (AGG), das sich auf das Arbeitsleben und den Zugang zu Dienstleistungen und Gütern bezieht – zum Beispiel, wenn Menschen eine Wohnung mieten oder Bahn fahren wollen. Die Digitalisierung spielt in allen Lebensbereichen eine immer größere Rolle. Insofern sind automatisierte Entscheidungssysteme, algorithmische Entscheidungen und Künstliche Intelligenz für uns auch zunehmend relevant. Digitalisierung erleichtert nicht nur das Leben, sondern leider auch die Diskriminierung.
Wie unterscheidet sich Antidiskriminierungsarbeit digital und analog?
Es macht für diskriminierte Personen keinen Unterschied, ob sie analog oder digital diskriminiert werden. Das Ergebnis ist das gleiche. Die Frage, die sich im digitalen Raum stellt, lautet: Was kann ich tun, wenn mich nicht ein Mensch, sondern ein digitales Instrument diskriminiert hat? Das ist eine rechtliche Grauzone. Wir müssen Menschen darüber aufklären, damit sie sich wehren können. Das findet bisher nicht statt. Unser nächster Schritt ist es, Anlaufstellen zu schaffen und das Bewusstsein für Diskriminierung im digitalen Raum zu stärken.
Ferda Ataman wurde 1979 in Stuttgart geboren. Die Politikwissenschaftlerin arbeitete als Redenschreiberin, wechselte dann in den Journalismus und schrieb Artikel und Kolumnen über Migration, Diversität und Diskriminierung. Sie gründete 2008 mit Kolleg*innen den Verein „Neue deutsche Medienmacher*innen“. Seit 2010 hat Ataman verschiedene Funktionen bei der Antidiskriminierungsstelle des Bundes inne. Seit 2022 ist sie Unabhängige Bundesbeauftragte für Antidiskriminierung.
Warum lässt sich digitale Ungleichbehandlung so schwer erkennen?
Nehmen wir das Thema Wohnungssuche. Wenn ich mich online für eine Besichtigung anmelde, weiß ich nicht, ob meine Nachricht bei der Person landet, die die Anzeige verwaltet, oder ob da vielleicht ein automatisiertes Entscheidungssystem alle Anfragen filtert. Insofern wissen Menschen nicht, ob sie überhaupt diskriminiert wurden – und wenn ja, aufgrund welcher Merkmale oder Informationen. Das ist ein Problem, denn wir haben in Deutschland ein Antidiskriminierungsrecht, das voraussetzt, dass man als Betroffene*r sehr klare Belege für diskriminierendes Verhalten haben muss. Hat man diese Belege nicht, kann man nicht dagegen vorgehen.
Das bedeutet: Computersysteme verschleiern Diskriminierung. Und Algorithmen großer Techunternehmen agieren meist intransparent und vervielfältigen diskriminierende Strukturen. Welche Ansätze gibt es, um dieses Problem zu lösen?
Vollständige Transparenz ist das eine. Zusätzlich wäre es sinnvoll, Technologien von Anfang an mit Maßnahmen zum Diskriminierungsschutz auszustatten. Künstliche Intelligenz arbeitet zum Beispiel auf Grundlage schon bestehender Daten. Das heißt, man müsste schon beim Training der Software diskriminierungssensibel entscheiden, um strukturelle Nachteile nicht einfach zu reproduzieren. Daten haben großes Diskriminierungspotenzial. Sie sind nicht neutral, wie viele Menschen denken.
Sie sind in den sozialen Medien sichtbar. Welche Erfahrungen haben Sie persönlich mit digitaler Diskriminierung gemacht?
Ich nehme sehr viel ungebremsten Hass und Grenzverletzungen wahr. Das ist jedoch nicht Diskriminierung im rechtlichen Sinn. Grundsätzlich müssen wir leider feststellen, dass Menschen mit Diskriminierungsmerkmalen wie trans* Personen, Menschen mit Rassismus- oder Antisemitismuserfahrungen, Menschen mit Behinderung oder auch queere Personen mit Hass und Hetze zugeschüttet werden. Mir bereitet das große Bauchschmerzen.
Der Schutz von Menschen steht immer an erster Stelle, auch wenn man die Wirtschaft schützen oder die Digitalisierung vereinfachen will.
Wie müsste das Allgemeine Gleichbehandlungsgesetz angepasst werden, um den digitalen Raum diskriminierungsfrei zu gestalten?
Diskriminierung im digitalen Raum müsste als Anwendungsbereich in Paragraf 3 des AGG aufgenommen werden. Zudem braucht es eine Offenlegungs- und Auskunftspflicht für Betreibende von Plattformen. So hätten Menschen Anspruch auf Auskunft über die Funktionsweise des Systems, wenn sie Fragen haben. Um sich auch außergerichtlich einigen zu können, sind unabhängige Schlichtungsstellen nötig. Bisher gibt es für die Antidiskriminierungsstelle jedoch kein verpflichtendes Schlichtungsverfahren im AGG. Menschen müssen also allein vor Gericht ziehen, alle Kosten und Risiken tragen. Um Betroffene dabei zu unterstützen, ihre Rechte durchzusetzen, braucht es ein Verbandsklagerecht. Nicht jede*r hat die finanziellen Mittel, Zeit oder Kraft, sich großen Konzernen entgegenzustellen.
Was sollte die deutsche Digitalpolitik ändern?
Vor Kurzem wurden verschiedene Gesetze verabschiedet, zum Beispiel der Digital Services Act (DSA), in dem Diskriminierungsschutz jedoch kaum berücksichtigt wird. Das halte ich für einen Fehler. Der Schutz von Menschen steht immer an erster Stelle, auch wenn der Staat die Wirtschaft schützen oder die Digitalisierung vereinfachen will. Wenn wir die Grundwerte unserer Verfassung konsequent weiterdenken, müsste das zu Maßnahmen führen, die auch im digitalen Raum Gleichheit, Freiheit und die Würde des Menschen wahren. Mein Eindruck ist, dass dieses Bewusstsein bei vielen Verantwortlichen in der Politik durchaus gegeben ist. Aber in den rechtlichen Papieren ist das noch nicht ausreichend berücksichtigt.
Wie müssen Staat, Zivilgesellschaft und Wirtschaft zusammenarbeiten, um die neuen Machtdynamiken in der digitalen Transformation für Menschen bestmöglich zu steuern?
Die Wirtschaft wird häufig in die Gesetzgebung des Staates eingebunden, die Gesellschaft weniger. Dabei sehen wir häufig in Gesprächen mit Unternehmen, dass der Wirtschaft daran gelegen ist, diskriminierungsfrei zu arbeiten. Es fehlt nicht am Willen, sondern eher an praktischen Zugängen. Deshalb ist es so wichtig, dass Staat und Wirtschaft eng mit der Zivilgesellschaft zusammenarbeiten – dort werden die relevanten Erfahrungen gesammelt. Dieses Wissen kann dann in die Gesetzgebung einfließen. Dafür braucht es Offenheit. Es geht darum, mit Diskriminierung zu rechnen und Lösungswege zu finden.
Mercator Forum 2024
Das Mercator Forum 2024 widmet sich dem Thema „Digitale (Ohn-)Macht – Teilhabe und Zusammenhalt in der digitalisierten Gesellschaft“.
Die Geschäftsmodelle und die Dominanz einzelner großer Techkonzerne machen uns anfällig für Manipulation, schaffen neue Abhängigkeitsverhältnisse und schwächen damit nicht nur die europäische Wirtschaft, sondern auch unsere Demokratie. Kurzum: Das Machtverhältnis zwischen Staat, Individuum und Unternehmen wird durch den digitalen Wandel fundamental verändert.
stiftung-mercator-preevent.plazz.net/49
