Wenn Künstliche Intelligenz politisch wird

Vor rund zehn Jahren begann Englers Forscherkarriere mit einem Praktikum bei der „Sunlight Foundation“. Die Nicht­regierungs­organisation setzt sich für Transparenz in der US-Regierung ein, mit besonderem Fokus auf deren Umgang mit Daten, dem Internet und Websites. Zu diesem Zeitpunkt studierte er Politik­wissenschaft an der Georgetown University in Washington. „Ich wusste schon immer, dass ich in die Politik­wissenschaft will“, blickt er auf sein Studium zurück. „Doch wie, war mir unklar.“ Sein Interesse galt damals der Transparenz bei der Finanzierung von politischen Kampagnen – inmitten von Tech-Freaks fühlte er sich dabei „hoch­gradig unter­qualifiziert“. „Dieses Praktikum hat meine Laufbahn beeinflusst“, sagt er heute. „Ich habe gesehen, wie Regierungen Websites bauen und welche öffentlichen Dienst­leistungen sie mit ihnen verfügbar machen.“

Von Daten getrieben

Danach folgten Stationen bei regionalen Behörden und Thinktanks. Engler lehrt im Graduierten­programm „Data Science for Public Policy“ an der Georgetown University und in einem vergleich­baren Programm an der Universität in Chicago. „Das hat etliche Daten­wissenschaftler für den Politik­betrieb hervor­gebracht“, sagt er. Die vergangenen Monate hat Engler als Senior Fellow der Stiftung Mercator in Europa verbracht, den Master in „Data Science for Public Policy“ (M. S.) an der bekannten Berliner Hertie School entworfen und die Institutionalisierung der Daten­wissenschaft in der deutschen Verwaltung untersucht. Denn die Bundesregierung habe die Bedeutung von Daten erkannt, meint Engler. Im Januar 2021 veröffentlichte sie ihre Daten­strategie mit rund 240 Maßnahmen. So sollen unter anderem alle 14 Bundes­ministerien und das Bundes­kanzler­amt Daten­labore bekommen.

Datensätze für das Gute

In Brüssel forschte der Wissenschaftler zu den Unterschieden zwischen US- und EU-Regulierungen im Bereich der KI. Er spricht in diesem Zusammenhang von einem Brüssel-Effekt: „Wenn Unternehmen einer bestimmten EU-Regulierung folgen, werden sie viel dafür tun, dass Regulierungen in anderen Ländern, also auch in den USA, ähnlich sind, um die gleichen Produkte auf unterschiedlichen Märkten verkaufen zu können.“ Aus US-Sicht sei es bemerkens­wert, dass die EU sich traue, Technologien wie das „Affective Computing“ zu verbieten. Bei dieser Pseudo­wissenschaft versucht eine angebliche KI, aus Gesichtern, Stimmen und Körper­sprache menschliche Emotionen zu messen und Schlüsse daraus abzuleiten. „Das funktioniert einfach nicht.“ Weiterhin müssten in der EU KI-Unternehmen beweisen können, dass ihre Systeme akkurat seien, „dass die Künstliche Intelligenz also das tut, was sie vorgibt, zu tun“. Das schaffe in so manch einem Unternehmen erst das Bewusstsein für das Risiko von Algorithmen.

Diese Prozesse gibt es in den USA nicht. Dort sieht man – und darüber hat Engler ausgiebig geforscht –, wie sich eine fehlende Regulierung auswirkt: Es gibt eine große Ungleichheit beim Recruiting, beim Zugang zu Bildungs­angeboten oder bei der Fahrten­vermittlung und Essens­aus­lieferung. „Ich könnte ewig darüber weiter­reden. Es sind viele Beispiele, bei denen eine US-Regulierung im KI-Bereich fehlt und bei der die EU eine Vorreiter­rolle einnimmt. Darüber hinaus schafft der AI Act der EU Regulierungen für Regierungen: Immer wenn diese bei Strafverfolgung, Grenz­kontrolle und Asyl KI einsetzen, müssen sie das dokumentieren und transparent machen. Das ist eine gute Sache und wird wohl ein weltweiter Standard werden, wenn es um den Umgang mit sensiblen Daten durch KI geht.“

Algorithmen bündeln Macht

Kränkeln Demokratien wegen des technologischen Fortschrittes – oder nur parallel zu diesem? Das untersucht der Forscher. „Es gab ja die Hoffnung, das Internet könne Demokratisierungs­tendenzen verstärken, Menschen mit unter­schiedlichen Positionen und Meinungen konfrontieren und letztlich eine friedlichere inter­nationale Welt­ordnung ermöglichen. Das hat sich nicht bewahrheitet.“ Und gibt zu bedenken: „Ein recht allgemeines Merkmal von Algorithmen ist, dass sie Macht konzentrieren und nicht dezentralisieren. Denn Algorithmen machen Daten wertvoller.“

Ein Beispiel ist die Überwachungs­technik: Je besser die Algorithmen, desto besser die Daten, die sie hervor­bringen – und desto enger wiederum die mögliche zentralisierte Überwachung durch den Staat. „Aber auch bei Nachrichten und sozialen Netzwerken sehen wir, dass technischer Fortschritt – also bessere Algorithmen und klügere Künstliche Intelligenz – nicht zu mehr Informations­freiheit, sondern im Gegenteil zu Informations­blasen geführt hat.“ Aktuell sieht er Risiken vor allem im Privatsektor, wenn etwa Künstliche Intelligenz vermeintlich private Datensätze wie Yelp-Rezensionen oder Airbnb-Diskussionen benutze und daraus Kundenprofile erstelle. „Die Besten meiner Generation arbeiten daran, dass Menschen Sachen kaufen“, stellt er fest. Engler geht diesen Weg nicht.