Digital-Gipfel: Ist die Regulierung von KI eine Frage der Ethik?
Beim Digital-Gipfel der Bundesregierung Ende November 2023 ging es vorrangig um die Regulierung Künstlicher Intelligenz – Stichwort: AI Act der EU. Strittig blieb die Frage, wie früh gesetzliche Regelungen die Entwicklung von KI begleiten sollten. Das Panel „KI und Ethik – Perfect Match? Wie Deutschland KI-Innovation fördern und dabei die Demokratie stärken kann“ zeigte, dass es dazu unterschiedliche Perspektiven von Politik, Wirtschaft und Zivilgesellschaft gibt. Nun gilt es, eine gemeinsame Haltung zu finden. AufRuhr sprach darüber mit der KI-Unternehmerin Nicole Büttner, die beim Digital-Gipfel in Jena mitdiskutierte.
Frau Büttner, Sie standen auf der Digital-Gipfel-Bühne neben Wirtschafts- und Klimaschutzminister Robert Habeck und teilten dessen Ansicht, dass Europas Wettbewerbsfähigkeit davon abhängt, KI-Technologien erfolgreich zu entwickeln. Matthias Spielkamp von AlgorithmWatch und Carla Hustedt, Bereichsleiterin „Digitalisierte Gesellschaft“ der Stiftung Mercator, forderten strenge gesetzliche Rahmenbedingungen nicht nur für konkrete KI-Anwendungen, sondern auch für Basistechnologien. Wie haben Sie die Diskussion über den AI Act erlebt?
Nicole Büttner: Als zugespitzte, sachliche Diskussion, bei der es gut war, die Positionen einmal so gegenüberzustellen. In der Realität sind wir aber, so denke ich, inhaltlich gar nicht so weit voneinander entfernt. Auch wir Unternehmer*innen aus dem KI-Sektor sagen, dass Regulierungen für KI-Anwendungen notwendig sind. Einigkeit besteht auch beim Thema Bias und der Frage, wie ein Datensatz auf abstrakter Ebene zusammengestellt werden muss.
Digital-Gipfel
Der Digital-Gipfel ist ein vom Bundesministerium für Wirtschaft und Klimaschutz seit 2006 jährlich ausgerichteter Kongress, der als zentrale Plattform zur Gestaltung der Digitalisierung und der digitalen Transformation von Wirtschaft, Staat und Gesellschaft in Deutschland dienen soll. Er fand vom 20. bis 21. November 2023 in Jena statt. Auch die Stiftung Mercator war mit dem Bereich „Digitalisierte Gesellschaft“ beim Gipfel vertreten. Bereichsleiterin Carla Hustedt bezog Stellung beim Paneltalk zu KI und Ethik mit Wirtschaftsminister Robert Habeck, AlgorithmWatch-Geschäftsführer Matthias Spielkamp und Tech-Gründerin Nicole Büttner.
Verstehen Sie die Sorge, dass eine Selbstregulierung der Unternehmen nicht ausreicht? Es ließen sich in den Produkten deutscher KI-Hersteller ja bereits sexistische und antisemitische Bias, also Voreingenommenheiten nachweisen.
Ich bin eine Frau mit Migrationsgeschichte und kann die Befürchtungen sehr gut nachvollziehen. Generative KI ist auch für Wahlmanipulationen nutzbar, und wenn wir uns dieses Albtraumszenario ausmalen, ergibt das ein in der Tat erschreckendes Bild. Aber die Lösung kann meiner Meinung nicht darin bestehen, die Technik wegzuregulieren oder händisch Datensätze zu bereinigen und zu korrigieren. Der Ansatz muss sein, die Technik in Europa souverän zu beherrschen. Und dafür müssen wir Rahmenbedingungen haben, die es Start-ups ermöglichen, KI-Lösungen hier zu entwickeln.
Wie könnte eine solche Selbstregulierung Ihrer Meinung nach aussehen?
Wir können uns schon darüber unterhalten, dass Large Language Models (LLMs) wie ChatGPT oder Gemini und ihre Modelle und Datensätze gewissen Transparenzkriterien unterliegen müssen, zusätzlich zu einer Ex-post-Überwachung, also einer nachträglichen Prüfung. Aus meiner Sicht spielen bei der Diskussion um strengere Regulierungen aber auch die Nutzer*innenzahlen eine entscheidende Rolle. ChatGPT hat als Anwendung Hunderte Millionen User*innen, während das Heidelberger KI-Unternehmen Aleph Alpha mit einer B2B-Schnittstelle bislang noch deutlich weniger Menschen erreicht. Ich finde es pragmatisch, das zu berücksichtigen. Wenn die Technologien europäischer KI-Firmen eine größere Zielgruppe bedienen, kann man strenger werden. So weit sollte man es aber auch kommen lassen und nicht Ideen für KI-Nutzung schon im Keim ersticken. Und da habe ich schon den Eindruck, dass die Mehrzahl der Gründer*innen in Deutschland es genauso sieht.
Nicole Büttner, ist Unternehmerin, Wirtschaftswissenschaftlerin und Tech-Optimistin. Sie hat einen MA in Quantitative Economics and Finance und wurde zur Ökonomin und Ökonometrikerin an der Universität St. Gallen, der Stockholm School of Economics und der Stanford University ausgebildet. 2015 gründete sie Merantix Momentum, eine auf Künstliche Intelligenz spezialisierte IT-Firma. Außerdem ist sie im Management der Merantix AG, eines KI Venture Studios, das KI-Firmen inkubiert und mehrfach von Forbes und Bilanz zu den Top Ten der KI-Start-ups gewählt wurde. Sie ist Vorstandsmitglied im Bundesverband Deutsche Startups.
Mit dem EU AI Act gibt es jetzt einen Gesetzesentwurf, der die Regulierung in den Vordergrund stellt. Wie stehen Sie zum EU AI Act?
Klar ist: Wir brauchen eine europäische Lösung. Die Alternative dazu wäre ein Flickenteppich infolge von nationalen KI-Gesetzgebungen, und das wäre sicherlich kontraproduktiv für unsere KI-Szene. Insofern befürworte ich eine pragmatische Regulierung innerhalb Europas: Applikationen, die neu auf den Markt kommen, sollten gewissen Standards folgen, und Unternehmer*innen und Gründer*innen haben gleichzeitig die Möglichkeit, neue Anwendungen zu bauen, also innovativ zu sein.
AI Act
Mit dem Artificial Intelligence Act (AIA) hat die EU-Kommission im Rahmen der EU-Digitalstrategie ein Gesetz über Künstliche Intelligenz (KI) erlassen. Der Entwurf enthält in dieser Form konkrete Vorschläge zur Regelung im Umgang mit KI in Forschung und Wirtschaft und soll dadurch Fragen zu Ethik, Transparenz und Verantwortlichkeit beim Thema KI beantworten. Der AI Act teilt KI-Anwendungen in vier Kategorien ein – entsprechend dem potenziellen Risiko, das mit dem Einsatzbereich der KI einhergeht.
Wie sind Sie zum Thema Künstliche Intelligenz gekommen?
Ich bin Volkswirtin und dachte immer, ich gehe in die Entwicklungshilfe. So habe ich auch mein Studium gestaltet, war bei der Weltbank und der UNO. Die Möglichkeiten von KI habe ich dann eher zufällig während eines Jobs kennengelernt und gemerkt, dass sie mir beim Lösen von Problemen helfen kann. Diesen anwendungsgetriebenen und am Menschen orientierten Zugang vertrete ich bis heute und trage ihn auch in mein Unternehmen: ein KI-Dienstleister, bei dem ich mit Neurowissenschaftler*innen, Postdocs und ITler*innen zusammenarbeite. Alle Menschen bei uns stecken viel Energie in die gegenwärtige Entwicklung und schauen mit Weitblick in die Zukunft.
Was glauben Sie, wie eine durch KI veränderte Welt in 50 Jahren aussehen wird?
Die Frage, ob wir Technologie an und im Körper tragen, wird sicherlich eine viel größere Rolle spielen als heute. In diesem Zusammenhang wird auch die Überlegung wichtig, wie und ob wir Geräte an- und ausschalten. Überall dort, wo heute Datensilos aus Themen wie Gesundheit oder Bildung bestehen, werden wir deutlich vernetzter sein. Ich hoffe außerdem, dass wir in 50 Jahren mehr aus einer Pilotenperspektive heraus agieren. Denn den Diskurs um die Frage nach dem Zielbild und der Vision unserer Gesellschaft vermisse ich momentan noch sehr. Klar ist: Technologische Innovationen werden kommen – alles, was möglich ist, wird auch gemacht werden. Aber mich interessieren sehr stark die damit verbundenen sozialen Innovationen.
Nur 16 Prozent der KI-Fachkräfte in Deutschland sind weiblich. Inwiefern spielt dieser Gendergap in Ihrem Alltag und in Ihrer Arbeit eine Rolle?
Ich baue mir meine Netzwerke mit anderen Frauen aus diesem Sektor auf. Aber ich spüre schon, dass wir nicht dem Durchschnitt entsprechen. Die Frage ist natürlich, warum das so ist und wie wir inklusiver werden können. Insbesondere bei Technologien zu Künstlicher Intelligenz, die so zu skalieren. Denn wirklich relevante KI-Anwendungen werden von sehr wenigen Menschen gebaut – bei ChatGPT waren es vielleicht 50 Personen, die mitgewirkt haben. Deshalb müssen wir auch genau hinschauen, wer diese 50 Menschen sind. Sind sie repräsentativ, sind sie inklusiv? Das ist ganz wichtig.
Digitalisierte Gesellschaft
Die Stiftung Mercator unterstützt im Bereich „Demokratie und Zusammenhalt in der digitalisierten Gesellschaft“, dass digitale Technologien in Deutschland und in Europa im Einklang mit demokratischen Rechten und Werten weiterentwickelt und genutzt werden.
www.stiftung-mercator.de/de/woran-wir-arbeiten/demokratie-und-zusammenhalt/
