In diesem Kapitel wird der Politik- und Ordnungsrahmen Deutschlands für die verantwortungsvolle Entwicklung und Nutzung von KI-Technologien untersucht. Verschiedene Initiativen, wie etwa Nachhaltigkeits- und Umweltprogramme, die transparente Nutzung von KI am Arbeitsplatz und regulatorische Rahmenbedingungen, die sich mit Sicherheitsfragen befassen, zeigen das Engagement des Landes für eine verantwortungsvolle und menschenzentrierte KI. Deutschland verfügt zudem über eine solide rechtliche Grundlage für regulatorische Test- und Experimentierräume und eine proaktive Haltung zur Normung für vertrauenswürdige KI, sowohl national als auch international. In den Empfehlungen wird die Notwendigkeit einer klaren und integrierten Vision auf politischer Spitzenebene, einer verstärkten Finanzierung von Projekten, die den KI-Zielen entsprechen, und der Einrichtung eines zentralen Teams zur Unterstützung regulatorischer Experimente auf regionaler Ebene betont.
OECD-Bericht zu Künstlicher Intelligenz in Deutschland
6. Politik- und Ordnungsrahmen
Abstract
Als OECD-Mitglied hält sich Deutschland an die KI-Grundsätze der OECD, die in der OECD-Empfehlung zu KI [OECD/LEGAL/0449] enthalten sind. Die nationale Strategie und Politik in Bezug auf KI zeigen das Engagement Deutschlands für die verantwortungsvolle und menschenzentrierte Entwicklung und Anwendung von KI-Technologien. Deutschland betont die Förderung von inklusivem Wachstum, Transparenz und Rechenschaftspflicht im Zusammenhang mit KI-Systemen. Seine KI-Strategie unterstützt demokratische Grundsätze und eine vertrauenswürdige KI im öffentlichen Sektor und erkennt die Bedeutung hoher Standards in Bezug auf Nichtdiskriminierung, Transparenz, Rückverfolgbarkeit, Überprüfbarkeit, Gerechtigkeit, Partizipation und Datenschutz an, um das Vertrauen der Öffentlichkeit in die Nutzung der KI im öffentlichen Sektor aufrechtzuerhalten. Darüber hinaus erkennt die Bundesregierung an, dass sie einen Politik- und Ordnungsrahmen für die verantwortungsvolle und gemeinwohlorientierte Entwicklung und Nutzung von KI benötigt, um Risiken zu begegnen.
Kasten 6.1. Politik- und Regulierungsrahmen: Ergebnisse und Empfehlungen
Ergebnisse
Deutschland gehörte zu den ersten Ländern, die eine nationale KI-Strategie veröffentlicht und damit ein frühes Bekenntnis zu menschenzentrierter KI signalisiert haben.
Deutschland setzt die KI-Grundsätze der OECD um.
Neben der nationalen KI-Strategie 2018 und deren Fortschreibung 2020 hat Deutschland Strategien und Initiativen in allen Arbeitsfeldern entwickelt.
Deutschlands Budget für die nationale KI-Strategie ist im Vergleich zu anderen Ländern gering.
Deutschland hat klare Pläne und Rechtsvorschriften für Reallabore. Allerdings wird ihre Anwendung oft durch das begrenzte Fachwissen auf Länderebene behindert.
Deutschland kann seinen Ruf für hochwertige Industrieprodukte auf vertrauenswürdige Produkte und Dienstleistungen, bei denen KI zum Einsatz kommt, übertragen.
Empfehlungen
Entwicklung einer klaren, agilen, langfristigen, integrierten Vision, wie Deutschland KI zum gesellschaftlichen Fortschritt und Gemeinwohl einsetzen will, sowie detaillierter Roadmaps für die Umsetzung.
Einrichtung eines Aufsichts- und Koordinierungsgremiums für die nationale KI-Strategie auf höchster politischer Ebene (d. h. im Bundeskanzleramt), um eine kohärente Umsetzung sicherzustellen.
Aufstockung der Fördermittel für nationale KI-Ziele.
Einrichtung eines zentralen Teams/Zentrums, um die Behörden bei der Durchführung regulatorischer Experimente zu unterstützen.
Bessere Nutzung des eigenen Einflusses auf Regulierung und Normung in der Europäischen Union (EU).
Umsetzung spezifischer Strategien zur Förderung einer vertrauenswürdigen Nutzung von KI am Arbeitsplatz.
Die deutsche KI-Strategie
Die 2018 lancierte deutsche KI-Strategie, die bis 2025 mit einem Budget von 3 Mrd. EUR umgesetzt werden soll, zielt auf Wachstum und eine vertrauenswürdige KI-Entwicklung ab, wobei der Schwerpunkt auf menschenzentrierten Anwendungen liegt, die vom BMAS, BMBF und BMWK unterstützt werden. Sie ist auf Wettbewerbsfähigkeit und die Integration von KI in die Gesellschaft durch gesellschaftlichen Dialog und politisches Handeln ausgerichtet.
2018 gehörte Deutschland zu den ersten Ländern, die eine nationale KI-Strategie veröffentlichten. Das übergeordnete Ziel der KI-Strategie ist die Förderung von Wachstum und Wettbewerbsfähigkeit und die Sicherstellung einer verantwortungsvollen und vertrauenswürdigen Entwicklung der KI. Ein wesentliches Merkmal der Strategie ist die Betonung der menschenzentrierten KI und ihr Verständnis und ihre Gestaltung zum Nutzen von Arbeitnehmer:innen und Gesellschaft. Vor diesem Hintergrund ist das BMAS neben dem BMBF und dem BMWK eines der drei führenden Ministerien der nationalen KI-Strategie.
Die drei Hauptziele der KI-Strategie sind: i) Sicherung der künftigen Wettbewerbsfähigkeit Deutschlands bei gleichzeitiger Entwicklung Deutschlands und Europas zu führenden Standorten für die Entwicklung und Anwendung von KI-Technologien; ii) Sicherstellung, dass KI-Nutzung und -Entwicklung verantwortungsvoll und auf das Gemeinwohl ausgerichtet sind; und iii) ethische, rechtliche, kulturelle und institutionelle Verankerung von KI in der Gesellschaft durch einen breiten gesellschaftlichen Dialog und aktive politische Bemühungen.
Ein Jahr nach dem Start der Strategie im November 2019 veröffentlichte die Bundesregierung einen Zwischenbericht (BMBF, 2019[1]), in dem die wichtigsten durchgeführten Maßnahmen und die Perspektiven für die kommenden Jahre vorgestellt werden. Im Dezember 2020 hat Deutschland die nationale KI-Strategie als Reaktion auf die jüngsten Entwicklungen fortgeschrieben (Die Bundesregierung, 2020[2]). Insbesondere die COVID-19-Pandemie und Fragen der ökologischen Nachhaltigkeit und des Klimaschutzes wurden in den Vordergrund gerückt, ebenso wie die Bedeutung der europäischen und internationalen Zusammenarbeit.
Die nationale KI-Strategie beschreibt die Maßnahmen der Bundesregierung in fünf Schwerpunktbereichen: 1) Köpfe, 2) Forschung, 3) Transfer und Anwendungen, 4) Regulierungsrahmen und 5) Gesellschaft. Die Strategie skizziert auch neue Initiativen mit den Schwerpunkten Nachhaltigkeit, Umwelt-/Klimaschutz, Gesundheit und Pandemiebekämpfung sowie internationale/europäische Zusammenarbeit.
Die nationale KI-Strategie verfügte zunächst über ein Budget von 3 Mrd. EUR bis 2025, eine Mittelzusage, die im Juni 2020 im Rahmen des Konjunktur- und Zukunftspakets um weitere 2 Mrd. EUR erhöht wurde (Die Bundesregierung, 2020[3]). Es ist jedoch nicht klar, ob die Gesamtzusage umgesetzt wird. Bisher wurden 3,5 Mrd. Euro auf die Bundesministerien verteilt. Die Strategie sieht weder eine Aufschlüsselung der den einzelnen Bereichen zugewiesenen Mittel noch eine Aufteilung der Mittel auf die Bundesministerien vor. Im Oktober 2023 waren insgesamt 2,8 Mrd. Euro für konkrete Projekte zur Unterstützung der Umsetzung bereitgestellt worden.
In Anbetracht des zugewiesenen Budgets von 3,5 Mrd. Euro sind Deutschlands Fördermittel für seine KI‑Ambitionen augenscheinlich geringer als die anderer europäischer Länder und der Vereinigten Staaten. Pro Kopf der Bevölkerung und Jahr betragen die öffentlichen KI-Investitionen in Deutschland 6 Euro. Im Vergleich zu anderen europäischen Ländern hinkt Deutschland hinterher - Frankreich hingegen hat zugesagt, für seine nationale KI-Strategie (Ministère de l'Économie, des Finances et de la Souveraineté industrielle et numérique, 2023[4]), das Vereinigte Königreichs 6,5 EUR (HM Government, 2021[5]). Auch die Vereinigten Staaten liegen über diesen Zahlen und widmen jährlich bis zu 7,5 EUR pro Kopf ausschließlich für Forschung und Entwicklung im Bereich der KI (Executive Office of the President, 2022[6]).
In der Strategie sind für jeden Teilaspekt mehrere Maßnahmen und Initiativen aufgeführt, es fehlt jedoch eine Roadmap für die Umsetzung, in der konkrete Schritte, ein Zeitrahmen und, mit beschränkten Ausnahmen, Ziele und Indikatoren zur Messung der Fortschritte festgelegt sind. Die nationale Strategie 2018 stellt jedoch klar, dass die Ministerien für die Überwachung der Fortschritte der in ihren Zuständigkeitsbereich fallenden Maßnahmen verantwortlich sind.
Deutschland hat neben der Strategie 2018 und der Fortschreibung 2020 Strategien und Initiativen in angrenzenden Bereichen entwickelt. Dazu gehört die nationale Digitalisierungsstrategie 2025 (BMWi, 2016[7]), die Datenstrategie der Bundesregierung, fortgeschrieben 2023 (Die Bundesregierung, 2023[8]) sowie branchenbezogene Rechtsvorschriften, wie das Mobilitätsdatengesetz (BMDV, 2023[9]) und Rechtsvorschriften im Zusammenhang mit KI im Gesundheitssektor (siehe Blickpunkt: KI und Gesundheitswesen). Für diese Initiativen, die alle von verschiedenen Ministerien verwaltet werden, gibt es jedoch keine formellen Koordinierungsmechanismen.
KI-Strategien der deutschen Bundesländer und Kommunen
Begleitend zur nationalen KI-Strategie 2018 und deren Fortschreibung 2020 haben die deutschen Bundesländer Maßnahmen und strategische Ziele im Bereich der KI entwickelt. Fünf der 16 Bundesländer haben KI-Strategien veröffentlicht, während die übrigen 11 Ziele und Maßnahmen in Bezug auf KI im Rahmen ihrer Innovations- oder Digitalstrategien festgelegt haben. Bezüglich der Schwerpunktbereiche priorisieren 15 von 16 Bundesländern das Thema „Transfer und Anwendungen“, was eine erhebliche Überschneidung mit den Zielsetzungen des Bundes zeigt. Die anderen Bereiche mit denen meisten Überschneidungen sind Gesundheit (13/16), Forschung (12/16) und Infrastruktur (10/16).
Trotz dieser Überschneidungen ist die Zusammenarbeit und Koordinierung zwischen Bund und Ländern nach wie vor begrenzt. Mehrere Bundesländer haben eigene KI-Agenturen oder -Plattformen auf Landesebene initiiert, wie die Bayerische KI-Agentur und das Bayerische KI-Netzwerk (baiosphere), das Hessische Zentrum für Künstliche Intelligenz (hessian.AI) oder die KI.NRW-Plattform in Nordrhein-Westfalen. Die Zusammenarbeit zwischen diesen Länderinstitutionen und Bundesministerien sollte gefördert werden, etwa durch die jüngst eingerichtete ständige Digitalministerkonferenz, die im November 2023 angekündigt wurde und auf relevante KI-Akteur:innen aus dem Bund ausgeweitet werden könnte.
KI beeinflusst Kommunen und verändert das Arbeitsumfeld der lokalen Gebietskörperschaften. Die zehn bevölkerungsreichsten Städte Deutschlands (Berlin, Hamburg, München, Köln, Frankfurt am Main, Stuttgart, Düsseldorf, Leipzig, Dortmund, Essen) verfügen über eine digitale Strategie und Städte wie Berlin, Hamburg oder Köln verweisen auf die Relevanz von KI. Keine dieser zehn Städte hat jedoch eine KI-Strategie entwickelt. Dies ist auch bei anderen europäischen Kommunen nicht ungewöhnlich. So verfügen beispielsweise nur 5 der 26 europäischen Hauptstädte – Amsterdam, Brüssel, Luxemburg, Madrid und Wien – über eine KI-Strategie. Angesichts der entscheidenden Rolle, die Kommunen im täglichen Leben der Bürger:innen spielen, wird es für Kommunalbehörden äußerst wichtig sein, sich der potenziellen Herausforderungen und Chancen bewusst zu werden, die die KI mit sich bringt, und darüber, wie sie reagieren könnten. Auch die Abstimmung mit Länder- und Bundesbehörden sowie verantwortungsvolle KI-Strategien können helfen, eine kohärente nationale Reaktion auf allen staatlichen Ebenen sicherzustellen.
Entwicklung eines verantwortungsvollen, vertrauenswürdigen und menschenzentrierten Ansatzes für KI
Deutschland orientiert sich an den KI-Grundsätzen der OECD und betont die menschenzentrierte KI und den gesellschaftlichen Dialog in seiner nationalen Strategie mit Initiativen für KI für das gesellschaftliche Wohl, den Umwelt- und Klimaschutz sowie die Sicherstellung, dass öffentliche Systeme verantwortungsvoll entwickelt werden, mit die Transparenz von KI am Arbeitsplatz fördernden Gesetzen. Auch EU-Rechtsvorschriften wie die DSGVO und die Verordnung der Europäischen Union zu Künstlicher Intelligenz („KI-Verordnung der EU“) (EU, 2024[10]) dienen als Orientierung für seinen Ansatz.
Deutschland hat das Engagement für und die Umsetzung von Prinzipien für eine vertrauenswürdige KI gefestigt
Die KI-Grundsätze der OECD beinhalten fünf wertebasierte Prinzipien für die verantwortungsvolle Verwaltung einer vertrauenswürdigen KI.
Im Einklang mit dem EU-Ansatz für Exzellenz und Vertrauen in KI (EC, 2024[11]) hat Deutschland die KI-Verordnung der EU, das weltweit erste KI‑Gesetz aktiv mitgestaltet. Ziel der KI-Verordnung der EU ist es, die Sicherheit und die Grundrechte der Nutzer:innen zu schützen und dem KI-Markt Schubkraft zu verleihen, indem das Vertrauen der Verbraucher:innen in KI-Anwendungen gestärkt wird. Die KI-Verordnung der EU legt Verpflichtungen – unter anderem in Bezug auf Transparenz, menschliche Aufsicht, Rechenschaftspflicht und Haftung – für Betreiber1 von KI-Systemen fest, die sich nach dem mit ihrer Nutzung verbundenen Risiko richten. Die Risiken werden als unannehmbar (verboten), hoch (vorbehaltlich von Konformitätsbewertungsverfahren vor dem Inverkehrbringen eines KI-Systems sowie der Beobachtung nach dem Inverkehrbringen), begrenzt (vorbehaltlich von Transparenzpflichten) und gering oder ohne Risiko (nicht unter die Verordnung fallend) eingestuft. Die KI-Verordnung der EU führt auch einen mehrstufigen Ansatz für Anbieter:innen von Allzweck-KI-Modellen ein, die als KI-Modelle definiert sind, die eine Vielzahl unterschiedlicher Aufgaben erfüllen können und in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden können. Die KI-Verordnung unterscheidet zwischen solchen mit potenziellen systemischen Risiken für die Gesellschaft und anderen Allzweck-KI-Modellen. Deutsche Beamt:innen sagen, dass sie kurz nach der Verabschiedung der Verordnung Leitlinien zur Anpassung und Kontextualisierung der Umsetzung herausgeben werden. Ebenso nannten befragte deutsche Beamt:innen die von der EU vorgeschlagene „KI-Haftungsrichtlinie“ (European Parliament, 2023[12]) als relevant für Deutschlands zukünftige Ansätze zur Rechenschaftspflicht.
Deutschland hält sich wie alle EU-Mitglieder an die DSGVO, die Regelungen zur transparenten und fairen Verarbeitung personenbezogener Daten enthält. Diese Verordnung hat Auswirkungen auf KI-Systeme, die die Verarbeitung personenbezogener Daten beinhalten, und stellt sicher, dass natürliche Personen darüber informiert werden, wie ihre Daten verwendet werden.
Mehrere Initiativen auf nationaler Ebene verdeutlichen auch die Ausrichtung Deutschlands an den Grundsätzen.
Im Einklang mit dem wertebasierten OECD-Grundsatz im Hinblick auf die Menschen und den Planeten heißt es in der deutschen KI-Strategie, dass KI-Anwendungen die menschliche Leistungsfähigkeit erhöhen und unterstützen müssen. Sie beinhaltet auch ein ausdrückliches Bekenntnis zu einer verantwortungsvollen Entwicklung und Nutzung von KI, die dem Wohl der Gesellschaft dient, und zu einem breiten gesellschaftlichen Dialog über ihre Nutzung. Zu diesem Zweck fördern mehrere Bundesinitiativen die Nutzung von KI zum gesellschaftlichen Wohl (siehe Gesellschaft).
Deutschland plant, die Leistungsfähigkeit von KI-Systemen und umweltbezogene Daten für Folgenabschätzungen, Ökosystemanalysen oder Untersuchungen des Energieverbrauchsverhaltens wirksam zu nutzen. Mit der Aufgabe, die Umweltbehörden in ihren vielfältigen Forschungs- und Vollzugsaufgaben in diesen Themenbereichen zu unterstützen und Anwendungen in den relevanten Domänen zu entwickeln, wird das neu eingerichtete „Anwendungslabor für Künstliche Intelligenz und Big Data“ betraut. Beim Entwickeln von Anwendungen legt das AI-Lab besonderen Wert auf die verantwortungsvolle Handhabung von Daten und den ressourcenschonenden Einsatz von KI und Big Data. Die Bundesregierung hat zudem das Förderprogramm „KI Lighthouse“ ins Leben gerufen, das die KI-Entwicklung für den Schutz von Umwelt, Klima, Natur und Ressourcen fördert. Darüber hinaus enthält die nationale KI-Strategie Pläne zur Einführung einer Marke mit dem Namen „Sustainable AI“, die den Ressourcenverbrauch verschiedener KI-Systeme bewerten soll.
Die Bundesregierung bekräftigt ihr Engagement für das „menschenzentrierte Design“ von KI-Systemen innerhalb und außerhalb des öffentlichen Sektors und erwähnt dieses Prinzip in verschiedenen Abschnitten ihrer Strategie 2018 und 2020. Menschenzentriertes Design ist auch ein Prinzip des KI‑Observatoriums unter der Leitung des BMAS (BMAS und DenkFabrik, 2023[13]), das einen übergreifenden Fokus darauf hat, wie KI zu gesellschaftlichen und beruflichen Trends beitragen kann. Eine weitere Dimension menschenzentrierter KI ist die Nutzerorientierung, die ein Kernstück der Strategie der Bundesregierung ist, um die Effizienz der öffentlichen Dienstleistungen zu verbessern und sie schneller und zugänglicher für die Bürger:innen zu machen. Schließlich unterstützt der deutsche Rechtsrahmen für den öffentlichen Sektor nach Angaben deutscher Beamt:innen die menschenzentrierte KI, indem er vorschreibt, dass nur Menschen die endgültige Entscheidung über bedeutungsvolle Dinge treffen dürfen.
Für öffentliche Stellen, die mit Sicherheitsaufgaben betraut sind, wurde in der nationalen KI-Strategie eine Algorithmenbewertungsstelle für Behörden und Organisationen mit Sicherheitsaufgaben (ABOS) – ein zentrales Gremium, das die Konformität von KI-Systemen zertifiziert und bewertet – gefordert, aber noch nicht formell eingeführt (Merkur, 2023[14]).
Deutschland fördert den transparenten Einsatz von KI am Arbeitsplatz durch das Betriebsrätemodernisierungsgesetz von 2021, mit dem das Betriebsverfassungsgesetz (BetrVG) aktualisiert wurde. Bereits vor der Novelle musste der Betriebsrat bei der Implementierung von KI‑gestützten IT-Tools einbezogen werden. Neu seit 2021 ist aber, dass es für den Betriebsrat einfacher ist, externe Sachverständige hinzuzuziehen, wenn ein Unternehmen KI intern nutzen will. Die frühzeitige Einbindung der Betriebsräte soll das Vertrauen in die KI-Technologie stärken und die Akzeptanz in der Belegschaft steigern.
Deutschland hat 2017 eine Ethikkommission für automatisiertes und vernetztes Fahren auf sektoraler Ebene eingerichtet, die Empfehlungen zu den ethischen Aspekten des autonomen Fahrens gibt (BMDV, 2017[15]). Obwohl sie sich speziell auf den Automobilsektor bezieht, stellt sie einen Präzedenzfall für die Berücksichtigung ethischer Implikationen beim Einsatz von KI-Technologien dar. Deutschland hat 2021 das erste umfassende nationale Gesetz zum autonomen Fahren verabschiedet. Deutschlands Gesetzesentwurf zu Fahrzeugen mit automatisierter Fahrfunktion im Straßenverkehrsgesetz und sein Gesetz zur Änderung des Straßenverkehrsgesetzes und des Pflichtversicherungsgesetzes („Gesetz zum autonomen Fahren“) sollen die robuste und sichere Nutzung von KI sicherstellen. Diese Gesetze legalisieren Fahrzeuge mit automatisierter Fahrfunktion, indem sie das Straßenverkehrsgesetz ändern und die Anforderungen an Fahrzeuge mit automatisierter Fahrfunktion im öffentlichen Straßenverkehr festlegen.
Regulatorische Test- und Experimentierräume in Bezug auf KI
Deutschland setzt verschiedene Initiativen zur Steigerung der Agilität in der KI-Governance um und entwickelt einen umfassenden Rechtsrahmen für Reallabore, wobei das Bundes-Reallaboregesetz bis 2025 in Kraft treten soll.
Deutschland verfolgt klare Pläne und gesetzliche Bestimmungen für regulatorische Experimente.
Seit 2017 unterstützt das Bundesministerium für Arbeit und Soziales die Einrichtung von Lern- und Experimentierräumen. Dies wurde 2019 um eine spezifische Komponente mit Schwerpunkt KI erweitert. Der Schwerpunkt dieser Initiative liegt darauf, KMU Zugang zu innovativen Technologien zu verschaffen, aber das Programm steht auch Behörden und Einrichtungen der öffentlichen Verwaltung offen. In der Fortschreibung 2020 wird ausdrücklich auf dieses Modell und seine Verwendung sowohl für Unternehmen als auch für die öffentliche Verwaltung zur Entwicklung innovativer technischer Lösungen verwiesen.
Darüber hinaus fordert die nationale KI-Strategie die Einrichtung von Reallaboren für neue Projekte und KI-Systeme. Regulatorische Experimente im KI-Bereich, insbesondere durch Reallabore, können zur Steigerung der Agilität in der KI-Governance beitragen. So sind KI-Innovator:innen und -Regulator:innen beispielsweise in der Lage, neue Produkte sicher zu testen. In der KI-Verordnung der EU wird auch vorgeschlagen, KI-Systeme vor dem Inverkehrbringen mithilfe von Reallaboren zu testen und zu validieren (EC, 2021[16]). In Deutschland gibt es bereits mehrere Initiativen zu Reallaboren. Dazu gehören:
ein Handbuch für die Planung, Umsetzung und Bewertung von Reallaboren (BMWK, 2019[17]),
eine Arbeitshilfe zur Formulierung von Experimentierklauseln für gesetzgebende Stellen (BMWi, 2020[18]),
eine Praxishilfe zum Datenschutz in Reallaboren (BMWi, 2021[19]),
eine interministerielle Arbeitsgruppe Reallabore,
einen Bund-Länder-Arbeitskreis Reallabore,
ein bereichsübergreifendes Netzwerk von Reallaboren mit mehr als 1000 Mitgliedern,
Workshops, Bereitstellung von Informationen, Festlegung von Kontaktpersonen und
Reallaborwettbewerbe („Innovationspreis“).
Es gibt auch mehrere gesetzliche Bestimmungen für nationale regulatorische Experimente (z. B. für autonomes Fahren, digitale Identitäten oder Drohnenverkehrsmanagement). Deutschland ist derzeit dabei, einen umfassenden Rechtsrahmen für Reallabore zu entwickeln. Das im Koalitionsvertrag 2021 (Die Bundesregierung, 2021[20]) als ein Ziel genannte Bundes-Reallaboregesetz soll voraussichtlich bis 2025 in Kraft treten.
Ein am 10. Juli 2023 erschienenes Grünbuch ist Teil dieser Initiative. Er enthält eine Reihe von Vorschlägen und Fragen zu vier wesentlichen Elementen (BMWK, 2023[21]). Mit diesen Maßnahmen sollen i) neue rechtliche Möglichkeiten und Experimentierklauseln für Reallabore in wichtigen Innovationsbereichen eingeführt werden, ii) übergreifende Standards für Reallabore festgelegt werden, iii) ein „Experimentierklausel-Check“ in der Gesetzgebung verankert werden und iv) eine zentrale Anlaufstelle zur Straffung des Reallabor-Prozesses geschaffen werden. Darüber hinaus fand vom 10. Juli bis zum 29. September 2023 ein öffentliches Konsultationsverfahren statt, um eine Möglichkeit zur Mitwirkung und für Feedback zu bieten.
Deutschland spielt eine wichtige Rolle bei der Entwicklung der Rechtsgrundlage für regulatorische Experimente auf europäischer Ebene. In Europa wurden im November 2020 unter deutscher Ratspräsidentschaft die Schlussfolgerungen des Rates zu Reallaboren und Experimentierklauseln verabschiedet (EU, 2020[22]).
Wie diese vielfältigen Bemühungen zeigen, hat Deutschland klare Pläne und gesetzliche Bestimmungen für Reallabore. Im Bereich des automatisierten Fahrens hat das Land moderne Reallabore eingerichtet. Darüber hinaus dauerte ein in Hamburg eingerichtetes Reallabor sieben Monate und bot eine Testumgebung für einen autonomen Lieferroboter. Andere Länder haben KI-Reallabore für mehrere Anwendungen eingerichtet. So hat Spanien im Jahr 2022 ein KI-Reallabor als erstes Pilotprogramm eingerichtet, um die KI-Verordnung der EU zu testen. Das Vereinigte Königreich hat zwei Reallabore durch die Financial Conduct Authority (FCA) und das Information Commissioner’s Office (ICO) eingerichtet. Das FCA-Reallabor (2016) konzentriert sich auf FinTech, lässt aber auch KI-bezogene Lösungen im Finanzsektor zu. Inspiriert vom ICO-Reallabor, hat das Reallabor der norwegischen Datenschutzbehörde (Datatilsynet) (2020) zum Ziel, ethische, datenschutzfreundliche und verantwortungsvolle Innovationen innerhalb der KI zu fördern (OECD, 2023[23]).
Die föderale Struktur Deutschlands bestimmt, wann bestimmte Bereiche, einschließlich der Umsetzung der Bundesgesetzgebung, in den Zuständigkeitsbereich der Länder (Kasten 6.2), und nicht in den des Bundes fallen. Die rechtlichen Kompetenzen für die Umsetzung von Reallaboren liegen bei den Ländern, d. h. eine zuständige Behörde auf Landesebene muss Antragsteller:innen eine Ausnahmegenehmigung erteilen. Die Anwendbarkeit der Bestimmungen wird jedoch häufig durch die begrenzte Sachkenntnis auf Länderebene behindert. Zur Lösung dieses Problems könnte Deutschland ein zentrales Team / ein Zentrum finanzieren, das die zuständigen Behörden unterstützt. Eine weitere Möglichkeit wäre, die Kompetenzen für regulatorische Experimente auf Bundesebene zu zentralisieren.
Kasten 6.2. Bundesländer im föderalen System Deutschlands
Nach Artikel 20 des deutschen Grundgesetzes ist Deutschland ein föderales System. Jedes Bundesland teilt sich die Verantwortung mit dem Bund und den Gemeinden:
Die Ausübung staatlicher Befugnisse und die Wahrnehmung staatlicher Aufgaben (insbesondere der Verwaltungsaufgaben) obliegt den Bundesländern; sie sind damit für die Umsetzung der Bundesgesetzgebung verantwortlich.
Die Befugnisse von Bund und Ländern können sich in Bereichen wie Justiz, Sozialwesen, Zivil-, Straf-, Arbeits- oder Wirtschaftsrecht überschneiden. Im Konfliktfall hat Bundesrecht Vorrang.
Die Bundesländer verfügen über die ausschließliche Gesetzgebungsbefugnis in den Bereichen Kultur, Bildung, Hochschulen, kommunale Angelegenheiten und Polizei.
Normungstätigkeiten im Bereich der KI
Deutschland schafft Normen für eine vertrauenswürdige KI, setzt seinen Ruf für Qualität wirksam für KI‑Produkte und -Dienstleistungen ein und will die EU-Normung mitgestalten. Auch das „AI Trust Label“ und das CERTAIN-Programm für vertrauenswürdige KI-Techniken tragen zur Gestaltung einer „vertrauenswürdigen KI made in Germany“ bei.
Deutschland kann den Ruf seiner Industrie für hochwertige Güter auf KI-Produkte und -Dienstleistungen übertragen
Deutschland arbeitet an einer Normung für vertrauenswürdige KI. Die „Deutsche Normungsroadmap Künstliche Intelligenz“ ist ein einzigartiges Projekt mit Beteiligung verschiedener Interessenträger:innen und ein ausgezeichneter Schritt, um die nationalen Anstrengungen zu lenken und Deutschland im internationalen Normenökosystem zu positionieren. Der Roadmap scheinen jedoch klare und umsetzbare Ziele und Engagement von den Beteiligten zu fehlen (DIN, 2023[24]).
Deutschland engagiert sich auch in internationalen KI-Governance- und Normungsgremien. Ein deutscher KI-Experte vom Verband der Elektrotechnik (VDE) führt den Vorsitz im Joint Technical Committee 21 des CEN und CENELEC (JTC21) zur „künstlichen Intelligenz“, das (zusammen mit dem ETSI) damit beauftragt wurde, harmonisierte europäische Normen zur Umsetzung der KI-Verordnung der EU zu entwickeln.
Deutschland hat die Chance, den Ruf seiner Industrie für hochwertige Güter auf KI-Produkte und -Dienstleistungen zu übertragen und die KI-Normung innerhalb der EU voranzutreiben. Deutschland könnte die Einhaltung der KI-Verordnung der EU nachweisen und vertrauenswürdige KI zu einem entscheidenden Wettbewerbsfaktor machen. In diesem Zusammenhang haben deutsche Unternehmen in Zusammenarbeit mit dem VDE und französischen Großunternehmen bereits ein „AI Trust Label“ eingerichtet (VDE, 2022[25]). Ziel ist es, eine vertrauenswürdige KI zu fördern, die der deutschen Industrie einen Wettbewerbsvorteil verschaffen kann, und gleichzeitig die KI-Einführung bei Unternehmen zu fördern.
Im September 2023 startete eine weitere Initiative des Konsortiums Centre for European Research in Trusted AI (CERTAIN), das rechtlich zum DFKI gehört (DFKI, 2023[26]), zur Einführung eines nationalen Umsetzungsprogramms mit dem Namen „Trusted AI“. Der Schwerpunkt des CERTAIN liegt auf der Erforschung, Entwicklung, Einführung, Standardisierung und Förderung von Trusted-AI-Techniken mit dem Ziel, Garantien und Zertifizierungen für KI-Systeme zu bieten.
Empfehlungen
Formulierung einer strategischen Vision für KI zur Bewältigung der drängendsten Herausforderungen Deutschlands
Politische Maßnahmen im Bereich der KI erfordern politisches Engagement, eine klare Vision sowie effektive Kooperationsmechanismen. Die Befragten äußerten Bedenken, dass Deutschland trotz der seit 2018 ergriffenen Maßnahmen zur Förderung der KI-Entwicklung im Land offenbar keine strategische Vision oder Führungsrolle für die Richtung hat, die das Land in Bezug auf KI einschlagen sollte. Um dem zu begegnen, sollte Deutschland eine agile, langfristige und integrierte Vision, wie die deutsche Gesellschaft möchte, dass KI den Fortschritt und das Wohlergehen fördert, sowie detaillierte Roadmaps für die Umsetzung entwickeln. Ein internationales Beispiel ist die National Strategy for AI in Health and Social Care, die derzeit vom KI-Labor des National Health Service (NHS) im Vereinigten Königreich im Rahmen der nationalen KI-Strategie entwickelt wird und die Richtung für KI im Gesundheits- und Sozialwesen bis 2030 vorgeben wird (NHS, 2023[27]).
Leitung und Koordinierung der KI-Politikgestaltung und -umsetzung auf höchster politischer Ebene und unmittelbare Verbindung der deutschen KI-, Daten- und Digitalisierungspolitik
Um die nationale KI-Strategie umzusetzen und Synergien mit den deutschen Digitalisierungs- und Datenstrategien zu erzeugen, sind Aufsicht, Koordination und adäquate Ressourcen auf höchster politischer Ebene (also im Bundeskanzleramt) gefragt. Zu den vielversprechenden Praktiken in anderen Ländern gehören das UK Government Office for AI – eine Abteilung des Department for Science, Innovation and Technology, die für die Aufsicht über die Umsetzung der nationalen KI-Strategie zuständig ist – und das US-amerikanische National Artificial Intelligence Initiative Office (NAIO), das im Office of Science and Technology Policy des Weißen Hauses angesiedelt ist und mit der Koordinierung und Unterstützung des National AI Initiative Act (Gesetz zur nationalen KI-Initiative) beauftragt ist. Weitere Beispiele sind der Staatssekretär für Digitalisierung und KI in Spanien (abhängig vom neu geschaffenen spanischen Ministerium für die digitale Transformation und den öffentlichen Dienst, das über weitreichende Kompetenzen in den Bereichen Telekommunikation, Informationsgesellschaft, digitale Transformation sowie Entwicklung und Förderung von KI verfügt), und das Ministerium für KI in den Vereinigten Arabischen Emiraten.
Aufstockung der Mittel für KI-Ziele
Die befragten Expert:innen stimmten darin überein, dass erhebliche Investitionen sowohl auf nationaler als auch auf EU-Ebene unerlässlich sind, um die technologische Unabhängigkeit im Bereich der KI, die für die deutsche Wirtschaft und Gesellschaft von entscheidender Bedeutung ist, zu sichern. Die Interessenträger:innen haben sich dafür ausgesprochen, dass diese Ausgaben den Investitionen in den USA und China entsprechen sollten (Humboldt Foundation, 2023[28]).
Einrichtung eines zentralen Teams/Zentrums, um die Behörden dabei zu unterstützen, Expertise auf dem Gebiet regulatorischer Experimente auf Länderebene zu fördern
Deutschland hat einen umfassenden und soliden nationalen Rechtsrahmen für regulatorische Experimente geschaffen. Die Umsetzung von Reallaboren obliegt jedoch den Behörden auf regionaler Ebene. Während einige Bundesländer über die Kompetenz verfügen, Reallabore einzurichten, zu überwachen und zu bewerten, fehlt den meisten Bundesländern diese Expertise. Um hier Abhilfe zu schaffen, könnte Deutschland ein zentrales Team finanzieren, das die zuständigen Länderbehörden unterstützt. Eine weitere Möglichkeit wäre, die Kompetenzen für regulatorische Experimente auf Bundesebene zu zentralisieren.
Bessere Nutzung des Einflusses auf EU-Regulierung und -Normung
Deutschland hat die Chance, den Ruf seiner Industrie für hochwertige Güter auf Produkte und Dienstleistungen, bei denen KI zum Einsatz kommt, zu übertragen und damit die KI-Normung innerhalb der EU voranzutreiben. Deutschland sollte sicherstellen, dass es bei europäischen und globalen KI‑Normungsaktivitäten weiterhin gut vertreten ist, indem es bestehende Schlüsselpositionen wie den derzeitigen Vorsitz bei CEN-CENELEC, den ein Deutscher vom VDE führt, wirksam nutzt.
Umsetzung spezifischer Strategien zur Förderung einer vertrauenswürdigen Nutzung von KI am Arbeitsplatz
Über die Investitionen in die Ausbildung und den sozialen Dialog hinaus muss Deutschland die Risiken angehen, die die am Arbeitsplatz eingesetzte KI für die Rechte und die Sicherheit der Arbeitnehmer:innen darstellen kann.
Die bestehenden Antidiskriminierungsgesetze und Vorschriften für Sicherheit und Gesundheitsschutz am Arbeitsplatz, Datenschutz, Transparenz und Vereinigungsfreiheit bieten einen Rahmen, der zwar nicht KI‑spezifisch ist, mit dem aber damit verbundenen Risiken begegnet werden kann. Die Beobachtung der einschlägigen Rechtsprechung wird es Deutschland ermöglichen, festzustellen, ob diese Vorschriften im Hinblick auf den Einsatz von KI angepasst werden müssen.
Auch wenn die KI-Verordnung der EU, die Produkthaftungsrichtlinie und die KI-Haftungsrichtlinie Bestimmungen enthalten werden, um die Rechenschaftspflicht sicherzustellen, wird Deutschland spezifische Maßnahmen für die Nutzung am Arbeitsplatz umsetzen müssen.
Literatur
[13] BMAS und DenkFabrik (2023), KI-Observatorium Künstliche Intelligenz in Arbeit and Gesellschaft, https://www.ki-observatorium.de/en.
[1] BMBF (2019), Interim Report: One Year of AI Strategy, Bundesministerium für Bildung und Forschung, https://www.bmbf.de/bmbf/shareddocs/downloads/files/zwischenbericht-ki-strategie_final.pdf (accessed on 11 December 2023).
[9] BMDV (2023), “Veröffentlichung Eckpunkte Mobilitätsdatengesetz”, Bundesministerium für Digitales und Verkehr, https://bmdv.bund.de/DE/Themen/Digitales/Digitale-Gesellschaft/Eckpunkte-Mobilitaetsdatengesetz/eckpunkte-mobilitaetsdatengesetz_node.html (accessed on 18 October 2023).
[15] BMDV (2017), Automated and Connected Driving, Federal Ministry of Transport and Digital Infrastructure, https://bmdv.bund.de/SharedDocs/EN/publications/report-ethics-commission-automated-and-connected-driving.pdf?__blob=publicationFile (accessed on 11 December 2023).
[19] BMWi (2021), Praxishilfe zum Datenschutz in Reallaboren, Bundesministerium für Wirtschaft und Energie, https://www.bmwk.de/Redaktion/DE/Publikationen/Digitale-Welt/praxishilfe-zum-datenschutz-in-reallaboren.pdf?__blob=publicationFile&v=1 (accessed on 18 October 2023).
[18] BMWi (2020), Recht flexibel, Bundesministerium für Wirtschaft und Energie, https://www.bmwk.de/Redaktion/DE/Publikationen/Digitale-Welt/recht-flexibel-arbeitshilfe-experimentierklauseln.pdf?__blob=publicationFile&v=1 (accessed on 2023 October 2023).
[7] BMWi (2016), Digitale Strategie 2025, Bundesministerium für Wirtschaft und Energie, https://www.bmwk.de/Redaktion/DE/Publikationen/Digitale-Welt/digitale-strategie-2025.pdf?__blob=publicationFile&v=1 (accessed on 24 October 2023).
[21] BMWK (2023), Grünbuch Reallabore, Bundesministerium für Wirtschaft und Klimaschutz, https://www.bmwk.de/Redaktion/DE/Downloads/G/gruenbuch-reallabore.pdf?__blob=publicationFile&v=10 (accessed on 18 October 2023).
[17] BMWK (2019), Making Space for Innovation - The Handbook for Regulatory Sandboxes, Federal Ministry for Economic Affairs and Energy, https://www.bmwk.de/Redaktion/EN/Publikationen/Digitale-Welt/handbook-regulatory-sandboxes.pdf%3F__blob%3DpublicationFile%26v%3D2 (accessed on 18 October 2023).
[26] DFKI (2023), CERTAIN: The European Centre for Trusted AI starts with a kick-off celebration on September 19, 2023, https://www.dfki.de/en/web/news/certain-european-centre-for-trusted-ai-starts-with-kick-off-celebration-on-september-19-2023 (accessed on 11 December 2023).
[8] Die Bundesregierung (2023), Weiterentwicklung der Datenstrategie - Fortschritt dank besserer Daten, https://www.bundesregierung.de/breg-de/themen/digitaler-aufbruch/datenstrategie-2023-2216620 (accessed on 18 October 2023).
[20] Die Bundesregierung (2021), Mehr Fortschritt wagen - Bündnis für Freiheit, Gerechtigkeit und Nachhaltigkeit, https://www.bundesregierung.de/resource/blob/974430/1990812/1f422c60505b6a88f8f3b3b5b8720bd4/2021-12-10-koav2021-data.pdf?download=1 (accessed on 18 October 2023).
[3] Die Bundesregierung (2020), “Economic stimulus package: An ambitious programme”, https://www.bundesregierung.de/breg-en/news/konjunkturpaket-1757640 (accessed on 11 December 2023).
[2] Die Bundesregierung (2020), Strategie Künstliche Intelligenz der Bundesregierung - Fortschreibung 2020, https://www.ki-strategie-deutschland.de/files/downloads/201201_Fortschreibung_KI-Strategie.pdf (accessed on 11 October 2023).
[24] DIN (2023), Second Edition of the German Standardization Roadmap AI, Deutsches Institut für Normung e.V., https://www.din.de/en/innovation-and-research/artificial-intelligence/ai-roadmap (accessed on 18 October 2023).
[11] EC (2024), European Approach to Artificial Intelligence, European Commission, https://digital-strategy.ec.europa.eu/en/policies/european-approach-artificial-intelligence.
[16] EC (2021), Proposal for a Regulation of the European Parliament and of the Council laying down Harmonised Rules on Artificial Intelligence and amending certain Union Legislative Acts (Artificial Intelligence Act), European Commission, https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:52021PC0206 (accessed on 28 March 2023).
[10] EU (2024), Regulation (EU) 2024/ ...... of the European Parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act), https://data.consilium.europa.eu/doc/document/PE-24-2024-INIT/en/pdf.
[22] EU (2020), Council Conclusions on Regulatory Sandboxes and Experimentation Clauses as Tools for an Innovation-friendly, Future-proof and Resilient Regulatory Framework that Masters Disruptive Challenges in the Digital Age, Council of the European Union, https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=CELEX:52020XG1223(01) (accessed on 18 October 2023).
[12] European Parliament (2023), Briefing - EU Legislation in Progress: Artificial Intelligence Liability Directive, https://www.europarl.europa.eu/RegData/etudes/BRIE/2023/739342/EPRS_BRI(2023)739342_EN.pdf.
[6] Executive Office of the President (2022), Supplement to the President’s FY 2023 Budget, National Science and Technology Council, https://www.nitrd.gov/pubs/FY2023-NITRD-NAIIO-Supplement.pdf.
[5] HM Government (2021), National AI Strategy, https://assets.publishing.service.gov.uk/government/uploads/system/uploads/attachment_data/file/1020402/National_AI_Strategy_-_PDF_version.pdf.
[28] Humboldt Foundation (2023), Sieben Empfehlungen zur Künstlichen Intelligenz (KI) an die Deutsche Bundesregierung, https://www.humboldt-foundation.de/fileadmin/Bewerben/Programme/Alexander-von-Humboldt-Professur/Positionspapier_zur_Kuenstlichen_Intelligenz_Recommendations_on_AI.pdf (accessed on 2023 October 2023).
[14] Merkur (2023), “Coalition wants to make AI applications in administration possible”, https://www.merkur.de/politik/koalition-will-ki-anwendungen-in-verwaltung-moeglich-machen-zr-92489210.html (accessed on 11 December 2023).
[4] Ministère de l’Économie, des Finances et de la Souveraineté industrielle et numérique (2023), La Stratégie Nationale pour l’Intelligence Artificielle, https://www.entreprises.gouv.fr/fr/numerique/enjeux/la-strategie-nationale-pour-l-ia.
[27] NHS (2023), The National Strategy for AI in Health and Social Care, NHS England, https://transform.england.nhs.uk/ai-lab/ai-lab-programmes/.
[23] OECD (2023), “Regulatory sandboxes in artificial intelligence”, OECD Digital Economy Papers, No. 356, OECD Publishing, Paris, https://doi.org/10.1787/8f80a0e6-en.
[25] VDE (2022), “Kann Künstliche Intelligenz wertekonform sein? VDE SPEC als Grundlage künftiger Entwicklungen”, Verband der Elektrotechnik Elektronik Informationstechnik e.V., https://www.vde.com/de/presse/pressemitteilungen/ai-trust-label (accessed on 18 October 2023).
Anmerkung
← 1. „Betreiber“ bezeichnet den:die Anbieter:in, den:die Produkthersteller:in, den:die Nutzer:in, den:die Bevollmächtigte:n, den:die Einführer:in oder den:die Händler:in.