In diesem Kapitel wird die strategische und vertrauenswürdige Nutzung künstlicher Intelligenz (KI) im öffentlichen Sektor erörtert, beispielsweise für Back-Office-Funktionen öffentlichkeitsorientierter digitaler Dienste Es wird untersucht, welche Strategiebemühungen im öffentlichen Sektor bestehen, wie sie mit den umfassenderen Anstrengungen der Europäischen Union (EU) übereinstimmen und welche Hebel für die Umsetzung in Frage kommen. Das Kapitel behandelt Anwendungsfälle in der realen Welt, wobei große Sprachmodelle (LLMs) und neue bewährte Verfahren besonders eingehend beleuchtet werden. Außerdem werden die wichtigsten Governance-Fähigkeiten Deutschlands (z. B. Führungsrolle, politische Entscheidungskompetenz und Koordination) und ihre Schlüsselfaktoren (z. B. Daten, Finanzierung, Beschaffungsmechanismen und Kompetenzen) betrachtet. In einem Schwerpunkt zum Thema Transparenz werden die ergriffenen Maßnahmen und Möglichkeiten für weitere Entwicklungen aufgezeigt. Abschließend werden vielversprechende internationale Vorgehensweisen identifiziert, die Deutschland Erkenntnisse liefern könnten, und sieben Handlungsempfehlungen gegeben.
OECD-Bericht zu Künstlicher Intelligenz in Deutschland
8. Spotlight: KI im öffentlichen Sektor
Abstract
Der Einsatz von vertrauenswürdiger KI im öffentlichen Sektor kann sich in erheblichem Maße auf Politik und Dienstleistungen der öffentlichen Hand auswirken. Dadurch kann Beamt:innen ein erheblicher Zeitaufwand erspart werden, sodass sie sich statt banaler Aufgaben anspruchsvollen Tätigkeiten zuwenden können, was die Effizienz und Effektivität des öffentlichen Sektors erhöht. Staatliche Stellen können KI auch nutzen, um bessere politische Strategien zu entwickeln und bessere, zielgerichtetere Entscheidungen zu treffen, die Kommunikation und Interaktion mit Bürger:innen und Einwohner:innen zu verstärken sowie die Geschwindigkeit und Qualität öffentlicher Dienstleistungen zu verbessern. Dabei müssen sie sicherstellen, dass die Nutzung von KI-Systemen im öffentlichen Sektor den Bürger:innen transparent kommuniziert wird und dass die KI-Systeme nicht zu diskriminierenden Ergebnissen führen. Deutschland hat KI im öffentlichen Sektor als wesentlichen Bestandteil in seine nationale KI-Strategie integriert.
Kasten 8.1. KI im öffentlichen Sektor: Ergebnisse und Empfehlungen
Ergebnisse
Deutschland verfügt über solide Strategien für KI im öffentlichen Sektor, obwohl stärkere Rahmenbedingungen für die Umsetzung und Koordinierung den Fortschritt vorantreiben könnten. Die Datenstrategie 2023 beginnt, diese zu verbessern.
Die Einrichtung von mit Expert:innen besetzten Datenlaboren und die Verpflichtung der Datenstrategie 2023, diese in jedem Ministerium umzusetzen, sind hervorragende Schritte zur Einführung von KI im öffentlichen Sektor, zur horizontalen Governance und zur Koordination.
Trotz Verzögerungen bei der Einrichtung des Beratungszentrums für Künstliche Intelligenz in der Öffentlichen Verwaltung (BeKI) unter der Zuständigkeit des Bundesministeriums für Inneres (BMI) sind die entsprechenden Bemühungen nun im Gange. BeKI hat mehrere Projekte initiiert und ist in der Lage, als Quelle für Leitlinien zum Einsatz von KI im öffentlichen Sektor zu dienen. Öffentliche Organisationen könnten jedoch von einer zusätzlichen Klärung der Rollen und Verantwortlichkeiten in der KI-Governance zwischen BMI und Ministerien profitieren.
Die Bundesministerien haben bewiesen, bei der Ad-hoc-Berichterstattung über den Einsatz von KI im öffentlichen Sektor akribisch und transparent vorzugehen. Dem öffentlichen Sektor fehlt es allerdings derzeit an einer systematischen Beobachtung und Transparenz der KI-Nutzung.
Empfehlungen
Stärkere Fokussierung auf die Strategieumsetzung durch Veröffentlichung einer regelmäßig aktualisierten Roadmap mit spezifischen Verpflichtungen und Maßnahmen für jedes Ziel unter Festlegung der zuständigen Stellen, des zugewiesenen Budgets, der Meilensteine sowie der Überwachungsmechanismen.
Stärkung der Koordination und Zusammenarbeit zwischen Bundeseinrichtungen und mit den Ländern und Städten, sowohl formell (z. B. Räte) als auch informell (z. B. Netzwerke und Praxisgemeinschaften).
Durch das BMI und dem ihm unterstellten BeKI sollte die zeitnahe Herausgabe geplanter Leitlinien für den Einsatz von KI im öffentlichen Sektor sichergestellt werden, in denen dann auch die Aufgaben und Zuständigkeiten der Stelle in Bezug auf die horizontale Politikgestaltung für KI-Maßnahmen im öffentlichen Sektor klargestellt sein sollten.
Ermutigung der Ministerien, Leitlinien für die Übernahme von KI im öffentlichen Sektor in ihrem jeweils eigenen Kontext zu entwickeln, und Zusammenarbeit mit ihnen, um sicherzustellen, dass diese Leitlinien mit nationalen Strategien und geltenden Regeln und Normen übereinstimmen.
Erkundung der Entwicklung von Front-End-Prozessen (z. B. Folgenabschätzung für Algorithmen) und Back-End-Prozessen (z. B. Prüfung für Algorithmen) und Leitlinien.
Erwägung der Entwicklung eines zentralen, öffentlichen, und durchsuchbaren Registers von KI‑Systemen, die im öffentlichen Sektor eingesetzt werden. Je nachdem, ob und wie die vorherige Empfehlung umgesetzt wird, könnte dies auch automatisch geschehen.
Erwägung einer Grundausbildung für alle Beamt:innen, deren Rolle direkt oder indirekt den Einsatz von KI beinhaltet oder davon beeinflusst wird.
Strategischer Ansatz für KI im öffentlichen Sektor
Deutschlands KI-Strategie bindet KI in die Effizienz des öffentlichen Sektors, in offene Daten der öffentlichen Verwaltung und in die Sicherheit ein. Zu ihren konkreten Maßnahmen und klaren Zielen gehört die Verbesserung der Leistungserbringung und der Fähigkeiten zur Notfallbewältigung. Sie ergänzt nationale und EU-Strategien und betont menschenzentrierte KI sowie öffentlich-private Partnerschaften zur Verbesserung öffentlicher Dienstleistungen und Sicherheit.
Deutschland hat solide Strategien für KI im öffentlichen Sektor umgesetzt
Wie die meisten Länder, die eine nationale KI-Strategie entwickelt haben, hat Deutschland KI als starken Bestandteil seiner nationalen Strategie 2018 in den öffentlichen Sektor eingebettet. Während mehrere Teile indirekte Auswirkungen auf die KI-Nutzung im öffentlichen Sektor haben, können zwei Abschnitte als besonders relevant angesehen werden: „Einsatz von KI für Aufgaben, die dem Staat vorbehalten sind, und für Verwaltungsaufgaben“ und „Bereitstellung von Daten und Erleichterung ihrer Nutzung“. Dabei ergeben sich drei Hauptthemen:
Effizienz und Effektivität des öffentlichen Sektors. Das Potenzial zur Nutzung von KI, um die Dienstleistungen des öffentlichen Sektors hinsichtlich ihrer Effizienz, Qualität und Sicherheit zu verbessern. Dies könnte die Verwaltungsprozesse verständlicher machen und die Bearbeitungszeiten für die Bürger:innen verkürzen.1
Open Government Data (OGD). Eine zentrale Priorität der Bundesregierung ist der Ausbau des offenen Zugangs zu Daten der öffentlichen Verwaltung, der in der Open-Data-Strategie 2021 weiter gestärkt wurde.
Innere und äußere Sicherheit. Die Bundesregierung bekräftigt ihr Interesse daran, KI für Notfallmaßnahmen und die Aufrechterhaltung der inneren und äußeren Sicherheit einzusetzen. Ein wichtiger Baustein ist dabei die IT-Sicherheit, ein Bereich, in dem sich die Bundesregierung zur Förderung der öffentlichen Forschung und zur Entwicklung einer entsprechenden Expertise für die zuständigen Behörden verpflichtet.
Die Fortschreibung der Strategie 2020 kann als Schritt hin zum allgemeinen Kapazitätsaufbau im öffentlichen Sektor charakterisiert werden. Zudem wurden die Sicherheitsaspekte der ursprünglichen Strategie verstärkt, indem das Potenzial der KI zur Abwehr von Cyberangriffen, zum Notfall- und Katastrophenmanagement und zur Erdbeobachtung erörtert wurde.
Die neue Datenstrategie 2023 dient dazu, diese Schwerpunkte zu verstärken, indem das Potenzial für LLMs sowohl für Back-End- als auch für öffentlichkeitsorientierte Aktivitäten hervorgehoben, die Bedeutung von Daten als Input für KI-Systeme beleuchtet und die Einführung von Chief Data Officers und Open-Data-Koordinatoren in jedem Bundesministerium vorgeschlagen wird. Sie setzt sich auch dafür ein, Diskriminierung auf Datenebene zu ermitteln und zu verhindern.
In einigen Bereichen ist der Weg zur Umsetzung weniger offensichtlich
Roadmaps und Schlüsselfaktoren, d. h. klare Ziele, spezifische Maßnahmen, Zeitrahmen, Finanzierung und Beobachtungsmechanismen, sind unerlässlich, um den Fortschritt bei der Umsetzung von KI-Strategien im öffentlichen Sektor voranzutreiben (Berryhill et al., 2019[1]).
Im Hinblick auf die Effizienz und Effektivität des öffentlichen Sektors werden in der nationalen KI-Strategie klare Ziele für KI im öffentlichen Sektor festgelegt: Bürger:innen und Einwohner:innen sollen gezielter, zugänglicher und maßgeschneiderter mit Informationen und Dienstleistungen versorgt werden. Im Allgemeinen enthält sie jedoch keine detaillierten, spezifischen Maßnahmen zur Erreichung dieser Ziele.
Auch das Ziel von OGD ist klar: Daten „standardmäßig offen“ zu halten. Im Vergleich zur Effizienz und Effektivität des öffentlichen Sektors werden spezifischen Maßnahme in Bezug auf OGD durch die Kombination der KI-Strategie, der Open-Data-Strategie 2021 und der Datenstrategie 2023 deutlicher. So wurde in der Strategie 2018 gefordert, das E-Government-Gesetz zu ändern, ein neues Portal für offene Daten einzurichten und besondere Vorkehrungen zum Schutz der Privatsphäre der Bürger:innen zu treffen (z. B. Pseudonymisierung/Anonymisierung von Daten, unterschiedliche Datenschutzverfahren). Neben der Veröffentlichung von mehr Daten werden Maßnahmen zur Erleichterung des verstärkten Zugriffs und der Nutzung diskutiert.
In Bezug auf die innere und äußere Sicherheit enthält die Strategie 2018 einige recht konkrete Maßnahmen, wie etwa Social-Media-Forensik und Maßnahmen zum Schutz von Kindern vor sexualisierter Gewalt im Internet. Die Fortschreibung 2020 führte spezifischere Maßnahmen ein, darunter den Ausbau der KI-bezogenen Fähigkeiten der Zentralen Stelle für Informationstechnik im Sicherheitsbereich (ZITiS), eines Dienstleisters für alle Bundessicherheitsbehörden, den Einsatz von KI zur Überwachung des Klimawandels und anderer systemischer Probleme sowie mehr zur Strafverfolgung und Verteidigung. Darüber hinaus wurden mit der Datenstrategie 2023 spezifische Maßnahmen im Zusammenhang mit der Verwendung von LLMs für eine Vielzahl von Anwendungsfällen im öffentlichen Sektor eingeführt, die potenziell zu allen drei Hauptschwerpunkten beitragen.
Deutschland hat bei vielen seiner Ziele, die es in seiner nationalen KI-Strategie im öffentlichen Sektor umrissen hat, erhebliche Fortschritte erzielt, insbesondere in den Bereichen Netzwerk- und Kapazitätsaufbau und verstärkte Notfallmaßnahmen. In anderen Bereichen wie Daten, Sicherheit und Regulierung scheinen viele der Ziele noch nicht erreicht zu sein, obwohl mehrere Elemente an Dynamik zu gewinnen scheinen.
Die Komponenten der KI-Strategie für den öffentlichen Sektor stimmen mit den komplementären nationalen Strategien und dem koordinierten EU-Plan für KI überein
Insgesamt wurden die für den öffentlichen Sektor relevanten Komponenten der deutschen KI-Strategie explizit so konzipiert, dass sie mit anderen nationalen Strategien der Bundesregierung kohärent sind, und sie scheinen tatsächlich gut aufeinander abgestimmt zu sein. Weitere Strategien sind die Digitale Strategie, die Datenstrategie, die Open-Data-Strategie, die Hightech-Strategie 2025, die Digitalisierungsstrategie der Bundesregierung und die Start-up-Strategie (BMWK, 2022[2]). Relevante, von einzelnen Ministerien veröffentlichte Strategien, wie die Digitale Strategie des BMBF, stehen auch im Einklang mit den breiter angelegten Bundesstrategien.
Vertikal ist die nationale KI-Strategie gut auf den koordinierten EU-Aktionsplan für KI abgestimmt. Die Abstimmung auf Strategien und Leitlinien der EU erscheint besonders wichtig für die KI im öffentlichen Sektor. So verfolgt die Verordnung der Europäischen Union zu Künstlicher Intelligenz („KI-Verordnung der EU“) (EU, 2024[3]) einen risikobasierten Ansatz für KI-Anwendungsfälle. Viele KI-Systeme, die vom öffentlichen Sektor genutzt werden, können aufgrund ihrer Verbindungen zu kritischen Infrastrukturen sowie zu Bürgerdiensten und -leistungen als Systeme mit erhöhtem Risiko eingestuft werden.
Auch die für KI im öffentlichen Sektor relevanten Komponenten der nationalen Strategien Deutschlands sind im Allgemeinen auf den koordinierten Plan der EU abgestimmt (EC, 2018[4]). So befassen sie sich beispielsweise mit menschenzentrierter KI, obwohl sie keine spezifischen Umsetzungsmaßnahmen enthalten. Die menschenzentrierte KI wurde auch in den Leitlinien einer Reihe einzelner Ministerien gestärkt (BMAS, 2023[5]).
Der koordinierte Plan der EU fördert auch den Einsatz künstlicher Intelligenz über verschiedene Bereiche hinweg, von der Bekämpfung des Klimawandels bis hin zur Verbesserung der Sicherheit und der Heilung von Krankheiten. Wie in anderen Teilen dieses Abschnitts erörtert, haben diese Ziele auch für die vorgesehenen Anwendungsfälle zur Nutzung von KI in der deutschen öffentlichen Verwaltung hohe Priorität. Der koordinierte Plan der EU nennt die Zielkonflikte zwischen dem Einsatz von KI für die Sicherheit und der gleichzeitigen Beibehaltung anderer Standards und Werte, ein Spannungsverhältnis, das auch in der deutschen KI-Strategie aufgeworfen wird.
Der koordinierte Plan der EU fordert mehr öffentlich-private Partnerschaften, insbesondere mit Start-ups und Innovator:innen. Dies wird auch in der Strategie 2018 gefordert, wobei in der Fortschreibung 2020 gezielte öffentliche Beschaffungsprozesse und GovTech-Ansätze gefordert werden, um die wirtschaftliche Entwicklung von Unternehmen zu stärken, die ihrerseits KI-Lösungen für die Nutzung im öffentlichen Sektor generieren können.
KI-Anwendungsfälle in der Bundesregierung
KI wird in Deutschland auf der Ebene des Bundes, der Länder und der Kommunen vermehrt eingesetzt
Deutschland hat im Vergleich zu anderen OECD- und vergleichbaren Ländern tendenziell eine geringere digitale Reife und Digitalisierung öffentlicher Dienstleistungen im öffentlichen Sektor (OECD, 2020[6]; bidt, 2023[7]; EC, 2022[8]). Dazu gehört auch die mangelnde Vernetzung zwischen Datenbanken der öffentlichen Verwaltung, die zum Teil auf die föderale Struktur Deutschlands zurückzuführen ist und die Möglichkeit beschränkt, Daten aus dem öffentlichen Sektor als Treiber für KI wirksam zu nutzen.2
Trotz dieses Kontextes gibt es bereits eine Vielzahl von KI-Initiativen des öffentlichen Sektors auf nationaler und subnationaler Ebene (Evers-Wölk, Kluge and Steiger, 2022[9]; Engelmann and Puntschuh, 2020[10]). Nach dem Government AI Readiness Index 2023 des Beratungsunternehmens Oxford Insights (2023[11]) steht Deutschland an achter Stelle von 193 Ländern, was die Fähigkeit seiner Bundesregierung angeht, KI zum Wohle der Allgemeinheit in die öffentliche Verwaltung zu integrieren.3 Die aktuellen Anwendungsfälle reichen von Front-Office-Anwendungen für die Öffentlichkeit bis hin zu Back-Office-Systemen, die Beamt:innen bei der Ausübung hoheitlicher Aufgaben helfen (Tabelle 8.1).
Dutzende Initiativen stehen in direktem Zusammenhang mit KI in der öffentlichen Verwaltung des Bundes und sind mit einem Budget von 193 Mio. EUR ausgestattet (Bundestag, 2023[12]). Die meisten dieser Initiativen konzentrieren sich auf Back-Office-Aufgaben, wobei der größte Anteil der derzeitigen Anwendungen die Verbesserung der Effizienz der Behörden (z. B. Kfz-Verwaltung) umfasst, obwohl einige auch die Integrität des öffentlichen Sektors (z. B. Überwachung der Finanzvorschriften, Zahlungsverfolgung und Betrugsvorbeugung), die wissenschaftliche Forschung (z. B. Pflanzen- und Wetterforschung), die öffentliche Gesundheit (z. B. Verfolgung von Krankheitsanomalien) und die zivile Sicherheit (z. B. Früherkennung von Krisen, Erforschung der Deepfake-Erkennung, Abwehr von Cyberbedrohungen) betreffen. Einige aktuelle Bemühungen beinhalten öffentlichkeitsorientierte Dienste wie Chatbots, um Fragen zu Kraftfahrzeugsteuern und Zollgesetzen zu beantworten, wobei die Pläne für die Zukunft umfassender sind und beispielsweise Sprachassistenten beinhalten.
KI wird auch zunehmend auf subnationaler Ebene in Bundesländern und großen Städten eingesetzt, wobei ein größerer Anteil auf öffentlichkeitsorientierte Dienstleistungen gerichtet ist. Dies ist zu erwarten, da subnationale Verwaltungen, insbesondere Städte, in der Regel den engsten Kontakt zur Öffentlichkeit haben. Neben der Verwendung von Sprachmodellen (LMs), die unten erörtert werden, ist KI in Servicerobotern und automatisierten Services zu finden, wie z. B.:
Die Stadt Ludwigsburg nutzt den Serviceroboter „L2B2“, um Menschen im Eingangsbereich des Bürgerbüros zu begrüßen und über die Zuständigkeiten der verschiedenen Ämter zu informieren.
Die Stadt Karlsruhe hat ein vollständig digitales Bürgerbüro eingerichtet, in dem Bürger:innen ihre Anliegen selbstständig und vollständig digital erledigen können.
Mithilfe der sogenannten „Speed Capture Station“ können Bürger:innen der Stadt Aschaffenburg vor Ort im Bürgerbüro biometrische Fotos, Fingerabdrücke und Unterschriften selbst erfassen, bevor sie einen Personalausweis oder Reisepass beantragen. Dadurch entfällt der zeitaufwendige Prozess der Erfassung der verschiedenen biometrischen Daten an den Serviceschaltern und die Notwendigkeit, Passfotos mitzubringen.
Tabelle 8.1. Beispiele für bewährte Verfahren beim Einsatz von KI im öffentlichen Sektor in Deutschland
Hinweis: Im Quellenmaterial war nicht immer der genauen Name des Anwendungsfalls angegeben.
Quelle: OECD‑Analyse von Engelmann, J. and M. Puntschuh (2020[10]), AI in Authorities’ Use: Experiences and Recommendations, https://www.oeffentliche-it.de/documents/10181/14412/KI+im+Beh%C3%B6rdeneinsatz+-+Erfahrungen+und+Empfehlungen.
Spotlight Sprachmodelle
Auf subnationaler Ebene setzen eine Reihe von Städten LM-basierte Instrumente ein, um öffentliche Dienstleistungen zu erleichtern. Die Städte Heidenheim und Heidelberg nutzen beide Chatbots, um Bürger:innen und Einwohner:innen dabei zu helfen, Informationen auf dialogorientierte Weise zu finden. Das Land Baden-Württemberg bietet darüber hinaus Chatbots für Steuerfragen von Bürger:innen und als Back-Office-Tool für Beamt:innen an (Kasten 8.2). Auch der Freistaat Bayern nutzt einen Chatbot, um die Bürger:innen über 2.800 verschiedene Dienstleistungen zu informieren (Initiative D21, 2023[13]).
Auch KI-basierte Sprachassistenten kommen in Deutschland zunehmend zum Einsatz. Seit März 2019 arbeiten Fraunhofer FOKUS und das Fraunhofer-Institut für Digitale Medientechnologie (IDMT) gemeinsam an dem Projekt „Sprachassistent für Bürgerdienste“ (Speech Assistance for Citizen Services, S4CS). Ziel ist es, einen KI-Demonstrator zu entwickeln, der die Bürger:innen durch einfache und intelligente Kommunikation in natürlicher Sprache bei der Beantragung von Verwaltungsdienstleistungen unterstützt. Ein Beispiel, das in Hamburg getestet wurde, ist die Beantragung von Kindergeld.
Kasten 8.2. F13 in Baden-Württemberg
Das vom Innovationslabor Baden-Württemberg eingeführte F13 ist ein LM, das den im öffentlichen Dienst Tätigen bei ihren täglichen Aufgaben hilft, sie entlastet und durch die Rationalisierung ihrer Arbeitsprozesse ihre Kapazitäten für die Arbeit an wichtigen Projekten erhöht.
Die Ziele der Entwicklung von F13 waren:
Zusammenfassung langer Texte. Die Verwaltungsmitarbeiter:innen können verschiedene Komprimierungsstufen wählen. Eine abschließende Prüfung durch einen Menschen wird jedoch empfohlen.
Straffung der Arbeit an Kabinettsvorlagen und -entwürfen. Kommentare aus Dokumenten werden automatisch hochgeladen und mit Mitarbeiter:innen geteilt. Updates sowie Statusberichte können von Mitarbeiter:innen heruntergeladen werden.
Unterstützung bei der Recherche. Beamt:innen können Fragen zu von ihnen hochgeladenen Dokumenten oder bezüglich einer Datenbank legislativer und amtlicher Dokumente (einschließlich Protokollen von Plenarsitzungen usw.) stellen. Beispiel: „Welche Maßnahmen werden derzeit erwogen, um den Pendlerverkehr mit dem Fahrrad zur Arbeit zu fördern?“
Generierung von Text aus menschlichem Input. Die Nutzer:innen können Dokumente (einschließlich Notizen, Studien usw.) hochladen, die dann zu einem zusammenhängenden Text zusammengestellt werden. Zu den einstellbaren Parametern gehören die Länge und der thematische Fokus des Textes. Beispiel: „Fasse den aktuellen Stand des Diskurses um den Umstieg auf regenerative Energien zusammen.“
Quelle: Staatsministerium Baden-Württemberg (2023[14]), “Künstliche Intelligenz in der Verwaltung”, https://stm.baden-wuerttemberg.de/de/service/presse/meldung/pid/kuenstliche-intelligenz-in-der-verwaltung.
Obwohl LMs in einigen Anwendungsfällen eine wichtige Rolle spielen, werden LLMs und ihre Verwendung im öffentlichen Sektor erst seit Kurzem in der Datenstrategie 2023 erwähnt, gemäß der eine Vereinfachung der Nutzung unstrukturierter Daten für LLMs geplant ist. Ferner ist eine Prüfung möglicher Anwendungsfälle vorgesehen, wobei ein besonderes Augenmerk auf die Datensicherheit, der Datenschutz und die digitale Souveränität gerichtet wird. Dieser Prozess wird vom Beratungszentrum für Künstliche Intelligenz in der Öffentlichen Verwaltung (BeKI), von der Algorithmenstelle für Behörden und Organisationen mit Sicherheitsaufgaben (ABOS), vom Bundesbeauftragten für den Datenschutz und die Informationsfreiheit sowie von den Datenlaboren begleitet. Das Bundesministerium des Innern und für Heimat (BMI) plant zudem, 2024 über das BeKI eine übergreifende Anleitung zum Einsatz von LLMs zu entwickeln. Die Schweiz hat kürzlich Leitlinien für die Verwendung von generativen KI-Tools im öffentlichen Sektor herausgegeben (CNAI, 2023[15]), die verantwortungsvolles Experimentieren fördern und genau festlegen, welche Arten von Anwendungen erlaubt und untersagt sind. Dies kann als nützlicher Ratgeber für Deutschland dienen, wenn es diesen Bereich weiter erkundet.
Die Transparenz bei der Nutzung von KI durch den öffentlichen Sektor könnte verbessert werden
Die Bundesregierung hat ihre Fähigkeit unter Beweis gestellt, alle im öffentlichen Sektor laufenden KI‑bezogenen Initiativen und Anwendungen zu ermitteln und öffentlich und transparent darüber zu berichten. Dies wurde jedoch am deutlichsten bei der Beantwortung einer parlamentarischen Anfrage der politischen Opposition (Drucksache, 2022[16]). Deutschland veröffentlichte daraufhin Details zu aktuellen und geplanten Verwendungen von KI in Bundesministerien und nachgeordneten Behörden, die mehr als 35 Einrichtungen und fast 80 Anwendungsfälle repräsentieren.
Eine solche Verfolgung und Transparenz können dazu beitragen, die Bürger:innen zu informieren und Vertrauen in die Art und Weise aufzubauen, wie der öffentliche Sektor KI nutzt. Die deutschen Bürger:innen sind zwar offen für die Nutzung von KI im öffentlichen Sektor, verstehen aber oft weder deren potenzielle Vorteile noch, wo und wie KI und algorithmische Systeme eingesetzt werden (Initiative D21, 2023[13]). Trotz des enormen Potenzials, diese Technologie für den öffentlichen Sektor wirksam zu nutzen, fehlen der Datenstrategie 2023 konkrete Pläne für universelle Anforderungen und Transparenzstandards für diese Systeme, die laut AlgorithmWatch (AlgorithmWatch, 2023[17]) bereits in der öffentlichen Verwaltung verwendet werden. Die Bundesregierung könnte hier eine proaktivere Haltung einnehmen, indem sie Transparenzmaßnahmen befürwortet und erleichtert, etwa durch die Einrichtung eines offenen, durchsuchbaren Registers der im öffentlichen Sektor eingesetzten KI-Lösungen. Wie Vertreter des BMI berichteten, ist der Aufbau eines solchen Registers als Projekt des BeKI im Gange, wobei im ersten Halbjahr 2024 mit einem Minimum Viable Product gerechnet wird. Bei der Entwicklung eines solchen Produkts könnten die KI-Register von Helsinki (Finnland) und Amsterdam (Niederlande) als informative Referenzbeispiele herangezogen werden, da sie verfolgen, wie Algorithmen in Kommunen verwendet werden (OECD.AI, 2023[18]). Darüber hinaus könnte sich Deutschland vom Algorithmic Transparency Recording Standard des Vereinigten Königreichs inspirieren lassen, der umfassend regelt, wie der öffentliche Sektor, einschließlich der Regierung, Informationen offenlegen sollte, wenn algorithmische Tools eingesetzt werden (OECD.AI, 2023[18]).
Aufbau wichtiger Governance-Kapazitäten
Unterstützung von höchster Ebene
Voraussetzung für den Erfolg der KI im öffentlichen Sektor ist, dass die Regierungen auf höchster staatlicher Ebene die richtigen Zeichen setzen (Berryhill et al., 2019[1]). Die Einbeziehung einer soliden Komponente des öffentlichen Sektors in die nationale KI-Strategie ist ein Teil davon. Darüber hinaus wiesen die Teilnehmer:innen an OECD-Befragungen darauf hin, dass die Bedeutung von KI im öffentlichen Sektor seit der Einführung von ChatGPT im November 2022, die allgemein das Bewusstsein für die Technologie geschärft hat, von internen Führungskräften klar erkannt wurde.
Ein weiteres Element sind jedoch deutliche Signale und Kommunikation von nationalen Entscheidungsträger:innen zur Bedeutung und zum potenziellen Nutzen von KI im öffentlichen Sektor. Eine bessere Sichtbarkeit dieses Themas durch nationale Entscheidungsträger:innen könnte zeigen, dass dies eine Priorität ist, und öffentlich Bedienstete auf allen Ebenen weiter unterstützen, was sie in die Lage versetzt, Innovationen und Fortschritt voranzutreiben. Die US-amerikanischen Executive Orders in Bezug auf „Promoting the Use of Trustworthy Artificial Intelligence in the Federal Government“ (Förderung des Einsatzes vertrauenswürdiger künstlicher Intelligenz in der Bundesverwaltung) (2020) (The White House, 2020[19]) und „Safe, Secure, and Trustworthy Artificial Intelligence“ (sichere und vertrauenswürdige künstliche Intelligenz) (2023) (The White House, 2023[20]) sind vielleicht die umfassendsten aktuellen Beispiele, die vom Präsidenten erlassen wurden. Die Executive Order 2023 hat einen starken übergreifenden Fokus auf KI im öffentlichen Sektor.
Politikgestaltung, Koordinierung und Orientierungshilfe
Insgesamt scheint Deutschland ein relativ geringes Maß an zentraler Politikgestaltung und Koordinierung der KI-Bemühungen des öffentlichen Sektors zur Unterstützung der praktischen Umsetzung der KI- und Datenstrategien aufzuweisen. Dies scheint sich jedoch zu verbessern, und die Bundesregierung erklärte kürzlich, dass sie an einer engeren strategischen Abstimmung zwischen den staatlichen Stellen und an der Entwicklung entsprechender Verfahren für KI arbeitet (OECD, 2023[21]).
Es besteht offensichtlich ein Mangel an Klarheit in Bezug auf die Zuständigkeiten für die Herausgabe horizontaler Politiken und von Leitlinien zur KI im öffentlichen Sektor. Das BMI ist die geeignete Instanz für diese Rolle, wobei die einzelnen Ministerien im Einklang mit ihrem eigenen Auftrag und institutionellen Kontext für die Umsetzung zuständig sind. Die Orientierungshilfe des BMI soll über das BeKI erfolgen. Seine Einrichtung wurde angekündigt und es wird gegenwärtig aufgebaut, wenn auch nicht im erforderlichen Tempo. Darüber hinaus plant das BMI, im Jahr 2024 formale Richtlinien und Orientierungshilfen bereitzustellen, wie von mehreren Ministerien gefordert.
Die meiste Arbeit zur KI im öffentlichen Sektor wird von und innerhalb Ministerien geleistet. Diese haben häufig unterschiedliche Regeln dafür festgelegt, ob, wann und wie KI eingesetzt wird (Handelsblatt, 2023[22]). Dies kann zu Inkonsistenzen bei den Konzepten und der Fähigkeit, aus den Erfahrungen zu lernen, sowie zu Doppelarbeit in den verschiedenen Ministerien führen. Einige Ministerien haben solide Richtlinien für die Gestaltung und Einführung von KI festgelegt, die anderen als Modell dienen könnten (BMAS, 2022[23]), während andere Ministerien noch keinen Ansatz formalisiert haben. Bei der Umsetzung von KI-Maßnahmen sind die Ministerien oft auf die Kooperation der Länder angewiesen, die zuletzt dafür kritisiert wurden, dass sie bei der Einbindung von KI in den öffentlichen Sektor zu langsam vorankommen (Deutschlandfunk, 2023[24]).4
Derzeit gibt es nur wenige Mechanismen für eine horizontale Koordinierung der KI-Aktivitäten des öffentlichen Sektors über die Bundesregierung hinweg. Während im Jahr 2023 halbjährliche Einladungsveranstaltungen für Ministerien zur Diskussion von KI-Projekten stattfanden, gibt es kaum Hinweise auf stärker integrierte Koordinierungsmechanismen auf nationaler Ebene. In anderen Ländern haben solche Mechanismen die Gestalt formeller Strukturen (z. B. interministerielle Räte) und informeller Kooperationskanäle (z. B. Netzwerke und Praxisgemeinschaften). Die deutschen Beamt:innen haben jedoch erklärt, dass sie Schritte unternehmen, um dies anzugehen. Dies geschieht durch das BeKI, das für die behördenübergreifende Koordinierung zuständig sein wird. Einige Pilotprojekte sind bereits im Gange, wobei mehrere Sitzungen und Austauschveranstaltungen zu verschiedenen Themen (z. B. wie LLMs im öffentlichen Sektor zu nutzen sind, welche KI-Infrastruktur in der Öffentlichkeit angemessen ist) abgehalten wurden und die Mitglieder auch in der Lage sind, sich organisch und horizontal zu vernetzen.
Auch die transversale Koordination mit subnationalen Verwaltungen ist offensichtlich begrenzt, obwohl der IT-Planungsrat eingerichtet wurde, um die Arbeit von Bund und Ländern an Fragen der IT-Technologie zu koordinieren, und mit der Arbeit zur Bewältigung der Herausforderungen der KI-Koordination begonnen hat. Die Föderale IT-Kooperation (FITKO) des IT-Planungsrates wurde gegründet, um die Digitalisierung der öffentlichen Verwaltung zu koordinieren und zu fördern (FITKO, 2023[25]). Dies stellt in Ländern mit föderaler Struktur eine gemeinsame Herausforderung dar und bleibt vielleicht eines der schwierigeren Probleme, die es zu bewältigen gilt.
Die Datenstrategie 2023 sieht den Aufbau vernetzter Datenlabore mit Chief Data Officers/Scientists und Open-Data-Koordinatoren in jedem Bundesministerium vor. Diese Labore wurden bereits in allen Ministerien eingerichtet und erhalten von den Befragten starke Unterstützung und Anerkennung als Zeichen des Erfolgs. Von anderen Ländern, wie den Vereinigten Staaten, wurden ähnliche Maßnahmen ergriffen, deren Auswirkungen im Allgemeinen positiv waren (Federal CDO Council, 2023[26]). In diesem Zusammenhang wurde eine Kooperationsplattform für Datenlabore mit dem Namen IMAG eingerichtet.
Solche Anstrengungen sind ein Schritt in die richtige Richtung und können dazu beitragen, Synergien zwischen Systemen und kollektives Lernen zu fördern und dabei Doppelarbeit und Überschneidungen zu vermeiden. Einige bestehende vielversprechende Praktiken zur Bildung von behördenübergreifenden Netzwerken oder Praxisgemeinschaften könnten helfen, die deutschen Bemühungen zu beeinflussen oder zu inspirieren. Beispiele hierfür sind das brasilianische Rede Nacional de Governo Digital (Nationales Netzwerk für digitale öffentliche Verwaltung) (Brazilian Government, 2023[27]), das chilenische Red de Innovadores Públicos (Netzwerk öffentlicher Innovator:innen) und die KI Community of Practice (KI-Praxisgemeinschaft) in den USA (Centers of Excellence, 2023[28]).
Die bisherigen bereichsübergreifenden Bemühungen sind zwar begrenzt, nehmen aber zu, und innerhalb der einzelnen Ministerien sind einige Erfolge erkennbar. Insbesondere hat das BMAS ein kollaboratives Netzwerk für Interaktion und Austausch, das Netzwerk Künstliche Intelligenz in der Arbeits- und Sozialverwaltung, entwickelt, das mit einem Vorstoß des Ministeriums begann, nun aber organisch wächst und mehr als 20 Organisationen umfasst. Laut den befragten Beamt:innen des BMAS hat das Netzwerk informelle Leitlinien entwickelt, wie KI im öffentlichen Sektor menschenzentriert und vertrauenswürdig umgesetzt werden kann. Ein solches Modell könnte helfen, Silosituationen über Ministerien hinweg zu überbrücken, und in die Bemühungen des BMI einfließen.
Um die Ergebnisse und die Vorteile der KI zu nutzen, fordert die nationale KI-Strategie „projektübergreifende Anreize für eine nachhaltige Ergebnisverwertung [...], etwa durch Bereitstellung von Algorithmen in Form von Open Source, durch eine Weitergabe der aufbereiteten Projektdaten zum Beispiel als Open AI Training Data oder den intensiven Erfahrungsaustausch zwischen Wissenschaftlerinnen und Wissenschaftlern zu Best Practices ebenso wie zu etwaigen Rückschlägen.“ Dieser Ansatz ist sehr vielversprechend, obwohl die OECD keine Hinweise für seine Umsetzung finden konnte und die befragten deutschen Beamt:innen etwas unsicher waren, inwieweit bisherige Bemühungen darunter fallen würden, obwohl sie der Ansicht waren, dass die neue Datenstrategie Deutschlands dazu beitragen würde, Daten transparenter zu machen.
Förderung der Rechenschaftspflicht
Die Initiative Trusted AI und die ABOS zielen darauf ab, die Rechenschaftspflicht von Stellen mit hohem Datenschutz- und Sicherheitsbedarf, beispielsweise durch Folgenabschätzungen, zu fördern. Diese Bemühungen befinden sich jedoch noch in einem frühen Stadium.
Sowohl für Sicherheitseinrichtungen als auch darüber hinaus könnte Deutschland sich im Hinblick auf die Front-End-Folgenabschätzung für Algorithmen auf bewährte Verfahren anderer Länder, die den Behörden helfen können, einen risikobasierten Ansatz für die KI-Rechenschaftspflicht vor der Einführung zu verfolgen, sowie auf Back-End-Prüfprozesse stützen, um sicherzustellen, dass KI-Systeme nach der Einführung vertrauenswürdig funktionieren (OECD, 2023[29]) (Ada/AI Now/OGP, 2021[30]). In Bezug auf die Front-End-Aspekte können bewährte Verfahren durch die kanadische Directive on Automated Decision-Making (Richtlinie über automatisierte Entscheidungsfindung) und die damit verbundene Folgenabschätzung für Algorithmen Assessment (Government of Canada, 2023[31]), die chilenische Instrucción General de Transparencia Algorítmica (Allgemeine Anweisung zur Transparenz von Algorithmen) (Consejo para la Transparencia, 2023[32]) und das AI Accountability Framework (KI‑Rechenschaftsrahmen) des United States Government Accountability Office (GAO) bereitgestellt werden (US Government Accountability Office, 2023[33]). Zu soliden Beispielen für retrospektive Prüfung zählt der Prüfungsrahmen für Algorithmen des niederländischen Rechnungshofs (Algemene Rekenkamer). Der Bundesrechnungshof hat gemeinsam mit Finnland, den Niederlanden, Norwegen und dem Vereinigten Königreich auch ein KI-Audit-Weißbuch entwickelt, das die entsprechenden Bemühungen unterstützen kann (auditing algorithms, 2023[34]).
Strategische Vorausschau und Antizipation
Insgesamt wird wenig an einer vorausschauenden Governance der KI des öffentlichen Sektors gearbeitet. Eine bemerkenswerte Ausnahme bildet das Projekt „GIRAFFE“ (Government Insight, Research, Analytic, Foresight, Function and Exploration) des BMI, dessen ausdrückliches Ziel es ist, die digitale Transformation der Verwaltung zu unterstützen. Einige Ministerien wie das BMBF lagern ihre vorausschauenden Aufgaben an private Akteur:innen aus und die Bundesregierung beauftragt Forschungsinstitute mit der strategischen Vorausschau. Weitere nicht KI-spezifische, aber für den zunehmenden Einsatz von KI im öffentlichen Sektor relevante Maßnahmen sind das „Kompetenzzentrum für Strategische Vorausschau“, das sich mit der Sicherheitspolitik befasst und unter dem Dach der Bundesakademie für Sicherheitspolitik angesiedelt ist, ein Runder Tisch für strategische Vorausschau, an dem alle Bundesministerien beteiligt sind, und ein „Zukunftsrat“, der den Bundeskanzler informiert. Etwas weniger direkt dient das extern gelegene, aber vom BMI geförderte Kompetenzzentrum Öffentliche IT (ÖFIT) als „Ansprechpartnerin und Denkfabrik“ für die Digitalisierung des öffentlichen Sektors und versucht, einen Systemansatz unter Berücksichtigung aufkommender Trends und neuer Entwicklungen zu verfolgen (BIH, 2023[35]).
Schaffung wichtiger Schlüsselfaktoren
Open Government Data (OGD)
Über ihre Rolle bei der Stärkung der Demokratie und der öffentlichen Verwaltung hinaus bleiben OGD für die Förderung von Innovationen wichtig. Dies schließt die Entwicklung neuer Dienstleistungen und Geschäftsmodelle im öffentlichen und privaten Sektor ein. Insgesamt sind OGD ein grundlegendes Element für fortschrittliche digitale öffentliche Verwaltungen. Durch die zunehmende Integration mit datenintensiven Systemen wie KI werden OGD zu einem Schlüsselfaktor für datengetriebene Entscheidungen innerhalb und außerhalb der öffentlichen Verwaltung und fließen in eine bessere Politik und bessere Dienstleistungen ein. Sie tragen auch zur Vertrauenswürdigkeit automatisierter Entscheidungen bei, indem sie als zuverlässige und nachvollziehbare Datenquelle dienen.
Laut dem OECD-Index der Weiterverwendbarkeit offener Verwaltungsdaten (OURdata-Index) 2023, der die Anstrengungen der Regierungen bei der Gestaltung und Umsetzung nationaler OGD-Strategien vergleicht, hinkt Deutschland bei der Datenverfügbarkeit und der Unterstützung der Weiterverwendung von Daten erheblich hinterher (Abbildung 8.1), obwohl die Datenzugänglichkeit relativ hoch ist.
Abbildung 8.1. Deutschland liegt bei der Verfügbarkeit und Weiterverwendung von Daten unter und bei der Datenzugänglichkeit über dem OECD-Durchschnitt
Quelle: OECD (2023[36]), “2023 OECD Open, Useful and Re‑usable data (OURdata) Index: Results and key findings”, https://doi.org/10.1787/a37f51c3-en.
Verbesserung interner Fachkenntnisse und Ressourcen
Talententwicklung und Kompetenzerwerb sind für die Bundesregierung von entscheidender Bedeutung.5 Obwohl die Notwendigkeit, KI-Fachkenntnisse im öffentlichen Sektor zu entwickeln, in der nationalen KI‑Strategie anerkannt wird, enthält sie keine Einzelheiten oder konkreten Pläne zur Umsetzung. Eine Umfrage aus dem Jahr 2021 hat ergeben, dass das Hauptproblem beim Einsatz von KI im öffentlichen Sektor wohl der Mangel an internem Fachwissen ist (Abbildung 8.2). Vertreter des BMI gehen jedoch davon aus, dass dies aufgrund neuer Weiterbildungsmaßnahmen und der Rekrutierung von Expert:innen, wie etwa Mitarbeiter:innen der Datenlabore, womöglich nicht mehr der Fall ist.
Die OECD-Befragungen ergaben gemischte Ansichten zu internen Kompetenzen und Fachkenntnissen. Die Rekrutierung von Expert:innen für die Arbeit in den Datenlaboren wurde von mehreren Befragten als Erfolg genannt, obwohl, wie auch in anderen Ländern üblich, das Gehaltsniveau im Vergleich zum privaten Sektor als Herausforderung angegeben wurde. Die Befragten wiesen auch darauf hin, dass die Daten- und KI-Kompetenz bestehender Beamt:innen begrenzt sei und ein gewisses Grundniveau an obligatorischer Ausbildung hilfreich sein könnte. Die Vorschläge reichten von der Verstärkung bereits vorhandener Kurse (z. B. von der Digital Academy) bis hin zur Stärkung der Rolle der Datenlabore bei der Förderung von KI-Kompetenz in ihren jeweiligen Ministerien.
Abbildung 8.2. Mangelndes internes Fachwissen ist eine der größten Herausforderungen beim Einsatz von KI im öffentlichen Sektor
Herausforderungen bei der Nutzung von Datenanalytik und künstlicher Intelligenz im öffentlichen Sektor in %, 2021
Quelle: Bundesrechnungshof (2023[37]), Processes of Data Analysis and Artificial Intelligence in the Federal Administration, https://www.bundesrechnungshof.de/SharedDocs/Downloads/DE/Berichte/2023/ki-da-volltext.pdf, basierend auf einer Umfrage des deutschen Bundesrechnungshofes vom Oktober 2021. Die OECD-Befragungen ergaben gemischte Ansichten über interne Kompetenzen und Fachwissen.
Initiativen wie das niedersächsische „KI-Kompetenzzentrum für die niedersächsische Verwaltung (KiKoN)“ mit dem Ziel, den Einsatz von KI in der öffentlichen Verwaltung zu fördern und zu beschleunigen, gibt es nur in einzelnen Bundesländern (Niedersächsisches Ministerium für Inneres und Sport, 2023[38]) oder bei bestimmten Behörden oder Sachgebieten, wie z. B. das Kompetenzzentrum für KI im Bundesamt für Sicherheit in der Informationstechnik (BSI) (BSI, 2023[39]). Extern fördert das BMI das „Kompetenzzentrum Öffentliche IT“, das als Denkfabrik und Partnerin für Fragen der öffentlichen IT dient und einen breitere Fokus als nur KI hat. Und schließlich hat der private Sektor einige Lücken geschlossen, indem er Kurse anbietet, in denen Mitarbeiter:innen des öffentlichen Dienstes die Grundlagen der KI vermittelt werden (bitkom, 2023[40]).
Öffentliche Verwaltungen können die notwendigen personellen Ressourcen intern durch innovative Ansätze bei der Ausbildung und Rekrutierung neuer Talente erhalten. Deutschland hat dabei in Bezug auf die Rekrutierung von Expert:innen in den bisher gestarteten Datenlaboren hervorragende Arbeit geleistet. Zu den vielversprechenden Praktiken in anderen Ländern, die die Ansätze in Deutschland beeinflussen und inspirieren könnten, gehören die Bemühungen Kolumbiens, Tausende von Beamt:innen und Bürger:innen in KI zu schulen, und ein KI-Ausbildungsprogramm in den Vereinigten Staaten, das im Rahmen des AI Training Act (KI-Ausbildungsgesetz) zur Aus- und Weiterbildung der Bundesbeschäftigten in KI vorgeschrieben wurde (US Congress, 2022[41]).
Sicherung externer Fachkenntnisse und Ressourcen
Die nationale KI-Strategie umfasst Pläne zur Straffung und wirksamen Nutzung öffentlicher Beschaffungsprozesse, um Anreize für KI-basierte und Open-Source-Lösungen des Privatsektors, insbesondere durch Start-ups, zu schaffen. 2021 gab es in Deutschland rund 300 GovTech-Start-ups mit einer jährlichen Wachstumsrate im dreistelligen Bereich. Fast die Hälfte davon bietet Lösungen für Kommunen statt für den Bund, meist als Cloud-Lösungen und Apps, wobei KI-Anwendungen noch begrenzt sind (Abbildung 8.3).
Abbildung 8.3. Start-ups liefern Technologielösungen für die öffentliche Verwaltung in Deutschland
Anzahl der GovTech-Start-ups in Deutschland, 2021
Quelle: GovMind (2021[42]), GovTech in Germany: A Systematic Market Review, https://govmind.tech/wp-content/uploads/2021/06/20210607-GovMind-GovTech-in-Deutschland.pdf.
Die Befragten berichteten jedoch über Schwierigkeiten beim Zugang zu öffentlichen Beschaffungsmöglichkeiten für innovative Lösungen (siehe Kapitel 4). Der „GovTech Campus Deutschland“ betreibt die „Open Innovation Platform“, auf der neue Ideen entwickelt werden, um digitale Beschaffungslösungen für Verwaltungen aller staatlichen Ebenen zugänglich zu machen. Die Bundesregierung verpflichtet sich in ihrer Start-up-Strategie ab 2022, öffentliche Verwaltungen in ihrer Zusammenarbeit mit der Tech-Szene zu ermutigen und zu unterstützen, verschiedene Anwendungsfälle für KI-Systeme zu entwickeln und zu testen, etwa durch Programme wie „AI for Government“, das Unternehmen Infrastruktur- und Rechenkapazitäten zur Förderung von KI-Lösungen bereitstellt, die vom öffentlichen Sektor übernommen werden können (BMWK, 2022[2]). Die Bundesregierung unterstützt auch ein Programm mit dem Namen „Procurement for Government“. Schließlich können GovTech-Unternehmen auch durch die „Digital Hub Initiative“, ein vom BMWK koordiniertes und betreutes Projekt, unterstützt werden.
Zu den potenziell vielversprechenden Praktiken im Hinblick auf das öffentliche Beschaffungswesen für KI in anderen Ländern gehören die AI Source List (KI-Bezugsquellenliste) zur Förderung innovativer Beschaffung der kanadischen Regierung und die chilenische Directiva da Innovación para las Compras Públicas (Innovationsrichtlinie für das öffentliche Auftragswesen) (Government of Canada, 2023[43]). Auch „AI Procurement in a Box“ aus dem OECD.AI-Katalog für Werkzeuge und Metriken könnte hilfreich sein (OECD.AI, 2023[44]).
Infrastruktur
Die nationale KI-Strategie skizziert den deutschen Plan, eine zentrale und offen zugängliche nationale Dateninfrastruktur mit einer Cloud-Plattform und der notwendigen Rechenkapazität aufzubauen. Es gibt jedoch keinen Beleg dafür, dass eine nationale Datenarchitektur entwickelt wurde.
In Bezug auf Interoperabilität wird in der Datenstrategie 2023 bekräftigt, dass die Gewährleistung der Interoperabilität der Systeme für die Sicherung der Wettbewerbsfähigkeit von entscheidender Bedeutung sein wird, obwohl sich dies in erster Linie auf Unternehmen und nicht auf die öffentliche Verwaltung bezieht. Auch offene Spezifikationen und die Anwendung internationaler Normen und Standards für Technologien wie KI und Distributed Ledger Technology (DLT) werden ausdrücklich unterstützt. Konkret wird in der Strategie auf GAIA-X als Beispiel für eine offene und dezentrale europäische Dateninfrastruktur verwiesen, die gemeinsame Regeln, quelloffenen Code und Standards für die Interoperabilität nutzt.
Von anderen lernen
Dieses Kapitel versucht vielversprechende Praktiken anderer öffentlicher Verwaltungen vorzustellen, die entsprechende Anstrengungen im Hinblick auf KI im öffentlichen Sektor unternehmen. Zwar gibt es keine umfassenden vergleichenden Bewertungen der KI im öffentlichen Sektor, aber einige Untersuchungen haben potenzielle Chancenbereiche für andere öffentliche Verwaltungen identifiziert, die sich auch für Deutschland eignen könnten.
Obwohl weitaus größer, sind die Vereinigten Staaten gut positioniert, um als Vergleichsland für KI im öffentlichen Sektor zu dienen, da sie aufgrund der föderalen Struktur Ähnlichkeiten mit Deutschland aufweisen und das Thema auch stark betont haben, unter anderem durch zwei oben genannte Präsidentenverfügungen. Ein aktueller Bericht des US Government Accountability Office (GAO) (2023[45]) weist auf wichtige Anforderungen bei der Einführung von KI im öffentlichen Sektor hin und bewertet die Maßnahmen öffentlicher Organisationen zu deren Erreichung. Der Bericht berücksichtigt über 1.200 aktuelle und geplante KI-Anwendungsfälle im öffentlichen Sektor. Er könnte nützliche Erkenntnisse liefern und Deutschland helfen, potenzielle Fallstricke zu vermeiden. Die wichtigsten Ergebnisse und Empfehlungen betreffen:
Entwicklung öffentlicher Roadmaps für die Umsetzung von Strategien und politischen Leitlinien.
Entwicklung und Aktualisierung öffentlicher KI-Anwendungsfall-Inventare.
Herausgabe von behördenweiten Richtlinien und Leitlinien zur KI im öffentlichen Sektor.
Benennung verantwortlicher Beauftragter für künstliche Intelligenz (Responsible Artificial Intelligence Officers, RAIOs) – später in Chief Artificial Intelligence Officers (CAIOs) umbenannt – in jeder obersten Abteilung des öffentlichen Sektors, die mit der Überwachung und Koordinierung von KI-Plänen und -Maßnahmen sowie der Verwaltung von Anwendungsfall-Inventaren betraut sind.
Erstellung und Durchführung von Bedarfsanalysen für mit KI zusammenhängende Tätigkeiten im öffentlichen Dienst.
Die Vergleichsstudie der OECD zum Einsatz von KI im öffentlichen Sektor Lateinamerikas und der Karibik kann ebenfalls relevante Ansätze aus der Region liefern (OECD/CAF, 2022[46]).
Empfehlungen
Stärkere Konzentration auf die Umsetzung der Strategie
Für die Umsetzung von KI-Strategien im öffentlichen Sektor ist das Vorhandensein von Roadmaps und Schlüsselfaktoren wichtig. Die Strategie Deutschlands beinhaltet solide hochgesteckte Ziele, aber wenig konkrete, umsetzbare und klare Schritte zu ihrer Erreichung. Eine solche Roadmap könnte die wachsende Dynamik rund um KI im öffentlichen Sektor in Deutschland wirksam einsetzen und sie systematisch auf die Ziele der Strategie ausrichten.
Verstärkte Koordinierung
Da es in Deutschland verschiedene Ebenen der Planung und Nutzung von KI auf und innerhalb von Verwaltungsebenen gibt, kann eine stärkere Koordination Deutschland dabei helfen, einen Systemansatz zu verfolgen, um strategische Ziele zu erreichen und dabei Doppelarbeit, Überschneidungen und Fragmentierung der Bemühungen zu minimieren. Formale Mechanismen wie Räte können Ministerien und andere Stellen des öffentlichen Sektors für das Erreichen nationaler strategischer Ziele verantwortlich machen. Informelle Mechanismen wie Netzwerke können durch den Austausch von Erfahrungen und Erkenntnissen und durch die Überwindung von Hürden bei der Einführung neuer Technologien und Ansätze Kapazitäten und Verbindungen zwischen den öffentlich Bediensteten aufbauen. Wie in anderen Ländern mit einer föderalen Struktur ist die Koordination zwischen der Bundesverwaltung und den subnationalen Verwaltungen wahrscheinlich der schwierigste Aspekt, der zusätzliche und engagierte Anstrengungen erfordert, um solche Berührungspunkte zu schaffen, vielleicht durch den IT-Planungsrat.
Klärung der Rollen und Ausweitung der Leitlinien für die Umsetzung von KI im öffentlichen Sektor
Mangelnde Klarheit in Bezug auf die Zuständigkeiten für die Herausgabe politischer Richtlinien zur Nutzung von KI im öffentlichen Sektor könnte die Fortschritte bei der Erkundung und Einführung von KI behindern. Die Klärung der Rollen kann dazu beitragen, dass eine Stelle in die Lage versetzt wird, Verantwortung für die Gestaltung und Herausgabe von Leitlinien zu übernehmen und entsprechende Maßnahmen zu ergreifen, und so anderen Organisationen des öffentlichen Sektors Grenzen, Handlungsspielraum und Wege zur Erreichung nationaler strategischer Ziele aufzeigen. Dadurch kann sichergestellt werden, dass behördenspezifische Strategien und Leitlinien mit horizontalen föderalen Bemühungen und Zielen übereinstimmen.
Untersuchung der Entwicklung von Verfahren und Leitlinien zur Folgenabschätzung und Prüfung für Algorithmen
Deutschland prüft, wie Rechenschaftsmechanismen wie die Bewertung von Algorithmen für öffentliche Stellen, die sich mit sensiblen Daten oder Sicherheitsfragen befassen, eingeführt werden können. Solche Mechanismen können jedoch in einem breiteren Spektrum an KI-Fällen nützlich sein. In einigen Ländern wie Kanada sind Folgenabschätzungen für alle Fälle automatisierter Entscheidungsfindung verpflichtend, wobei für Systeme mit geringen Auswirkungen minimale Anforderungen zur Risikominderung gelten und bei Systemen mit höheren Auswirkungen zusätzliche Verantwortlichkeiten zu erfüllen sind. Ebenso können Prüfungsrahmen sicherstellen, dass eingesetzte KI-Systeme vertrauenswürdig bleiben. Deutschland sollte abwägen, ob derartige Ansätze die Rechenschaftspflicht für die Nutzung künstlicher Intelligenz im öffentlichen Sektor im Land verbessern würden.
Erhöhung der Transparenz der KI-Nutzung im öffentlichen Sektor
Eine Vielzahl von Berichten über Anwendungsfälle von KI im öffentlichen Sektor wurde durch parlamentarische Anfragen ausgelöst. Durch die proaktive Führung eines aktualisierten Registers von Anwendungsfällen im öffentlichen Sektor könnte die Rechenschaftspflicht in Bezug auf KI im öffentlichen Sektor und das Vertrauen der Bürger:innen und Einwohner:innen gestärkt werden. Die Schaffung eines solchen Systems könnte automatisiert werden. Wenn beispielsweise Organisationen des öffentlichen Sektors (wie in Kanada) dazu verpflichtet wären, Folgenabschätzungen als offene Daten zu veröffentlichen, könnte ein automatisiertes System diese Dateien sammeln und ein Register daraus erstellen.
Stärkung der KI-bezogenen Kompetenzen im öffentlichen Sektor
Die Einrichtung und personelle Ausstattung von expertengestützten Daten- und KI-Labors im öffentlichen Sektor in Deutschland gilt als Erfolg und bedeutender Schritt. Da KI jedoch immer allgegenwärtiger wird und Deutschland die Einführung vertrauenswürdiger KI im öffentlichen Sektor intensiviert, muss es sich möglicherweise auf die Weiterbildung der bereits im öffentlichen Dienst Beschäftigten und von neu eingestellten Mitarbeiter:innen ohne KI-Expertise konzentrieren. Dies könnte die Weiterbildung in KI‑Grundlagen für Beamt:innen, die bei der Wahrnehmung ihrer Aufgaben gegebenenfalls KI nutzen oder mit KI in Berührung kommen, und eine vertiefte technische Ausbildung für einige Mitarbeiter:innen beinhalten, wodurch ein Weg beschritten wird, der die externe Rekrutierung für den Aufbau von KI‑Fachwissen ergänzt.
Literatur
[30] Ada/AI Now/OGP (2021), Algorithmic Accountability for the Public Sector, Ada Lovelace Institute, AI Now Institute and Open Government Partnership, http://www.opengovpartnership.org/documents/algorithmic-accountability-public-sector.
[17] AlgorithmWatch (2023), “Statement on the data strategy of the Federal Government”, https://algorithmwatch.org/de/wp-content/uploads/2023/09/Stellungnahme-Datenstrategie.pdf.
[34] auditing algorithms (2023), Auditing machine learning algorithms - A white paper for public auditors, https://www.auditingalgorithms.net./.
[1] Berryhill, J. et al. (2019), “Hello, World: Artificial intelligence and its use in the public sector”, OECD Working Papers on Public Governance, No. 36, OECD Publishing, Paris, https://doi.org/10.1787/726fd39d-en.
[7] bidt (2023), Autorinnen und Autoren: Das bidt-Digitalbarometer. international, Bayerisches Forschungsinstitut für Digitale Transformation, https://doi.org/10.35067/xypq-kn68.
[35] BIH (2023), Kompetenzzentrum Oeffentliche IT, https://www.oeffentliche-it.de/ (accessed on 11 December 2023).
[40] bitkom (2023), “eGovernment: AI basics for public sector employees”, https://bitkom-akademie.de/zertifikatslehrgang/egovernment-ki-grundlagen-oeffentlicher-dienst (accessed on 11 December 2023).
[5] BMAS (2023), Selbstverpflichtende Leitlinien für den KI-Einsatz in der behördlichen Praxis der Arbeits- und Sozialverwaltung, Bundesministerium für Arbeit und Soziales, https://www.bmas.de/SharedDocs/Downloads/DE/Publikationen/a862-01-leitlinien-ki-einsatz-behoerdliche-praxis-arbeits-sozialverwaltung.pdf (accessed on 11 December 2023).
[23] BMAS (2022), Guidelines for the Use of AI in the Governmental Practice in Labour and Social Affairs, Bundesministerium für Arbeit und Soziales, https://www.bmas.de/SharedDocs/Downloads/DE/Publikationen/a862-01-leitlinien-ki-einsatz-behoerdliche-praxis-arbeits-sozialverwaltung.pdf?__blob=publicationFile&v=2 (accessed on 11 December 2023).
[2] BMWK (2022), Start-up Strategy, Bundesministerium für Wirtschaft und Klimaschutz, https://www.bmwk.de/Redaktion/DE/Publikationen/Existenzgruendung/start-up-strategie-der-bundesregierung.html (accessed on 11 December 2023).
[27] Brazilian Government (2023), Rede Nacional de Governo Digital, https://www.gov.br/governodigital/pt-br/transformacao-digital/rede-nacional-de-governo-digital.
[39] BSI (2023), Künstliche Intelligenz, https://www.bsi.bund.de/DE/Themen/Unternehmen-und-Organisationen/Informationen-und-Empfehlungen/Kuenstliche-Intelligenz/kuenstliche-intelligenz_node.html#doc451100bodyText3.
[37] Bundesrechnungshof (2023), Processes of Data Analysis and Artificial Intelligence in the Federal Administration, https://www.bundesrechnungshof.de/SharedDocs/Downloads/DE/Berichte/2023/ki-da-volltext.pdf (accessed on 11 December 2023).
[12] Bundestag (2023), Einsatz Künstlicher Intelligenz im Geschäftsbereich der Bundesregierung, https://dip.bundestag.de/vorgang/einsatz-k%C3%BCnstlicher-intelligenz-im-gesch%C3%A4ftsbereich-der-bundesregierung/298588 (accessed on 11 December 2023).
[28] Centers of Excellence (2023), Community of Practice: Artificial Intelligence, https://coe.gsa.gov/communities/ai.html (accessed on 11 December 2023).
[15] CNAI (2023), Instruction sheets for the use of AI within the federal administration, https://cnai.swiss/en/products-other-services-instruction-sheets/ (accessed on 11 December 2023).
[32] Consejo para la Transparencia (2023), Sector público chileno avanza en inédita normativa de transparencia algorítmica en América Latina, https://www.consejotransparencia.cl/sector-publico-chileno-avanza-en-inedita-normativa-de-transparencia-algoritmica-en-america-latina/ (accessed on 11 December 2023).
[24] Deutschlandfunk (2023), “Scholz is urging federal states to respond to proposals to reduce bureaucracy”, https://www.deutschlandfunk.de/scholz-draengt-bundeslaender-zu-antworten-auf-vorschlaege-zu-buerokratieabbau-100.html.
[16] Drucksache (2022), “Antwort der Bundesregierung auf die Kleine Anfrage der Abgeordneten Anke Domscheit-Berg, Dr. Petra Sitte, Nicole Gohlke, weiterer Abgeordneter und der Fraktion Die Linke”, https://dserver.bundestag.de/btd/20/004/2000430.pdf (accessed on 18 October 2023).
[8] EC (2022), eGovernment Benchmark 2022, European Commission, https://digital-strategy.ec.europa.eu/en/library/egovernment-benchmark-2022.
[4] EC (2018), Coordinated Plan on Artificial Intelligence, https://eur-lex.europa.eu/resource.html?uri=cellar:22ee84bb-fa04-11e8-a96d-01aa75ed71a1.0002.02/DOC_1&format=PDF.
[10] Engelmann, J. and M. Puntschuh (2020), AI in Authorities’ Use: Experiences and Recommendations, https://www.oeffentliche-it.de/documents/10181/14412/KI+im+Beh%C3%B6rdeneinsatz+-+Erfahrungen+und+Empfehlungen.
[3] EU (2024), Regulation (EU) 2024/ ...... of the European Parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act), https://data.consilium.europa.eu/doc/document/PE-24-2024-INIT/en/pdf.
[9] Evers-Wölk, M., J. Kluge and S. Steiger (2022), Artificial Intelligence and Distributed Ledger Technology in Public Administration: An Overview of Opportunities and Risks including the Presentation of Internationally Relevant Practical Examples, Institut für Technikfolgenabschätzung und Systemanalyse, https://publikationen.bibliothek.kit.edu/1000151158.
[26] Federal CDO Council (2023), CDO, https://www.cdo.gov/ (accessed on 11 December 2023).
[25] FITKO (2023), Fitko, https://www.fitko.de/ (accessed on 11 December 2023).
[45] GAO (2023), “Artificial intelligence: Agencies have begun implementation but need to complete key requirements”, United States Government Accountability Office, https://www.gao.gov/products/gao-24-105980.
[31] Government of Canada (2023), Algorithmic Impact Assessment tool, https://www.canada.ca/en/government/system/digital-government/digital-government-innovations/responsible-use-ai/algorithmic-impact-assessment.html (accessed on 11 December 2023).
[43] Government of Canada (2023), Artificial intelligence source list, https://www.canada.ca/en/public-services-procurement/services/acquisitions/better-buying/simplifying-procurement-process/artificial-intelligence-source-list.html (accessed on 11 December 2023).
[42] GovMind (2021), GovTech in Germany: A Systematic Market Review, https://govmind.tech/wp-content/uploads/2021/06/20210607-GovMind-GovTech-in-Deutschland.pdf.
[22] Handelsblatt (2023), “Welche Ministerien KI bereits einsetzen – in erstaunlich konkreten Projekten”, https://www.handelsblatt.com/politik/deutschland/kuenstliche-intelligenz-welche-ministerien-ki-bereits-einsetzen-in-erstaunlich-konkreten-projekten/29221386.html (accessed on 11 December 2023).
[13] Initiative D21 (2023), eGovernment MONITOR 2023, https://initiatived21.de/publikationen/egovernment-monitor (accessed on 11 December 2023).
[38] Niedersächsisches Ministerium für Inneres und Sport (2023), “The state of Lower Saxony establishes a competence centre for artificial intelligence in administration”, https://www.mi.niedersachsen.de/startseite/aktuelles/presseinformationen/land-niedersachsen-grundet-kompetenzzentrum-fur-kunstliche-intelligenz-in-der-verwaltung-219423.html (accessed on 11 December 2023).
[36] OECD (2023), “2023 OECD Open, Useful and Re-usable data (OURdata) Index: Results and key findings”, OECD Public Governance Policy Papers, No. 43, OECD Publishing, Paris, https://doi.org/10.1787/a37f51c3-en.
[21] OECD (2023), G7 Hiroshima Process on Generative Artificial Intelligence (AI): Towards a G7 Common Understanding on Generative AI, OECD Publishing, Paris, https://doi.org/10.1787/bf3c0c60-en.
[29] OECD (2023), Global Trends in Government Innovation 2023, OECD Public Governance Reviews, OECD Publishing, Paris, https://doi.org/10.1787/0655b570-en.
[6] OECD (2020), “Digital Government Index: 2019 results”, OECD Public Governance Policy Papers, No. 03, OECD Publishing, Paris, https://doi.org/10.1787/4de9f5bb-en.
[44] OECD.AI (2023), AI Procurement in a Box, https://oecd.ai/en/catalogue/tools/ai-procurement-in-a-box (accessed on 11 December 2023).
[18] OECD.AI (2023), Database of National AI Policies and Strategies, OECD, Paris, https://oecd.ai/en/dashboards/overview (accessed on 5 October 2023).
[46] OECD/CAF (2022), The Strategic and Responsible Use of Artificial Intelligence in the Public Sector of Latin America and the Caribbean, OECD Public Governance Reviews, OECD Publishing, Paris, https://doi.org/10.1787/1f334543-en.
[11] Oxford Insights (2023), Government AI Readiness Index 2023, https://oxfordinsights.com/wp-content/uploads/2023/12/2023-Government-AI-Readiness-Index-1.pdf.
[14] Staatsministerium Baden-Württemberg (2023), “Künstliche Intelligenz in der Verwaltung”, https://stm.baden-wuerttemberg.de/de/service/presse/meldung/pid/kuenstliche-intelligenz-in-der-verwaltung (accessed on 11 December 2023).
[20] The White House (2023), Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence, https://www.whitehouse.gov/briefing-room/presidential-actions/2023/10/30/executive-order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence.
[19] The White House (2020), Executive Order on Promoting the Use of Trustworthy Artificial Intelligence in the Federal Government, https://trumpwhitehouse.archives.gov/presidential-actions/executive-order-promoting-use-trustworthy-artificial-intelligence-federal-government.
[41] US Congress (2022), S.2551 - AI Training Act, https://www.congress.gov/bill/117th-congress/senate-bill/2551.
[33] US Government Accountability Office (2023), Artificial Intelligence: An Accountability Framework for Federal Agencies and Other Entities, https://www.gao.gov/products/gao-21-519sp.
Anmerkungen
← 1. Die Deutschen sind diesbezüglich seit einiger Zeit optimistisch: 68 % antworteten in einer Umfrage, dass sie davon ausgehen, dass KI administrative Prozesse beschleunigen kann. In jüngerer Zeit ist der Anteil der Menschen, die in erster Linie Chancen in der Nutzung von KI sehen, in Deutschland höher als in anderen Ländern, die als vergleichbar betrachtet werden könnten. Eine andere kürzlich durchgeführte Umfrage ergab, dass eine Mehrheit der Bürger dem Einsatz von KI im öffentlichen Sektor zustimmt, solange bestimmte Bedingungen erfüllt sind (z. B. wenn grundlegende Entscheidungen weiterhin von Menschen getroffen werden) (Initiative D21, 2023[13]).
← 2. Ein umfassender Bericht über die Digitalisierung des öffentlichen Sektors geht über den Rahmen dieser Studie hinaus, aber Fortschritte in diesem Bereich sind grundlegend, um den strategischen und verantwortungsvollen Einsatz von KI im öffentlichen Sektor zu erreichen.
← 3. Der Index berücksichtigte 39 Indikatoren in drei Bereichen: (1) Staat (einschließlich strategischer Vision, Regulierung, ethischer Erwägungen und Kapazitäten); (2) Technologiesektor (wie ein ausgereiftes Ökosystem innovativer Unternehmen des privaten Sektors) und (3) Daten und Infrastruktur.
← 4. Die Aktivitäten zur Entwicklung und der Einsatz von KI sind in den Bundesländern unterschiedlich stark ausgeprägt, wie aus der Karte unter https://www.plattform-lernende-systeme.de/ki-landkarte.html hervorgeht. Dieses Tool ist jedoch nicht ausschließlich für Anwendungsfälle des öffentlichen Sektors vorgesehen.
← 5. In einer Umfrage aus dem Jahr 2021 gaben mehr als die Hälfte aller befragten Behörden an, dass interne Expert:innen fehlen.