In diesem Kapitel werden Initiativen zur Förderung der Nutzung von KI für das Gemeinwohl und die öffentliche Wahrnehmung von KI in Deutschland erörtert. Deutschland engagiert sich stark für den Aufbau eines KI-Ökosystems, das dem Gemeinwohl dient. „Civic Coding – Innovationsnetz KI für das Gemeinwohl“ ist eine Initiative, die den Einsatz und die Nutzung von KI für das Gemeinwohl fördert. Die öffentliche Wahrnehmung von KI in Deutschland ist im Allgemeinen positiv, unterscheidet sich jedoch je nach Altersgruppe und Anwendungsbereich. Das Vertrauen in KI-Anwendungen im Gesundheitswesen ist besonders groß, während Bedenken hinsichtlich des Datenschutzes und der Desinformation sehr verbreitet sind. Zu den Empfehlungen gehören die Ausweitung der Einbindung von Interessenträger:innen in die Gestaltung der KI-Politik und die regelmäßige Beobachtung der öffentlichen Wahrnehmung von KI.
OECD-Bericht zu Künstlicher Intelligenz in Deutschland
7. Gesellschaft
Abstract
Der Einsatz von KI sollte sich an wirtschaftlichen Interessen und am Gemeinwohl der deutschen Gesellschaft orientieren. Sowohl die nationale KI-Strategie 2018 als auch die Fortschreibung 2020 enthalten diese Ziele. Konkret zielte die Strategie 2020 darauf ab, ein Ökosystem für KI, die dem Gemeinwohl verpflichtet ist, zu schaffen, KI-Anwendungen zur Unterstützung des Verbraucheralltags („consumer enabling technologies“) zu fördern und KI-Projekte zur Bewahrung, Exploration, Zugänglichkeit, Vernetzung und Verbreitung kultureller Angebote zu unterstützen. Darüber hinaus skizzierte sie Pläne für den Aufbau von KI-Kompetenz in der Erkundung und Verifizierung von Medieninhalten, um die Meinungsvielfalt zu sichern.
Kasten 7.1. Gesellschaft: Ergebnisse und Empfehlungen
Ergebnisse
Die Bundesministerien haben mehrere Initiativen gestartet, um die Nutzung von KI für das gesellschaftliche Wohl zu fördern.
KI wird in Deutschland in der Öffentlichkeit insgesamt positiv wahrgenommen. Das Vertrauen in KI-Anwendungen ist im Gesundheitswesen am höchsten und im Personalbereich am geringsten.
Potenzielle Bedrohungen für die positive öffentliche Wahrnehmung von KI entstehen durch Fehl- und Desinformation. Die Bundesministerien haben verschiedene Maßnahmen eingeleitet, um diesem Problem zu begegnen.
Während die Sozialpartner:innen an der Gestaltung der KI-Politik beteiligt sind, könnte die Einbeziehung von Akteur:innen ausgeweitet werden.
Die Bürger:innen werden zur Debatte über KI konsultiert, aber ihre Beteiligung an der Gestaltung der KI-Politik könnte ausgeweitet werden.
Empfehlung
Einbeziehung eines breiteren Spektrums von Akteur:innen in die Gestaltung der KI-Politik.
Einrichtung eines KI-Bürgerrats.
Regelmäßige Beobachtung der öffentlichen Wahrnehmung von KI.
Programme zur Unterstützung von KI für das Gemeinwohl
Die deutsche Initiative Civic Coding fördert den Einsatz und die Nutzung von KI für das Gemeinwohl, indem sie Initiativen und Projekte von drei Ministerien bündelt. Durch Plattformen und Begegnungsräume wie der Civic Innovation Platform und der KI-Ideenwerkstatt für Umweltschutz unterstützen die Bundesministerien die Vernetzung von (zivilgesellschaftlichen) Akteur:innen und ermöglichen die Erprobung digitaler Technologien. Gemeinsam mit zivilgesellschaftlichen Organisationen setzen sie sich im Rahmen des Civic Data Lab dafür ein, gemeinwohlorientierte Datenräume zu schaffen.
Die Bundesministerien unterstützen Initiativen zur Förderung der Nutzung von KI für das gesellschaftliche Wohl
Das von drei Ministerien eingerichtete „Civic Coding – Innovationsnetz KI für das Gemeinwohl“ zeichnet sich als zentrale Anlaufstelle für die Förderung von KI-Projekten zum Gemeinwohl aus (Kasten 7.2). Die unabhängige Denkfabrik iRights.Lab hat mit Unterstützung des Bundesministeriums für Umwelt, Naturschutz, nukleare Sicherheit und Verbraucherschutz (BMUV) in Zusammenarbeit mit den Fraunhofer-Instituten AISEC und IAIS sowie der Freien Universität Berlin das Zentrum für vertrauenswürdige Künstliche Intelligenz (ZVKI) eingerichtet. Als nationale und neutrale Schnittstelle zwischen Wissenschaft, Wirtschaft und zivilem Engagement informiert sie über viele für Verbraucher:innen relevante Aspekte, erleichtert öffentliche Diskussionen und entwickelt Instrumente zur Bewertung und Zertifizierung vertrauenswürdiger KI (ZVKI, 2023[1]).
Kasten 7.2. Civic Coding – Innovationsnetz KI für das Gemeinwohl
„Civic Coding – das Innovationsnetz KI für das Gemeinwohl“ ist eine interministerielle Initiative des Bundesministeriums für Arbeit und Soziales (BMAS), des Bundesministeriums für Umwelt, Naturschutz, nukleare Sicherheit und Verbraucherschutz (BMUV) und des Bundesministeriums für Familie, Senioren, Frauen und Jugend (BMFSFJ). Durch die Bündelung und Vernetzung der KI-bezogenen Projekte, Programme und Strukturen der drei beteiligten Bundesministerien sollen Synergien genutzt werden. Ziel ist es, ein sichtbares und wirksames Innovationsnetz zu entwickeln, das die gemeinwohlorientierte Entwicklung und Nutzung von Künstlicher Intelligenz langfristig unterstützt und sichert (Civic Coding, 2023[2]). Folgende Ankerprojekte sind Teil des Innovationsnetzes:
Civic Innovation Platform (CIP)
Die Civic Innovation Platform (CIP) ist ein Projekt des BMAS. Der Kern des Projektes – eine multifunktionale Internetplattform zur Vernetzung sektorübergreifender und/oder interdisziplinärer Projektteams – wurde 2023 in die Initiative Civic Coding integriert. Die Unterstützung der menschenzentrierten Entwicklung und Nutzung von gemeinwohlorientierten KI-Anwendungen erfolgt in zwei Förderstufen: Erstens finanziell durch ein Preisgeld von bis zu 20.000 EUR und ideell durch Beratungs- und Workshop-Angebote. Dies ist Teil des Ideenwettbewerbs „Gemeinsam wird es KI“, bei dem Projektteams ihre Ideen für KI-Anwendungen einreichen, die dem Gemeinwohl dienen. Zweitens startete 2023 eine längerfristige Projektförderung (Civic Innovation Platform, 2023[3]).
KI-Ideenwerkstatt für Umweltschutz
Die KI-Ideenwerkstatt für Umweltschutz im Impact Hub Berlin ist ein Projekt des Bundesministeriums für Umwelt, Naturschutz, nukleare Sicherheit und Verbraucherschutz (BMUV). Die Ideenwerkstatt ist eine Anlaufstelle für alle, die KI-Anwendungen für den Umweltschutz einsetzen möchten. Vor Ort und digital unterstützen die Expert*innen mit der Bereitstellung von Ressourcen, technischem Know-How, digitalen Werkzeugen und Bildungsangeboten. In Workshops und Veranstaltungen zeigen sie, wie KI-Anwendungen helfen können, unsere Umwelt zu schützen (KI-Ideenwerkstatt, 2023[4]).
Civic Data Lab
Das Civic Data Lab wird durch ein Konsortium aus Gesellschaft für Informatik e.V., CorrelAid e.V. und Deutschem Caritasverband e.V. realisiert und als Civic Coding-Ankerprojekt durch das Bundesministerium für Familie, Senioren, Frauen und Jugend gefördert. Es unterstützt organisierte und nicht organisierte Akteur:innen der Zivilgesellschaft dabei, Daten zu erheben, zu organisieren und zu strukturieren, sie auszuwerten, zu verknüpfen, für ihre Zielgruppen wiederzuverwenden, für andere verfügbar zu machen und sie mit verfügbare Daten zu ergänzen und so im Allgemeininteresse liegende Ziele besser zu erreichen (Caritas digital, 2023[5]).
Quellen: Civic Coding (2023[2]), Die Initiative, https://www.civic-coding.de/ueber-civic-coding/die-initiative (zugegriffen am 2 November 2023); Civic Innovation Platform (2023[3]), Projekt und Leitbild, https://www.civic-innovation.de/ueber-uns/projekt-und-leitbild (zugegriffen am 2 November 2023); KI-Ideenwerkstatt (2023[4]), Über uns, https://www.ki-ideenwerkstatt.de/ (zugegriffen am 2 November 2023); Caritas digital (2023[5]), Projekt Civic Data Lab, https://www.caritas-digital.de/projekte/civic-data/ (zugegriffen am 2 November 2023).
Öffentliche Wahrnehmung von KI in Deutschland
Die deutschen Bürger:innen nehmen KI generell positiv wahr, wobei das Bewusstsein ausgeprägt und das Vertrauen hoch ist. Es bestehen jedoch Bedenken hinsichtlich Datenschutzes und Desinformation. Deutschland könnte die öffentliche Wahrnehmung von KI regelmäßig beobachten und die Beteiligung der Bürger:innen und einer vielfältigen Zivilgesellschaft an der Politikgestaltung stärken, um die gesellschaftlichen Werte in der KI-Politik zu berücksichtigen.
KI wird von den Menschen in Deutschland positiv wahrgenommen
Bei der Förderung eines gemeinsamen, gemeinwohlorientierten Einsatzes von KI in der deutschen Gesellschaft ist es auch wichtig, sich mit den Einstellungen vertraut zu machen, die die Menschen in Bezug auf KI vertreten. Die Menschen in Deutschland zeigten 2021 eine vergleichsweise positive Wahrnehmung von KI. Dieser Wert ist einer der höchsten aus einer Stichprobe vergleichbarer Länder (Lloyd's Register Foundation, 2021[6]). Sie zeigen zudem eine vergleichsweise hohe Bereitschaft, KI-Systemen zu vertrauen und sie zu akzeptieren, und nehmen vor Menschen in Ländern wie Israel, Australien, dem Vereinigten Königreich, Kanada, Frankreich, Estland und Finnland den siebten Rang ein. Andererseits sind die Menschen in Deutschland deutlich weniger bereit, KI-Systemen zu vertrauen und sie zu akzeptieren, als die Menschen in Ländern wie Indien, China, Südafrika oder Brasilien (KPMG, 2023[7]).
In einer aktuellen Umfrage, die den Blick der Europäer:innen auf die Auswirkungen von KI abschätzt, hat Deutschland gegenüber anderen Ländern insofern einen Vorteil, als mehr als 80 % der Befragten angaben, dass sie ein wenig oder viel über KI wüssten, was den höchste Anteil unter den an der Umfrage beteiligten Ländern darstellte. Bezüglich der allgemeinen Anwendungen von KI sind die Meinungen geteilt, wobei ungefähr gleich große Anteile davon ausgehen, dass KI entweder nützlich oder schädlich ist (21 % bzw. 22 %). Mehr als die Hälfte der Befragten äußerte Neutralität oder gab an, dass sie nicht über genügend Informationen verfügten; allerdings gab es einen signifikanten Unterschied zwischen jüngeren Bevölkerungsgruppen (19-25 Jahre), in denen 36 % der Befragten glaubten, dass KI von Vorteil sei, während nur 13 % der älteren Befragten (65 Jahre oder älter) diese Ansicht teilten (bidt, 2023[8]).
Im Bereich der KI-Anwendungen setzten die in Deutschland lebenden Menschen 2023 das höchste Vertrauen in KI-Anwendungen im Gesundheitswesen (siehe Blickpunkt: KI und Gesundheitswesen). KI‑Anwendungen im Personalbereich wird dagegen das geringste Vertrauen entgegengebracht. Dieser Unterschied ist jedoch nicht nur für Deutschland typisch, sondern zeigt sich auch in anderen Ländern. Dies ist wahrscheinlich ein Ergebnis des erheblichen und unmittelbaren Nutzens, den eine verbesserte Präzision bei medizinischen Diagnosen und Behandlungen für den Einzelnen bietet, gepaart mit dem allgemein hohen Vertrauen in das medizinische Fachpersonal in den meisten Ländern (KPMG, 2023[7]).
Darüber hinaus scheinen die meisten deutschen X-Nutzer:innen auch eine eher neutrale oder positive Einstellung zur KI zu haben, da sie ein niedrigeres negatives Grundempfinden als in ähnlichen Ländern aufweisen (Abbildung 7.1). Es ist jedoch wichtig zu beachten, dass die hier präsentierten Daten nur bis 2022 gehen. In Anbetracht der Tatsache, dass ChatGPT-3 im November desselben Jahres gestartet wurde, ist es plausibel, dass sich das Empfinden seitdem verändert haben könnte. Angesichts der rasanten Entwicklung von KI-Technologien wäre es von äußerster Wichtigkeit für die Länder, die öffentliche Wahrnehmung der KI durch ihre Bürger:innen im Auge behalten. Dies ist insbesondere für Deutschland relevant, da seine KI-Strategie ausdrücklich einen menschenzentrierten Ansatz betont.
Diese positive Einstellung könnte jedoch gefährdet sein, wenn neue KI-Anwendungen die in Deutschland vertretenen Werte nicht berücksichtigen und nicht vertrauenswürdig sind. Bedenken über Datenschutz, Social Scoring und Desinformation sind unter X-Nutzer:innen in Deutschland bereits weit verbreitet. Der gezielte Einsatz von KI-Anwendungen zur Verbreitung von Fehl- und Desinformation etwa könnte diese Bedenken vertiefen, aber auch negative Folgen für die deutsche Demokratie insgesamt haben. Deshalb muss die Bundesregierung ihre Anstrengungen zur Bekämpfung von KI-bedingten Fehl- und Desinformation fortsetzen und ausweiten. Zwei vielversprechende Beispiele für die vielen Projekte, die sich mit diesen Themen befassen, sind „DeFaktS“ und „noFake“ (BMBF, 2022[9]).
Abbildung 7.1. Die meisten deutschen X-Nutzer:innen zeigen eine neutrale oder positive Einstellung gegenüber KI
% der positiven, neutralen und negativen Posts nach Ländern, 2017-2022
Quelle: OECD-Analyse auf der Grundlage von Daten von X, zuvor Twitter.
Das vom BMBF geförderte DeFaktS-Projekt verfolgt einen umfassenden Ansatz zur Erforschung und Bekämpfung von Desinformation. Um dieses Ziel zu erreichen, wird ein KI-Modell mit extrahierten Daten von verdächtigen Social-Media- und Messenger-Gruppen trainiert, um Faktoren und stilistische Elemente zu erkennen, die für Desinformation charakteristisch sind. Anschließend wird diese trainierte KI zu einer Komponente für eXplainable Artificial Intelligence (XAI), mit der eine App entwickelt wird, die die Nutzer:innen transparent über Online-Angebote informieren und vor dem möglichen Auftreten von Desinformation warnen soll (BMBF, 2023[10]).
Das vom BMBF mit 1,33 Mio. EUR geförderte Projekt „KI-unterstütztes Assistenzsystem für die Crowdsourcing-basierte Erkennung von über digitale Plattformen verbreiteter Desinformation (noFake)“ hat zum Ziel, ein Assistenzsystem zu entwickeln, das Crowdworker dabei unterstützt, Desinformation schnell zu identifizieren. Dieses System automatisiert die Analyse großer Datensätze, indem verdächtige Text- und Bildmaterialien vorsortiert mit ähnlichen Inhalten verknüpft und die Verbreitungskanäle der untersuchten Materialien aufgedeckt werden. Für die Entwicklung des Assistenzsystems werden die Forschungsergebnisse mit journalistischer Expertise kombiniert. In der Erkenntnis, dass der Erfolg des Systems nicht nur von seiner Funktionalität abhängt, sondern auch davon, wie Crowdworker es nutzen, werden Schulungsmaterialien und Lernpläne entwickelt, um Crowdworker in die Lage zu versetzen, Informationsmaterial fundiert zu bewerten (BMBF, 2023[11]).
Es reicht jedoch nicht aus, einfach nur die Einstellungen der deutschen Bevölkerung zu messen. Um ihren Anliegen bei der Formulierung der KI-Politik in vollem Umfang Rechnung zu tragen, sollte die Beteiligung von zivilgesellschaftlichen Organisationen und Bürger:innen an diesen Prozessen gefördert werden. In diesem Zusammenhang steht die Bundesregierung bei der Gestaltung der KI-Politik im Kontakt mit Interessenträger:innen, etwa durch eine Online-Konsultation während der Formulierung der nationalen KI‑Strategie 2018. Die am stärksten und am häufigsten beteiligten Organisationen sind jedoch die Sozialpartner:innen. Im Gegensatz dazu werden zivilgesellschaftliche Organisationen, die Minderheiten vertreten oder sich für den Schutz der Umwelt einsetzen, relativ selten beteiligt. Damit die deutsche KI‑Politik die unterschiedlichen Interessen der Zivilgesellschaft besser widerspiegelt, wäre eine ausgewogenere Beteiligung von Organisationen erforderlich.
Ebenso viel ungenutztes Potenzial besteht in Bezug auf die Einbeziehung der Bürger:innen in die Gestaltung der KI-Politik. In Deutschland beschränkt sich dies bislang auf Konsultationen, die nur sehr selten stattfinden. Länder wie das Vereinigte Königreich, Kanada und Norwegen könnten hier als Vorbild dienen, wo die Gestaltung der KI-Politik viel stärker durch öffentliche Beratungen oder Workshops für die Beteiligung an der Gestaltung beeinflusst wird.
Empfehlungen
Einbeziehung eines breiteren Spektrums von Akteur:innen in die Gestaltung der KI-Politik.
Die Sozialpartner:innen waren in den Prozess der Entwicklung der KI-Politik eingebunden und haben in erster Linie die Interessen der Arbeitnehmer:innen und Arbeitgeber:innen vertreten. Angesichts der Auswirkungen der KI auf verschiedene gesellschaftliche Bereiche reicht es jedoch nicht aus, sich nur auf die Wirtschaft zu konzentrieren. Es ist von entscheidender Bedeutung, die Beteiligung von Organisationen aus weiteren von KI betroffenen Bereichen zu verstärken, darunter auch Organisationen, die sich für Umweltschutz oder Minderheitenrechte einsetzen.
Einrichtung eines KI-Bürgerrats
2022 führte das Projekt „Bürgerrat“ unter der Leitung der Organisation „Mehr Demokratie“ eine Bürgerversammlung zum Thema KI in Deutschland durch (Bürgerrat, 2022[12]). Um jedoch sicherzustellen, dass die Themen und Empfehlungen, die in solchen Versammlungen diskutiert werden, auch die politischen Entscheidungsträger:innen erreichen, könnte ein Bundesministerium wie das BMAS einen Bürgerrat zum Thema KI organisieren.
Obwohl zufällig ausgewählte Bürgerräte derzeit als fallbezogene und unregelmäßige demokratische Instrumente eingesetzt werden, verfügen sie über das Potenzial, als dauerhaftes Instrument zur Unterstützung der politischen Entscheidungsfindung zu dienen. Die Einrichtung laufender Bürgerräte stärkt das Vertrauen der Öffentlichkeit in politische Entscheidungsträger:innen und fördert den kontinuierlichen Dialog. Wie (OECD, 2021[13]) verdeutlicht, ermöglicht die regelmäßige Umsetzung deliberativer Demokratie es Menschen und Entscheidungsträger:innen, gegenseitiges Vertrauen aufzubauen.
In diesem Zusammenhang könnte Deutschland die Schaffung eines dauerhaften Bürgerrats erwägen, der sich den neuen Technologien widmet und sich speziell auf KI konzentriert. Ein solcher Ansatz würde zu einer nachhaltigen öffentlichen Einbeziehung beitragen und das Vertrauen in den Entscheidungsprozess stärken. Darüber hinaus würde dies der Bundesregierung ermöglichen, ihren „Gemeinwohlansatz“ von der Entwicklung von Projekten angewandter KI auf die Formulierung von politischen KI-Strategien auszuweiten.
Regelmäßige Beobachtung der öffentlichen Wahrnehmung von KI
Es ist von entscheidender Bedeutung, sich der Wahrnehmung der KI durch die Öffentlichkeit und ihrer Umsetzung in verschiedenen gesellschaftlichen Bereichen bewusst zu sein, um sie bei der Entwicklung von KI-Strategien berücksichtigen zu können. Insbesondere das KI-Observatorium des Bundesministeriums für Arbeit und Soziales (BMAS) unternimmt diesbezüglich bereits Anstrengungen und veröffentlicht die Ergebnisse einer Beobachtungsinitiative aus dem Jahr 2021 auf seiner Website (KI Observatorium, 2021[14]). Angesichts der rasanten Fortschritte der KI in den letzten Jahren ist es jedoch zwingend erforderlich, regelmäßige Beobachtungen durchzuführen. Dies könnte unter der Leitung des KI‑Observatoriums geschehen.
Literatur
[8] bidt (2023), Autorinnen und Autoren: Das bidt-Digitalbarometer. international, Bayerisches Forschungsinstitut für Digitale Transformation, https://doi.org/10.35067/xypq-kn68.
[10] BMBF (2023), DeFaktS, Bundesministerium für Bildung und Forschung, https://www.forschung-it-sicherheit-kommunikationssysteme.de/projekte/defakts (accessed on 3 November 2023).
[11] BMBF (2023), noFake, Bundesministerium für Bildung und Forschung, https://www.forschung-it-sicherheit-kommunikationssysteme.de/projekte/nofake (accessed on 3 November 2023).
[9] BMBF (2022), “Fake News erkennen, verstehen, bekämpfen [Recognising, understanding and combating fake news]”, Bundesministerium für Bildung und Forschung, https://www.bmbf.de/bmbf/shareddocs/kurzmeldungen/de/2022/02/fake-news-bekaempfen.html (accessed on 11 December 2023).
[12] Bürgerrat (2022), “Citizens’ assembly discussed artificial intelligence”, https://www.buergerrat.de/en/news/citizens-assembly-discussed-artificial-intelligence/ (accessed on 25 January 2024).
[5] Caritas digital (2023), Projekt Civic Data Lab, https://www.caritas-digital.de/projekte/civic-data/ (accessed on 2 November 2023).
[2] Civic Coding (2023), Die Initiative, https://www.civic-coding.de/ueber-civic-coding/die-initiative (accessed on 2 November 2023).
[3] Civic Innovation Platform (2023), Projekt und Leitbild, https://www.civic-innovation.de/ueber-uns/projekt-und-leitbild (accessed on 2 November 2023).
[14] KI Observatorium (2021), KI Indikatoren - KI in Arbeit und Gesellschaft, Bundesministerium für Arbeit und Soziales, https://www.ki-observatorium.de/ki-indikatoren (accessed on 24 January 2024).
[4] KI-Ideenwerkstatt (2023), Über uns, KI-Ideenwerkstatt für Umweltschutz des Bundesministeriums für Umwelt, Naturschutz, nukleare Sicherheit und Verbraucherschutz, https://www.ki-ideenwerkstatt.de/ (accessed on 2 November 2023).
[7] KPMG (2023), Trust in Artificial Intelligence: A Global Study, https://assets.kpmg.com/content/dam/kpmg/au/pdf/2023/trust-in-ai-global-insights-2023.pdf (accessed on 31 October 2023).
[6] Lloyd’s Register Foundation (2021), World Risk Poll 2021: A Digital World, https://wrp.lrfoundation.org.uk/LRF_2021_report_a-digtial-world-ai-and-personal-data_online_version.pdf (accessed on 31 October 2023).
[13] OECD (2021), “Eight ways to institutionalise deliberative democracy”, OECD Public Governance Policy Papers, No. 12, OECD Publishing, Paris, https://doi.org/10.1787/4fcf1da5-en.
[1] ZVKI (2023), Über uns, Zentrum für vertrauenswürdige Künstliche Intelligenz, https://www.zvki.de/ueber-uns (accessed on 2 November 2023).