1950 stellte Alan Turing erstmals die Frage, ob Maschinen denken können. Seitdem wurden im Bereich der künstlichen Intelligenz (KI) gewaltige Fortschritte erzielt. Heute verändert KI Gesellschaft und Wirtschaft. KI ermöglicht Produktivitätssteigerungen, kann die Lebensqualität erhöhen und sogar bei der Bewältigung globaler Herausforderungen wie Klimawandel, Ressourcenknappheit und Gesundheitskrisen helfen. Mit der weltweiten Einführung von KI-Anwendungen wachsen aber auch die Bedenken, die ihre Nutzung aufwirft, u. a. in Bezug auf menschliche Werte und Fragen wie Fairness, menschliche Entscheidungsfreiheit, Datenschutz, Sicherheit und Haftung. Dieser Bericht soll helfen, ein gemeinsames Verständnis von künstlicher Intelligenz aktuell und für die nahe Zukunft zu entwickeln. Dazu beschreibt er technische, wirtschaftliche und politische Entwicklungen, geht auf konkrete Anwendungsfälle ein und befasst sich mit grundlegenden Fragen der Politikgestaltung. Zudem soll er für mehr Kohärenz in den Diskussionen sorgen, die in verschiedenen nationalen und internationalen Foren zum Thema künstliche Intelligenz geführt werden.
Künstliche Intelligenz in der Gesellschaft
Abstract
Executive Summary
Die jüngsten Fortschritte in der künstlichen Intelligenz wurden durch maschinelles Lernen, Big Data und wachsende Rechenkapazitäten ermöglicht
1950 stellte Alan Turing erstmals die Frage, ob Maschinen denken können. Seitdem haben sich die technischen Grundlagen der künstlichen Intelligenz (KI) – ein Begriff, der 1956 geprägt wurde – grundlegend verändert: Auf die sogenannte symbolische KI und ihre dem menschlichen Denken nachempfundenen, logikbasierten Systeme folgte eine Phase der Ernüchterung, der „KI-Winter“ der 1970er Jahre. In den 1990er Jahren wurde dann der Schachcomputer Deep Blue entwickelt. Ab 2011 wurden bahnbrechende Fortschritte beim sogenannten maschinellen Lernen (ML) erzielt, einem auf einem statistischen Ansatz beruhenden Teilbereich der KI. Dadurch verbesserte sich die Fähigkeit von Maschinen, aus historischen Daten Prognosen abzuleiten. Zu verdanken war dies der zunehmenden Ausgereiftheit einer Modellierungstechnik des maschinellen Lernens, die unter dem Begriff „neuronale Netze“ bekannt wurde. Eine wichtige Rolle spielten zudem die größeren Datensätze und Rechenkapazitäten.
KI-Systeme erstellen Prognosen, geben Empfehlungen ab oder treffen Entscheidungen zur Umgebungsbeeinflussung
Ein KI-System, so die Definition der OECD-Sachverständigengruppe für KI (AIGO), ist
ein maschinenbasiertes System, das für bestimmte von Menschen definierte Ziele Vorhersagen anstellen, Empfehlungen abgeben oder Entscheidungen treffen kann. Es nutzt maschinelle und/oder von Menschen generierte Inputs, um ein reales und/oder virtuelles Umfeld zu erfassen, davon ausgehend (automatisch, z. B. mithilfe von ML, oder manuell) Modelle zu erstellen und mittels Modellinferenz Informations- oder Handlungsoptionen zu ermitteln. KI-Systeme können mit einem unterschiedlichen Grad an Autonomie ausgestattet sein.
Der Lebenszyklus eines KI-Systems besteht aus: 1. Planung und Design, Datensammlung und -verarbeitung sowie Modellierung und Auswertung, 2. Verifizierung und Validierung, 3. Einführung sowie 4. Betrieb und Monitoring. Die KI-Forschung unterteilt sich einer gängigen Klassifizierung zufolge in die Entwicklung von KI-Anwendungen (z. B. Natural Language Processing – NPL), Techniken zum Trainieren von KI-Systemen (z. B. neuronalen Netzen), Optimierungsarbeiten (z. B. One-Shot-Learning) und Untersuchungen zu gesellschaftlichen Fragen (z. B. Transparenz).
KI kann die Produktivität erhöhen und zur Lösung komplexer Probleme beitragen
KI entwickelt sich zu einer Universaltechnologie und verändert damit auch den wirtschaftlichen Kontext. Durch kostengünstigere und präzisere Prognosen, Empfehlungen und Entscheidungen verspricht KI die Produktivität zu steigern, die Lebensqualität zu erhöhen und zur Bewältigung komplexer Herausforderungen beizutragen. Um das Potenzial von KI zu erschließen, bedarf es ergänzender Investitionen in Daten, Kompetenzen und digitalisierte Arbeitsabläufe sowie Änderungen der organisatorischen Abläufe. Daher wird in den einzelnen Unternehmen und Branchen in unterschiedlichem Maße auf KI zurückgegriffen.
KI-Investitionen und -Unternehmen verzeichnen ein rasches Wachstum
Die Private-Equity-Investitionen in KI-Start-ups haben seit 2016 stark angezogen, nachdem sie zuvor bereits fünf Jahre kontinuierlich gestiegen waren. Im Zeitraum 2016-2017 verdoppelten sie sich auf 16 Mrd. USD. Im ersten Halbjahr 2018 mobilisierten im KI-Bereich tätige Start-ups 12 % der weltweiten Private-Equity-Investitionen. Dies ist ein beträchtlicher Anstieg gegenüber 2011, als dieser Anteil lediglich 3 % betrug. Zudem war dieser Trend in allen großen Volkswirtschaften zu beobachten. Bei diesen Investitionen handelt es sich in der Regel um große Summen von mehreren Millionen US-Dollar. Da die Technologien und Geschäftsmodelle zunehmend ausgereift sind, steuert KI auf eine breite Einführung zu.
Es gibt eine Vielzahl von KI-Anwendungen – von Verkehrslösungen bis hin zu Gesundheitsanwendungen
Besonders rasch werden KI-Anwendungen in Branchen eingeführt, in denen sie zur Mustererkennung in großen Datenmengen und zur Modellierung komplexer, interdependenter Systeme genutzt werden können, um Entscheidungsprozesse zu verbessern und Kosten einzusparen.
Im Verkehrssektor versprechen autonome Fahrzeuge mit virtuellen Fahrersystemen, HD-Karten und optimierten Verkehrsrouten Vorteile im Hinblick auf Kosten, Sicherheit, Lebensqualität und Umwelt.
In der wissenschaftlichen Forschung wird KI genutzt, um große Datenmengen zu sammeln und zu verarbeiten, um Experimente zu reproduzieren und ihre Kosten zu senken und um den Prozess der wissenschaftlichen Entdeckung zu beschleunigen.
Im Gesundheitsbereich erleichtern KI-Systeme die Diagnose und Prävention von Krankheiten, die frühzeitige Bewältigung von Krankheitsausbrüchen sowie die Entwicklung von Therapien und Arzneimitteln; sie machen zielgenaue Interventionen möglich und gestatten die Beobachtung der eigenen Körperdaten mithilfe von Self-Trackern.
In der Strafverfolgung kommt KI z. B. im Predictive Policing („vorausschauende Polizeiarbeit“) und bei der Bewertung des Rückfallrisikos von Straftätern zum Einsatz.
In digitalen Sicherheitsanwendungen werden KI-Systeme zur automatisierten Erkennung und Abwehr von Bedrohungen genutzt, was zunehmend in Echtzeit geschieht.
In der Landwirtschaft gibt es u. a. KI-Anwendungen zur Überwachung der Pflanzen- und Bodengesundheit sowie für Prognosen über die Auswirkungen von Umweltfaktoren auf den Ernteertrag.
Im Bereich der Finanzdienstleistungen wird KI zur Betrugsaufdeckung, Kreditwürdigkeitsbewertung, Senkung der Kosten der Kundenbetreuung, Automatisierung des Handels und Förderung der Rechtskonformität eingesetzt.
In Marketing und Werbung dient KI zur Auswertung von Daten zum Kundenverhalten, um Inhalte, Werbung, Produkte, Empfehlungen und Preise zielgenau abzustimmen und zu personalisieren.
Eine vertrauenswürdige KI ist Voraussetzung, um das Potenzial dieser Technologien voll auszuschöpfen
KI bringt Vorteile, wirft jedoch auch Fragen für die Politik auf. Es muss sichergestellt werden, dass KI-Systeme vertrauenswürdig und menschenzentriert sind. KI und insbesondere manche Formen maschinellen Lernens werfen neue Ethik- und Gerechtigkeitsfragen auf. Im Mittelpunkt steht dabei die Achtung der Menschenrechte und der demokratischen Werte. Zudem muss dem Risiko begegnet werden, dass Voreingenommenheiten bzw. verzerrte Wahrnehmungen, sogenannte Biases, aus der analogen in die digitale Welt übertragen werden. Manche KI-Systeme sind so komplex, dass ihre Entscheidungen u. U. nicht erklärt werden können. Daher ist es von zentraler Bedeutung, Systeme zu entwickeln, die KI transparent nutzen, und über deren Ergebnisse Rechenschaft abgelegt werden kann. KI-Systeme müssen ordnungsgemäß und sicher funktionieren.
Es bedarf nationaler Maßnahmen zur Förderung vertrauenswürdiger KI-Systeme, einschließlich Anreizen für Investitionen in verantwortungsvolle Forschung und Entwicklung im KI-Bereich. Zusätzlich zu Technologielösungen und großen Rechenkapazitäten benötigt KI auch große Datenmengen. Dringend notwendig ist daher ein digitales Umfeld, das den Zugriff auf Daten ermöglicht, zugleich aber ein hohes Maß an Datenschutz und Schutz der Privatsphäre gewährleistet. KI-freundliche Rahmenbedingungen können außerdem kleine und mittlere Unternehmen bei der Einführung von KI unterstützen und für ein wettbewerbsorientiertes Umfeld sorgen.
KI-Technologien lösen einen Wandel in der Arbeitswelt aus, da sie menschliche Arbeitsleistungen ersetzen und verändern. Daher müssen Maßnahmen ergriffen werden, die gegebenenfalls den Arbeitsplatzwechsel erleichtern und Fort- und Weiterbildung sowie Kompetenzentwicklung sicherstellen.
KI wird für alle Akteure zu einem immer wichtigeren politischen Handlungsfeld
In Anbetracht der Vorteile und Risiken, die mit dem tiefgreifenden, durch KI angestoßenen Wandel einhergehen, wird KI für alle Akteure zu einem immer wichtigeren politischen Handlungsfeld. Viele Länder verfügen über spezielle KI-Strategien: Ziel ist es, KI als Motor für Wachstum und Lebensqualität zu nutzen, die Ausbildung und Rekrutierung wissenschaftlicher Nachwuchskräfte zu verbessern und optimale Lösungen für mit KI verbundene Herausforderungen zu entwickeln. Auch nichtstaatliche Akteure – Unternehmen, Fachorganisationen, Universitäten, Zivilgesellschaft und Gewerkschaften – sowie internationale Foren wie die G7, die G20, die OECD, die Europäische Kommission und die Vereinten Nationen werden in diesem Bereich aktiv.
Im Mai 2019 wurden unter Leitung einer Multi-Stakeholder-Sachverständigengruppe die OECD-Grundsätze für künstliche Intelligenz verabschiedet. Dabei handelt es sich um die ersten auf Regierungsebene vereinbarten, internationalen Standards für eine verantwortungsvolle Steuerung vertrauenswürdiger KI.
