KI hat Auswirkungen auf Arbeit und Gesellschaft, die gestaltet werden müssen

Bereits heute haben gängige KI-Anwendungen positive wie negative, direkte wie indirekte Auswirkungen auf das Leben und die Arbeit von Menschen: Vorschläge von Textpassagen erleichtern das Schreiben von E-Mails, Empfehlungen für Nachrichten oder Musik helfen relevante und gesuchte Inhalte zu finden und beeinflussen gleichzeitig unsere Aufmerksamkeit. Das Sortieren von Bewerbungen vereinfacht die Arbeit von Beschäftigten im Personalbereich und beeinflusst gleichzeitig die Bewerber*innenauswahl, eventuell auch indem bestehende Ungleichheiten verstärkt werden. Navigationssysteme verändern die Routenwahl und damit auch das Stadtbild. Warenhäuser werden schneller bestückt, einzelne Arbeitsabläufe genauer verfolgt und die Lebens- und Arbeitsrealität der dort Arbeitenden verändert sich - etwa durch veränderte Aufgaben.
 
Um einen menschenzentrierten Einsatz von KI sicherzustellen und Innovation und Wettbewerb bei KI-Anwendungen zu fördern, hat die Politik erkannt, dass sie handeln muss. In den letzten Jahren haben viele Staaten KI-Strategien entwickelt oder Prozesse hierzu aufgesetzt. Auch die Europäische Kommission hat ihre Ziele in einer gesamteuropäischen Strategie benannt. Die deutsche ebenso wie die europäische KI-Strategie betonen als übergeordnete Zielsetzung, die Technologie im Einklang mit europäischen Werten und Grundrechten zu entwickeln und anzuwenden. Die Strategie Künstliche Intelligenz der Bundesregierung unterstreicht außerdem, dass die Auswirkungen von KI auf Arbeit und Gesellschaft beobachtet und zum Wohle aller gestaltet werden müssen. Dieser Aufgabe widmet sich das Observatorium für Künstliche Intelligenz in Arbeit und Gesellschaft der Abteilung Denkfabrik Digitale Arbeitsgesellschaft des BMAS, das im März 2020 eröffnet wurde.

KI-Indikatoren unterstützen evidenzbasierte Politikgestaltung

Derzeit sind noch viele Phänomene und Zusammenhänge unerforscht, was die Auswirkungen von KI auf Arbeit und Gesellschaft betrifft. Das Erkennen und Verstehen von neuen Entwicklungen und Trends spielt in der Politik aber eine zentrale Rolle. Gute Entscheidungen brauchen eine zuverlässige und gesicherte Informationsgrundlage. Denn nur wer frühzeitig neue Herausforderungen erkennt und richtig einzuordnen weiß, kann sich auch entsprechend auf sie vorbereiten, Gestaltungsspielräume bestmöglich nutzen und neu gewonnene Erkenntnisse in politische Entscheidungen umwandeln. Eine Möglichkeit, die Informationslage auszubauen ist die Entwicklung von Indikatoren, also von Kennzahlen, die die wichtigsten Entwicklungen eines Phänomens möglichst treffend abbilden und messbar machen. Indikatoren können auch helfen, Deutschland im internationalen Vergleich einzuordnen. Gleichzeitig hilft die Entwicklung von Kennzahlen dabei, KI-Trends und Phänomene aufzuzeigen, die genauer untersucht werden sollten.

Die Informationsgrundlage für KI in Arbeit und Gesellschaft ist noch unzureichend

Für die Bereiche Forschung und Wirtschaft gibt es bereits zahlreiche KI-Indikatoren. Ein Beispiel ist der Indikator über die Anzahl von ökonomischen KI-Akteuren pro Land, den das KI-Forschungsinstituts der Europäischen Kommission „AI Watch“ erhebt. Der Indikator ist ein Maß dafür, wie stark ein Land in KI-relevante ökonomische Prozesse eingebunden ist und lässt auf einen Blick erkennen, dass die USA und China eine führende Präsenz haben. Deutschland steht mit 829 auf dem siebten Platz.

Für den Bereich KI in Arbeit und Gesellschaft gibt es jedoch bislang nur wenige Kennzahlen. Das könnte zum einen daran liegen, dass es sehr aufwendig ist, gut definierte Kennzahlen zu entwickeln und es wenige Datenquellen dafür gibt. Zum anderen gab es bisher aber auch noch wenige Akteure, die KI-Indikatoren in den Bereichen Arbeit und Gesellschaft entwickeln.

Das KI-Observatorium entwickelt Indikatoren für Arbeit und Gesellschaft

Das möchte das KI Observatorium ändern und veranstaltete deswegen einen ersten Workshop mit Expert*innen aus Wirtschaft, Wissenschaft, Politik, Sozialpartnern und zivilgesellschaftlichen Organisationen.[1] Ziel war es, die Potentiale und Herausforderungen bei der Entwicklung von geeigneten KI-Indikatoren für den Bereich Arbeit und Gesellschaft zu diskutieren. Welche Auswirkungen hat KI beispielsweise auf die Arbeitszufriedenheit? Wie sehr wird der Technologie in Arbeitskontexten vertraut und wie viel Entscheidungsspielraum bleibt denen, die mit KI arbeiten? Was genau sind erfolgskritische Kriterien für eine gelungene Interaktion zwischen Menschen und KI?

Die lebhafte Diskussion zeigte, dass auch die Expert*innen dafür plädieren, weitere, verlässliche Kennzahlen zu entwickeln. Dabei gaben sie wichtige Hinweise auf entscheidende Qualitätsmerkmale. So sollten die Indikatoren kontinuierlich kritisch reflektiert und weiterentwickelt werden - nicht zuletzt aufgrund der dynamischen Entwicklung der Technologie. Außerdem muss bei der Auswahl und Konzeption von KI-Indikatoren darauf geachtet werden, dass die Kennzahlen ein objektives Gesamtbild darstellen. Darüber hinaus sollen Indikatoren quantitative und qualitative Ansätze berücksichtigen.

Die Teilnehmer*innen diskutierten auch bereits konkrete Vorschläge für mögliche KI-Indikatoren in Arbeit und Gesellschaft:

• Welche Aufgaben können in Zukunft durch KI beeinflusst oder übernommen werden und wie wirkt sich das auf die Personalnachfrage und Kompetenzanforderungen in bestimmten Berufsgruppen aus?
• Wie werden Entwicklungen in Aus- und Weiterbildung antizipiert?
• Wie viel Mitbestimmung gibt es bei der Einführung und Anwendung von KI in den Betrieben?
• Welchen Effekt hat KI auf Ungleichheit, soziale Mobilität und Entwicklungschancen unterschiedlicher Regionen?
• Wie vertrauenswürdig und transparent sind KI-Anwendungen?

In den kommenden Monaten wird das KI-Observatorium in engem Austausch mit den Expert*innen diese Vorschläge systematisieren und weiterentwickeln.

Bestehende Kennzahlen müssen ausgebaut werden

Trotz der noch dürftigen Informationslage gibt es bereits einige Indikatoren, die Teile der obenstehenden Fragenkomplexe behandeln. Im Folgenden zwei Beispiele:

Der Indikator Durchdringung von KI-Kompetenzen in OECD-Ländern, der vom OECD  AI Policy Observatorium (OECD.AI) genutzt wird und von LinkedIn entwickelt wurde, zeigt, dass LinkedIn-Nutzer*innen in Deutschland 1.55-mal so häufig KI-Kompetenzen angeben, wie der OECD-Durchschnitt. Im Vergleich zu anderen OECD-Ländern steht Deutschland damit auf dem dritten Platz hinter Japan und den USA sowie vor Großbritannien und Frankreich. Das zeigt, dass Deutschland hinsichtlich KI-Kompetenzen international relativ gut aufgestellt ist, jedoch im Vergleich zu den USA noch etwas Aufholbedarf hat.

Ein weiterer Indikator der britischen Innovationsstiftung Nesta bringt Einblick in die Diversität der KI-Forschung. Erste Untersuchungen unterstützen hierbei die These, dass beispielsweise Geschlechterdiversität zu einer größeren Vielfalt an Perspektiven führt und damit in der Folge auch zu diverseren und inklusiveren KI-Systemen. [3] Der Indikator zeigt die relative Repräsentation von KI-Publikationen mit mindestens einer Autorin in dem Dokumentenserver für Preprints, arXiv. Der negative Wert für Deutschland deutet darauf hin, dass Frauen in der KI-Forschung im Vergleich zu anderen Ländern eher unterrepräsentiert sind.

Es müssen weitere Indikatoren entwickelt werden

Die beschriebenen Indikatoren gewähren bereits wichtige Einblicke in die Bereiche Kompetenzen und Diversität in der KI-Forschung und sollten daher weiter ausgebaut werden. Um jedoch eine Informationsgrundlage zu allen relevanten KI-Fragestellungen für die Themen Arbeit und Gesellschaft zu entwickeln, sollten schnell weitere Indikatoren entwickelt werden - denn politische Entscheidungen werden bereits heute getroffen, wie der Prozess um das Weißbuch zur Künstlichen Intelligenz der EU-Kommission zeigt.

Neben dem Workshop mit Expert*innen arbeitet das deutsche KI-Observatorium dafür eng mit der AI Watch des Joint Research Centers der EU-Kommission sowie dem OECD AI Policy Observatorium (OECD.AI) zusammen. Beide Institutionen bemühen sich intensiv um weitere Indikatoren. Gemeinsames Ziel ist es, eine Informationsgrundlage für Entscheidungen im Bereich KI in Arbeit und Gesellschaft auf-  und auszubauen.

[1] Dieser Workshop wurde von Stefan Heumann von der Stiftung Neue Verantwortung moderiert. In diesem Rahmen inspirierte Stefan Heumann auch Teile dieses Textes.

[2] OECD (2020), OECD.AI data from partners: methodological note, www.oecd.ai/assets/files/Methodology_20200219.pdf (zuletzt aufgerufen: 07.07.2020); LinkedIn (2019), How we mapped the “skills genome” of emerging jobs, engineering.linkedin.com/blog/2019/how-we-mapped-the-skills-genome-of-emerging-jobs (zuletzt aufgerufen: 24.07.2020).

[3] Stathoulopoulos, K., J. Mateos-Garcia (2019), Gender Diversity in AI Research, www.nesta.org.uk/report/gender-diversity-ai/ (zuletzt aufgerufen 24.07.2020)

[4] Open-Access-Repository für elektronische Preprints mit mehr als 1,5 Mio. Forschungsartikeln aus den Bereichen Physik, Mathematik, Informatik, Statistik, Finanzmathematik, quantitative Biologie, Elektrotechnik, Systemwissenschaft, Volkswirtschaft.

[5] Klinger, J., J. Mateos-Garcia, K. Stathoulopoulos (2018), Deep learning, deep change? Mapping the Development of the Artificial Intelligence General Purpose Technology, Computers and Society.