Das Observatorium Künstliche Intelligenz in Arbeit und Gesellschaft (KI-Observatorium) ist ein Projekt im Rahmen der KI-Strategie der Bundesregierung. Die Umsetzung des Projekts liegt in der Verantwortung des Bundesministeriums für Arbeit und Soziales (BMAS), einem der federführenden Ressorts für die Umsetzung der KI-Strategie. Das Observatorium ist in die Abteilung Denkfabrik Digitale Arbeitsgesellschaft im BMAS eingegliedert. Hintergrund ist, dass es ebenso projektbezogen, agil und interdisziplinär arbeitet wie die Denkfabrik, mit Schnittstellen in das gesamte Ministerium. Darüber hinaus sollen Synergien zu anderen Maßnahmen des BMAS im Bereich der Digitalisierung genutzt werden, etwa die Steuerung der KI-Strategie oder die Durchführung des Projekts Civic Innovation Platform. Das Observatorium - bestehend aus einem achtköpfigen interdisziplinären Team - ist in die Strukturen der Abteilung Denkfabrik Digitale Arbeitsgesellschaft eingebettet.

Zu den Aufgaben des KI-Observatoriums zählt die Beobachtung, Weiterentwicklung und partizipative Gestaltung von Künstlicher Intelligenz in Gesellschaft, Arbeits- und Wirtschaftsleben. Dem BMAS ist dabei besonders am Dialog mit KI-Entwickler*innen und KI-Anwender*innen, KI-Expert*innen und der Gesellschaft als Ganzes gelegen. Außerdem möchte es den Austausch dieser Gruppen untereinander fördern. Der Fokus liegt dabei auf dem Zugang zu KI-Technologien, die Befähigung zum Umgang mit Ihnen und die aktive Gestaltung des digitalen Wandels.

Übergreifendes Ziel der Bundesregierung ist es, im Rahmen einer an europäischen Werten orientierten Digitalpolitik die Wettbewerbsfähigkeit der deutschen Wirtschaft langfristig zu sichern und zugleich eine gemeinwohlorientierte, menschenzentrierte KI zu fördern. Weiterhin sollen das Verständnis und die Teilhabe an Künstlicher Intelligenz in allen Teilen der Gesellschaft im Sinne einer individuellen und kollektiven Befähigung ermöglicht werden.

Das Team des Observatoriums arbeitet interdisziplinär in den Bereichen Analyse, Politikgestaltung und Vernetzung/Dialog. Es arbeitet je nach Handlungsfeld national und international eng mit externen Expert*innen u.a. aus Gewerkschaften, Unternehmen, Wissenschaft, Zivilgesellschaft zusammen. Intern kooperiert es themenbezogen mit anderen Projektteams der Denkfabrik und den Fachabteilungen des BMAS. Die Zusammenarbeit findet zum Beispiel in Form von zeitlich begrenzenten Labs, Workshops oder Projektgruppen statt.

Das KI-Observatorium hat für die Laufzeit bis 2022 ein Gesamtbudget von 20 Mio. EUR aus den Mitteln der KI-Strategie der Bundesregierung erhalten.

Das KI-Observatorium ist ein Projekt der 2018 gegründeten und in die Strukturen des BMAS eingebetteten Abteilung Denkfabrik Digitale Arbeitsgesellschaft. Das KI-Observatorium entwickelt seine Themenfelder, Arbeitsschwerpunkte und konkrete Maßnahmen im engen Austausch mit externen Akteuren wie auch dem BMAS selbst. Der Auftrag zur Einrichtung des KI-Observatoriums geht auf die KI-Strategie der Bundesregierung zurück.

Ein Observatorium ist ein Ort, an dem mit wissenschaftlichen Methoden bestimmte Phänomene, etwa das Wetter oder die Veränderungen am Sternenhimmel, beobachtet und ausgewertet werden. Das KI-Observatorium wendet dieses Verfahren für das komplexe und teilweise abstrakte Thema Künstliche Intelligenz an. Dabei geht es darum, die Potentiale von KI besser vestehen, aber auch die Risiken und Herausforderungen besser abschätzen zu können. Da das KI-Observatorium als Teil der Denkfabrik in die Strukturen des Bundesministeriums für Arbeit und Soziales eingebettet ist, konzentriert es sich ganz besonders auf den Einsatz und die Auswirkungen von KI-Anwendungen in der Arbeitswelt und Gesellschaft. Das KI-Observatorium begreift sich dabei als ein neuer Akteur in der wachsenden internationalen KI-Community und kooperiert mit anderen Akteuren aus den Bereichen der Forschung, Politik, Wirtschaft und Zivilgesellschaft. Aber auch die aktive Einbeziehung von Bürger*innen in diesen Dialog ist eine Aufgabe des KI-Observatoriums.

Ziel des KI-Observatoriums ist die Förderung und Ermöglichung eines verantwortlichen, menschenzentrierten und partizipativen Einsatzes von bestehenden und zukünftigen KI-Anwendungen in Arbeitswelt und Gesellschaft. Da sich KI-Entwicklungen an der Schnittstelle von technischem Fortschritt und gesellschaftlichem Wandel vollziehen und insbesondere auch die Arbeitswelt betreffen, ist die Ansiedlung des KI-Observatoriums als Einheit im BMAS naheliegend. Antworten auf die arbeits- und gesellschaftspolitische Herausforderung im Umgang mit KI in Wirtschaft, Arbeitsleben und Gesellschaft können hier in unmittelbarem Austausch mit den Expert*innen des Ministeriums erarbeitet werden. Ziel ist, den Entwicklungspfad der Technologie von vorneherein auf menschenzentrierte Anwendungen hin auszurichten. Darüber hinaus versteht sich das KI-Observatorium aber auch als Impulsgeber und Ort der Vernetzung für neue Maßnahmen des BMAS und der Bundesregierung.

Das KI-Observatorium wird sich zunächst auf fünf Handlungsfelder fokussieren:

1. (soziale) Technologiefolgenabschätzung:

• Analysen ökonomischer Auswirkungen auf Branchen, Wirtschaftssektoren, Arbeitsmärkte, Regionen bis hin zu Qualifikationsprofilen
• Impactanalyse mit Schwerpunkt auf Technikfolgen (Impact-Assessment), Datenschutz und Beschäftigungssituation unter Einbindung u.a. von Wissenschaft, Sozialpartnern oder internationalen Organisation wie der OECD und der ILO
• Entwicklung neuer Methoden zum Monitoring von KI
• Gestaltung von betrieblichen Change-Prozessen bei der Einführung und Anwendung von KI

2. KI in der Arbeits- und Sozialverwaltung:

• Die öffentliche Verwaltung soll in der Anwendung von KI eine Vorreiterrolle wahrnehmen
• Hierzu werden Anforderungen und Best-Practice-Beispiele national wie international identifiziert, um daraus Anwendungspotentiale u.a. für das BMAS zu erschließen

3. Ordnungsrahmen für KI und soziale Technikgestaltung:

• Prüfung der Möglichkeit einer Auditierung von KI-Systemen
• Entwicklung von Kritieren für eine sichere und Vertraunswürdige KI
• Aufbau von Strukturen und Kapazitäten zur Mitgestaltung eines KI-Ordnungsrahmens
• Erarbeitung von Prinzipien zur Entwicklung sozio-technischer Systeme bzw.für die Mensch-Technik-Interaktion

4. Aufbau internationaler und europäischer Strukturen:

• Internationale Vernetzung und der Aufbau internationaler Monitoring-Strukturen für die Anwendung von Künstlicher Intelligenz
• Stärkung der Vernetzung und des Diskurses zwischen den internationalen Akteuren
• Unterstützung der Positionsnahme der Bundesregierung im Weißbuchprozess KI der EU

5. Gesellschaftlicher Dialog und Vernetzung:

• Stärkung der Zugänglichkeit des KI-Observatoriums im Rahmen der langfristigen Offensive zur digitalen Aufklärung, Bildung und Teilhabe
• Ziel ist die aktive Einbindung möglichst vieler Bevölkerungsgruppen

Das Observatorium Künstliche Intelligenz in Arbeit und Gesellschaft möchte Expert*innen aller Entwicklungs- und Anwendungsbereiche Künstlicher Intelligenz sowie die breite Gesellschaft erreichen. Hierzu zählen u. a. Vertreter*innen von Gewerkschaften, Unternehmen, der Wissenschaft sowie der Medien und Zivilgesellschaft. Wichtige Schnittstellen innerhalb des BMAS für das KI-Observatorium sind die KI-Experimentierräume, die Zukunftszentren Ost und West sowie das Projekt Civic Innovation Platform. Innerhalb der Bundesregierung profitiert das Observatorium von der engen Zusammenarbeit zwischen den Ressorts und dem großen Netzwerk der Abteilung Denkfabrik Digitale Arbeitsgesellschaft. International gehören zu den direkten Kooperationspartnern die Europäische Kommission/Institutionen der Europäischen Union, die OECD sowie die International Labour Organization (ILO).

Das KI-Observatorium versteht sich als Wissensträger und Impulsgeber bei der Anwendung der künstlichen Intelligenz innerhalb und außerhalb des BMAS.

Das Observatorium agiert dazu in mehreren Schritten:

• Entwicklung und Anwendungen der Künstlichen Intelligenz im nationalen Rahmen durchdringen,
• ein eigenes, nationales Monitoring und Benchmarking zur Wirkung entwickeln,
• Leitlinien, insbesondere zur partizipativen und menschenzentrierten Anwendung von KI in der Arbeitswelt formulieren,
• KI im Arbeits- und Wirtschaftsleben sowie in der Zivilgesellschaft proaktiv beobachten und gestalten,
• einen neuen Ordnungsrahmen für den rechtssicheren Umgang mit Künstlicher Intelligenz mitgestalten.

Das Observatorium Künstliche Intelligenz in Arbeit und Gesellschaft versteht sich als Institution, welche sich nicht nur national, sondern auch international an der Diskussion über Künstliche Intelligenz beteiligt. Dabei orientiert es sich auch an der Arbeit anderer Akteure, die sich bereits intensiv mit KI beschäftigen. Dazu zählen beispielsweise Forschungseinrichtungen (in Kanada Mila, Vector), aber auch die OECD und die Europäische Union, die jeweils KI-Leitlinien entwickelt und sich dabei vor allem mit übergeordneten Fragen der Anwendung von Künstlicher Intelligenz beschäftigt haben. Das KI-Observatorium soll auch hier als Schnittstelle dienen und konkrete Erkenntnisgewinne über die praxisnahe Anwendung internationaler Leitlinien liefern. Auch will das KI-Observatorien auf europäischer und internationaler Ebene die Einrichtung weiterer ähnlicher Observatorien unterstützen.