Durch die Einführung von KI-Systemen in immer mehr gesellschaftlichen Bereichen werden jetzt und in Zukunft neue Kompetenzen und Fähigkeiten zunehmend wichtiger. Gerade auch in der Arbeitswelt wird der Einsatz von KI-Systemen neue Anforderungen an die Beschäftigten stellen. Menschen werden neues Wissen erwerben und neue Fertigkeiten entwickeln müssen, um KI-Systeme am Arbeitsplatz sinnvoll nutzen, sie nachvollziehen und kritisch bewerten zu können. Analog zu den bisherigen Grundkompetenzen werden sie eine Artificial Intelligence Literacy (kurz: AI Literacy oder AIL) entwickeln müssen, um die mit KI-Anwendungen verbundenen Vorteile voll ausschöpfen zu können.

Das neue Projekt AIL AT WORK untersucht diese mit der Einführung von KI verbundenen Wandlungsprozessen in der Arbeitswelt. Ziele des Projektes sind die Entwicklung praxistauglicher Messinstrumente zur Analyse von AI Literacy sowie die Entwicklung und Erprobung anschaulicher Beispiele für Mensch-KI-Interaktionen (im folgenden KI-Testbeds genannt) zur Steigerung von Partizipation und Menschzentrierung bei der Einführung und Nutzung von KI-Systemen in verschiedenen Arbeitskontexten.

Ein erweitertes Konzept von AI Literacy

AIL AT WORK erweitert das bisherige Verständnis von AI Literacy in zweierlei Hinsicht entscheidend: Zum einen sind in der Mensch-Technik-Interaktion nicht nur konkrete Kenntnisse und Fähigkeiten relevant, sondern auch Einstellungen und Gefühlslagen oder die Bereitschaft zur Reflexion. Hier spielen auch individuelle Bedürfnisse am Arbeitsplatz als wichtigem Sozialraum eine zentrale Rolle. Um Menschen in die Lage zu versetzen, KI-Systeme souverän zur Unterstützung im Arbeitsalltag und zur Bewältigung von Problemen einzusetzen, sind daher das Training technischer Handlungskompetenzen genauso wichtig wie die Analyse und die Adressierung von Vorstellungen und Wünschen sowie die Entwicklung sozioemotionaler Fähigkeiten.

KI-Systeme selbst können AI Literacy fördern oder hemmen

Dieses Verständnis einer AIL fokussiert, indem sie am Menschen ansetzt, allerdings nur einen Teil der Mensch-Technik-Interaktion. Einen wichtigen weiteren Anteil hat zudem die Gestaltung der technischen Anwendungen und Systeme: Sie selbst können ihre souveräne Nutzung durch die Anwender*innen fördern, etwa indem sie ihre Funktionsweise und Entscheidungsprinzipien verständlich vermitteln. Sie können Anwender*innen aber auch beeinträchtigen und gewissermaßen de-literarisieren, indem sie beispielsweise konkrete Ängste oder ein naives Vertrauen fördern.

So sollten beispielsweise Sprachassistenzsysteme im medizinischen Bereich eine angemessene Vertrauenswürdigkeit vermitteln, damit Anwender*innen überhaupt Informationen mit dem System z. B. in Form einer Diagnose teilen, dabei aber zugleich aufmerksam bleiben für den Unterschied zwischen notwendigen und zu privaten Details. Ein anderes Beispiel stellen Expertensysteme dar, die Anwender*innen mit Ratschlägen für konkrete Probleme unterstützen: Ihr Design kann sich darauf auswirken, ob die präsentierten Lösungen, Anregungen und Tipps zumindest kritisch geprüft oder doch einfach naiv übernommen werden. Und auch die Frage der Nachvollziehbarkeit von Entscheidungen und Ergebnissen von KI-Systemen hängt davon ab, ob die Systeme individuelle kognitive Potenziale auf der Seite der Anwender*innen berücksichtigen oder nicht.

Zuletzt untersucht das Projekt AIL AT WORK deshalb auch, wie KI-Systeme im Sinne einer AI Literacy gestaltet werden müssen und schließt damit eine entscheidende Wissenslücke. Hierfür werden gemeinsam mit Pilotfirmen aus verschiedenen Domänen anschauliche Testbeds mit Hilfe von Virtueller Realität entwickelt, menschzentriert in der Praxis getestet und mit einem zu entwickelnden Messverfahren bewertet.

AIL AT WORK als Beitrag zu einem ganzheitlichen Verständnis menschenzentrierter Technikgestaltung

Das Projekt AIL AT WORK knüpft an den Fachdialog „Mensch-Technik-Interaktion (MTI) – Arbeiten mit KI“ des KI-Observatoriums an. Im Rahmen dieser Fachdialogreihe wurden verschiedene Facetten eines guten Mensch-Technik-Verhältnisses beleuchtet – unter anderem auch der Bereich Digital Literacy  bzw. AI Literacy. Die Überlegungen aus der Fachdialogreihe, die im Working Paper „AI Literacy: Kompetenzdimensionen und Einflussfaktoren im Kontext von Arbeit“ [PDF] nachzulesen sind, dienten schließlich als Grundlage für die Entwicklung des neuen Forschungsprojekts.

Zu den zentralen Ergebnissen des MTI-Fachdialogs gehörte die Erkenntnis eines dringend notwendigen Paradigmenwechsels: weg von der Technik- und hin zur Menschenzentrierung. Bei der Entwicklung und Einführung von KI-Technologien ging es bisher vor allem um Nutzenmaximierung und die Überwindung technischer Hürden. Doch diese einseitige Sichtweise wird den komplexen Zusammenhängen, die sich mit dem Einsatz von KI-Systemen ergeben, in keinster Weise gerecht. Im Sinne einer ganzheitlichen Betrachtung erweitert AIL AT WORK das Prinzip einer menschenzentrierten Technikgestaltung um den entscheidenden Aspekt, dass das System- und Schnittstellendesign in unmittelbarem Zusammenhang mit einer souveränen Nutzung von KI-Anwendungen durch den Menschen steht. Das Projekt nutzt dabei virtuelle Realitäten, um das im Wortsinn begreifbar zu machen. Die im Projekt erarbeiteten Forschungsergebnisse werden deshalb die Umsetzung der KI-Strategie der Bundesregierung und den Einsatz von KI-Systemen in der betrieblichen Praxis einen entscheidenden Schritt voranbringen.

AIL AT WORK wird unter der Leitung von Prof. Carolin Wienrich, Dr. Astrid Carolus und Prof. Marc Erich Latoschik an der Universität Würzburg durchgeführt und läuft bis 2024.