Anwenden
Transparenz und menschliche Kontrolle von KI-Systemen in der betrieblichen Praxis
Veröffentlicht am 23. Okt 2023
Auf europäischer Ebene werden aktuell die rechtlichen Rahmendbedingungen für die Entwicklung und den Einsatz von künstlicher Intelligenz (KI) verhandelt. Das Ziel ist, die Entwicklung vertrauenswürdiger und sicherer KI in der EU zu fördern sowie einen menschenzentrierten Einsatz von KI sicherzustellen.
Dabei wird auch die menschliche Aufsicht von KI-Systemen diskutiert. Eine zentrale Frage liegt darin, wie das dahinterstehende Prinzip der menschlichen Kontrolle konkret in betrieblichen KI-Anwendungen umgesetzt werden kann. Hier setzt das vom KI-Observatorium des Bundesministeriums für Arbeit und Soziales (BMAS) angestoßene Projekt „KI-Cockpit“ an. Es widmet sich der Entwicklung eines softwaregestützten KI-Cockpits, um Menschen einen Überblick über die Entscheidungen von KI-Systemen zu vermitteln und ihnen gleichzeitig zu ermöglichen, Einfluss auf diese Systeme zu nehmen.
Die rasante Entwicklung der KI-Technologie verändert unsere Arbeitswelt: sie bietet immense Chancen, Arbeitskräfte zu unterstützen und zu entlasten, indem sie Aufgaben automatisiert und Datenanalysen optimiert. Gleichzeitig birgt der Einsatz von KI auch Herausforderungen, darunter das Risiko von Verzerrungen oder Diskriminierungen. Diese Risiken müssen sorgfältig über den gesamten Lebenszyklus einer KI-Anwendung beachtet werden, angefangen bei der Konzeption bis hin zum laufenden Betrieb.
Diese Herausforderungen nehmen auch die Verhandlungen um die europäische KI-Verordnung in den Blick, mit dem Ziel, einen neuen gesetzlichen Rahmen für transparente, zuverlässige und sichere KI-Systeme zu entwickeln. Dabei spielt die Einbindung des Menschen in die Kontrolle und Überwachung von KI-Systemen – die sogenannte menschliche Aufsicht – eine wesentliche Rolle. Das Forschungsprojekt KI-Cockpit will die Frage beantworten, wie diese menschliche Kontrolle in der betrieblichen Praxis aussehen kann.
KI-Cockpit – was steckt dahinter?
Das KI-Cockpit ist eine innovative Software, die entwickelt wird, um verschiedenen Nutzer*innengruppen – von Betriebsräten, über Mitarbeitenden bis hin zu Entscheidungsträger*innen – einen klaren Einblick in die Funktionsweise von KI-Systemen zu bieten. Gleichzeitig ermöglicht es diesen Nutzer*innen, Einfluss auf die Entscheidungen des KI-Systems zu nehmen. Dadurch sollen soziale Risiken, die mit der KI-Technologie einhergehen können, minimiert und die Akzeptanz der Anwendungen gesteigert werden.
Das KI-Cockpit wird zunächst in Feldstudien implementiert, getestet und weiterentwickelt – beispielsweise in der Personalauswahl oder in der sprachgestützten Pflegedokumentation. Diese breite Anwendung ermöglicht es, die Effektivität und Anwendbarkeit des KI-Cockpits schon während der Projektlaufzeit in verschiedenen Szenarien zu erproben.
Pionierarbeit für die menschenzentrierte Implementierung von Risiko-KI-Modellen
Das Projekt stellt sich zentralen Fragen rund um die Mensch-Maschine-Interaktion und lässt sich dabei von einer menschenzentrierten Perspektive leiten: Wie können KI-Systeme so entwickelt werden, dass Mensch und Maschine produktiv zusammenarbeiten? Wie können sich KI-Systeme das Vertrauen von Menschen „verdienen“? Und wie organisieren wir die Arbeitsteilung zwischen Mensch und Maschine?
Nach der erfolgreichen Implementierung in den Feldstudien plant das Projekt, das KI-Cockpit als Open-Source-Produkt zu veröffentlichen. Dieser Schritt soll sicherstellen, dass das KI-Cockpit für eine breite Palette von KI-Anwendungen sowie Kontexten zur Verfügung steht. So wird eine niedrigschwellige und breite Nachnutzung der entwickelten Software in unterschiedlichen Anwendungsgebieten ermöglicht. Zudem wird im Rahmen des Projekts ein Modell dafür entwickelt, wie die menschenzentrierte Festlegung von KI-Autonomiestufen in anderen Projekten und Anwendungsbereichen erreicht werden kann.
Breites Projektnetzwerk garantiert gesamtgesellschaftlichen Nutzen
KI-Cockpit wird in enger Zusammenarbeit verschiedener Institutionen und Unternehmen umgesetzt: Beteiligt sind die Hochschule Aalen, das Institut für Arbeitswissenschaft und Technologiemanagement der Universität Stuttgart (IAT), das nexus Institut, die Chemistree GmbH und die Caritas Dortmund.
Ein Multiplikator*innen-Beirat wird das Projekt kritisch begleiten und die Verbreitung der Ergebnisse über die Feldstudien des Projekts hinaus fördern.
Insgesamt leistet das Projekt einen wichtigen Beitrag zur Ausgestaltung menschlicher Kontrolle in der betrieblichen Praxis und zur Förderung eines verantwortungsbewussten und menschenzentrierten Einsatzes von KI-Technologien.