Am 3. März 2020 eröffnete Bundesarbeitsminister Hubertus Heil vor rund 300 Gästen im Café Moskau in Berlin das KI-Observatorium. Ein Jahr nach der Eröffnung blicken wir auf ein ereignisreiches und erfolgreiches erstes Jahr des KI-Observatoriums zurück und wollen uns vor allem bedanken: Und zwar bei allen, die mit uns in den Diskurs gehen – bei unseren digitalen Veranstaltungen oder in den vom KI-Observatorium geförderten Projekten genauso wie bei allen, die ihre Ideen einbringen und uns helfen, Lücken in der KI-Forschung zu schließen. 

Indikatoren für die Bereiche Arbeit, Kompetenzen und Gesellschaft entwickelt

Einer der Schwerpunkte des KI-Observatoriums im Jahr 2020 war die Entwicklung von Indikatoren, also Kennzahlen, um die Auswirkungen von KI auf die Arbeitswelt und die Gesellschaft besser zu verstehen. Damit konzentrieren wir uns mit unseren Partner*innen gemeinsam auf eine Wissenslücke, denn bisher beschäftigt sich die Indikatoren-Forschung schwerpunktmäßig vor allem mit dem Bereich Wirtschaft.

Aufbauend auf den Erkenntnissen aus einem virtuellen Workshop Mitte Mai 2020 mit mehr als 40 Akteur*innen aus Politik, Wirtschaft, Wissenschaft und Gesellschaft hat das KI-Observatorium zehn Indikatoren entwickelt. Die Indikatoren beschreiben die Auswirkungen von KI in den drei Bereichen Arbeit, Kompetenzen und Gesellschaft. Dank dieser Kennzahlen wissen wir nun unter anderem, dass die Mehrheit der Arbeitnehmer*innen in Deutschland nicht damit rechnet, durch KI den Arbeitsplatz zu verlieren; wir wissen, dass Kenntnisse über maschinelles Lernen die wichtigste KI-Kompetenz sind; und wir wissen, dass die Menschen in Deutschland den Einsatz von KI bei Gericht und politischen Entscheidungen klar ablehnen. Vertiefende Informationen zu den einzelnen Indikatoren finden Sie im neuen Webbereich zum Thema KI-Indikatorik.

Diese Erkenntnisse geben nicht nur ein besseres Verständnis von KI in der Arbeitswelt, sie bieten auch die Grundlage für eine menschenzentrierte KI-Politik. Kurzum: Ein wichtiger Meilenstein im ersten Jahr des KI-Observatoriums.

Forschungsprojekt „ExamAI – KI-Testing & Auditing“ gestartet

Kontroll- und Testverfahren sind wichtige Bausteine, um KI gemeinwohlorientiert einzusetzen. An diesen Verfahren forschen seit Mai 2020 verschiedene wissenschaftliche Einrichtungen im Projekt „ExamAI – KI Testing & Auditing“, das vom KI-Observatorium initiiert wurde.

Die Forscher*innen untersuchen, mit welchen Kontroll- und Testverfahren Sicherheit, Transparenz, Gleichbehandlung und Datenschutz bei der Mensch-Maschine-Kooperation in der Industrieproduktion sowie beim KI-Einsatz im Personal- und Talentmanagement sichergestellt werden können. Dazu haben die Wissenschaftler*innen im ersten Schritt Anwendungsszenarien erarbeitet. Im zweiten Schritt werden nun Kontroll- und Testpraktiken für die Anwendung von KI in beiden Szenarien entwickelt, aus deren Schlussfolgerungen Handlungsempfehlungen formuliert werden.

Dialog mit Expert*innen geführt, politische Entscheidungen wissenschaftlich begleitet

Ob bei der Festlegung von Indikatoren oder in der Durchführung von Forschungsprojekten – das KI-Observatorium ist stets im Austausch mit Expert*innen, unter anderem mit dem Fachdialog „MTI – Arbeiten mit KI“. Dieser startete im August 2020 und bietet eine Plattform für den fachlichen und praxisnahen Austausch. „MTI“ steht für „Mensch-Technik-Interaktion“ und beschreibt den Fokus der Dialogreihe. Hier diskutieren Expert*innen, wie die Forderung nach einem menschenzentrierten KI-Einsatz in der betrieblichen Praxis umgesetzt werden kann. Die Leitfrage: Wie können Mensch und Maschine in der Praxis zu Kolleg*innen werden und wie gestalten wir Innovationen? In verschiedenen Workshops mit unterschiedlichen Schwerpunkten nähern sich die Expert*innen dieser Frage. Zwei Workshops haben bereits stattgefunden, bis Mitte Mai 2021 werden vier weitere folgen.

Aus Diskussionen und Fachdialogen wie diesen ergeben sich Handlungsempfehlungen, die das KI-Observatorium im Sinne einer evidenzbasierten Politikgestaltung auch an politische Akteur*innen weitergeben kann. 

Mit gemeinsamen Regeln Sicherheit und Vertrauen herstellen

Im letzten Jahr hat sich das Projekt der Abteilung Denkfabrik Digitale Arbeitsgesellschaft an der Stellungnahme der Bundesregierung zum KI-Weißbuch der EU-Kommission maßgeblich beteiligt. Einer der wichtigsten Inhalte des 28-seitigen Papiers: Wir brauchen einen EU-weiten Ordnungsrahmen, der nicht nur Regeln für eine sichere und vertrauenswürdige KI schafft, sondern auch für deren Durchsetzung sorgt. 

Auf internationaler Ebene vernetzt

Die Beteiligung des KI-Observatoriums an der Stellungnahme zu den Ideen der EU-Kommission zeigt: Wer über KI diskutiert und sie erforscht, muss über Ländergrenzen hinweg denken. Daher vernetzte sich das KI-Observatorium im letzten Jahr gezielt auf internationaler Ebene – zum Beispiel im Rahmen der „Global Partnership on Artificial Intelligence“ (GPAI), die im Juni 2020 startete.

Die GPAI ist ein international besetztes Expert*innen-Gremium, das an die OECD angedockt ist. In dem Gremium bündeln 18 Staaten und die EU-Kommission ihre KI-Expertise – für Deutschland ist das KI-Observatorium in Kooperation mit dem Bundeswirtschaftsministerium und zahlreichen weiteren Expert*innen dabei. GPAI hat es sich zur Aufgabe gemacht, internationale Entwicklungen von KI zu bewerten und vor allem globale Qualitätsstandards für eine menschenzentrierte KI zu entwickeln. Auf dieser Grundlage wird die GPAI in der kommenden Zeit Empfehlungen formulieren.

Auf in das zweite Jahr des KI-Observatoriums!

Das Verständnis von Künstlicher Intelligenz muss sich genauso rasant weiterentwickeln wie die Technologie selber. Und das gilt auch für das KI-Observatorium: Auch im zweiten Jahr wird sich sein wissenschaftlicher Anspruch, das umfassende, internationale Netzwerk und der Austausch weiterentwickeln. Denn es gibt noch vieles zu entdecken.

Die Indikatoren sind ein gutes Beispiel: Zehn Kennzahlen sind bereits definiert, weitere werden folgen. Denn die Auswirkungen von KI auf die Arbeitswelt lassen sich nicht nur in zehn Indikatoren beschreiben. Um weitere Forschungslücken zu schließen, wird das KI-Observatorium zudem ab März 2021 das Forschungsprojekt „KI-Ultra“ fördern. Hier untersuchen Forscher*innen des Fraunhofer Instituts für Arbeitswirtschaft und Organisation IAO und der Universität Stuttgart, wie Unternehmen KI erfolgreich einführen und damit verbundene Transformationsprozesse in den Betrieben organisieren können. Bisher gibt es dazu weder empirische Daten noch Case Studies. Auch die Workshopreihe des Fachdialogs „MTI – Arbeiten mit KI“ wird in den kommenden Monaten fortgeführt. 

In seinem ersten Jahr hat das KI-Observatorium einige der Dimensionen von KI, die Bundesarbeitsminister Hubertus Heil in seiner Eröffnungsrede am 3. März 2020 erwähnte, aufgedeckt – doch wir stehen noch am Anfang. Auch in Zukunft wird das KI-Observatorium daher die Auswirkungen von KI in Arbeit und Gesellschaft untersuchen und Handlungsbedarfe aufzeigen – dialogorientiert, wissenschaftlich fundiert und mit einem starken und wachsenden Netzwerk.