Inspirieren
5 Fragen an Franziska Raudonat: „Unsere Aufgabe ist es auch, zu informieren und zu erklären“
Veröffentlicht am 03. Mär 2021
Wie kann KI kontrolliert und getestet werden? Diese Fragen will das Konsortialprojekt „ExamAI – KI Testing & Auditing" beantworten. Unter den Forscherinnen und Forschern ist Franziska Raudonat.
Franziska Raudonat forscht in dem Projekt „ExamAI – KI Testing & Auditing“. Sie untersucht gemeinsam mit Kolleginnen und Kollegen, wie KI im HR-Bereich eingesetzt werden kann und beschäftigt sich unter anderem mit Fragen zu Fairness, Haftung und Transparenz. Zudem studiert Franziska Raudonat im Masterstudiengang Wirtschaftsinformatik mit Schwerpunkt Data Science an der Universität des Saarlandes sowie der TU Kaiserslautern und schreibt derzeit ihre Masterarbeit.
1. Frau Raudonat, warum haben Sie sich entschieden, in dem Projekt „ExamAI – KI-Testing & Auditing“ zu forschen?
Die Idee kam mir während meines Studiums der Wirtschaftsinformatik mit dem Schwerpunkt Data Science – unter anderem durch eine Vorlesung von Prof. Dr. Katharina Zweig, die das Forschungsprojekt leitet. Zudem habe ich während des Studiums festgestellt, dass KI-Systeme rein technisch vieles können. Mir stellte sich jedoch die Frage, wie wir sicherstellen können, dass von Algorithmen getroffene Entscheidungen auch fair, nachvollziehbar und transparent sind. Als Prof. Dr. Zweig dann mit dem Forschungsprojekt auf mich zukam, ergänzte es sich gut mit meinen Forschungsinteressen.
2. Welche Rolle haben Sie in dem Forschungsprojekt?
Bei „ExamAI – KI-Testing & Auditing“ arbeite ich in dem Bereich „KI-Systeme im Personal- und Talentmanagement“. Hier dreht sich alles um die Frage nach dem Einsatz von KI im Bereich „Human Resources“ ...
3. ... einem Bereich, in dem die Anwendung von KI auch auf Vorbehalte stößt. Was ist Ihr Standpunkt?
Ich kann absolut verstehen, dass es Berührungsängste gibt. Insbesondere, wenn zum Beispiel Bewerberinnen und Bewerber auf eine Stellenausschreibung nicht wissen, was KI im Bewerbungsprozess entscheidet und wie diese Entscheidung getroffen wird. Daher sehe ich es auch als Aufgabe unseres Projektes an, zu informieren, zu erklären und aufzuzeigen, dass der KI-Einsatz durchaus Vorteile bringen kann.
Das gilt gerade für den HR-Bereich: Es ist bekannt, dass menschliche Entscheidungen durch einen Bias beeinflusst sein können. KI-Algorithmen bieten hier die Chance, althergebrachte Denkweisen aufzubrechen. Aber eben nur dann, wenn Algorithmen transparent, fair sowie nachvollziehbar gestaltet sind – und wenn Menschen in diesen Prozess involviert sind, um genau das zu überprüfen.
Bis wir bei solchen komplexeren Anwendungen sind, ist es jedoch noch ein weiter Weg. Soweit wir wissen, wird KI in Deutschland im HR-Bereich momentan nur zum Scannen von Lebensläufen eingesetzt, mehr nicht.
4. Ein anderes, aber nicht weniger relevantes Thema: Frauen sind in der KI-Forschung unterrepräsentiert. Warum ist es aus Ihrer Sicht sinnvoll, auf mehr Diversität in der Wissenschaft zu setzen – vor allem im Bereich der Erforschung von Künstlicher Intelligenz?
Es ist sehr wichtig, dass wir in der Forschung – speziell in der KI-Forschung – mehr in diversifizierten Teams arbeiten. Das gilt im Übrigen nicht nur für das Verhältnis Frauen-Männer, sondern darüber hinaus. Wenn Algorithmen nur durch eine Gruppe entwickelt werden, dann fehlt ein großer Teil der Gesellschaft – und wird auch in dem Ergebnis einer von einem Algorithmus getroffenen Entscheidung nicht berücksichtigt.
Ein Beispiel: Die optischen Sensoren automatischer Seifenspender wurden mit „weißen“ Händen trainiert, ohne zu berücksichtigen, dass nicht alle Menschen „weiße“ Hände haben. Im Ergebnis haben solche Seifenspender nicht für alle Gruppen der Gesellschaft funktioniert. Ein einfaches Beispiel, das zu vielen Diskussionen geführt hat und zeigt: Es ist besser, wenn diversifizierte Teams an Algorithmen arbeiten, da sie vermutlich mehr Faktoren in deren Entwicklung berücksichtigen.
5. Künstliche Intelligenz ist ganz klar in unserem Alltag bereits angekommen, vieles ist hingegen noch Zukunftsvision. Welche KI-Innovation würden Sie sich persönlich am meisten wünschen?
Da gibt es tatsächlich viel, eine Sache finde ich jedoch besonders spannend: Eine Form von KI, die bei der Ausbildungs-, Studien- oder Berufsauswahl nach der Schule unterstützt. Das KI-System könnte zum Beispiel auf Basis der schulischen Bildung, der persönlichen Eigenschaften, Fähigkeiten und weiteren Faktoren Vorschläge für eine Orientierung geben.