KI-ULTRA

KI-Assistenz in der Versicherungsbranche: „Der Mensch ist und bleibt im Mittelpunkt.“

Das Versicherungsunternehmen Allianz prüft den Einsatz von KI in der Vorbereitung und im Abschluss von Versicherungsverträgen. Hierdurch sollen die Mitarbeitenden bei administrativen Aufgaben unterstützt und deren Fähigkeiten langfristig gefördert werden. Sarah Johanna Zech berichtet über datenschutzrechtliche Herausforderungen und erklärt, warum menschliche Kontrollmöglichkeiten auch in Zukunft wichtig bleiben werden.

  • Sarah Zech

    Digital Compliance Counsel, Allianz SE

    Sarah Johanna Zech ist als Digital Compliance Counsel bei der Allianz SE tätig und dort für die digitalen Geschäftseinheiten und die Global Data Analytics Abteilung zuständig. Ihre Schwerpunkte liegen im Bereich Datenschutz und Datenethik. Zu ihren Aufgaben gehören insbesondere die Umsetzung regulatorischer Vorgaben in den digitalen und datenstrategischen Projekten der Allianz SE, die Entwicklung gruppenweiter Richtlinien sowie die Projektsteuerung zur Umsetzung neuer internationaler Regulierungsvorhaben im Digitalbereich einschließlich innovativer Technologien. Vor Beginn ihrer Tätigkeit bei der Allianz SE arbeitete Frau Zech mehrere Jahre als Rechtsanwältin in den Bereichen Finanzaufsichtsrecht und Compliance. Neben der juristischen Ausbildung hat Frau Zech einen Magisterabschluss in Philosophie und Kunstgeschichte absolviert.

1. Das Projekt KI-ULTRA begleitet die Einführung einer KI-Anwendung in Ihrem Unternehmen. Welche Bedeutung hat diese Anwendung für Ihr Unternehmen?

Die Allianz SE und Allianz Seguros bringen sich mit einem in der spanischen Tochtergesellschaft initiierten Projekt ein. Hier untersuchen wir den KI-Einsatz im Bereich Underwriting, also im Bereich der Vorbereitung und des Abschlusses von Versicherungsverträgen mit Blick auf die strategische Mitarbeiterplanung. Auf einer ersten Ebene geht es um die Verbesserung von Prozessen im Underwriting. Mit Hilfe von KI-Lösungen sollen den Mitarbeitenden administrative Aufgaben abgenommen werden, damit sie sich vor allem auf die Lösung komplexer Fälle fokussieren können. Auf einer zweiten Ebene geht es um die Abschätzung und Evaluierung der Auswirkungen, die diese veränderten Prozesse auf die Mitarbeiter*innen haben. Ziel ist es schließlich, die Potentiale und Fähigkeiten der Mitarbeitenden durch den Einsatz von KI noch gezielter zu fördern.

2. Was erhoffen Sie sich von der Teilnahme am Projekt KI-ULTRA?

An dem Projekt schätzen wir besonders die Möglichkeit, Erkenntnisse der Wissenschaft mit den Perspektiven verschiedenster Unternehmen praxisorientiert zusammenzubringen. Die Entwicklung von Standards für den vertrauensvollen Umgang mit KI erfordert in besonderem Maße interdisziplinäre Denk- und Lösungsansätze. Die Forschung in diesem Bereich ist ständig in Bewegung. Um auf diese Entwicklungen angemessen zu reagieren und zugleich klare und vorausschauende Orientierung für Unternehmen zu schaffen, sind Kollaborationen wie im Projekt KI-ULTRA von wesentlicher Bedeutung. Wichtig ist dabei, dass die spezifischen Herausforderungen im Umgang mit KI auch als Potentiale aufgefasst werden, die erforscht und ausgeschöpft werden sollen. Das Projekt stellt die Mitarbeitenden in den Mittelpunkt – ganz im Sinne einer menschenzentrierten KI.

3. Welche besonderen Herausforderungen bestehen bei der Einführung von KI-Lösungen im Vergleich zu anderen technischen Systemen?

Im öffentlichen und regulatorischen Diskurs werden insbesondere Transparenz und Fairness als grundlegende Anforderungen für KI-Lösungen formuliert, um die Komplexität dieser technischen Systeme in den Griff zu bekommen. Die Basis dafür bilden letztlich allgemeine EU-Rechtsprinzipien, die sich etwa im Datenschutz-, Aufsichts- und Anti-Diskriminierungsrecht finden. Aus Sicht von Unternehmen stellt sich im Besonderen die Frage, wie diese Prinzipien mit Leben gefüllt werden können: Welche konkreten Maßnahmen und Techniken müssen im KI-Bereich entwickelt und angewendet werden, um beispielweise Bias in Daten oder Modellen zu vermeiden bzw. auszugleichen oder um komplexe KI-Systeme zu interpretieren?

Darüber hinaus ist bei der Entwicklung und Anwendung von KI-Lösungen zu beachten, dass regelmäßig große Datenmengen verarbeitet werden. Dies rückt datenschutzrechtliche Herausforderungen in der digitalen Welt umso mehr in den Vordergrund. „Privacy by Design“ ist das Gebot der Stunde. Das bedeutet, datenschutzrechtliche Anforderungen müssen von Beginn an und in allen Entwicklungsstufen der KI-Lösung umgesetzt werden.

Um diesen Herausforderungen in der Praxis wirkungsvoll zu begegnen, bedarf es einer angemessenen KI-Governance. Auf dieser Grundlage kann auch die Kompetenz der Mitarbeiter*innen im Umgang mit KI-Risiken nachhaltig gestärkt werden.

4. Welche Rolle spielen Menschen im Kontext von KI als neue Technologie?

Der Mensch ist und bleibt im Mittelpunkt. Schließlich geht es um die Frage, wie wir uns als Gesellschaft neue Technologien in verschiedenen Organisationskontexten am besten nutzbar machen können. Im Kontext von Unternehmen ist von großer Bedeutung, wie die durch KI hervorgerufene Transformation dabei helfen kann, sowohl noch gezielter auf Kundeninteressen einzugehen, als auch Mitarbeitende in ihren Potentialen und Arbeitsabläufen zu unterstützen. Wie bereits erwähnt, bilden Transparenz, Fairness und Datenschutz hierfür eine entscheidende Grundlage.

In diesem Zusammenhang spielen auch die dem Menschen verbleibenden Kontrollmöglichkeiten eine wichtige Rolle. So müssen z. B. Kund*innen unter gegebenen rechtlichen Voraussetzungen in die Lage versetzt werden, eine unmittelbar durch KI getroffene Entscheidung durch eine Fachkraft des Unternehmens überprüfen zu lassen. Allgemein ist mit Blick auf die weitere Fortentwicklung von KI-Lösungen zu beachten, dass sich die Lösungsansätze jeweils sinnvoll mit menschlichen Einwirkungs- und Kontrollmöglichkeiten verbinden.

Veröffentlicht am 20. Mai 2022 zum Thema: Anwenden