Jetzt zählt Transparenz: Was der EU AI Act für den verantwortungsvollen AI-Einsatz in Banken und Versicherungen bedeutet

Der risikobasierte Ansatz des EU AI Acts stellt neue Anforderungen an die Finanz- und Versicherungsbranche. Ein zentraler Begriff ist dabei Transparenz. Der AI Act verpflichtet Anbieter und Betreiber von AI-Systemen dazu, Informationen zur Datenverarbeitung verständlich offenzulegen. Unter anderem müssen Nutzer erkennen, dass sie mit einem AI-System interagieren, und sie müssen über die Entscheidungslogik informiert werden. Ziel ist der Vertrauensaufbau zu Kunden und Partnern durch nachvollziehbare Entscheidungen. 

Der EU AI Act kennt unterschiedliche Transparenzpflichten und teilt AI-Systeme deshalb in verschiedene Risikoklassen ein: verbotene Anwendungen, Hochrisiko-Anwendungen sowie Anwendungen mit begrenztem oder minimalem Risiko. Vor allem Hochrisiko-Systeme, etwa zur Bonitätsprüfung oder Betrugserkennung, unterliegen umfangreichen Transparenz-, Dokumentations- und Kontrollpflichten. So muss das System eine präzise, vollständige und klar verständliche technische Dokumentation haben, alle Funktionen protokollieren und Möglichkeiten zur menschlichen Kontrolle vorsehen. 

Für Banken und Versicherer bedeutet das, dass ihre AI-Anwendungen nicht nur am technologischen Nutzen gemessen werden. Zusätzlich geht es auch um Faktoren wie Erklärbarkeit und Fairness sowie die Auswirkung auf Kunden und Gesellschaft. Transparenz ist dabei ein vielschichtiges Konzept. Es hat auf den technologischen Ebenen eines AI-Systems unterschiedliche Bedeutungen mit spezifischen Anforderungen. Es ist sinnvoll, zwischen Modell-, Daten-, Prozess- und Ergebnis-Transparenz zu unterscheiden. 

Modell-Transparenz betrifft die Frage, wie ein AI-System zu seinen Entscheidungen gelangt. Sie macht sichtbar, welche Parameter und Variablen die AI bei der Bewertung berücksichtigt und wie diese gewichtet werden. Diese Form der Transparenz ist unter anderem wichtig für die Kreditvergabe. Scoring-Modelle für die Kreditwürdigkeit bewerten Einkommen, Beschäftigungsdauer, bestehende Kredite und Zahlungshistorie. 

Die Modell-Transparenz zeigt, wie diese Bewertung zustande kommt und mit welchem Gewicht jeder Faktor in die Bewertung einfliesst. Diese eher technischen Informationen sind wichtig für IT- und Data-Science-Teams, um Modelle zu optimieren und zu warten oder mögliche Verzerrungen zu erkennen. Aufsichtsbehörden wie die FINMA in der Schweiz oder die BaFin in Deutschland fordern solche Einblicke, damit sie Fairness und Rechtmässigkeit der AI bewerten können. 

Daten-Transparenz meint die vollständige Dokumentation aller Informationen, die für das Training und den Betrieb des AI-Systems verwendet werden. Dazu gehören unter anderem die Herkunft der Daten, ihre Qualität, mögliche Verzerrungen und die Eignung für den vorgesehenen Verwendungszweck. Bei Versicherungen ist Daten-Transparenz besonders wichtig.  

Wenn ein Versicherer historische Schadendaten zur Risikobewertung nutzt, muss klar sein, aus welchen Zeiträumen und Regionen diese Daten stammen. Die Prüfung auf systematische Verzerrungen ist ebenso wichtig, um unfaire Bewertungen zu vermeiden. Vor allem Compliance- und Datenschutzbeauftragte sowie Auditoren benötigen die entsprechenden Informationen. Sie müssen sicherstellen, dass alle verwendeten Daten rechtmässig erhoben und verarbeitet werden. 

Prozess-Transparenz zeigt, an welchen Stellen AI-Systeme zum Einsatz kommen und welche menschlichen Kontrollmechanismen eingebaut sind – kritische Entscheidungen sollten nicht vollständig automatisiert ablaufen. Ein typisches Beispiel ist die Schadenregulierung. Ein AI-System kann einfache Schadensfälle komplett selbstständig bearbeiten – eine sogenannte Dunkelverarbeitung.

Gleichzeitig muss definiert sein, bei welchen Kriterien der Fall an einen menschlichen Sachbearbeiter weitergeleitet wird. Eskalationsregeln und die Rolle der menschlichen Kontrollinstanz müssen transparent dokumentiert sein. Besonders wichtig ist diese Form der Transparenz für Schadenmanager oder Kreditabteilungen: Sie wissen so jederzeit, welche Anträge das System selbständig bewilligt oder ablehnt und welche manuell zu prüfen sind. 

Ergebnis-Transparenz ist mit Blick auf die Kunden Pflicht. So darf beispielsweise eine Ablehnung der Schadenregulierung oder bei der Kreditvergabe nicht einfach mit «System hat abgelehnt» begründet werden. Stattdessen sollte der Antragsteller eine verständliche Erklärung der relevanten Kriterien erhalten. Dabei sollen die Kunden an jedem Kontaktpunkt darüber informiert werden, wenn ein AI-System im Kundenkontakt eingesetzt wird.  

So müssen sich zum Beispiel Chatbots als solche zu erkennen geben und Empfehlungssysteme sollten deutlich machen, dass ihre Vorschläge Algorithmus-basiert sind. Diese Kennzeichnungspflicht ergibt sich bereits aus dem EU AI Act. Doch es geht nicht nur um automatische Kennzeichnung. Die Service- und Sales-Mitarbeiter sollten in der Lage sein, AI-Entscheidungen zu erklären und bei Nachfragen kompetent zu beantworten. 

Die vier Dimensionen der AI-Transparenz ergänzen sich gegenseitig und ergeben gemeinsam ein vollständiges Bild der AI-Systeme. Jede Dimension hat ihre spezifischen Anforderungen und Zielgruppen. Die Herausforderung für Unternehmen besteht darin, für jede Ebene das richtige Mass an Transparenz zu finden.  

Zu wenig Transparenz führt zu Misstrauen und regulatorischen Problemen. Zu viel Transparenz kann jedoch Geschäftsgeheimnisse preisgeben oder Kunden mit technischen Details überfordern. Das Ziel ist eine zielgruppengerechte Transparenz, die Vertrauen schafft und gleichzeitig praktikabel bleibt. Unternehmen erhalten damit die Chance, AI effizient und verantwortungsvoll zu nutzen. Wer in Transparenz investiert, legt den Grundstein für nachhaltige Kundenbeziehungen in einem zunehmend datengetriebenen Markt.

Hat dir der Artikel gefallen? Weitere Insights bietet das Whitepaper «Die Transformation des Kundenkontakts durch AI Agents in Banken und Versicherungen».

Jetzt kostenlos downloaden