La transparence est désormais primordiale : ce que l’EU AI Act signifie pour une utilisation responsable de l’IA dans les banques et les assurances

L’EU AI Act modifie les conditions générales d’utilisation de l’IA dans le secteur financier et des assurances, sauf si des règles spécifiques s’appliquent déjà. La transparence et la traçabilité deviennent des exigences déterminantes.

L’approche fondée sur les risques de l’EU AI Act impose de nouvelles exigences au secteur financier et des assurances. La transparence est ici un concept central. L’AI Act oblige les fournisseurs et les exploitants de systèmes d’IA à divulguer de manière compréhensible les informations relatives au traitement des données. Les utilisateurs doivent notamment être informés qu’ils interagissent avec un système d’IA et connaître la logique décisionnelle. L’objectif est d’instaurer la confiance auprès des clients et des partenaires grâce à des décisions compréhensibles.

L’EU AI Act prévoit différentes obligations de transparence et divise donc les systèmes d’IA en différentes classes de risque : applications interdites, applications à haut risque et applications à risque limité ou minimal. Les systèmes à haut risque, comme ceux utilisés pour l’évaluation de la solvabilité ou la détection des fraudes, sont soumis à des obligations étendues en matière de transparence, de documentation et de contrôle. Le système doit ainsi disposer d’une documentation technique précise, complète et clairement compréhensible, enregistrer toutes les fonctions et prévoir des possibilités de contrôle humain. 

Pour les banques et les assureurs, cela signifie que leurs applications d’IA ne sont pas seulement évaluées en fonction de leur utilité technologique. D’autres facteurs entrent également en ligne de compte, comme l’intelligibilité et l’équité, ainsi que l’impact sur les clients et la société. La transparence est un concept complexe. Elle revêt différentes significations aux niveaux technologiques d’un système d’IA, avec des exigences spécifiques. Il est judicieux de faire la distinction entre la transparence des modèles, des données, des processus et des résultats.

La transparence du modèle concerne la manière dont un système d’IA parvient à ses décisions. Elle met en évidence les paramètres et les variables pris en compte par l’IA dans son évaluation et la manière dont ceux-ci sont pondérés. Cette forme de transparence est notamment importante pour l’octroi de crédits. Les modèles de scoring pour la solvabilité évaluent les revenus, la durée d’emploi, les crédits existants et l’historique de paiement. 

La transparence du modèle montre comment cette évaluation est réalisée et la pondération de chaque facteur dans l’évaluation. Ces informations plutôt techniques sont importantes pour les équipes informatiques et de Date-Science afin d’optimiser et de maintenir les modèles ou d’identifier d’éventuelles déformations. Les autorités de surveillance comme la FINMA en Suisse ou la BaFin en Allemagne exigent de telles informations afin de pouvoir évaluer l’équité et la légalité de l’IA.

La transparence des données signifie la documentation complète de toutes les informations utilisées pour la formation et le fonctionnement du système d’IA. Cela comprend, entre autres, l’origine des données, leur qualité, les éventuelles déformations et leur adéquation à l’usage prévu. La transparence des données est particulièrement importante dans le domaine des assurances. 

Si un assureur utilise des données historiques sur les sinistres pour évaluer les risques, il doit être clair de quelles périodes et régions ces données proviennent. Il est tout aussi important de vérifier l’absence de déformations systématiques afin d’éviter des évaluations injustes. Les responsables de la conformité et de la protection des données ainsi que les auditeurs ont particulièrement besoin de ces informations. Ils doivent s’assurer que toutes les données utilisées sont collectées et traitées de manière légale.

La transparence des processus montre à quels endroits les systèmes d’IA sont utilisés et quels mécanismes de contrôle humains sont intégrés – les décisions critiques ne doivent pas être entièrement automatisées. Le règlement des sinistres en est un exemple typique. Un système d’IA peut traiter des sinistres simples de manière entièrement autonome – c’est ce qu’on appelle le traitement en arrière-plan. 
 
 Parallèlement, il faut définir les critères selon lesquels le dossier est transmis à un gestionnaire humain. Les règles d’escalade et le rôle de l’instance de contrôle humaine doivent être documentés de façon transparente. Cette forme de transparence est particulièrement importante pour les gestionnaires de sinistres ou les services de crédit : ils savent ainsi à tout moment quelles demandes le système approuve ou rejette de manière autonome et lesquelles doivent être vérifiées manuellement.

La transparence des résultats est une obligation vis-à-vis des clients. Par exemple, le refus d’un règlement de sinistre ou d’un crédit ne peut être simplement justifié par « le système a refusé ». Au lieu de cela, le demandeur doit recevoir une explication compréhensible des critères pertinents. Les clients doivent être informés à chaque point de contact lorsqu’un système d’IA est utilisé dans le cadre d’un contact avec la clientèle. 

Par exemple, les chatbots doivent s’identifier comme tels et les systèmes de recommandation doivent indiquer clairement que leurs suggestions sont basées sur des algorithmes. Cette obligation d’étiquetage découle déjà de l’EU AI Act. Mais il ne s’agit pas seulement d’un étiquetage automatique. Les collaborateurs du service et de la vente doivent être en mesure d’expliquer les décisions prises par l’IA et de répondre de manière compétente aux questions.

Les quatre dimensions de la transparence de l’IA se complètent mutuellement et, ensemble, elles donnent une image complète des systèmes d’IA. Chaque dimension a ses exigences spécifiques et ses groupes cibles. Le défi pour les entreprises consiste à trouver le bon niveau de transparence pour chaque niveau. 

Un manque de transparence entraîne de la méfiance et des problèmes réglementaires. Mais trop de transparence peut révéler des secrets commerciaux ou submerger les clients avec des détails techniques. L’objectif est d’atteindre une transparence adaptée au groupe cible, qui inspire confiance tout en restant pratique. Les entreprises ont ainsi la possibilité d’utiliser l’IA de manière efficace et responsable. Investir dans la transparence, c’est poser les bases de relations clients durables dans un marché de plus en plus axé sur les données.