Ora, più che mai, è fondamentale garantire la trasparenza: cosa comporta l'EU AI Act per un utilizzo responsabile dell'IA nel settore bancario e assicurativo?

L'approccio basato sul rischio dell'EU AI Act pone nuovi requisiti per il settore finanziario e assicurativo. Un concetto fondamentale in questo contesto è la trasparenza. L'AI Act obbliga i fornitori e gli operatori di sistemi di IA a divulgare in modo comprensibile le informazioni relative al trattamento dei dati. Tra le altre cose, gli utenti devono essere consapevoli di interagire con un sistema di IA e devono ricevere informazioni sulla logica decisionale utilizzata. L'obiettivo è instaurare un rapporto di fiducia con clienti e partner attraverso decisioni trasparenti.

L'EU AI Act prevede diversi obblighi di trasparenza e divide i sistemi di IA in diverse classi di rischio: applicazioni vietate, applicazioni ad alto rischio e applicazioni a rischio limitato o minimo. In particolare, i sistemi ad alto rischio, come quelli impiegati per la verifica della solvibilità o il rilevamento delle frodi, sono sottoposti a obblighi di trasparenza, documentazione e controllo molto rigidi. Il sistema deve quindi disporre di una documentazione tecnica precisa, completa e chiaramente comprensibile, registrare tutte le funzioni e prevedere la possibilità di un controllo umano.

Per banche e assicurazioni, ciò significa che le loro applicazioni di IA non vengono valutate solo in base alla loro utilità tecnologica: ora entrano in gioco anche fattori quali la spiegabilità, l'equità e l'impatto sui clienti e sulla società. La trasparenza è un concetto complesso. A livello tecnologico, il termine assume significati diversi con requisiti specifici. È opportuno distinguere tra trasparenza del modello, dei dati, del processo e dei risultati.

La trasparenza dei modelli riguarda il modo in cui un sistema di IA arriva a prendere le proprie decisioni. Essa rende visibili i parametri e le variabili presi in considerazione dall'IA nella sua valutazione e il modo in cui questi vengono ponderati. Questa forma di trasparenza è importante, tra l'altro, per la concessione di crediti. I modelli di valutazione del merito creditizio prendono in considerazione il reddito, la durata dell'occupazione, i crediti esistenti e la storia dei pagamenti.

La trasparenza del modello mostra come si ottiene tale valutazione e con quale peso ogni fattore influisce su di essa. Queste informazioni, piuttosto tecniche, sono importanti per i team IT e di data science, che possono così ottimizzare e mantenere i modelli o individuare possibili distorsioni. Le autorità di vigilanza, come la FINMA in Svizzera o la BaFin in Germania, richiedono queste informazioni per poter valutare l'equità e la legittimità dell'IA.

Trasparenza dei dati significa una documentazione completa di tutte le informazioni impiegate per l'addestramento e il funzionamento del sistema di IA. Ciò include, tra le altre cose, l'origine, la qualità e l'idoneità allo scopo previsto dei dati, nonché eventuali distorsioni. La trasparenza dei dati è particolarmente importante nel settore assicurativo.

Se un assicuratore utilizza i dati storici sui sinistri per valutare il rischio, è necessario che sia chiaro da quali periodi e regioni provengono tali dati. È altrettanto importante verificare le distorsioni sistematiche per evitare valutazioni errate. Queste informazioni sono essenziali soprattutto per i responsabili della conformità e della protezione dei dati, nonché per i revisori. Devono garantire che tutti i dati utilizzati siano raccolti e trattati secondo i requisiti di legge.

La trasparenza dei processi mostra dove vengono utilizzati i sistemi di IA e quali meccanismi di controllo umano sono in essi integrati: non è bene che le decisioni importanti siano completamente automatizzate. Un esempio tipico è la liquidazione dei sinistri. Un sistema di IA può gestire in modo completamente autonomo i casi di sinistro semplici con il cosiddetto dark processing.

Allo stesso tempo, è necessario definire i criteri in base ai quali il caso viene inoltrato a un addetto umano. Le regole di escalation e il ruolo dell'autorità di controllo umana devono essere documentati in modo trasparente. Questa forma di trasparenza è particolarmente importante per i reparti che si occupano della gestione dei sinistri o dei crediti: in questo modo, sanno in ogni momento quali richieste vengono approvate o respinte autonomamente dal sistema e quali devono essere verificate manualmente.

La trasparenza dei risultati è un obbligo nei confronti dei clienti. Ad esempio, il rifiuto di liquidare un sinistro o di concedere un credito non può essere motivato semplicemente con la frase "il sistema ha rifiutato". Il richiedente deve poter invece ricevere una spiegazione comprensibile dei criteri rilevanti. I clienti devono poter essere informati in ogni punto di contatto quando viene utilizzato un sistema di IA nella loro interazione con l'azienda.

Ad esempio, i chatbot devono identificarsi come tali e i sistemi di raccomandazione devono chiarire che i loro suggerimenti si basano su algoritmi. Questo obbligo di identificazione deriva già dall'EU AI Act. Tuttavia, non si tratta solo di identificazione automatica. Il personale addetto all'assistenza e alle vendite deve essere in grado di spiegare le decisioni dell'IA e di rispondere con competenza alle domande dei clienti.

Le quattro dimensioni della trasparenza dell'IA si integrano a vicenda e insieme forniscono un quadro completo dei sistemi di IA. Ogni dimensione presenta requisiti specifici e gruppi target differenti. La sfida per le aziende consiste nel trovare il giusto grado di trasparenza per ogni livello.

Una trasparenza inadeguata può portare a sfiducia e problemi normativi. Tuttavia, un'eccessiva trasparenza può rivelare segreti commerciali o sovraccaricare i clienti con troppi dettagli tecnici. L'obiettivo è una trasparenza adeguata al gruppo target, che crei fiducia e, al contempo, sia praticabile. Ciò offre alle aziende l'opportunità di utilizzare l'intelligenza artificiale in modo efficiente e responsabile. Investire nella trasparenza significa gettare le basi per relazioni durature con i clienti in un mercato sempre più basato sui dati.