AI Act e il settore finanziario: regole, sfide e opportunità per un’innovazione responsabile

Intervista a: 

Gloria Massera, Head of ICT & Security Risk, Banco BPM 

Ha recentemente scritto un articolo per la rivista AIFIn. L’AI Act rappresenta un cambiamento normativo significativo per il settore finanziario. Quali sono gli elementi chiave e le principali implicazioni per le banche?
L’AI Act è il primo quadro normativo europeo volto a regolamentare l’utilizzo dell’intelligenza artificiale, con l’obiettivo di bilanciare innovazione e tutela dei diritti fondamentali. Il regolamento classifica i sistemi di AI in quattro livelli di rischio: minimo, limitato, alto e inaccettabile.

Per il settore finanziario, si possono individuare finalità di impiego dell’AI che rientrano nella categoria ad alto rischio, come i modelli di scoring del credito e le soluzioni per la valutazione dei premi in ambito assicurativo. Questi sistemi saranno soggetti a obblighi stringenti, tra cui la documentazione tecnica dettagliata, la trasparenza delle decisioni algoritmiche e la garanzia che i dati utilizzati siano rappresentativi e privi di bias.

Per le banche, questo significa rafforzare la governance dei dati e dei modelli AI, assicurando che le soluzioni adottate siano conformi ai nuovi requisiti normativi. Inoltre, l’AI Act introduce nuove figure professionali e competenze, tra cui esperti in compliance AI e specialisti in etica dei dati, rendendo essenziale un percorso di formazione continua per il personale. L’adeguamento normativo non è solo una sfida, ma anche un’opportunità per migliorare la qualità e la sicurezza delle applicazioni AI nel settore bancario​.

Un tema centrale dell’AI Act è la gestione del rischio legato all’intelligenza artificiale. Quali sono le principali sfide che le istituzioni finanziarie devono affrontare?
La classificazione e la gestione del rischio AI rappresentano il tema centrale del regolamento, in quanto le tecnologie avanzate come machine learning, deep learning e la Generative AI possono introdurre bias algoritmici, opacità nelle decisioni e i sistemi informatici su cui si sorreggono possono presentare vulnerabilità informatiche. L’AI Act impone alle istituzioni finanziarie di implementare sistemi di controllo rigorosi, tra cui meccanismi di monitoraggio continuo dei modelli e procedure di auditing specifiche per le applicazioni AI.

Un’altra sfida riguarda la qualità dei dati: gli algoritmi di intelligenza artificiale si basano su enormi quantità di informazioni, ma è fondamentale garantire che queste siano accurate, aggiornate e prive di distorsioni che potrebbero portare a discriminazioni nei processi decisionali, ad esempio nelle valutazioni di credito.

Inoltre, il regolamento enfatizza la trasparenza e l’accountability: gli utenti finali devono essere informati quando interagiscono con sistemi AI e avere la possibilità di contestare decisioni automatizzate. Questo rappresenta una sfida per le banche, che devono bilanciare innovazione ed efficienza con una maggiore spiegabilità dei modelli AI, garantendo che le loro decisioni siano comprensibili e verificabili​.

Banco BPM ha avviato iniziative per garantire un’adozione responsabile dell’AI. Quali sono i progetti più rilevanti e i benefici ottenuti?
Banco BPM ha sviluppato un approccio strutturato per integrare l’intelligenza artificiale in modo responsabile, allineandosi ai principi dell’AI Act. Uno dei progetti più significativi riguarda la creazione di un framework di governance AI, che consente di valutare e monitorare il livello di rischio associato a ciascun sistema AI implementato in azienda.

Parallelamente, la banca ha avviato iniziative per potenziare il controllo della qualità dei dati. In particolare, sono stati introdotti strumenti per la validazione nel continuo dei modelli AI, che permettono di individuare eventuali anomalie o deviazioni dai parametri di sicurezza.

Un altro aspetto chiave riguarda la formazione e lo sviluppo di competenze AI all’interno dell’organizzazione. Banco BPM sta investendo in programmi di training per le proprie risorse, con l’obiettivo di costruire un team multidisciplinare in grado di gestire le sfide poste dall’adozione dell’intelligenza artificiale nel settore finanziario. L’obiettivo è non solo garantire la compliance normativa, ma anche trasformare l’AI in un vantaggio competitivo, migliorando l’efficienza operativa e la capacità di gestione del rischio​.