Bias dell’intelligenza artificiale nella finanza personale:parità di genere ed equità

L’intelligenza artificiale sta trasformando il nostro mondo e i servizi finanziari non fanno eccezione. L’intelligenza artificiale sta rimodellando il settore bancario personale, ma a che punto si trova attualmente in termini di parità di genere, trasparenza ed equità?

Quando qualcuno richiede un prestito oggi, c'è una crescente possibilità che nessun essere umano legga mai la sua richiesta. Un algoritmo basato sui dati decide se sono idonei, quanto possono prendere in prestito e quanto sono considerati rischiosi, spesso in pochi secondi e senza spiegazioni, modellando silenziosamente le opportunità finanziarie in modi che la maggior parte delle persone non vede ma sente nella vita di tutti i giorni.

Questi sistemi vengono solitamente presentati come strumenti neutrali:più veloci delle persone, più coerenti, meno inclini ai pregiudizi.

In un settore a lungo criticato per l’opacità e i pregiudizi, questa promessa è allettante e spesso trova eco nei dibattiti industriali e politici. Ma quella promessa si basa sul fragile presupposto, raramente reso esplicito, che i dati da cui questi sistemi apprendono riflettano la vita di tutti allo stesso modo.

Un recente rapporto dell’Agenzia dell’UE per i diritti fondamentali, basato sul lavoro sul campo in cinque Stati membri, ha esaminato il modo in cui i sistemi di intelligenza artificiale ad alto rischio sono disciplinati ai sensi della legge sull’intelligenza artificiale dell’UE in settori quali l’occupazione, i benefici pubblici e l’applicazione della legge. È stato riscontrato un notevole divario tra ambizione giuridica e pratica:mentre i rischi di discriminazione sono ampiamente riconosciuti, i fornitori e gli operatori spesso non dispongono degli strumenti, delle competenze e della guida per valutarli sistematicamente. Le autovalutazioni tendono a essere incoerenti e il controllo rimane scarso.

Questa è una questione importante. Quando i dati che alimentano questi sistemi non riescono a catturare la realtà della vita finanziaria delle donne con la stessa profondità e accuratezza di quella degli uomini, il risultato non è solo una carenza tecnica ma una distorsione strutturale, che determina chi ha accesso al credito, a quali condizioni e con quali conseguenze a lungo termine. Affinché la finanza basata sull'intelligenza artificiale sia giusta, le donne devono prima essere "visibili" nei dati su cui si basano questi sistemi.

Gli algoritmi non giudicano l’equità né chiedono se un risultato abbia senso, ma stimano ciò che è più probabile che sia corretto in base ai dati forniti, disegnando modelli e proiettandoli in avanti. Quando i dati sono incompleti o distorti, le conclusioni del sistema si basano fin dall’inizio su presupposti instabili.

Se le donne sono sottorappresentate, scarsamente misurate o mai analizzate separatamente dagli uomini, il sistema non può vedere risultati diseguali e ciò che non può vedere non può correggere. I pregiudizi vengono semplicemente portati avanti e resi routine.

Questa dinamica è facile da perdere quando le discussioni rimangono al livello dei modelli e della regolamentazione, ma i suoi effetti diventano chiari non appena si osservano nella pratica i sistemi automatizzati. In diversi paesi, le prove dimostrano quanto velocemente la disuguaglianza possa essere incorporata nelle decisioni algoritmiche, non perché i sistemi siano progettati per discriminare, ma perché riproducono fedelmente le distorsioni già presenti nei dati da cui apprendono.

Il Kenya offre un esempio significativo. Secondo alcuni studi pubblicati, un algoritmo di prestito digitale ampiamente utilizzato offriva costantemente alle donne prestiti inferiori rispetto agli uomini, in alcuni casi di oltre un terzo, nonostante una migliore performance di rimborso. Il sistema non ha individuato deliberatamente le donne:ha semplicemente imparato dai dati modellati da disparità sociali ed economiche di lunga data, per poi applicare tali modelli su larga scala.

Ciò che conta in questo esempio non è il Kenya in sé, ma ciò che il caso rende visibile. L’algoritmo ha fatto esattamente ciò per cui era stato progettato, imparando dai comportamenti passati e applicando tali modelli in modo coerente, ma senza la capacità di distinguere tra i risultati delle donne e quelli degli uomini, non c’era modo di rilevare che la disuguaglianza si stesse riproducendo in tempo reale. Il problema non era l'automazione, ma la cecità.

Come può la finanza superare il punto cieco di genere?

È qui che i dati disaggregati per sesso diventano essenziali. Ordinando i dati finanziari per genere, i regolatori, le istituzioni finanziarie e i progettisti tecnologici possono scoprire gli impatti dei sistemi automatizzati, identificare chi ha accesso ai finanziamenti e individuare le aree in cui i risultati iniziano a divergere. Senza tale visibilità, i divari di genere rimangono nascosti e tendono a diventare permanenti. Nella finanza digitale, i dati sono "i migliori amici di una ragazza", non come uno slogan, ma come una condizione pratica per la responsabilità.

La maggior parte degli istituti finanziari registra già il sesso del cliente come parte dell’identificazione di base. Sulla carta, le informazioni sono lì, integrate nei report di routine e nei registri di base dei clienti. In pratica, tuttavia, registrare una variabile non equivale ad utilizzarla. In molti paesi, il sesso del cliente appare nei database ma non viene mai analizzato, segnalato o monitorato dalle autorità di vigilanza, anche nei quadri di vigilanza fondamentali come la segnalazione prudenziale. Troppo spesso i dati esistono già, ma vengono raccolti, archiviati e poi silenziosamente ignorati. Il problema non è cosa si può fare, ma cosa si fa.

Finanza più equa:i paesi in via di sviluppo sono all'avanguardia

Il quadro appare molto diverso nei paesi spesso ritenuti dotati di minori risorse. In alcune parti dell’America Latina e dell’Africa, le autorità di regolamentazione richiedono da anni rapporti disaggregati per sesso e pubblicano regolarmente dati sui divari di genere nella finanza.

In Cile, le autorità finanziarie hanno monitorato le differenze di genere nei prestiti e nei depositi per più di due decenni, pubblicando regolarmente statistiche finanziarie disaggregate per sesso.

In Messico, le autorità di regolamentazione combinano i dati bancari con le indagini nazionali sulle famiglie per capire come donne e uomini utilizzano i servizi finanziari e come si comportano come mutuatari.

Quella visibilità ha avuto conseguenze pratiche. In Messico, i dati di vigilanza hanno mostrato che i prestiti alle donne erano più piccoli ma meno rischiosi, prova che ha alimentato cambiamenti nelle regole di accantonamento per perdite su prestiti.

In Cile, i dati hanno rivelato che la parità di accesso ai conti non si è tradotta in risultati uguali in termini di risparmio o assicurazione, stimolando risposte politiche più mirate. Una volta che queste lacune sono diventate visibili, è diventato molto più difficile ignorarle.

Vista da questa prospettiva, la situazione in molte economie ad alto reddito sembra meno un ritardo tecnico e più un’esitazione istituzionale. In gran parte dell’Europa, i dati di genere rimangono volontari o frammentati nonostante le infrastrutture di dati avanzate, un fallimento non di capacità tecnica ma di scelta istituzionale. Il mio prossimo documento programmatico "I dati sono i migliori amici di una ragazza:affrontare la disuguaglianza finanziaria digitale attraverso i dati disaggregati per sesso", che sarà pubblicato a maggio, esplora questo aspetto.

Man mano che l’intelligenza artificiale diventa sempre più profondamente radicata nel processo decisionale finanziario, tale scelta diventa più difficile da difendere. In un momento in cui l'Europa sta implementando l'EU AI Act e discutendo su come regolare il processo decisionale algoritmico in finanza, l'assenza di dati sistematici di genere solleva una domanda fondamentale:come si può monitorare l'equità se i dati necessari per rilevare la disuguaglianza non vengono mai analizzati?

Rendere le donne visibili nei dati non è simbolico. Senza di essa, la finanza equa è poco più che una rivendicazione.

Un'e-mail settimanale in inglese con le competenze di studiosi e ricercatori. Fornisce un'introduzione alla diversità della ricerca proveniente dal continente e considera alcune delle questioni chiave che i paesi europei devono affrontare. Ricevi la newsletter!