L’intelligenza artificiale nei prestiti:mitigare i pregiudizi e garantire un accesso equo al credito

L’intelligenza artificiale (AI) ha rivoluzionato molti campi negli ultimi anni, compreso quello bancario. Ci sono stati aspetti sia positivi che negativi della sua attuazione, in particolare la questione della discriminazione algoritmica nei prestiti.

In Canada e più in generale in tutto il mondo, l'implementazione dell'intelligenza artificiale all'interno delle principali banche ha portato a un aumento della produttività offrendo allo stesso tempo una maggiore personalizzazione dei servizi.

Secondo l’IEEE Global Survey, si prevede che l’adozione di soluzioni basate sull’intelligenza artificiale raddoppierà a livello globale entro il 2025, raggiungendo l’80% degli istituti finanziari.

Alcune banche sono più avanzate, come BMO Financial Group, che ha creato posizioni specifiche per supervisionare l’integrazione dell’intelligenza artificiale nei suoi servizi digitali per rimanere competitiva. Di conseguenza, grazie all'intelligenza artificiale, i profitti del settore bancario globale potrebbero superare i 2 trilioni di dollari entro il 2028, con una crescita di quasi il 9% tra il 2024 e il 2028.

In qualità di professore presso l'Università Laval di gestione della conoscenza e dell'innovazione e comunicatore scientifico, sono stato assistito nella stesura di questa analisi da Kandet Oumar Bah, autore di un progetto di ricerca sulla discriminazione algoritmica, e Aziza Halilem, esperta di governance e rischio informatico presso l'Autorità francese di vigilanza e risoluzione prudenziale.

In che modo l'intelligenza artificiale migliora le prestazioni delle banche?

L’integrazione dell’intelligenza artificiale nel settore bancario ha già ottimizzato in modo significativo i processi finanziari, con un aumento dell’efficienza operativa dal 25 al 40%. In combinazione con le crescenti capacità dei big data, ad esempio la massiccia raccolta di dati, l'intelligenza artificiale offre analisi potenti che possono già ridurre i margini di errore dei sistemi finanziari del 18-30%.

Permette inoltre di monitorare milioni di transazioni in tempo reale, rilevare comportamenti sospetti e persino bloccare preventivamente alcune transazioni fraudolente. Questo è uno degli usi implementati da J.P. Morgan.

Inoltre, piattaforme come FICO, specializzate nell'analisi decisionale basata sull'intelligenza artificiale, aiutano gli istituti finanziari a sfruttare una varietà di dati dei clienti, perfezionando le loro decisioni di credito attraverso modelli predittivi avanzati.

Diverse banche in tutto il mondo si affidano ora ad algoritmi di rating automatizzati in grado di analizzare numerosi parametri, tra cui reddito, storia creditizia e rapporto debito/PIL, in pochi secondi. Nel mercato del credito, questi strumenti migliorano significativamente il trattamento delle richieste, in particolare per i casi "standard", come quelli con garanzie di prestito esplicite.

Ma che dire degli altri casi?

Formalizzare l'ingiustizia?

Come sottolineano i ricercatori americani Tambari Nuka e Amos Ogunola, l’illusione che gli algoritmi producano previsioni giuste e oggettive rappresenta un grave rischio per il settore bancario.

Analizzando la letteratura scientifica, mettono in guardia contro la tentazione di delegare ciecamente la valutazione del comportamento umano complesso a sistemi automatizzati. Anche diverse banche centrali, tra cui quella canadese, hanno espresso forti riserve al riguardo, mettendo in guardia sui rischi operativi associati a un eccessivo affidamento sull'intelligenza artificiale, in particolare nella valutazione dell'affidabilità creditizia e della solvibilità.

Sebbene gli algoritmi siano tecnicamente neutrali, possono amplificare le disuguaglianze esistenti quando i dati di addestramento sono contaminati da pregiudizi storici, in particolare quelli ereditati dalla discriminazione sistemica contro determinati gruppi. Questi pregiudizi non derivano solo da variabili esplicite come il genere o l'origine etnica, ma anche da correlazioni indirette con fattori come il luogo di residenza o il tipo di lavoro.

Gli studi dimostrano che l’intelligenza artificiale potrebbe contribuire a riprodurre le disuguaglianze. (Fotografia)

Ad esempio, i sistemi di rating possono assegnare limiti di credito inferiori alle donne, anche in situazioni in cui sono finanziariamente equivalenti agli uomini. L'analisi di variabili come i codici postali e la storia lavorativa può anche portare all'esclusione di membri di gruppi emarginati, come individui razzializzati, lavoratori con redditi irregolari e immigrati recenti.

Virginia Eubanks, docente negli Stati Uniti ed esperta di giustizia sociale, illustra bene questo fenomeno, mostrando come le persone che vivono in quartieri storicamente svantaggiati o con percorsi di carriera atipici siano penalizzate da decisioni finanziarie automatizzate basate su dati distorti.

Ciò solleva una domanda cruciale:come possiamo garantire che l'automazione delle decisioni finanziarie contribuisca a ridurre le disparità nell'accesso ai servizi bancari?

Mitigare gli errori attraverso la finanza inclusiva

Nella letteratura scientifica si stanno esplorando diverse strade in risposta a questi rischi di discriminazione. Nuka e Ogunola, ad esempio, suggeriscono un approccio di inclusione finanziaria. Ciò comporta il miglioramento continuo dei modelli statistici identificando e correggendo i pregiudizi nei dati di addestramento al fine di ridurre le disparità di trattamento tra i gruppi sociali.

Oltre alle soluzioni tecniche, sono stati recentemente messi in atto quadri normativi per garantire la trasparenza e l’equità degli algoritmi in settori sensibili come quello finanziario. L’Artificial Intelligence and Data Act canadese e l’Artificial Intelligence Act europeo dell’UE ne sono esempi. Quest'ultima, adottata nel 2024 e implementata gradualmente, impone requisiti rigorosi ai sistemi di IA ad alto rischio, come quelli utilizzati per la concessione di credito.

L’articolo 13 stabilisce i requisiti di trasparenza per garantire che i sistemi siano verificabili e che le loro decisioni possano essere comprese da tutte le parti interessate. L’obiettivo è prevenire la discriminazione algoritmica e garantire un uso etico ed equo. Anche le autorità di regolamentazione finanziaria hanno un ruolo cruciale da svolgere nel garantire il rispetto delle regole di concorrenza leale e garantire pratiche prudenti e trasparenti nell'interesse della stabilità finanziaria e della protezione dei clienti.

Tuttavia, la pressione esercitata da alcune lobby tecnologiche e finanziarie per rallentare l'adozione di standard rigorosi comporta un rischio significativo:la mancanza di regolamentazione in alcuni paesi e le difficoltà di applicazione in altri potrebbero incoraggiare l'opacità, a scapito dei cittadini più vulnerabili.