Il potenziale impatto dell'intelligenza artificiale sul settore bancario:un approfondimento sul nuovo modello di Anthropic

Il leggendario rapinatore di banche americano Willie Sutton ha trascorso 40 anni a rapinare banche perché, come affermava nella sua autobiografia, gli piaceva farlo. E quando gli è stato chiesto perché avesse scelto, tra tutti i posti, le banche da derubare, avrebbe risposto "Perché è lì che sono i soldi".

Nel 2017, ho scritto un libro in cui prevedevo che presto non sarebbero stati solo adorabili furfanti come Sutton a derubare le banche, ma anche l’intelligenza artificiale (AI).

Quel giorno, a quanto pare, potrebbe ormai arrivare. Le banche di tutto il mondo temono seriamente che i criminali informatici trarranno presto vantaggio dagli ultimi progressi nel campo dell'intelligenza artificiale per tentare di derubarle.

La porta di servizio digitale nel caveau

La preoccupazione del mondo finanziario si basa sulle impressionanti capacità informatiche di un prodotto chiamato “Mythos”. Questo è l'ultimo e più potente modello di intelligenza artificiale di Anthropic, la società dietro il popolare chatbot Claude.

Come membro del pubblico, non puoi accedere o utilizzare questo modello, per ora. Questo perché Anthropic (e molti altri) credono che Mythos sia troppo capace per lanciarsi in un mondo ignaro.

I test interni di Mythos hanno scoperto migliaia di gravi vulnerabilità della sicurezza in tutti i principali sistemi operativi e browser web.

Alcune di queste vulnerabilità sono rimaste inosservate per decenni. Molte sono quelle che gli addetti ai lavori chiamano vulnerabilità “zero day”:attacchi così pericolosi che gli sviluppatori devono risolverli in zero giorni.

Dario Amodei, amministratore delegato di Anthropic, afferma che il suo nuovo modello è troppo potente per essere rilasciato al pubblico in questa fase. Markus Schreiber/AP

Non per uso pubblico

Per contrastare questa minaccia emergente, Anthropic ha reso il modello disponibile a una dozzina di partner di una coalizione difensiva che comprende Microsoft, Amazon Web Services, Apple, Cisco e Linux Foundation.

L'azienda ha inoltre stanziato 100 milioni di dollari (circa 140 milioni di dollari australiani) in crediti di utilizzo e 4 milioni di dollari (circa 5,6 milioni di dollari australiani) in sovvenzioni open source per iniziare a individuare e correggere questi bug.

Inoltre, hanno ottenuto l’accesso anche più di 40 altre organizzazioni, tra cui diverse banche statunitensi. Ma, cosa preoccupante, per quanto ne sappiamo, Anthropic non ha ancora concesso l'accesso ad alcuna banca in Australia, Regno Unito o Europa.

Per aumentare le preoccupazioni, mercoledì Anthropic ha confermato che stava indagando sulle affermazioni contenute in un rapporto di Bloomberg secondo cui un piccolo gruppo di utenti non autorizzati aveva ottenuto l'accesso a Mythos. Tuttavia, in questa fase, non vi è alcun suggerimento che questo presunto accesso sia avvenuto per scopi dannosi.

Per saperne di più:Claude Mythos e Project Glasswing:perché un superhacker dotato di intelligenza artificiale ha messo in allerta il mondo tecnologico

Dovresti essere preoccupato?

La scorsa settimana, regolatori e politici di tutto il mondo si sono riuniti alla riunione primaverile del Fondo monetario internazionale a Washington. La guerra contro l’Iran è stata al centro dell’attenzione. Ma i partecipanti hanno anche lanciato una serie di avvertimenti su questa minaccia emergente alla sicurezza informatica per il settore bancario.

Non solo le banche sono un obiettivo attraente, essendo dove si trovano i soldi, ma il settore funziona su molti sistemi legacy, tecnologie vecchie di decenni che possono essere particolarmente vulnerabili a questo tipo di attacchi.

Personalmente non devi essere troppo preoccupato. Molti paesi prevedono forti tutele per i clienti bancari. In Australia, ad esempio, i primi 250.000 A$ dei depositi di un cliente sono assicurati attraverso il Financial Claims Scheme sostenuto dal governo.

E la Australian Securities and Investments Commission garantisce che le banche indaghino e rimborsino le transazioni fraudolente in cui il cliente non ha colpa.

Quindi probabilmente non è una saggia idea ritirare i tuoi soldi e metterli sotto il materasso. Ma le banche dovrebbero (e si stanno) affrettando a colmare queste vulnerabilità.

Ti consiglierei di aggiornare regolarmente il tuo computer e smartphone per avere il sistema operativo e le app bancarie più recenti. È probabile che ci saranno molti altri aggiornamenti nel prossimo futuro man mano che nuove vulnerabilità verranno scoperte e risolte.

E, come sicuramente anche tu, devi essere sempre vigile contro gli attacchi di phishing tramite email e SMS che tentano di ottenere le tue credenziali bancarie.

Il presidente della Federal Reserve statunitense Jerome Powell era tra i partecipanti alla riunione primaverile del Fondo monetario internazionale a Washington. Shawn Thew/EPA

Il panorama delle minacce in evoluzione

A lungo termine, Mythos espone la sfida secondo cui la difesa è molto più difficile dell’attacco. Il software è uno dei prodotti più complessi costruiti dall’umanità. È quindi quasi impossibile garantire che sia privo di bug.

Questo ci mette in una corsa senza fine contro i "cattivi" per scoprire e correggere i difetti prima che vengano sfruttati.

Ad esempio, con notevole clamore, l’Unione Europea ha appena rilasciato la sua app per la verifica dell’età, progettata per essere una pietra angolare delle leggi emergenti sull’accesso ai social media, alla pornografia e ad altri contenuti soggetti a limiti di età. Tuttavia, nel giro di poche ore, gli esperti di sicurezza hanno scoperto vulnerabilità informatiche che gli utenti minorenni potevano facilmente sfruttare.

Nelle impostazioni più critiche, possiamo provare a dimostrare matematicamente che il nostro software è privo di bug. Ad esempio, la Beneficial AI Foundation ha appena annunciato un ambizioso progetto "moonshot" per dimostrare che la popolare app di messaggistica Signal è priva di bug e protegge la privacy come affermato.

Ma oggi tali sforzi rappresentano l’eccezione piuttosto che la norma. Forse ulteriori progressi nell'intelligenza artificiale potrebbero presto aiutare a invertire questa tendenza.