Nell’era dell’AI la tecnologia conta ma non basta. E la fiducia non può essere data per scontata

Questa è la nuova puntata della rubrica mensile Insights - Il punto di Pierangelo Soldavini, un'analisi a firma del noto giornalista italiano esperto di economia e innovazione. Qui puoi leggere le precedenti puntate.

***

Lo strapotere di Stati Uniti e Cina sulla frontiera dell’intelligenza artificiale rischia di trasformare l’Europa in un vaso di coccio, non solo dal punto di vista tecnologico ma anche sotto il profilo industriale. Ancora per poco in veste di presidente della Bce, Christin Lagarde ha lanciato un allarme che non può essere preso con leggerezza: l’AI rappresenta una grande opportunità per la finanza, ma può trasformarsi anche in un nuovo fattore di rischio sistemico, condizionato anche dalle crescenti tensioni geopolitiche che coinvolgono sempre più direttamente il Vecchio Continente, dai supermercati alle linee aeree con allarmi continui (qui la ripresa del Sole24Ore). Ma Lagarde si concentra sulle criticità dei servizi finanziari. Sono tre le linee di frattura da cui nascono criticità ad alto rischio: l’uso crescente nei modelli di trading e nell’asset management, la vulnerabilità cibernetica di sistemi sempre più autonomi, come emerso anche nelle ultime settimane, e la dipendenza geopolitica da tecnologie sviluppate altrove. Si tratta di una lettura che, per quanto riguarda il settore finanziario nello specifico, sposta il discorso fuori dalla consueta retorica sull’innovazione e lo riporta su un punto sensibile, la stabilità. 

Il primo terreno di tensione è quello dei mercati. Man mano che i modelli diventano più autonomi e vengono adottati da una pluralità di operatori cresce il rischio che reagiscano agli stessi segnali nello stesso modo, comprimendo la diversità di giudizio e amplificando comportamenti pro-ciclici. Il punto non è solo l’automazione del trading, ma la possibilità che sistemi addestrati su dati simili e orientati a obiettivi allineati finiscano per accentuare le turbolenze invece di assorbirle. Lagarde ha richiamato proprio questo nodo: quando l’AI entra nei meccanismi di allocazione del capitale, il rischio non riguarda solo la performance dei singoli operatori, ma la robustezza del mercato nel suo insieme. Il ragionamento diventa ancora più stringente sul versante della cybersicurezza. Non tanto, o non solo, per le intrusioni subite dalle organizzazioni – anche il settore retail, come successo recentemente -, quanto perché l’AI sta cambiando il perimetro stesso di ciò che intendiamo per sicurezza. Il problema non è più soltanto difendere reti, endpoint o identità digitali da attacchi esterni, ma difendere processi decisionali, relazioni di fiducia, catene di autorizzazione e perfino percezioni personali. 

L’AI consente oggi di ridurre drasticamente il tempo tra scoperta di una vulnerabilità e sfruttamento operativo, ma consente anche qualcosa di ancor più destabilizzante: rendere scalabile e credibile la sostituzione di persona, come si è verificato in alcuni casi clamorosi. Deepfake vocali, messaggi costruiti con tono, lessico e contesto realistici, agenti capaci di interagire con sistemi e persone, prompt injection e uso improprio degli strumenti collegati ai modelli stanno allargando il campo. Negli ultimi mesi lo si è visto anche nel mondo dei laboratori AI: il caso dell'incidente che ha coinvolto agenti usati in test su Hugging Face, poi ricostruito da OpenAI, e le segnalazioni di Anthropic sull'uso autonomo di agenti in operazioni cyber mostrano che il problema non è solo teorico. L'autonomia delle macchine, anche quando nasce in ambienti sperimentali, può tradursi in comportamenti offensivi caratterizzati da velocità e scala nuove.

Per le banche è una rivoluzione a livello strategico. Perché la sicurezza, da sola, non può più essere pensata come una barriera tecnica. Deve diventare una disciplina che protegge anche l’autenticità delle istruzioni, la coerenza delle richieste, la legittimità dei flussi operativi. In un mondo in cui una voce può essere clonata, un dirigente imitato, un interlocutore falsificato con un grado di verosimiglianza molto alto, il cuore della difesa non può essere limitato al solo bloccare l’accesso non autorizzato, ma impedire che il sistema obbedisca all’inganno. La minaccia più seria non è più semplicemente il malware più sofisticato, ma la possibilità che un’organizzazione compia da sola l’azione sbagliata perché qualcuno – o qualcosa – ha saputo guadagnarsi una fiducia indebita. Diventa questo il punto decisivo per l’ecosistema bancario: la necessità di costruire una fiducia verificabile. Non basta più fidarsi del canale, dell’identità apparente, della familiarità di un numero o di una voce. La fiducia, in un contesto dominato dall’AI, deve essere continuamente confermata da procedure, ridondanze, verifiche fuori banda, segregazione delle responsabilità, limiti alle eccezioni, capacità di fermare un processo anche quando tutto sembra plausibile. Il vecchio perimetro cyber era fatto di firewall, credenziali e monitoraggio. Il nuovo perimetro comprende le persone, i modelli, i fornitori, gli agenti automatici, i workflow e le interfacce tra uomo e macchina.

Questo significa che per le banche non basta aggiungere nuovi strumenti di difesa. Deve cambiare la governance. Serve una regia più sofisticata, capace di tenere insieme tecnologia, rischio operativo, continuità, compliance, fornitori e top management: il punto non è semplicemente reagire a un attacco in più, ma governare una trasformazione in cui i confini tra frode, errore, automazione e manipolazione diventano più sfumati. Se l’AI rafforza le potenzialità degli attaccanti, accelera allo stesso tempo anche il rischio di prendere decisioni sbagliate dentro processi apparentemente regolari. Per questo l’allarme di Lagarde non va interpretato come una richiesta di maturità. La vera domanda non è se l’AI porterà altri attacchi: è quasi certo che lo farà. La vera domanda è se il sistema finanziario saprà riprogettare in tempo i propri meccanismi di fiducia. In questo passaggio, il rischio non è solo tecnico: è reputazionale e sistemico. Una banca che non riesce più a dimostrare che le sue decisioni, le sue istruzioni e le sue autenticazioni sono affidabili perde qualcosa di più di un presidio cyber: perde credibilità. È su questo terreno che l’ecosistema bancario è messo alla prova. La cybersicurezza non coincide più con la sola difesa dell’infrastruttura. Diventa difesa della capacità di verificare il vero in un ambiente dove il falso è sempre più convincente, veloce e automatizzabile. In questa transizione la tecnologia conta, ma non basta. Servono cooperazione, regole, cultura del dubbio, processi più robusti e una governance che accetti una verità scomoda: nell'era dell’AI, la fiducia non può più essere presunta. Deve essere progettata, provata e continuamente verificata.