In Breve
- Qual è l'impatto dell'AI sulle frodi finanziarie?
- L'AI consente ai criminali di diventare più veloci e sofisticati, creando identità sintetiche e utilizzando deepfake.
- Come possono le istituzioni difendersi dalle frodi?
- Le istituzioni devono adottare strategie di rilevazione proattive e investire in tecnologie avanzate.
- Quali sono le sfide nella prevenzione delle frodi?
- Le frodi si presentano con caratteristiche di legittimità, rendendo difficile la loro rilevazione.
Nel Regno Unito, le perdite causate da frodi finanziarie hanno raggiunto la cifra record di 1,3 miliardi di sterline, evidenziando un fenomeno in costante crescita. Uno dei principali fattori che contribuiscono a questa escalation è l’adozione sempre più diffusa di tecnologie avanzate, in particolare l’intelligenza artificiale (AI), che si è rivelata un’arma efficace nelle mani di reti criminali.
I gruppi di frode stanno diventando sempre più veloci e sofisticati. Tecnologie come la generative AI permettono di industrializzare l’ingegneria sociale, creando identità sintetiche capaci di superare i controlli KYC (Know Your Customer) e costruendo storie creditizie credibili, rimanendo operative per mesi prima di eseguire la frode. L’uso di deepfake, ad esempio, consente di generare voci e video così realistici da indurre le vittime a autorizzare transazioni o a fornire credenziali sensibili.
Queste tecniche colpiscono il livello di fiducia, il punto in cui un sistema o un operatore umano decide che un’operazione è legittima. Le tecnologie attuali non vengono principalmente ostacolate dai sistemi bancari, ma attaccano direttamente i clienti, manipolandoli attraverso chiamate convincenti e impersonificazioni realistiche, erodendo così lo scetticismo protettivo.
Di conseguenza, gli attacchi ai sistemi bancari si presentano con caratteri tecnici di legittimità, rendendo più difficile la loro rilevazione. Inoltre, l’uso dell’AI potrebbe evolversi verso attacchi diretti contro le infrastrutture delle istituzioni, con i criminali che mappano i controlli e si mantengono al di fuori dei confini di rilevamento.
Le squadre di prevenzione frodi nelle istituzioni finanziarie sono spesso organizzate attorno alla gestione degli incidenti, focalizzandosi su rilevazione e risposta. Tuttavia, approcci più efficaci considerano la rilevazione come una funzione di ricerca, alla ricerca di spostamenti comportamentali che possano indicare test o sondaggio degli asset. È necessario personale con competenze approfondite sui principi sottostanti, come il ragionamento statistico e l’analisi dei feedback.
Non tutte le organizzazioni dispongono di queste competenze, e sebbene l’assunzione di nuovi talenti possa sembrare una soluzione, l’avanzamento degli strumenti AI offre soluzioni facilmente integrabili nelle infrastrutture esistenti. Investire in fornitori esterni che rendano questi strumenti accessibili e spiegabili è una strada promettente.
Tuttavia, l’implementazione di nuove tecnologie deve essere progettata per non alimentare ulteriori rischi. Ogni modello ha ipotesi incorporate che possono essere sondabili da attori avversari, pertanto i sistemi devono essere trattati come superfici di attacco fin dalla progettazione, sottoponendoli a test interni prima della produzione. Le difese basate su AI devono operare in millisecondi per individuare il rischio senza compromettere l’esperienza del cliente, valutando ogni transazione in tempo reale attraverso centinaia di segnali comparati con pattern storici per identificare anomalie.
