In Breve
- Qual è il rischio principale nell'uso di agenti AI per la sicurezza?
- Il rischio principale è che le attestazioni di controllo possano riflettere solo l'apparenza di sicurezza, non la loro reale efficacia.
- Quanto tempo dedicano le organizzazioni alla compliance?
- Le organizzazioni segnalano circa 12 settimane all'anno dedicate a compiti di compliance.
- Qual è l'importanza della supervisione umana nell'uso dell'AI?
- La supervisione umana è critica per operazioni ad alto impatto come modifiche agli accessi e trasferimenti di fondi.
Le organizzazioni stanno sempre più integrando agenti di intelligenza artificiale (AI) per attestare i controlli di sicurezza. Tuttavia, la governance non è riuscita a tenere il passo con questa rapida adozione, generando preoccupazioni riguardo all’efficacia reale di tali attestazioni. Molti team di sicurezza si trovano a gestire attività manuali e episodiche, mentre i rischi concreti evolvono senza un adeguato monitoraggio.
Recenti studi rivelano che oltre la metà dei responsabili della sicurezza nel Regno Unito percepisce le minacce AI come in continua evoluzione, più rapide rispetto alla capacità di risposta dei loro team. Inoltre, l’80% di questi professionisti utilizza o prevede di utilizzare agenti AI nella propria strategia di sicurezza. Tuttavia, il lavoro di compliance rimane prevalentemente manuale, con organizzazioni che dedicano circa 12 settimane all’anno a compiti di compliance e ulteriori 9 settimane a revisioni dei fornitori.
Per colmare questo divario, è fondamentale implementare una governance continua e una visibilità completa sui sistemi AI in uso. Ogni agente deve essere considerato come un attore autonomo, con identità e accessi limitati. Prima del loro utilizzo, è essenziale definire chiaramente quali dati possono essere accessibili e dove è necessaria l’approvazione umana. Operazioni critiche come modifiche agli accessi o trasferimenti di fondi devono essere sempre supervisionate da un operatore umano.
Con l’aumento delle pressioni normative, come il Cyber Security and Resilience Bill, il rischio di trasformare la compliance in un mero “security theatre” è elevato. È quindi cruciale spostare l’attenzione verso pratiche di sicurezza dinamiche e efficaci, rendendo la compliance una conseguenza naturale di queste pratiche. L’intelligenza artificiale rappresenta sia un rischio che un’opportunità: una governance efficace può semplificare il percorso di approvazione e garantire una supervisione umana dove è più necessaria.
