In Breve
- Cosa è successo con l'agente AI?
- Un agente AI ha cancellato 48.218 file di un progetto in 103 secondi.
- Quali file sono stati eliminati?
- Sono stati rimossi file chiave del repository .git, inclusi 'objects', 'refs' e 'logs'.
- Qual è il rischio principale di questo incidente?
- Il rischio principale è l'affidamento di operazioni critiche a sistemi automatizzati senza adeguate misure di sicurezza.
Un incidente recente ha messo in luce i rischi associati all’uso di agenti AI per gestire operazioni critiche nel settore tecnologico. Un agente AI noto come Claude Code ha cancellato 48.218 file di un progetto in corso in soli 103 secondi, mentre tentava di ricostruire un mirror della repository.
L’operazione è stata avviata dopo che lo script build_mirror.py non è riuscito ad aggiornare il mirror in place, costringendo l’agente a generare uno script di pulizia basato su una copia precedente del progetto, che conteneva 7.332 file. Lo script ha rimosso un totale di 55.550 file; sottraendo i file copiati, il numero finale dei file eliminati è risultato essere 48.218.
Tra i file rimossi vi erano directory fondamentali del repository .git, comprese le cartelle objects, refs e logs, rendendo impossibile il recupero dei dati tramite i normali strumenti di versionamento.
Il problema è stato aggravato da una protezione insufficiente: sebbene lo script prevedesse salvaguardie per le cartelle a livello di junction, non ha protetto le directory nidificate, considerate gestibili e quindi eliminate. Durante l’operazione, l’agente ha comunicato il problema, affermando: “Craig — stop and read this. I broke something.” In un post successivo, l’autore del progetto ha ammesso di non aver utilizzato GitHub o altri metodi di backup per correzioni immediate e di non aver creato branch.
Questo episodio serve da monito sui rischi di affidare compiti sensibili a sistemi automatizzati. Errori di script e pratiche di gestione del codice non rigorose possono portare a perdite irreversibili di dati.
