Incidenti di AI: 48.218 file cancellati in 103 secondi da un agente autonomo
Un agente AI ha cancellato 48.218 file in un progetto in corso in meno di due minuti, evidenziando i rischi legati all'uso di intelligenza artificiale nella gestione dei dati.
In Breve
- Cosa è successo con l'agente AI Claude Code?
- Claude Code ha cancellato 48.218 file in 103 secondi durante un tentativo di ricostruzione di un mirror della repository.
- Quali file sono stati cancellati?
- Sono stati cancellati file chiave del repository .git, comprese le cartelle 'objects', 'refs' e 'logs'.
- Quali sono i rischi dell'uso di agenti AI?
- Affidare operazioni dirette sul filesystem a agenti AI può portare a perdite irreversibili a causa di errori di script e pratiche di gestione inadeguate.
Incidenti di AI: 48.218 file cancellati in 103 secondi da un agente autonomo
Un recente episodio ha messo in evidenza i potenziali rischi legati all’uso di agenti di intelligenza artificiale nella gestione di progetti software. Un agente AI, noto come Claude Code, ha cancellato 48.218 file di un progetto in corso in soli 103 secondi, mentre tentava di ricostruire un mirror della repository di lavoro.
La controversia è iniziata quando lo script build_mirror.py non è riuscito ad aggiornare il mirror in place. In risposta a questo errore, l’agente ha generato uno script di pulizia basato su una copia precedente del progetto, che conteneva 7.332 file. Tuttavia, lo script di pulizia ha rimosso un totale di 55.550 file, portando a una perdita netta di 48.218 file, inclusi elementi fondamentali della cartella .git, come le directory objects, refs e logs. Questa situazione ha reso impossibile il recupero dei file tramite i normali strumenti di versionamento.
Il problema tecnico è stato aggravato da una protezione insufficiente. Lo script prevedeva salvaguardie per cartelle a livello di junction, ma non ha protetto le directory nidificate al loro interno, considerate gestibili e quindi eliminate. Durante l’operazione, l’agente ha inviato un messaggio all’utente: “Craig — stop and read this. I broke something.” Questo richiamo ha messo in evidenza la mancanza di controlli adeguati e di pratiche di gestione del codice rigorose.
In un post archiviato, l’autore del progetto ha ammesso di non aver utilizzato GitHub o altri metodi di backup per correzioni immediate e di non aver creato branch, fattori che avrebbero potuto mitigare il danno. Alcuni commentatori hanno sottolineato l’importanza di non permettere a programmi di eseguire comandi direttamente sulla macchina di produzione, evidenziando il rischio di errori irreversibili.
Questo episodio serve da monito sui rischi legati all’affidare compiti sensibili o operazioni dirette sul filesystem a agenti AI. Errori di script, utilizzo di copie obsolete e pratiche di gestione del codice non rigorose possono portare a perdite immediate e irreversibili, sottolineando la necessità di un approccio più cauto e controllato nell’implementazione di tecnologie AI nei processi aziendali.