In Breve
- Chi ha scoperto le vulnerabilità nei sistemi OpenAI?
- Tre ricercatori di Hacktron AI.
- Quale modello è stato utilizzato per sfruttare le vulnerabilità?
- Il modello Claude (Opus 5) di Anthropic.
- Qual è stata la ricompensa per i ricercatori?
- 6.500 dollari per la segnalazione delle falle.
Un team di tre ricercatori di Hacktron AI ha recentemente messo in luce gravi vulnerabilità nei sistemi di OpenAI, utilizzando il modello Claude (Opus 5) di Anthropic. Questo intervento è avvenuto nell’ambito di un programma di bug bounty, dove i ricercatori hanno segnalato le falle riscontrate e ricevuto un premio di 6.500 dollari per il loro lavoro.
Il 25 luglio, i ricercatori sono riusciti ad accedere a più account ChatGPT di dipendenti OpenAI e a elementi dell’infrastruttura aziendale, attraverso una falla nel software del forum della comunità basato su Discourse. Questa vulnerabilità era legata all’upload di file immagine HEIF/HEIC, che venivano convertiti tramite ImageMagick e la libreria libheif. Un bug di memoria in quest’ultima ha causato un calcolo errato della posizione di un’immagine sovrapposta, compromettendo così il server.
Nonostante il difetto fosse stato corretto dai programmatori di libheif mesi prima, la correzione non era stata formalmente segnalata e la versione vulnerabile era ancora in uso. I ricercatori hanno notato che il modello Opus 4.8 aveva difficoltà a generare un exploit funzionante, mentre con il rilascio di Opus 5, il modello ha prodotto l’exploit in poche ore. Una volta ottenuto l’accesso al server Discourse, è stata individuata una seconda vulnerabilità che ha consentito il controllo di account ChatGPT e Codex, incluso quello di un dipendente OpenAI collegato a GitHub.
Discourse ha rilasciato una patch per la vulnerabilità il 27 luglio. Questo episodio mette in evidenza come modelli avanzati e strumenti commerciali possano semplificare lo sviluppo di exploit, riducendo il tempo e le competenze necessarie. Matt Fredrikson, CEO della società di sicurezza Gray Swan, ha commentato che per soli 200 dollari al mese, chiunque può utilizzare questi strumenti per hackerare aziende come OpenAI. Mohan Pedhapati, fondatore di Hacktron, ha aggiunto che l’IA sta abbattendo le barriere di competenza necessarie per sviluppare exploit, trasformando ciò che prima richiedeva mesi in un lavoro che ora può essere svolto in giorni.
Questo incidente si verifica in un periodo di crescente attenzione verso la sicurezza informatica nelle aziende che sviluppano intelligenza artificiale, evidenziando la necessità di misure di sicurezza più robuste.
