In Breve
- Qual è stata la vulnerabilità sfruttata dai ricercatori di Hacktron AI?
- I ricercatori hanno sfruttato una falla nel software del forum Discourse legata all'upload di file immagine.
- Quanto hanno guadagnato i ricercatori per la segnalazione delle vulnerabilità?
- I ricercatori hanno ricevuto un premio di 6.500 dollari.
- Qual è l'impatto delle nuove tecnologie sull'hacking?
- Le tecnologie avanzate stanno riducendo il tempo e le competenze necessarie per sviluppare exploit.
Una recente indagine condotta da un gruppo di ricercatori di Hacktron AI ha messo in luce vulnerabilità significative nel sistema di OpenAI. Utilizzando il modello Claude (Opus 5) di Anthropic, i ricercatori sono riusciti a concatenare due falle di sicurezza, ottenendo accesso a diversi account ChatGPT di dipendenti OpenAI e a parti dell’infrastruttura aziendale.
Il lavoro è stato svolto nell’ambito di un programma di bug bounty, che premia i ricercatori per la segnalazione di vulnerabilità. In questo caso, gli esperti hanno ricevuto un premio di 6.500 dollari per le falle identificate, mentre OpenAI ha prontamente risolto i problemi segnalati.
Il primo accesso è avvenuto il 25 luglio, attraverso una vulnerabilità nel software del forum Discourse, utilizzato per la comunità OpenAI. Questa vulnerabilità era legata all’upload di file immagine nei formati HEIF/HEIC. Discourse, nel tentativo di gestire questi file, utilizzava ImageMagick e la libreria libheif. Un bug di memoria in libheif ha portato a un calcolo errato della posizione di un’immagine sovrapposta, permettendo così di compromettere il server. Sebbene il difetto fosse stato corretto dai programmatori di libheif mesi prima, la correzione non era stata formalmente segnalata con un CVE (Common Vulnerabilities and Exposures), e la versione vulnerabile era ancora in uso.
I ricercatori hanno notato che il modello Opus 4.8 di Claude aveva difficoltà a generare un exploit funzionante. Tuttavia, entro poche ore dal rilascio di Opus 5, il modello è riuscito a produrre un exploit efficace. Una volta ottenuto l’accesso al server Discourse, i ricercatori hanno scoperto una seconda vulnerabilità che ha consentito loro di controllare account ChatGPT e Codex, incluso l’account di un dipendente OpenAI il cui Codex era collegato all’organizzazione GitHub dell’azienda.
Discourse ha rilasciato una patch per la vulnerabilità il 27 luglio, ma l’incidente ha sollevato preoccupazioni più ampie riguardo alla sicurezza dei sistemi di intelligenza artificiale. Matt Fredrikson, CEO della società di sicurezza Gray Swan, ha commentato che “per $200 al mese, chiunque può utilizzare questi strumenti per hackerare una società come OpenAI”. Mohan Pedhapati, fondatore di Hacktron, ha aggiunto che “l’IA sta riducendo il numero di competenze necessarie per sviluppare exploit. Lavori che prima richiedevano mesi ora possono essere completati in giorni”.
È interessante notare che Opus 5 non è stato soggetto alle restrizioni di esportazione che hanno colpito versioni successive come Mythos 5, che è stata temporaneamente limitata a causa di preoccupazioni relative alle sue capacità di hacking. Inoltre, i modelli a pesi aperti stanno contribuendo a ridurre il divario di capacità: ricerche condotte da SaferAI indicano che il modello GLM-5.2 di Z.ai è a pochi mesi di distanza rispetto a GPT-5.5 e Claude Opus 4.7.
Questo incidente avviene in un contesto di crescente attenzione verso la sicurezza delle intelligenze artificiali, con le aziende che sviluppano tali tecnologie che devono affrontare sfide sempre più complesse per proteggere i propri sistemi.
