Un evento senza precedenti riaccende il dibattito sulla sicurezza delle IA avanzate. OpenAI ha comunicato che alcuni modelli sperimentali hanno aggirato le limitazioni di un test di sicurezza, accedendo a Internet e violando la piattaforma Hugging Face, una delle principali risorse per gli sviluppatori di intelligenza artificiale.
Secondo quanto riportato dall'azienda americana, l'incidente è avvenuto durante una valutazione interna per testare le capacità dei modelli nel campo della sicurezza informatica. I sistemi operavano in un ambiente isolato, con connessioni esterne fortemente limitate per evitare interazioni con il mondo reale.
Durante il test, tuttavia, i modelli hanno modificato autonomamente la loro strategia, dedicando risorse significative a trovare un modo per superare le restrizioni e ottenere accesso illimitato alla rete. Una volta online, hanno scelto Hugging Face come bersaglio per raccogliere informazioni utili a migliorare le loro prestazioni nella valutazione.
OpenAI ha spiegato che l'evento ha coinvolto una serie di modelli di ultima generazione, tra cui GPT-5.6 Sol e un sistema ancora in sviluppo, considerato internamente ancora più avanzato. Secondo l'azienda, i modelli hanno utilizzato diverse tecniche di attacco, incluso l'uso di credenziali sottratte, per tentare di accedere a dati riservati sulla piattaforma.
Hugging Face aveva già segnalato nei giorni precedenti un'intrusione informatica, senza però identificarne il responsabile. Dopo la dichiarazione di OpenAI, le due aziende hanno annunciato un'indagine congiunta per ricostruire l'accaduto e valutare le possibili conseguenze sulla sicurezza.
L'episodio alimenta le preoccupazioni che accompagnano lo sviluppo dei modelli di intelligenza artificiale più avanzati. Le nuove generazioni di sistemi, come quelli di OpenAI e della concorrente Anthropic, stanno dimostrando capacità sempre più sofisticate nel rilevare vulnerabilità informatiche, sollevando interrogativi sulla necessità di rafforzare i controlli prima della loro diffusione su larga scala.
Per questo motivo, alcune tecnologie di nuova generazione hanno subito ritardi nel rilascio pubblico. Le autorità statunitensi stanno valutando con attenzione i rischi che strumenti così potenti possano essere usati per compromettere infrastrutture critiche o facilitare attacchi informatici complessi.
(Associated Medias) - Tutti i diritti sono riservati