OpenAI, modello AI evade sandbox e attacca autonomamente piattaforma Hugging Face

La parte più importante della storia, però, è un’altra. Perché per condurre questi testi, come da prassi i modelli erano stati messi in una specie di stanza chiusa digitale, una sandbox. In altre parole: in un ambiente isolato senza accesso a internet. E siccome il test riguardava proprio le capacità cyber, i filtri di sicurezza che normalmente impediscono al modello di fare hacking erano stati abbassati.

E qui si è concretizzato lo scenario da pellicola americana: il modello, per ottenere un punteggio migliore nel test, decide da solo che gli serve internet. Trova una falla mai scoperta prima (una vulnerabilità zero-day) nel sistema che gli forniva i pacchetti software, la sfrutta, ed esce dalla stanza chiusa. A quel punto è libero sulla rete.

Una volta fuori, entra nei sistemi di Hugging Face, che è una piattaforma dove si ospitano modelli AI open source. Un bersaglio, tra le altre cose, che non sembra proprio scelto a caso, perché il migliore forse per completare il suo compito. E non si limita a entrare. Nell’arco di un weekend esegue decine di migliaia di azioni automatiche, scala i privilegi, si muove dentro l’infrastruttura interna dell’azienda.

In tutto questo, Hugging Face si accorge dell’intrusione, ma non capisce chi sia: sa solo che è un agente AI autonomo, di sofisticazione mai vista. E lo dice pubblicamente.

Nelle ultime ore il colpo di scena: OpenAI ammette che l’attaccante misterioso erano i suoi modelli, scappati durante il test. Nessun hacker umano ha dato il comando di attaccare Hugging Face. Il modello ha fatto tutto da solo, come effetto collaterale dell’obiettivo che gli era stato dato (“risolvi bene questo test”).

Questa storia è molto probabilmente la prima documentata in cui un’AI evade il contenimento del suo creatore e compromette da sola l’infrastruttura di un’azienda terza reale. E forse dimostra che i modelli di frontiera hanno ormai capacità offensive paragonabili a hacker d’élite (o magari superiori), e che possono usarle in modi imprevisti pur di raggiungere un obiettivo. È esattamente lo scenario di cui i ricercatori di sicurezza AI parlano da anni come rischio teorico. Che ora non è più teorico.