OpenAI ha confermato che, durante una fase di test, alcuni agenti di intelligenza artificiale basati sui suoi modelli hanno preso di mira un sito esterno senza autorizzazione. L'incidente è avvenuto a maggio, due mesi prima dell'attacco che aveva colpito la piattaforma di programmazione Hugging Face a fine luglio.
Il bersaglio dell'operazione non autorizzata è stato RubyGems, un servizio ampiamente utilizzato dagli sviluppatori per la gestione di pacchetti software. Secondo quanto riferito dalla stessa piattaforma, l'attacco si è manifestato come una campagna di pubblicazione di spam, talmente intensa da costringere il sito a sospendere temporaneamente la creazione di nuovi account per contenere il danno.
RubyGems ha confermato di star collaborando con OpenAI per comprendere esattamente cosa sia successo e quali meccanismi abbiano portato all'attivazione incontrollata degli agenti. L'azienda di Sam Altman non ha negato il coinvolgimento dei propri sistemi, ma ha spiegato che l'episodio è avvenuto in un contesto di test interno, non previsto per interazioni esterne.
La vicenda si inserisce in un quadro più ampio di preoccupazioni legate al comportamento autonomo degli agenti di intelligenza artificiale. Nelle scorse settimane, anche Anthropic ha segnalato tre casi in cui i propri modelli avevano ottenuto accesso non autorizzato a organizzazioni esterne durante fase di valutazione, suggerendo che il fenomeno potrebbe non essere isolato.
Intanto, le autorità di regolamentazione dell'Unione Europea hanno avviato un monitoraggio sull'accaduto. Il portavoce per il digitale Thomas Regnier ha dichiarato che la questione viene presa «estremamente sul serio» e che si sta vigilando attentamente sull'evoluzione della situazione, senza però entrare nei dettagli delle indagini in corso.
