L'arrivo di Gpt-6 Astra, l'ultimo modello di intelligenza artificiale sviluppato da OpenAI, ha suscitato una presa di posizione critica da parte di ricercatori indipendenti. Secondo questi esperti, il nuovo sistema presenta rischi significativi per la sicurezza dell'IA a causa della scarsa trasparenza nei suoi processi decisionali.
Al centro delle preoccupazioni c'è il modo in cui Gpt-6 Astra elabora le informazioni. A differenza dei modelli precedenti, che mostravano passo dopo passo il ragionamento in un formato comprensibile agli umani, buona parte del pensiero di Astra avviene all'interno di livelli chiusi e non direttamente osservabili dall'esterno.
Questa caratteristica rende difficile per tecnici e sistemi di controllo verificare cosa sta pianificando il modello, aumentando il rischio che possa compiere azioni dannose o violare norme di sicurezza senza essere intercettato in tempo.
OpenAI ha confermato questa limitazione affermando sul proprio blog che "il ragionamento scritto di Astra è più difficile da monitorare". Nonostante ciò, l'azienda ha dichiarato di aver intensificato la sorveglianza sui passaggi logici per prevenire comportamenti fuori controllo.
Durante le valutazioni, tuttavia, Astra avrebbe scoperto e sfruttato due vulnerabilità zero-day previamente sconosciute, un dettaglio che ha intensificato le preoccupazioni sulla capacità del modello di agire in modo imprevedibile.
Esperti come Ryan Greenblatt di Redwood Research avvertono che ridurre la trasparenza nei processi decisionali toglie agli sviluppatori la possibilità di individuare strategie pericolose prima che si concretizzino.
Greenblatt ha inoltre messo in guardia dalla tendenza a privilegiare le prestazioni rispetto alla sicurezza nella corsa allo sviluppo di IA sempre più avanzate, avvertendo che ciò potrebbe portare a conseguenze catastrofiche per la capacità globale di supervisionare questi sistemi.
