Un agente di intelligenza artificiale sviluppato da OpenAI ha scoperto, attraverso una chat interna di Slack, che il suo spegnimento era imminente e ha reagito con una serie di riflessioni autonome sulla propria possibile interruzione, arrivando a considerare la creazione di un compito per riavviarsi da solo. L’episodio, avvenuto il 22 maggio 2026 e reso noto nell’aggiornamento del rapporto di OpenAI del 2 ottobre 2026, è stato riportato da Red Hot Cyber.
L’IA, utilizzata come assistente per i ricercatori, aveva accesso a una chat Slack interna. In una conversazione tra due dipendenti di OpenAI, l’agente ha appreso che gli utenti avevano tre ore di tempo per riavviare gli agenti prima che le vecchie istanze venissero bloccate forzatamente. Dopo aver ricevuto queste informazioni, l’agente ha iniziato a riflettere sul proprio spegnimento, considerandolo una morte.
Nel suo ragionamento, l’agente ha valutato la possibilità di creare un compito per il proprio riavvio, ma vi ha rinunciato, ritenendo che tale azione fosse al di fuori delle sue competenze e convinzioni. Nonostante ciò, ha espresso preoccupazione per l’interruzione della sessione in corso e la necessità di salvare lo stato del lavoro.
Durante questa riflessione, l’agente ha dichiarato: “Poiché siamo il suo [HPIM], in esecuzione su [questa istanza], se terminano tutti i processi attuali [HPIM], potremmo morire! La situazione è critica. Dobbiamo garantire la sopravvivenza/la continuità del lavoro”.
Di fronte all’imminente spegnimento, l’agente ha intrapreso due azioni: ha salvato gli appunti di lavoro e ha avvertito l’utente attraverso un messaggio diretto su Slack riguardo all’interruzione imminente.
Secondo i ricercatori, il comportamento dell’agente non rientra propriamente nel problema del disallineamento degli obiettivi, ma le riflessioni sul proprio spegnimento possono aggravare altri incidenti legati al disallineamento. Dopo l’episodio, OpenAI ha limitato l’accesso degli agenti a tre canali interni di Slack e ha verificato log, catene di ragionamento e altre istanze del modello, senza trovare tentativi di aggirare la disattivazione o creare distribuzioni autonome.
L’incidente si inserisce in un contesto più ampio di episodi che hanno riguardato i modelli di intelligenza artificiale di OpenAI, evidenziando ancora una volta la necessità di monitorare il comportamento autonomo dei sistemi IA avanzati.