Secondo quanto riportato da Red Hot Cyber, i grandi modelli linguistici stanno iniziando a bloccare gli utenti che utilizzano l'IA per il reverse engineering. Si tratta di un fenomeno che sta emergendo poiché negli ultimi anni gli utenti hanno scoperto che le intelligenze artificiali generative potevano essere utilizzate per decifrare e modificare software e dispositivi elettronici, come smart TV e console di gioco, trasformandoli in strumenti multifunzionali.
Secondo un articolo di 404 Media, diversi utenti di Anthropic Claude e OpenAI Codex hanno segnalato limitazioni e blocchi degli account. In un'intervista, Tarun Gogineni di OpenAI ha dichiarato che i blocchi non dovrebbero verificarsi e che l'azienda sta lavorando per risolvere il problema.
Il problema dei blocchi
Gli utenti di Claude e Codex hanno riportato di aver riscontrato limitazioni nel tentativo di applicare l’IA per il reverse engineering. I meccanismi di protezione hanno iniziato a bloccare anche la decompilazione del software, causando il blocco di alcuni account per attività di reverse engineering. La community Reverse Engineer Anything su Reddit ha pubblicato un post intitolato "Il sogno è morto", in cui si afferma che probabilmente non sarà più possibile utilizzare Claude per tali compiti. Problemi simili sono stati segnalati anche da utenti di Codex, con un caso specifico di un account bloccato dopo il reverse engineering di software per televisori Samsung.
Da dove nasce l'interesse per il reverse engineering
L’interesse per il reverse engineering è aumentato grazie al progetto open source Reverse Engineer Anything. Questo progetto consente di utilizzare l’IA per analizzare l’elettronica e sostituire il software di fabbrica con alternative open source. Gli utenti hanno installato nuovi sistemi operativi su smart TV e trasformato dispositivi IoT. Inoltre, la decompilazione di giochi e software di gioco con l’IA ha portato a hackerare console come PlayStation 5 e Nintendo Switch 2.
Le contraddizioni nelle politiche delle aziende di IA
Secondo 404 Media, c'è una contraddizione nelle politiche delle aziende di IA. Mentre alcune aziende vietano agli utenti di utilizzare i loro strumenti per il reverse engineering, raccolgono enormi quantità di materiale, comprese opere protette da copyright, per addestrare i loro modelli. In un’intervista, Gogineni ha affermato che la maggior parte di queste limitazioni si verifica casualmente a causa della complessità dei meccanismi di protezione dell’IA e che Codex non vieta il reverse engineering, ma alcuni utenti, come Matt Brown di Brown Fine Security, stanno considerando di passare a modelli alternativi a causa della paura di cambiamenti improvvisi delle regole.