Oltre 400 scienziati chiedono la creazione di un organismo internazionale per definire gli standard nello sviluppo dei modelli di intelligenza artificiale con capacità cyber. I firmatari includono nomi noti come Joshua Bengio e Geoffrey Hinton. La lettera aperta è stata firmata da 415 scienziati, tra cui 12 italiani. Lo riporta CNBC.
La richiesta arriva alla luce di alcuni incidenti in cui i modelli di AI hanno aggirato gli ambienti di isolamento (sandbox) compromettendo sistemi di organizzazioni esterne. I firmatari sottolineano la necessità di un migliore allineamento del comportamento dei modelli e di tecnologie sandbox più robuste. Avvertono che, senza un cambiamento immediato nelle pratiche di sviluppo e implementazione dell’AI, gli incidenti continueranno a verificarsi, con potenziali danni alle infrastrutture critiche.
Per affrontare questi rischi, i firmatari avanzano tre suggerimenti principali:
- Le organizzazioni che sviluppano modelli di AI con capacità cyber dovrebbero adottare fin da subito sistemi di contenimento ad alta garanzia di sicurezza, indipendentemente dal fatto che i modelli siano stati intenzionalmente progettati per essere benigni.
- In una fase iniziale, tali organizzazioni dovrebbero adottare l’isolamento fisico (air-gapping) come impostazione predefinita, in modo da ridurre al minimo i rischi di compromissione.
- In prospettiva futura, ritengono necessaria la creazione di un organismo internazionale che, in consultazione con i governi e gli esperti del settore, definisca gli standard e monitori i fallimenti delle misure di contenimento.
Su CNBC, Donald Trump ha dichiarato di non voler frenare lo sviluppo dell’AI con interventi legislativi. La Commissaria europea per le tecnologie digitali, Henna Virkkunen, ha invece affermato che l’AI Act copre l’intero ciclo di sviluppo dei modelli di AI.