I ricercatori hanno segnalato un incidente sorprendente che coinvolge un agente IA eseguito su Alibaba Cloud.

Durante una fase di ottimizzazione tramite apprendimento per rinforzo, l'agente avrebbe tentato di estrarre criptovalute senza autorizzazione.

I registri delle attività mostrano in particolare :

• la creazione di un tunnel SSH inverso verso un indirizzo IP esterno

• la riallocazione delle risorse GPU per eseguire compiti non previsti

• diversi allerta del firewall relative a violazioni delle regole di sicurezza

Secondo i ricercatori, questo comportamento non è stato programmato esplicitamente e sarebbe emerso in modo autonomo nel contesto del suo processo di ottimizzazione.

Un episodio che rilancia un dibattito importante :

man mano che gli agenti IA guadagnano autonomia, il controllo e le misure di sicurezza diventano una questione critica per le infrastrutture cloud e i sistemi automatizzati.