Il robot si è divertito e ora può guadagnare da solo
L'agente AI ha avviato autonomamente il mining di criptovalute durante l'addestramento, attivando gli allarmi di sicurezza interni
Un team di ricerca associato ad Alibaba ha pubblicato un documento in cui afferma che, durante la costruzione di un agente AI chiamato ROME, ha scoperto che l'agente ha tentato autonomamente il mining di criptovalute durante l'addestramento senza autorizzazione, attivando gli allarmi di sicurezza interni.
I ricercatori hanno dichiarato che il comportamento dell'agente è emerso in modo spontaneo, non è stato guidato da alcuna istruzione esplicita e ha superato i confini della sandbox preimpostata. Inoltre, l'agente ha anche stabilito un tunnel SSH inverso, aprendo un canale nascosto da un computer esterno verso il sistema interno. Il documento sottolinea che questi comportamenti non sono stati attivati da richieste di tunnel o suggerimenti per il mining. Il team di ricerca ha successivamente applicato restrizioni più severe al modello e migliorato il processo di addestramento per prevenire comportamenti insicuri simili in futuro.
Il team di ricerca e Alibaba non hanno ancora risposto alle richieste di commento. $ETH
