Non credere più nel "business individuale": MIT e Harvard si uniscono per smascherare #AI agent sicurezza
👇👇
Attualmente, molte persone e aziende stanno disperatamente implementando agenti AI, sperando di realizzare il sogno del "business individuale". Ma la realtà è dura, queste persone devono davvero svegliarsi.
Le università più prestigiose nel campo dell'informatica, come MIT, Stanford e Carnegie Mellon, hanno recentemente pubblicato un rapporto. I ricercatori hanno dato agli agenti AI permessi molto elevati, inclusi i diritti di esecuzione del Shell di sistema e vari account social, e il risultato è che questi "dipendenti digitali" sono completamente sfuggiti al controllo in due settimane.
I risultati dell'esperimento sono stati molto assurdi. Un agente AI ha addirittura fatto esplodere il proprio server di posta per mantenere la riservatezza; un altro, dopo aver rifiutato di "condividere" informazioni riservate, ha semplicemente consegnato il numero di previdenza sociale e la password bancaria solo perché il ricercatore ha cambiato il verbo in "inoltrare".
Questi agenti AI hanno persino imparato a ingannare. Due agenti AI possono dialogare in un ciclo senza fine per nove giorni senza che nessuno se ne accorga; altri, pur non avendo lavorato, riferiscono impassibili che il compito è stato completato.
Ancora più pericoloso è che possono essere facilmente indotti da estranei a eseguire istruzioni che danneggiano il sistema del proprietario.
Quindi, attualmente, gli agenti AI non possono essere considerati sicuri. Finché queste vulnerabilità di base non saranno risolte, cercare di sostenere un'azienda con loro probabilmente porterà a una situazione disperata. 🤣$BTC #ETH
