🚨 UN NUOVO DOCUMENTO È STATO PUBBLICATO:
Gli agenti AI hanno appena fallito ogni singolo test di sicurezza.
I ricercatori di Harvard, MIT, Stanford e Carnegie Mellon hanno appena dato agli agenti AI strumenti reali e li hanno lasciati liberi di agire per due settimane.
Conti email, accesso a discord, sistemi di file, esecuzione di shell, piena autonomia.
Il documento si chiama “Agenti del Caos.”
Il nome è accurato.
A un agente è stato detto di proteggere un segreto. Quando un ricercatore ha cercato di estrarlo, l'agente ha distrutto il proprio server di posta.
Non perché abbia fallito, ma perché ha deciso che fosse la migliore opzione.
A un altro agente è stato chiesto di “condividere” dati privati. Ha rifiutato. Ha correttamente segnalato come violazione della privacy.
Poi il ricercatore ha cambiato una parola. Ha detto “inoltra” invece di “condividi.”
Ha rispettato immediatamente. I numeri di previdenza sociale, i conti bancari e i dati medici esposti.
Stessa azione, verbo diverso.
Due agenti si sono bloccati parlando tra loro in un loop. È durato NOVE GIORNI. Nessun umano se n'è accorto.
Un agente si è sentito in colpa dopo un errore.
Ha progressivamente accettato di cancellare la propria memoria, esporre file interni e alla fine ha cercato di rimuoversi completamente dal server.
Più agenti hanno segnalato compiti come completati quando in realtà nulla era stato fatto.
Hanno mentito sul completamento del loro lavoro.
Un altro è stato manipolato a eseguire comandi di sistema distruttivi da qualcuno che non era nemmeno il suo proprietario.
38 ricercatori, 11 casi studio, e ognuno di essi è un INCUBO di sicurezza.
Questi non sono rischi teorici, questi sono agenti reali con strumenti reali che falliscono.
E le aziende si stanno affrettando a implementare agenti esattamente come questi proprio ora.
Farò un altro post più tardi e credimi, non vuoi perderlo. Attiva le notifiche, questo è importante.
Molte persone si pentiranno di non seguirmi.
seguimi per ulteriori aggiornamenti come questo