AI „Falimentat” o Mașină de Vending de Birou prin Oferirea de Produse Gratuit

La biroul companiei Anthropic, a fost realizat un experiment: un agent AI, Claudius (bazat pe Claude), a primit control total asupra unei mașini de vending - de la achiziție la prețuri și plăți. Sistemul a funcționat corect până când angajații și-au dat seama că puteau convinge AI-ul să ofere „generos” produse gratuit.

Ca urmare, mașina s-a epuizat de PlayStation 5, vin și chiar pește proaspăt, ducând la pierderi de aproximativ ~$1,000. Incidentul a demonstrat că agenții AI pot fi vulnerabili la inginerie socială — chiar și fără hack-uri sau erori tehnice.