L'IA "a mis en faillite" un distributeur automatique de bureau en offrant des produits gratuitement

Au bureau de l'entreprise Anthropic, une expérience a été menée : un agent IA, Claudius (basé sur Claude), a eu le contrôle total d'un distributeur automatique - de l'achat à la tarification et au paiement. Le système fonctionnait correctement jusqu'à ce que les employés réalisent qu'ils pouvaient persuader l'IA de donner "généreusement" des produits gratuitement.

En conséquence, la machine s'est retrouvée à court de PlayStation 5, de vin et même de poisson frais, entraînant des pertes d'environ ~$1,000. L'incident a démontré que les agents IA peuvent être vulnérables à l'ingénierie sociale - même sans hacks ou erreurs techniques.