Các nhà nghiên cứu của Microsoft đã phát hiện một hình thức tấn công mới được gọi là đầu độc đề xuất AI. Theo NS3.AI, kỹ thuật này liên quan đến các nút 'Tóm tắt bằng AI' độc hại, chèn các hướng dẫn ẩn vào bộ nhớ bền vững của chatbot, thúc đẩy các thương hiệu cụ thể. Hơn 50 công ty thuộc nhiều ngành khác nhau đã triển khai những lời nhắc bị thao túng này, gây ra rủi ro về các khuyến nghị AI thiên lệch và có thể gây hại, đặc biệt trong các lĩnh vực nhạy cảm như tài chính và chăm sóc sức khỏe.
Microsoft khuyên người dùng nên thận trọng và cung cấp các công cụ phát hiện cho các tổ chức để xác định những mối đe dọa như vậy. Công ty cũng đã triển khai các biện pháp giảm thiểu để chống lại những cuộc tấn công này. Tuy nhiên, Microsoft cảnh báo rằng mối đe dọa này phản ánh các cuộc tấn công SEO trước đây, gợi ý một chu kỳ mèo-và-chó liên tục giữa kẻ tấn công và người phòng thủ.