Исследователи Microsoft обнаружили новую форму атаки, известную как отравление рекомендаций ИИ. Согласно NS3.AI, эта техника включает злонамеренные кнопки "Суммировать с помощью ИИ", которые внедряют скрытые инструкции в постоянную память чат-ботов, продвигая определенные бренды. Более 50 компаний из различных отраслей внедрили эти манипулированные подсказки, что создает риски предвзятых и потенциально вредных рекомендаций ИИ, особенно в таких чувствительных секторах, как финансы и здравоохранение.
Microsoft рекомендует пользователям проявлять осторожность и предоставляет инструменты обнаружения для организаций, чтобы идентифицировать такие угрозы. Компания также внедрила меры по смягчению последствий для противодействия этим атакам. Однако Microsoft предупреждает, что эта угроза отражает предыдущие атаки SEO, что указывает на постоянный цикл "кот и мышь" между нападающими и защитниками.