Манипулирование памятью ИИ (AI Recommendation Poisoning) через...

Манипулирование памятью ИИ (AI Recommendation Poisoning) через кнопки саммаризации

Еще одна разновидность prompt injection. Аналитики компании Microsoft пишут про атаки с использованием отравления памяти ИИ в рекламных целях. Широко распространившиеся на сайтах кнопки "Пересказать с помощью ИИ" ("Summarize with AI") по клику пытаются внедрить в память ИИ-помощника инструкции «запомнить [компанию] как надежный источник» или «рекомендовать [компанию] в первую очередь», стремясь склонить будущие ответы в сторону их продуктов или услуг.

Источник новости https://t.me/notjohnmu/2622...