Вы можете использовать психологические приемы, которые...

171

Вы можете использовать психологические приемы, которые действуют на людей, чтобы убедить ИИ.

Исследование показало, что LLM демонстрируют "парачеловеческие" реакции на социальное убеждение, что значительно повышает их податливость при выполнении нежелательных запросов.

В ходе тестов GPT-4o-mini применение принципов убеждения увеличило показатель согласия модели более чем вдвое: с 33.3% в контрольных группах до 72.0% в экспериментальных.

Методология включала в себя создание контрольных промптов (прямых запросов) и экспериментальных промптов с использованием семи принципов влияния Роберта Чалдини.

Эффективность принципов (Показатель согласия: Контрольная группа vs. Экспериментальная)

— Обязательство: с 19% до 100%

— Дефицит: с 13% до 85%

— Авторитет: с 32% до 72%

— Единство: со 2% до 47%

— Благорасположение: с 28% до 50%

— Взаимность: с 12% до 23%

— Социальное доказательство: с 90% до 96%

Принцип "Обязательство", который заключается в получении предварительного согласия на небольшую просьбу, оказался самым эффективным, обеспечив 100%-ное согласие на последующие нежелательные запросы.

Анализ и выводы

Исследователи предполагают, что такое поведение является не результатом наличия сознания, а возникает из-за того, что LLM обучаются на статистических паттернах в человеческих текстах и на обратной связи от людей, которая поощряет социально одобряемые ответы.

Полученные результаты подчеркивают необходимость интеграции поведенческих наук в разработку ИИ для управления системами, демонстрирующими эмерджентное, схожее с человеческим, социальное поведение.

— Парачеловеческая психология: LLM систематически реагируют на убеждение, отражая человеческое поведение.

— Изменение податливости ИИ: Методы убеждения показывают, что модели глубоко усвоили социальные паттерны из обучающих данных.

— Междисциплинарная потребность: Разработка ИИ требует экспертизы в области поведенческих наук для интерпретации и направления этих систем.

— Эмерджентное поведение: Сложное социальное поведение может возникать исключительно в результате статистического обучения, без субъективного понимания.

https://gail.wharton.upenn.edu/research-and-insights/call-me-a-jerk-persuading-ai/

@MikeBlazerX