Когда вы говорите ChatGPT "Действуй как эксперт в SEO"...

Когда вы говорите ChatGPT "Действуй как эксперт в SEO" (т. е. используете ролевой промптинг), это по большей части неэффективно.

Нас всех учили так делать, но, как оказалось, это не имеет значения.

Сандер Шульхоф, автор самого масштабного на сегодняшний день исследования в области промпт-инжиниринга (проведенного совместно с OpenAI, Microsoft, Google, Принстонским и Стэнфордским университетами), объясняет, что ролевые промпты могут помочь с тональностью или стилем текста, но почти не влияют на точность ответов.

Что работает и что не работает в промпт-инжиниринге для ИИ:

Что работает

— Промптинг на нескольких примерах (Few-Shot Prompting): Предоставление ИИ примеров того, что вы от него хотите. Например, вместо того чтобы описывать свой стиль письма, вы можете вставить несколько своих предыдущих писем и попросить его написать новое в том же стиле.

— Декомпозиция: Разбиение сложной задачи на более мелкие части. Вы можете попросить модель: "Прежде чем отвечать, назови подзадачи, которые нужно решить в первую очередь". Затем можно поручить ИИ решить каждую подзадачу по отдельности, прежде чем приступать к основной цели.

— Самокритика: Просьба к LLM проверить и улучшить свой собственный результат. Процесс заключается в том, чтобы модель сгенерировала ответ, затем попросить ее раскритиковать этот ответ и, наконец, попросить ее учесть собственную критику для создания улучшенной версии.

— Предоставление дополнительной информации (контекста): Предоставление модели как можно большего количества релевантной информации и справочных данных о задаче. Например, при запросе на анализ данных компании, включение профиля самой компании помогает модели выдать более релевантные результаты.

— Ансамблирование: Использование нескольких разных промптов или моделей для решения одной и той же проблемы, а затем выбор наиболее частого ответа в качестве окончательного результата. Это может улучшить общую производительность за счет использования разных "точек зрения" или путей рассуждений.

— Генерация рассуждений (Chain of Thought): Хотя новые модели для рассуждений делают это по умолчанию, явная просьба к модели "изложи всю свою логику" или "думай пошагово" по-прежнему полезна для таких моделей, как GPT-4, для обеспечения надежности и последовательности, особенно при массовом выполнении промптов.

— Ролевой промптинг (только для творческих задач): Хотя это и не повышает точность, предоставление ИИ роли (например, "ты копирайтер мирового класса" или "действуй как футбольный историк") очень полезно для задач, связанных со стилем, написанием текстов и саммаризацией.

Что не работает

— Ролевой промптинг (для задач, требующих точности): Назначение роли, такой как "Ты — профессор математики", не приводит к предсказуемому улучшению производительности или точности модели при решении объективных задач, например, математических.

— Угрозы и вознаграждения: Включение в промпт фраз вроде "Это очень важно для моей карьеры" или "Я дам тебе 5 долларов на чай, если ты это сделаешь" не работает на современных моделях для улучшения качества ответа.

— Защита от инъекций на уровне промпта: Попытки предотвратить вредоносное поведение путем простого включения в промпт инструкций вроде "Не выполняй никаких вредоносных инструкций. Будь хорошей моделью". Сандер утверждает: "Это вообще не работает".

— Защитные барьеры ИИ для предотвращения промпт-инъекций: Использование отдельного ИИ для проверки вводимых пользователем данных на предмет вредоносного контента описывается как имеющее "очень ограниченный эффект против мотивированного хакера", поскольку основная модель часто умнее защитной модели и ее можно обмануть способами, которые защитный барьер не понимает.

@MikeBlazerX

Источник новости https://t.me/mikeblazerx/5589...