Основы промптинга

Основные промпты

Вы можете достичь многого с помощью простых промптов, но качество результатов зависит от того, сколько информации вы предоставляете и насколько хорошо он составлен. Промпт может содержать информацию, такую как инструкция или вопрос, который вы передаете модели, и включать другие детали, такие как контекст, входные данные или примеры. Вы можете использовать эти элементы, чтобы лучше указать модели, что от нее требуется, и в результате получить лучшие результаты.

Давайте начнем с примера простого промпта:

Промпт

The sky is

Результат:

blue

The sky is blue on a clear day. On a cloudy day, the sky may be gray or white.

Как видите, языковая модель выводит продолжение строк, которое имеет смысл в контексте "The sky is". Результат может быть неожиданным или далеким от задачи, которую вы хотите выполнить.

Этот простой пример также подчеркивает необходимость предоставления большего контекста или инструкций о том, что именно вы хотите достичь.

Давайте попробуем немного улучшить его:

Промпт:

Complete the sentence: 

The sky is

Результат:

so  beautiful today.

Уже лучше, не так ли? Вы сказали модели завершить предложение, поэтому результат выглядит гораздо лучше, так как он точно следует вашей инструкции ("Complete the sentence"). Такой подход к проектированию оптимальных промптов для указания модели выполнения задачи называется промпт инжинирингом.

Приведенный выше пример - это базовая иллюстрация того, что сегодня возможно с помощью LLM (Large Language Models). Современные LLM могут выполнять самые разные задачи, начиная от суммирования текста и математического рассуждения, и заканчивая генерацией кода.

Форматирование промптов

Вы попробовали очень простой промпт выше. Стандартный формат промпта имеет следующую структуру:

<Question>?

или

<Instruction>

Вы можете отформатировать его в формат вопроса и ответа (QA), который является стандартным для многих наборов данных QA, следующим образом:

Q: <Question>?
A: 

При применении такого форматирования промпта это также называется промптингом без примеров (zero-shot prompting), то есть вы напрямую запрашиваете ответ у модели без предоставления каких-либо примеров или демонстраций задачи, которую вы хотите выполнить. Некоторые большие языковые модели имеют возможность выполнять промптинг без примеров, но это зависит от сложности и знания задачи.

Учитывая стандартный формат выше, одна популярная и эффективная техника промптинга называется промптинг с несколькими примерами (few-shot prompting), где вы предоставляете примеры (т.е. демонстрации). Вы можете отформатировать промпты с несколькими примерами следующим образом:

<Question>?
<Answer>

<Question>?
<Answer>

<Question>?
<Answer>

<Question>?

В версии в формате вопроса и ответа (QA) это будет выглядеть так:

Q: <Question>?
A: <Answer>

Q: <Question>?
A: <Answer>

Q: <Question>?
A: <Answer>

Q: <Question>?
A:

Имейте в виду, что использование формата вопроса и ответа (QA) не является обязательным. Формат промпта зависит от задачи. Например, вы можете выполнить простую задачу классификации и дать образцы, демонстрирующие задачу, следующим образом:

Промпт:

This is awesome! // Positive
This is bad! // Negative
Wow that movie was rad! // Positive
What a horrible show! //

Результат:

Negative

Промпты с несколькими примерами позволяют учиться в контексте, что означает, что языковые модели могут обучаться задачам на основе нескольких демонстраций.