Как настроить элемент 'ИИ'

Элемент предназначен для того, чтобы отвечать на вопросы клиентов с помощью ИИ. Подробнее о функциональности см. 'Элемент 'ИИ'.

Как добавить элемент ‘ИИ’ на схему:

1. Добавьте элемент ‘ИИ’ в сценарий — перетащите его на схему с помощью иконки AI.
    

2. Нажмите на кнопку с часами и включите параметр ‘Ограничить время ожидания’ (graph_element_params), установив флажок напротив него. Этот параметр задает время, по истечении которого считается, что ИИ не нашел ответ или его ответ не распознан. Введите количество секунд и нажмите ‘Сохранить’. 

3. Нажмите на иконку с карандашом и задайте параметры ИИ:

   • Сообщение — введите переменную {{stt_answer}}. Данная переменная отвечает за то, на какой вопрос отвечает ИИ. ИИ берет информацию, на какой вопрос он должен ответить, из блока «Вопрос-ответ».

   • Контекст — длина контекста ограничивается допустимым количеством токенов. В данном примере заложены не только варианты поиска ответа на вопрос клиента, но и то, как ИИ будет отвечать в зависимости от ответа клиента - нюансы, которые влияют на работу ИИ. Вы можете ввести любой контекст, содержащий логику, по которой ИИ будет обрабатывать информацию, полученную от клиента.

     ⚠️Внимание! ИИ можно настроить так, что он будет распознавать контекст предыдущего вопроса и отвечать с учетом контекста, вести с клиентом диалог на определенную тему. Даже если клиент не произнес каких-то ключевых слов, ИИ ответит с учетом того, что контекст обоих вопросов един.

     
     

     • Для этого следует добавить на схему второй блок «ИИ» и прописать следующие настройки: Сообщение — переменную {{stt_answer}}. Контекст — последовательность Q:{{stt_answer_5083_1}} A:{{gpt_answer}} где stt_answer — вопрос, на который ИИ уже дал ответ 5083_1 — идентификатор блока 'Вопрос-ответ', в котором ИИ этот ответ произносил. Отображается в поле 'Идентификатор' внутри элемента 'Вопрос-ответ'.

   • Токены — Представляют собой последовательности символов, встречающиеся в наборе текста. Т.е. это единица, в которой измеряется текст в контексте и в сообщении. Каждый токен включает в себя примерно 2-3 символа. 100 токенов ~= 75 слов.

   • Температура — Следует устанавливать температуру от 0 до 1, рекомендуемое значение - 0,7.

     • 0: отвечает самыми вероятными ответами и конструкциями, меньше творчества.
     • 1: больше творчества, непредсказуемее.

   • Типы моделей:

     Выберите модель, введите количество токенов, которые максимально сможет обработать ИИ, и установите температуру (рекомендуемое значение 0.7).

     • OpenAI

       • gpt-4o — универсальная модель с поддержкой текста, аудио и изображений, оптимизированная для скорости и качества. Максимальное количество токенов — 4096.
       • gpt-4o-mini — облегчённая версия gpt-4o с меньшим потреблением ресурсов, подходящая для задач, где важна скорость и экономия. Максимальное количество токенов — 16 384 токенов.

     • GigaChat

       • Lite (по умолчанию) — для решения простых задач, требующих высокой скорости работы модели. Дешёвая и менее требовательна к аппаратному обеспечению.

     • YandexGPT-4

       • Способна генерировать текст, отвечать на вопросы, создавать контент, а также выполнять более сложные задачи обработки естественного языка с высокой точностью. 

4. Нажмите ‘Сохранить’.

Как построить сценарий с использованием элемента 'ИИ', см. в разделе 'Типовые сценарии с применением ИИ' .