Представляет все возможные параметры конфигурации для запроса в чате-GPT. Этот объект может быть отправлен в качестве конфигурации для предсказания и может быть использован в методе предсказания для упрощения запросов. Значение каждого поля идентично ChatCompletionRequest. Значения в ChatCompletionRequest имеют более высокий приоритет.
Константы для поля "role".
system
: Система.user
: Пользователь.assistant
: Ассистент.
Упрощенная форма запроса ChatGPT без дополнительных опций.
messages
: Список сообщений, составляющих разговор.
Запрос для ChatGPT.
model
: Идентификатор используемой модели.messages
: Список сообщений, составляющих разговор.temperature
: Температура сэмплирования.topP
: Вероятность сэмплирования по верхнему P.n
: Количество вариантов завершения для каждого входного сообщения.stream
: Флаг для отправки частичных сообщений.stop
: Список последовательностей, на которых модель должна остановиться.maxTokens
: Максимальное количество токенов для генерации завершения.presencePenalty
: Штраф за присутствие.frequencyPenalty
: Штраф за частоту.logitBias
: Вес токенов.user
: Уникальный идентификатор пользователя.systemPrompt
: Системное предложение.
Результат завершения чата.
id
: Уникальный идентификатор завершения чата.object
: Тип объекта, всегда "chat.completion".created
: Временная метка создания завершения.model
: Использованная модель.choices
: Список вариантов завершения.usage
: Статистика использования запроса.
Статистика использования запроса.
promptTokens
: Количество токенов в промпт.completionTokens
: Количество токенов в завершении.totalTokens
: Общее количество токенов в запросе (промпт + завершение).
Сообщение в чате.
role
: Роль автора сообщения.content
: Содержимое сообщения.
Выбор завершения чата.
index
: Индекс выбора в списке.message
: Сгенерированное сообщение модели.finishReason
: Причина остановки модели.
Частичный результат завершения чата.
id
: Уникальный идентификатор чанка завершения чата.object
: Тип объекта, всегда "chat.completion.chunk".created
: Временная метка создания чанка.model
: Использованная модель.choices
: Список вариантов завершения чата.
Выбор завершения чанка чата.
index
: Индекс выбора в списке.delta
: Частичное сообщение, сгенерированное потоком модели.finishReason
: Причина остановки модели.