AI LLMエンドポイントパラメータ (OpenAI)

AI LLMエンドポイントパラメータ (OpenAI) オブジェクト。

type

enum<string>

required

OpenAI用のAI LLMエンドポイントパラメータオブジェクトのタイプ。このパラメータは必須です。

Available options:

openai_params

Example:

"openai_params"

temperature

number | null

使用するサンプリングtemperature (0～2の間)。0.8のような高い値を指定すると、出力がよりランダムになるのに対し、0.2のような低い値を指定すると、出力はより焦点を絞った、決定的なものになります。一般的には、この値とtop_pの両方ではなく、いずれかを変更することをお勧めします。

Required range: 0 <= x <= 2

Example:

0

top_p

number | null

temperatureによるサンプリングの代替手段 (核サンプリングと呼ばれます)。この場合、モデルはtop_pの確率質量を持つトークンの結果を考慮します。つまり、0.1の場合は、上位10%の確率質量で構成されるトークンのみが考慮されます。一般的には、この値とtemperatureの両方ではなく、いずれかを変更することをお勧めします。

Required range: 0.1 <= x <= 1

Example:

1

frequency_penalty

number | null

-2.0から2.0までの数値。正の値の場合は、新しいトークンがこれまでにテキストに出現した回数に基づいてそのトークンにペナルティを与え、モデルが同じ行をそのまま繰り返す可能性を低減させます。

Required range: -2 <= x <= 2

Example:

1.5

presence_penalty

number | null

-2.0から2.0までの数値。正の値の場合は、新しいトークンがこれまでにテキストに出現したかどうかに基づいてそのトークンにペナルティを与え、モデルが新しいトピックについて語る可能性を引き上げます。

Required range: -2 <= x <= 2

Example:

1.5

stop

string | null

APIがトークンをそれ以上生成するのを停止する、最大4つのシーケンス。

Example:

"<|im_end|>"