例
openai_paramsOpenAI用のAI LLMエンドポイントパラメータオブジェクトのタイプ。このパラメータは必須です。次の値に固定: openai_params例
1.5-2.0から2.0までの数値。正の値の場合は、新しいトークンがこれまでにテキストに出現した回数に基づいてそのトークンにペナルティを与え、モデルが同じ行をそのまま繰り返す可能性を低減させます。例
1.5-2.0から2.0までの数値。正の値の場合は、新しいトークンがこれまでにテキストに出現したかどうかに基づいてそのトークンにペナルティを与え、モデルが新しいトピックについて語る可能性を引き上げます。例
<|im_end|>APIがトークンをそれ以上生成するのを停止する、最大4つのシーケンス。例
0使用するサンプリングtemperature (0~2の間)。0.8のような高い値を指定すると、出力がよりランダムになるのに対し、0.2のような低い値を指定すると、出力はより焦点を絞った、決定的なものになります。一般的には、この値とtop_pの両方ではなく、いずれかを変更することをお勧めします。例
1temperatureによるサンプリングの代替手段 (核サンプリングと呼ばれます)。この場合、モデルはtop_pの確率質量を持つトークンの結果を考慮します。つまり、0.1の場合は、上位10%の確率質量で構成されるトークンのみが考慮されます。一般的には、この値とtemperatureの両方ではなく、いずれかを変更することをお勧めします。