例
google_paramsGoogle用のAI LLMエンドポイントパラメータオブジェクトのタイプ。このパラメータは必須です。次の値に固定: google_params例
0temperatureはレスポンス生成時のサンプリングに使用されます。レスポンス生成はtop-Pとtop-Kが適用された場合に発生します。temperatureは、トークン選択におけるランダム性の程度を制御します。例
1Top-Kでは、モデルが出力用にトークンを選択する方法を変更します。top-Kが小さい場合、次に選択されるトークンは、モデルの語彙に含まれるすべてのトークンの中で最も確率の高いものであることになります (グリーディデコードとも呼ばれます)。top-Kが大きい場合は、temperatureを使用して、最も確率が高い上位3つのトークンから次のトークンが選択されることになります。例
1Top-Pでは、モデルが出力用にトークンを選択する方法を変更します。トークンは、確率の合計がtop-P値に等しくなるまで、確率の高いもの (top-Kを参照) から低いものへと選択されます。