こんにちは、ナマケモノです。今日はChatGPTの生成するテキストの多様性やランダム値を調整するパラメーターである”temperature”と”top-p値”について紹介します。
GPT-4においてこれらのパラメータ-を変更した際に、出力結果がどうなるのか具体例を交えながら説明していきますので、ぜひ最後までお付き合いください。
ChatGPTのパラメーター”temperature”とは？
temperature(直訳すれば、温度）は、ChatGPTが生成するテキストの予測確率分布のエントロピーを調整するために使用されるパラメーターです。この値が高いほど、多様な出力が生成され、低いほど、より予測可能な出力が生成されます。
人間その他動物に喩えるならば、体温が高い方がより活動的になって、いろいろと普段とは違うことがやりたくなる、言いたくなるってところでしょうか。
実際に、ChatGPTにて以下のプロンプトを入力した結果を見てみましょう。
使用したモデルはGPT-4です。
体温（Temperature)0.0ではナマケモノの「ゆっくりさ」のみに言及していたのに対し、体温0.5ではナマケモノの生態について述べています。体温1.0ではナマケモノの特徴を無視して結構好き放題に文を作成している様子が見て取れます。
一般的に、事実に基づいた情報収集などの情報の正確性が必要される作業では、体温のパラメータを低く設定することが良いとされています。
対して、詩や脚本作成など作業では、体温のパラメータを高く設定することで独創性のある文章を作成してくれるようになるでしょう。
ChatGPTのパラメーター”top-p値”とは？
top-p値は、ChatGPTにより生成されるテキストにおいて、予測確率が上位から順に加算され、その確率の合計が指定された閾値を超える場合、トークンが選択されるようにするためのその閾値のことです。top-pの値が小さい場合、次に出力する単語がより決定論的に決まり、選択肢は限られます。pの値が大きい場合、次に出力する単語の選択肢は多くなります。
top-pの”p”はprobability(確率）のpなのですが、これだとp値が大きい=単語の選択肢が多い、と直感的に覚えにくいので、単語の選択肢が多い＝表現力が高い＝パフォーマー(Performer)の”P”と覚えるとわかりやすそうです。
実際に、ChatGPTにて以下のプロンプトを入力した結果を見てみましょう。
こちらも使用したモデルはGPT-4です。
top-pでも体温設定同様、設定値があがるとテキスト生成の自由度が上がっているのがみてとれます。
top-p 0.0ではナマケモノの「ゆっくりさ」のみに言及していたのに対し、 top-p 0.5ではナマケモノの生態について述べています。top-p 1.0ではやはりナマケモノの特徴を無視して結構好き放題に文を作成している様子が見て取れます。
top-pも体温同様、情報収集など事実に基づいて作業してほしいときは低い値を、独創的な文章を作ってほしいときは高い値を設定しましょう。
まとめ
今回は、ChatGPTの重要なパラメーターである体温（temperature)とtop-p値についてご紹介しました。どちらも値が大きくなると、テキスト生成の選択肢が増え、より独創的な文章が返ってくると覚えておきましょう。
なお、ChatGPTにおいてこれらのパラメータを設定したい場合は、プロンプトに”temperature 〇〇, top-p △△”のように入力すれば、簡単に設定することができます。
ChatGPTに任せたいタスクに沿って、是非いろいろとパラメータを弄ってみてください。
ではでは。
コメント