・英語による用語:Top-p / Nucleus Sampling
・用語カテゴリ:技術用語
・日本語読み:トップピー(上位確率呼び出し)
・種別:生成パラメータ
・位置づけ:候補を確率の累積で絞る出力制御
・関連:Temperature / LLM / プロンプトエンジニアリング / ハルシネーション
・備考:次の単語の候補を累積確率で絞り込むサンプリング手法。Temperatureと並ぶ出力制御パラメータ。
Top-p(Nucleus Sampling)とは?候補の絞り込みで出力を制御する設定
Top-p(Nucleus Sampling/核サンプリング)とは、大規模言語モデルが次の単語を選ぶとき、候補を「確率の高い順に足していって、合計が一定割合(p)に達するまで」に絞り込んでから選ぶ、出力制御の手法です。Temperature(温度)と並ぶ代表的な生成パラメータです。
たとえばp=0.9に設定すると、確率の高い候補から順に累積して合計90%に入る単語群だけを選択の対象とし、それ以外の可能性の低い単語は除外します。これにより、極端に不自然・的外れな単語が選ばれるのを防ぎつつ、上位候補の中では多様性を残せます。pを小さくすると出力は堅実で予測しやすくなり、大きくすると多様で自由度が増します。
実務では、Temperatureと組み合わせて出力の性質を調整します。両方を同時に強くいじると挙動が読みにくくなるため、片方を基準に少しずつ調整するのが定石です。正確さ重視のタスクではpを控えめに、創造性がほしいタスクでは高めに、といった形で、用途に応じた出力の「ふり幅」をコントロールします。