・英語による用語:SFT (Supervised Fine-Tuning)
・用語カテゴリ:技術用語
・日本語読み:エスエフティー
・種別:モデル調整手法
・位置づけ:手本データで望ましい応答を教える微調整
・関連:ファインチューニング / RLHF / DPO / LLM
・備考:良質な入力と模範回答のペアでモデルを微調整し、望ましい応答の仕方を教える基本手法。
SFT(教師ありファインチューニング)とは?お手本で教える基本の調整
SFT(Supervised Fine-Tuning/教師ありファインチューニング)とは、良質な「入力」と「模範となる回答」のペアをお手本としてモデルに学習させ、望ましい応答の仕方を教えるファインチューニングの基本手法です。事前学習で幅広い知識を得たモデルを、実際に役立つ受け答えができるように仕上げる工程の起点となります。
大規模言語モデルを対話アシスタントに育てる一般的な流れでは、まずSFTで「指示に従って答える」基本的な振る舞いを教え、その後にRLHFやDPOで人間の好みに合わせて磨き込みます。SFTは、この土台となる「指示応答の型」を身につけさせる段階といえます。
実務では、自社の業務データやFAQ、望ましい回答例を使ってSFTを行うことで、特定分野・特定トーンに特化したモデルを作れます。効果は学習データの質に大きく依存するため、模範回答の品質と一貫性を高く保つことが重要です。近年はLoRAなどのPEFT手法と組み合わせ、低コストにSFTを行うのが一般的になっています。