・英語による用語:PEFT (Parameter-Efficient Fine-Tuning)
・用語カテゴリ:技術用語
・日本語読み:ペフト
・種別:効率的ファインチューニング手法群
・位置づけ:少数パラメータだけ調整する微調整手法の総称
・関連:ファインチューニング / LoRA / LLM / 量子化
・備考:モデル全体ではなく少数のパラメータだけを調整する、効率的なファインチューニング手法の総称。
PEFT(パラメータ効率的ファインチューニング)とは?低コストな微調整手法
PEFT(Parameter-Efficient Fine-Tuning/パラメータ効率的ファインチューニング)とは、大規模モデルの膨大なパラメータをすべて更新するのではなく、ごく一部のパラメータだけを効率的に調整することで、低コストにモデルをカスタマイズする手法の総称です。代表的な手法にLoRAなどがあります。
従来のフルファインチューニングは、モデル全体を再学習するため、高性能なGPUと大量のメモリ・ストレージを必要とし、モデルが大きくなるほど現実的に難しくなっていました。PEFTは、元のモデルを固定したまま追加・調整するパラメータを最小限に抑えることで、必要な計算資源を大幅に削減し、少ないデータ・低コストでの適応を可能にします。
実務的なメリットは、限られたリソースでも特定業務やドメインに特化したモデルを作れる点、そして用途ごとに軽量な「アダプター」を作り分けて運用できる点です。生成AIを自社データや専門領域に合わせて活用したい場合の、現実的なカスタマイズ手段として広く用いられています。