・英語による用語:Parameter
・用語カテゴリ:技術用語
・日本語読み:パラメータ
・種別:モデル内部の学習される値
・位置づけ:モデルの規模・能力を測る要素
・関連:ニューラルネットワーク / LLM / 事前学習 / 量子化
・備考:モデルが学習を通じて調整する内部の数値。数(パラメータ数)はモデルの規模の目安になる。
Parameter(パラメータ)とは?AIの賢さを支える無数の「調整つまみ」
Parameter(パラメータ)とは、AIモデルの内部にあり、学習を通じて調整されていく無数の数値のことです。ニューラルネットワークにおける各つながりの「重み」がその代表で、モデルはこの膨大なパラメータを少しずつ調整することで、データの中のパターンを捉え、賢く振る舞えるようになります。いわばAIの知識や能力を担う「調整つまみ」の集まりです。
「パラメータ数」は、モデルの規模を表す代表的な指標として使われます。数十億〜数千億、あるいはそれ以上といった規模で語られ、一般にパラメータが多いほど複雑なことを学べる潜在能力が高い一方、動かすのに必要な計算資源やメモリ、コストも増えます。ただし、数が多ければ必ず賢いわけではなく、学習データやアーキテクチャの質も同じく重要です。
近年は、単純に巨大化するだけでなく、MoE(専門家混合)で必要な部分だけを使う、量子化でパラメータを軽く表現する、といった「効率」への工夫が重視されています。パラメータは、モデルの規模とコストを理解するうえでの基本的なものさしといえます。