・英語による用語：Guardrails
・用語カテゴリ：技術用語
・日本語読み：ガードレール
・種別：AI安全制御
・位置づけ：AIの入出力を制御する安全策
・関連：責任あるAI ／ 倫理的AI ／ プロンプトインジェクション ／ ハルシネーション
・備考：AIが不適切・危険・逸脱した応答をしないよう入出力を監視・制御する仕組みの総称。
Guardrails（ガードレール）とは？AIの暴走を防ぐ安全策
Guardrails（ガードレール）とは、AI、とりわけ生成AIが不適切・危険・的外れな応答をしたり、想定外の動作をしたりしないように、その入力と出力を監視・制御する仕組みの総称です。道路のガードレールが車を安全な範囲に留めるように、AIの振る舞いを許容範囲内に収めるための「安全柵」を指します。
具体的には、暴力的・差別的な表現や個人情報の出力をブロックする、特定の話題（医療・法律の断定的な助言など）を避けさせる、決められた形式や範囲でのみ回答させる、危険なツール操作を禁止する、といった制御が含まれます。実装方法は多様で、システムプロンプトによる指示、入出力を検査する別モデルやルール、外部の検閲API、業務システム側の権限設計などを組み合わせて構築されます。
企業が生成AIを顧客対応や社内業務に導入する際、ガードレールはブランド毀損・情報漏えい・コンプライアンス違反を防ぐ必須の要素です。AIエージェントのように実際にシステムを操作する用途では、その重要性はいっそう高まります。
一方で、ガードレールを厳しくしすぎると正当な要求まで拒否して使い勝手が落ち、緩すぎると悪用（ジェイルブレイクやプロンプトインジェクション）を許します。安全性と利便性のバランスを取りながら、運用しながら継続的に調整していくことが求められます。
