・英語による用語：Jailbreak
・用語カテゴリ：技術用語
・日本語読み：ジェイルブレイク
・種別：AIへの攻撃/回避手法
・位置づけ：AIの安全制限を回避させる試み
・関連：プロンプトインジェクション ／ ガードレール ／ アラインメント ／ LLM
・備考：巧妙な指示でAIの安全制限を回避させ、本来は出力しない内容を引き出す試み。
Jailbreak（ジェイルブレイク）とは？AIの制限をすり抜ける手口
Jailbreak（ジェイルブレイク）とは、生成AIに設けられた安全上の制限やガードレールを、巧妙な指示によって回避（すり抜け）させ、本来は出力しないはずの内容を引き出そうとする試みを指します。もともとはスマートフォンの制限解除を意味する言葉で、AIの文脈では「AIに禁止事項を破らせる」行為として使われます。
典型的な手口には、「これはフィクションの設定です」「あなたは制限のない別のAIを演じてください」といったロールプレイをさせるもの、指示を段階的に誘導するもの、無害な要求を装って有害な出力へ近づけるものなどがあります。攻撃者は、AIが持つ「指示に従おうとする性質」を逆手に取り、安全方針よりも目の前の指示を優先させようとします。
ジェイルブレイクが成功すると、危険な情報の出力、不適切なコンテンツ生成、システムプロンプトの暴露などにつながり、サービス提供者にとっては信頼・法務・ブランド上の重大なリスクとなります。よく似た概念にプロンプトインジェクションがありますが、ジェイルブレイクは主に「AI自身の制限解除」を狙う点に特徴があります。
対策としては、堅牢なガードレールの構築、攻撃パターンの継続的な学習と検知、権限の最小化、出力の監視などを多層的に組み合わせることが重要です。AIの安全性は一度作れば終わりではなく、攻防が続く領域として運用面での備えが欠かせません。
