・英語による用語：Caching / Prompt Caching
・用語カテゴリ：技術用語
・日本語読み：キャッシュ（キャッシング）
・種別：推論最適化
・位置づけ：処理結果を再利用しコスト・速度を改善
・関連：LLM ／ コンテキストウィンドウ ／ レイテンシ ／ トークン
・備考：一度処理した内容を保存して再利用し、応答速度とコストを改善する仕組み。LLMではプロンプトキャッシュが重要。
Caching（キャッシュ）とは？AIの応答を速く・安くする仕組み
Caching（キャッシュ／キャッシング）とは、一度処理・計算した結果を一時的に保存しておき、同じ・似た要求が来たときに再利用することで、処理速度を高め、計算コストを削減する仕組みです。Webやデータベースの世界で広く使われてきた概念ですが、生成AIでも重要性が増しています。
大規模言語モデルの文脈でとくに注目されるのが「プロンプトキャッシュ」です。長いシステムプロンプトや共通の参考資料など、毎回同じ内容を含むプロンプトの一部をモデル側でキャッシュして再計算を省くことで、応答の高速化とトークンコストの削減を実現します。RAGで大きな文書を繰り返し渡す場合や、長いコンテキストを共有するチャットボットで効果が大きくなります。
実務では、変化しない前提部分（指示・ナレッジ）を先頭にまとめてキャッシュが効きやすい構成にする、といったプロンプト設計がコスト最適化に直結します。一方、キャッシュは内容が変わらないことが前提のため、最新性が必要な情報の扱いやキャッシュの有効期間の設計には注意が必要です。
