・英語による用語：Explainable AI (XAI)
・用語カテゴリ：技術用語／ガバナンス
・日本語読み：エックスエーアイ（説明可能なAI）
・種別：AIの判断根拠を説明する技術・考え方
・位置づけ：責任あるAIの中核要素
・関連：責任あるAI ／ 倫理的AI ／ バイアス ／ グラウンディング
・備考：AIがなぜその結論に至ったかを人間が理解できるようにする技術・取り組み。信頼性と説明責任の要。
Explainable AI（XAI）とは？AIの判断根拠を「見える化」する取り組み
Explainable AI（XAI／説明可能なAI）とは、AIがなぜその結論・予測に至ったのか、その判断の根拠を人間が理解できる形で説明できるようにする技術や考え方の総称です。高性能なAI、とくにディープラーニングは内部が複雑で「ブラックボックス」になりがちなため、その判断を透明化しようとする取り組みです。
なぜ重要かというと、医療診断・与信審査・採用・融資といった人の生活を左右する判断にAIを使う場合、「理由は分からないが、そう判定した」では受け入れられないからです。根拠が示せれば、誤りやバイアス（偏り）の発見、説明責任（アカウンタビリティ）の担保、利用者からの信頼獲得につながります。AI規制の文脈でも、判断根拠の説明可能性が求められる場面が増えています。
手法としては、予測にどの入力がどれだけ効いたかを可視化する、判断に影響した特徴を示す、といったアプローチがあります。生成AIでも、回答の根拠となった出典を示すこと（グラウンディング）は、広い意味での説明可能性を高める工夫といえます。
一方で、性能の高いモデルほど説明が難しくなる傾向があり、「精度」と「説明しやすさ」はしばしばトレードオフになります。用途のリスクに応じて、どこまでの説明可能性を求めるかを設計することが、責任あるAI活用の要点になります。
