SHapley Additive exPlanations（SHAP）とは？¶

SHapley Additive exPlanations（SHAP）は、機械学習モデルの予測を個々の特徴量がどれだけ影響したかを定量化し、説明するための手法です。
SHAPは、機械学習モデルを「解釈可能」にするための説明手法として近年注目されており、特に「ブラックボックス」と言われる深層学習やアンサンブル学習などの複雑なモデルでも効果的に使われます。

SHAPは、協力ゲーム理論に基づくShapley値（シャープレー値）という概念を用いることで、モデルの出力に対する各特徴量の寄与を公平に評価します。
これにより、特徴量がどの程度予測に寄与しているのかを正確に把握でき、予測結果を直感的に理解しやすくします。

SHAPとShapley値の理論的基盤¶

Shapley値とは？¶

Shapley値は、協力ゲーム理論における概念で、各プレイヤー（ここでは特徴量）が「チーム全体の成果にどれだけ貢献したか」を評価するために用いられます。
特徴量をプレイヤー、予測をチームの成果として捉え、各特徴量がどれだけ予測に貢献したかを測るのがShapley値の役割です。

Shapley値は次のように求められます。

全ての特徴量の組み合わせを考慮：ある特徴量の寄与度を測定する際に、その特徴量がどの順序で登場するか、他のどの特徴量と一緒に登場するか、あらゆる組み合わせを考慮します。
寄与の平均を取る：それぞれの組み合わせで計算された寄与度の平均を取ることで、各特徴量が予測に与える影響を公平に評価します。

例えば、特徴量が「年齢」と「収入」という2つだけのモデルを考えると、年齢や収入が単独で予測にどれだけ貢献しているか、また年齢と収入が共同でどれだけ貢献しているかをすべての順列で考慮し、その寄与の平均をShapley値として求めます。

特徴量重要度との違い¶

SHAP値と特徴量重要度は、どちらも特徴量の影響度を測るために使われますが、以下のような違いがあります。

1. 定義と計算方法¶

SHAP値: 各サンプルにおける個々の特徴量が予測に与える寄与度（Shapley値）です。
特徴量の順序を考慮し、各特徴量の影響を公平に割り振るため、特徴量の相互作用も考慮されます。
各サンプルごとに異なるShapley値が計算され、予測結果にどのように貢献しているかが具体的にわかります。
特徴量重要度: 通常、モデル全体に対して特徴量の平均的な影響度を示す指標です。
例えば、ランダムフォレストや勾配ブースティングなどのモデルでは、特徴量を用いた分割の「分割改善度」や「使用回数」に基づいて計算され、全体的にどの特徴量が重要かを示しますが、具体的なサンプルごとの影響度は表現されません。

2. 解釈の粒度¶

SHAP値: サンプルごとに特徴量の寄与が計算されるため、「このサンプルにおいてこの特徴量が予測にどのように寄与したか」が分かります。
モデルの予測がサンプルごとに異なる理由や、どの特徴量がどの方向にどの程度影響を与えたかを明確に説明できます。
特徴量重要度: モデル全体の特徴量の影響度を平均的に示すため、「どの特徴量が全体として重要か」はわかりますが、サンプルごとの影響はわかりません。

3. 相互作用の考慮¶

SHAP値: 特徴量同士の相互作用を考慮することができ、他の特徴量と連携している場合でも公平に影響を割り振ります。
特徴量重要度: モデルによっては相互作用を考慮しない方法が多く、単独での特徴量の効果を示すことが多いです。

4. 具体的な用途¶

SHAP値: モデル解釈性が重要な場面、特に個別の予測結果を説明する際に役立ちます。
たとえば、医療や金融での個別の判断根拠を説明するのに適しています。
特徴量重要度: モデル全体の一般的な傾向を知りたい場合に役立ちます。
重要な特徴量を見つけるための事前分析や特徴量選択に適しています。

SHAPの計算方法¶

実際にSHAPを用いる際には、各特徴量に対するShapley値を以下のように求めます。

予測結果の基準値（平均値）を決める：
モデル全体での予測結果の平均値（基準）を定め、ここから各特徴量がどれだけ偏らせているかを測定します。
これにより、予測値を「基準値＋各特徴量の寄与の総和」という形に分解できます。

特定の特徴量が追加された場合の影響を計算する：
特徴量の組み合わせによって予測値がどう変わるかを計算し、その貢献度を評価します。
特徴量が少ない順から追加していき、全ての組み合わせでの予測値を計算することで、各特徴量の寄与度を公平に評価します。

Shapley値の計算：
各特徴量の寄与を全ての組み合わせについて平均することで、最終的なSHAP値を決定します。

SHAPのメリット¶

公平な寄与評価：
SHAPはShapley値に基づき、各特徴量の寄与を公平に評価します。
どの特徴量がどれだけ予測に影響したかを定量的に示すため、特徴量の重要度を客観的に比較できます。

解釈可能性の向上：
SHAP値を視覚化することで、予測に関わる特徴量の影響度が一目でわかります。
例えば、SHAP値のバーグラフやSHAP値の散布図を用いると、各特徴量の貢献度や、それがどの方向に影響しているかが明確に示され、予測モデルを直感的に理解できます。

ローカルとグローバルな説明が可能：
SHAPは個別の予測値に対する「ローカルな説明」も、全体の傾向を捉える「グローバルな説明」も可能です。
これにより、特定のサンプルにおける予測理由と、モデル全体の一般的な特徴量の影響を両方確認できます。

SHAPの応用例¶

1. 医療診断モデルの解釈：¶

医療診断での予測モデルにおいて、SHAPを用いることで、例えば「特定の疾患を予測した際に、どの検査項目が予測に大きく寄与しているか」を把握できます。
SHAP値により、血圧やコレステロール値などが疾患リスクの予測に与える影響度を数値的に解釈できるため、医師がモデルの予測理由を理解し、診断や治療に役立てられます。

2. 融資審査モデルでの説明：¶

銀行の融資審査で使われるモデルでは、SHAP値により、個々の申請者の審査結果に影響を与えた要因を解明できます。
例えば、年収、信用スコア、過去の返済履歴などが審査結果にどれだけ影響を与えたかを示すことで、顧客に対する透明性を確保できます。

3. マーケティングモデルでの顧客行動分析：¶

マーケティング分野では、SHAPを用いて、特定の広告が顧客の購買行動にどのように影響したかを評価できます。
年齢や購買履歴、アクセス経路といった特徴量が予測結果にどのように作用したかを分析することで、マーケティング施策の最適化に役立てられます。

SHAPの制約¶

計算コストが高い：
SHAPは、すべての特徴量の組み合わせに対する寄与を計算するため、特徴量が多くなると計算量が急激に増加します。
そのため、大規模なデータや複雑なモデルに対しては、効率的な近似手法や部分的な計算を行う必要があります。

非線形モデルへの適用が難しい場合もある：
SHAPは非線形モデルにも対応可能ですが、モデルの構造が複雑な場合には、単純に解釈できないSHAP値が得られることもあります。
こうした場合には、特徴量間の相互作用を理解するための追加分析が必要です。

解釈に専門知識が求められる：
SHAPの結果を正確に解釈するためには、特徴量の意味や予測対象のドメイン知識が求められます。
特に、医療や金融などの分野では、SHAP値の解釈に対する専門的な理解が欠かせません。

まとめ¶

SHAPは、複雑な機械学習モデルを解釈可能にするための強力なツールで、予測結果に対する各特徴量の寄与を公平かつ直感的に示すことができます。
特に、予測の透明性が求められる医療や金融といった分野で活用されており、予測理由を明確にすることで、モデルの信頼性を高めるとともに、ユーザーへの説明責任も果たします。

SHAP値の解説メモ