SHAP值：让机器学习模型不再黑箱

论文背景

SHAP（SHapley Additive exPlanations）由 Lundberg 和 Lee 于 2017 年提出，为模型解释提供了统一的理论框架。

Shapley 值的博弈论根源

SHAP 值源自合作博弈论中的 Shapley 值概念，衡量每个特征对预测结果的边际贡献。

import shap
explainer = shap.TreeExplainer(model)
shap_values = explainer.shap_values(X_test)
shap.summary_plot(shap_values, X_test)

可视化解读

SHAP 提供多种可视化工具：summary plot、dependence plot、force plot 等，帮助你从全局和局部两个层面理解模型行为。