图片

图片

图片

图片

图片

图片

图片

今天给公共先容何如使用randomForestExplainer对就地丛林模子的效果进行确认。

从名字就能看出来，randomForestExplainer是有益为randomForest包开辟的模子确认R包，亦然DrWhy.AI系列器用的一部分。

比拟于其他的通用的模子确认R包，这个包有一些私有的功能，不错对就地丛林模子进行相称详备着实认。

装配

# 2选1install.packages("randomForestExplainer")devtools::install_github("ModelOriented/randomForestExplainer")

加载R包和数据

使用一个纪念数据集进行演示。其中medv是效果变量(房价)，其余是瞻望变量（13个瞻望变量）

library(randomForest)library(randomForestExplainer)data(Boston， package = "MASS")Boston$chas <- as.logical(Boston$chas)str(Boston)## 'data.frame':    506 obs. of  14 variables:##  $ crim   : num  0.00632 0.02731 0.02729 0.03237 0.06905 ...##  $ zn     : num  18 0 0 0 0 0 12.5 12.5 12.5 12.5 ...##  $ indus  : num  2.31 7.07 7.07 2.18 2.18 2.18 7.87 7.87 7.87 7.87 ...##  $ chas   : logi  FALSE FALSE FALSE FALSE FALSE FALSE ...##  $ nox    : num  0.538 0.469 0.469 0.458 0.458 0.458 0.524 0.524 0.524 0.524 ...##  $ rm     : num  6.58 6.42 7.18 7 7.15 ...##  $ age    : num  65.2 78.9 61.1 45.8 54.2 58.7 66.6 96.1 100 85.9 ...##  $ dis    : num  4.09 4.97 4.97 6.06 6.06 ...##  $ rad    : int  1 2 2 3 3 3 5 5 5 5 ...##  $ tax    : num  296 242 242 222 222 222 311 311 311 311 ...##  $ ptratio: num  15.3 17.8 17.8 18.7 18.7 18.7 15.2 15.2 15.2 15.2 ...##  $ black  : num  397 397 393 395 397 ...##  $ lstat  : num  4.98 9.14 4.03 2.94 5.33 ...##  $ medv   : num  24 21.6 34.7 33.4 36.2 28.7 22.9 27.1 16.5 18.9 ...

诞生模子

诞生就地丛林模子：动漫

丝袜诱惑

添加localImp = TRUE暗示需要计较每个瞻望变量对每个不雅测的瞻望效果的孝敬。

set.seed(2017)forest <- randomForest(medv ~ .， data = Boston， localImp = TRUE)forest## ## Call:##  randomForest(formula = medv ~ .， data = Boston， localImp = TRUE) ##                Type of random forest: regression##                      Number of trees: 500## No. of variables tried at each split: 4## ##           Mean of squared residuals: 9.793518##                     % Var explained: 88.4

模子确认

底下会看护先容这个R包的几个函数，通过从多个方濒临这个效果进行确认。

最小深度分散

在有策画树或者就地丛林中，树的深度是一个进攻的超参数，每每一个特征（变量）的深度越小，确认这个特征越进攻（也不统统是这么哈）。

咱们不错计较每个特征的深度分散，就不错约略了解这个特征的进攻性。这个历程不错通过min_depth_distribution竣事：

min_depth_frame <- min_depth_distribution(forest)head(min_depth_frame， n = 10)##    tree variable minimal_depth## 1     1      age             3## 2     1    black             5## 3     1     chas             9## 4     1     crim             2## 5     1      dis             4## 6     1    indus             3## 7     1    lstat             1## 8     1      nox             4## 9     1  ptratio             2## 10    1      rad             5

这个效果不错获胜画出来，使用plot_min_depth_distribution即可可视化每个特征的最小深度的分散以及它的平均值：

plot_min_depth_distribution(min_depth_frame)

图片

你获胜把forest这个对象提供给plot_min_depth_distribution亦然不错的，然而使用min_depth_frame的公正是，如若你要绘画多个最小深度的图，不错幸免重迭计较，这个计较历程还挺费时刻的.

在计较平均最小深度时，plot_min_depth_distribution提供3种计较规律:

mean_sample = "all_trees":莫得用于分歧的变量的最小深度等于树的平均深度mean_sample = "top_trees":这个是默许建树.只使用其中一部分树进行计较mean_sample = "relevant_trees":忽略缺失值，只使用非缺失值计较平均最小深度

从上图来看dis这个变量的排行是高于indus的，因为平均深度小，然而从图中不错看出dis这个变量莫得在深度为0时使用过，是以也有可能indus的排行应该靠前.

如若某个数据有好多缺失值，咱们不错尝试使用mean_sample = "relevant_trees"来碰幸运效果会不会不同(关于咱们这个数据效果不异)

plot_min_depth_distribution(min_depth_frame， mean_sample = "relevant_trees"，                             k = 15)

图片

不错看到dis的排行已经高于indus的.

在张望这个最小深度分散图时，需要把平均值和分散抽象来看，不行只看平局值.

变量进攻性

获胜计较变量进攻性，这个历程也比较慢，然而会同期计较多种磋议变量进攻性的标的:

importance_frame <- measure_importance(forest)importance_frame##    variable mean_min_depth no_of_nodes mse_increase node_purity_increase## 1       age        3.21800        9070    4.2510362            1126.8328## 2     black        3.51400        8015    1.7101238             779.6626## 3      chas        6.45162         736    0.7706690             223.7377## 4      crim        2.55400        9388    8.2946300            2245.7347## 5       dis        2.54200        9210    7.3374224            2458.3168## 6     indus        3.43000        4239    5.6495909            2372.2088## 7     lstat        1.28600       11129   63.2892439           12394.3668## 8       nox        2.45400        6248   10.4210162            2814.5932## 9   ptratio        2.58800        4595    7.3896667            2665.5869## 10      rad        4.99746        2666    1.4400123             357.2610## 11       rm        1.42600       11514   33.9459827           12558.5167## 12      tax        3.31400        4420    4.8688001            1519.1153## 13       zn        5.85152        1633    0.7628575             332.5409##    no_of_trees times_a_root       p_value## 1          500            2 4.469233e-242## 2          500            1  7.699206e-95## 3          403            0  1.000000e+00## 4          500           20 1.774755e-298## 5          500            1 3.014263e-266## 6          500           63  1.000000e+00## 7          500          132  0.000000e+00## 8          500           40  9.508719e-01## 9          500           56  1.000000e+00## 10         499            3  1.000000e+00## 11         500          143  0.000000e+00## 12         500           33  1.000000e+00## 13         488            6  1.000000e+00

第一列是变量名字，背面是变量进攻性的磋议标的，关于纪念和分类深刻的变量进攻性是不不异的，咱们这里是纪念:

mean_min_depth:平均最小深度no_of_nodes:使用该变量进行分歧的总的节点的个数mse_increase:变量司法被打乱后，均方裂缝的平局增多量node_purity_increase:使用某个变量分歧后，节点纯度的增多量，通过泛泛和的减少来磋议no_of_trees:使用该变量进行分歧的总的树的个数times_a_root:使用该变量手脚根节点进行分歧的树的个数p_value:单侧二项分散覆按的p值

如若是分类问题，会深刻以下几列:

accuracy_decrease:当变量司法被打乱后，平均瞻望准确率下落了些许gini_decrease:使用某个变量分歧后，基尼统统的平均减少许

不错看到效果中亦然有mean_min_depth的，是以measure_importance也允许你使用不同的规律计较这个效果.

不错竣事多个进攻性标的可视化，即是同期可视化两个变量进攻性标的.

比如同期展示mean_min_depth和times_a_root两个标的，同期把点的大小映射给no_of_nodes，其实是格外于展示了3个标的:

plot_multi_way_importance(importance_frame， size_measure = "no_of_nodes")

图片

也不错通过x_measure/y_measure指定不同的标的:

plot_multi_way_importance(importance_frame，                           x_measure = "mse_increase"，                           y_measure = "node_purity_increase"，                           size_measure = "p_value"，                           no_of_labels = 5)## Warning: Using alpha for a discrete variable is not advised.

图片

还不错获胜借助ggpairs比较多个变量进攻性标的的关系，其实即是计较联系统统并进行可视化:

plot_importance_ggpairs(importance_frame)

图片

由于是借助了GGally包中的ggpairs这个函数，是以不错改换图形的分散体式，就不错用来展示不同标的的排行:

plot_importance_rankings(importance_frame)

图片

交互作用确认

在凭据变量进攻性标的选拔好咱们的变量之后，还不错探索下它们之间的交互作用。

比如咱们先凭据mean_min_depth和no_of_trees选拔前5个最进攻的变量：

(vars <- important_variables(importance_frame， k = 5，                              measures = c("mean_min_depth"， "no_of_trees")))## [1] "lstat" "rm"    "nox"   "dis"   "crim"

然后探索交互作用（很慢）：

interactions_frame <- min_depth_interactions(forest， vars)head(interactions_frame[order(interactions_frame$occurrences，                               decreasing = TRUE)， ])##    variable root_variable mean_min_depth occurrences interaction## 33    lstat         lstat       1.279749         479 lstat:lstat## 8     black         lstat       2.464367         477 lstat:black## 53       rm         lstat       1.431866         475    lstat:rm## 3       age         lstat       2.178071         473   lstat:age## 18     crim         lstat       1.848217         473  lstat:crim## 23      dis         lstat       1.735482         473   lstat:dis##    uncond_mean_min_depth## 33                 1.286## 8                  3.514## 53                 1.426## 3                  3.218## 18                 2.554## 23                 2.542

这个效果给出了每个变量和其他变量交互作用的最小深度等信息，occurrences是交互作用出现的次数。

效果可视化：

plot_min_depth_interactions(interactions_frame)

图片

这个效果横坐标是变量间的交互作用，是按照交互作用出现次数递减排序的，最前边的是lstat:lstat，同期它的mean_min_depth亦然最小的。

底下咱们选拔lstat:rm（你选拔我方需要的）陆续探索这个交互作用对瞻望效果的影响：

plot_predict_interaction(forest， Boston， "rm"， "lstat")

图片

从图中不错看出，rm越大，lstat越小，房价越高。

生成叙述

用一排代码不错生成一个看护的模子确认叙述动漫，内部包含所灵验果，还有一些确认，相称便捷：

explain_forest(forest， interactions = TRUE， data = Boston)

本站仅提供存储事业，通盘推行均由用户发布，如发现存害或侵权推行，请点击举报。