r语言liftchart_如何优化逻辑回归(logistic regression)？

泻药，可以参考下我们的案例：http://tecdat.cn/?p=2640​tecdat.cn

R语言多元Logistic回归 应用案例

多元Logistic回归

如何进行多重逻辑回归

可以使用阶梯函数通过逐步过程确定多重逻辑回归。此函数选择模型以最小化AIC，而不是像手册中的SAS示例那样根据p值。另请注意，在此示例中，步骤函数找到了与“ 手册”中的过程不同的模型。

通常建议不要盲目地遵循逐步程序，而是要使用拟合统计(AIC，AICc，BIC)比较竞争模型，或者根据生物学或科学上合理的可用变量建立模型。

多重相关是研究潜在自变量之间关系的一种工具。例如，如果两个独立变量彼此相关，可能在最终模型中都不需要这两个变量，但可能有理由选择一个变量而不是另一个变量。

多重相关

创建数值变量的数据框

###只选择那些数字变量或可以制作数字 ###将整数变量隐藏到数值变量 Data.num $ Status = as.numeric(Data.num $ Status) Data.num $ Length = as.numeric(Data.num $ Length) Data.num $ Migr = as.numeric(Data.num $ Migr) Data.num $ Insect = as.numeric(Data.num $ Insect) Data.num $ Diet = as.numeric(Data.num $ Diet) Data.num $ Broods = as.numeric(Data.num $ Broods) Data。 num $ Wood = as.numeric(Data.num $ Wood) Data.num $ Upland = as.numeric(Data.num $ Upland) Data.num $ Water = as.numeric(Data.num $ Water) Data.num $ Release = as.numeric(Data.num $ Release) Data.num $ Indiv = as.numeric(Data.num $ Indiv) ###检查新数据框架 headtail(Data.num) 1 1 1520 9600.0 1.21 1 12 2 6.0 1 0 0 1 6 29 2 1 1250 5000.0 0.56 1 0 1 6.0 1 0 0 1 10 85 3 1 870 3360.0 0.07 1 0 1 4.0 1 0 0 1 3 8 77 0 170 31.0 0.55 3 12 2 4.0 NA 1 0 0 1 2 78 0 210 36.9 2.00 2 8 2 3.7 1 0 0 1 1 2 79 0 225 106.5 1.20 2 12 2 4.8 2 0 0 0 1 2 检查变量之间的相关性 ###注意我在这里使用了Spearman相关

​

多个逻辑回归的例子

在此示例中，数据包含缺失值。在SAS中，缺失值用周期表示，而在R中缺失值用NA表示。SAS通常会无缝地处理缺失值。虽然这使用户更容易，但可能无法确保用户了解这些缺失值的作用。在某些情况下，R要求用户明确如何处理缺失值。处理多元回归中的缺失值的一种方法是从数据集中删除具有任何缺失值的所有观察值。这是我们在逐步过程之前要做的事情，创建一个名为Data.omit的数据框。但是，当我们创建最终模型时，我们只想排除那些在最终模型中实际包含的变量中具有缺失值的观察。为了测试最终模型的整体p值，绘制最终模型，或使用glm.compare函数，我们将创建一个名为Data.final的数据框，只排除那些观察结果。

尽管二项式和poission系列中的模型应该没问题，但是对于使用某些glm拟合的步骤过程存在一些注意事项。

用步骤程序确定模型

最终模型model.final = glm(Status~Upland + Migr + Mass + Indiv + Insect + Wood， data = Data， family = binomial(link =“logit”)， na.action(na.omit) ) summary(model.final) 系数： 估计标准。误差z值Pr(> | z |) ( int)-3.5496482 2.0827400 -1.704 0.088322。 Upland -4.5484289 2.0712502 -2.196 0.028093 * Migr -1.8184049 0.8325702 -2.184 0.028956 * 质量0.0019029 0.0007048 2.700 0.006940 ** 个人0.0137061 0.0038703 3.541 0.000398 *** 昆虫0.2394720 0.1373456 1.744 0.081234。 木材1.8134445 1.3105911 1.384 0.166455

伪R平方$ Pseudo.R.squared.for.model.vs.null Pseudo.R.squared Nagelkerke(Cragg和Uhler)0.833284

模型的总体p值

###在最终模型中创建包含变量的数据框，并在NA中省略

偏差表分析

模型1：状态〜旱地+偏移+质量+个体+昆虫+木材 模型2：状态~1 Df Resid。Dev Df Deviance Pr(> Chi) 1 63 30.392 2 69 93.351 -6 -62.959 1.125e-11 ***

似然比检验

#Df LogLik Df Chisq Pr(> Chisq) 1 7 -15.196 2 1 -46.675 -6 62.959 1.125e-11 ***

标准化残差图

​

简单的预测值图

###在最终模型中创建包含变量的数据框，并在NA中省略

​

检查过度离散

过度离散是glm的剩余偏差相对于剩余自由度较大的情况。这些值显示在模型的摘要中。一个指导原则是，如果剩余偏差与剩余自由度的比率超过1.5，则模型过度分散。过度离散表明模型不能很好地拟合数据：解释变量可能无法很好地描述因变量，或者可能无法为这些数据正确指定模型。如果存在过度离散，一种可能的解决方案是 在glm中使用quasibinomial family选项。

空缺：69自由度为93.351

剩余偏差：63自由度为30.392

summary(model.final)$ deviance / summary(model.final)$ df.residual [1] 0.482417

评估模型的替代方法：使用compare.glm

使用逐步程序的替代或补充是将竞争模型与拟合统计进行比较。我的compare.glm 函数将为glm模型显示AIC，AICc，BIC和伪R平方。使用的模型应该都适合相同的数据。也就是说，如果数据集中的不同变量包含缺失值，则应该谨慎使用。如果您对使用哪种拟合统计数据没有任何偏好，如果您希望在最终模型中使用较少的术语，我可能会推荐AICc或BIC。

一系列模型可以与标准的anova 功能进行比较。模型应嵌套在先前模型中或anova函数列表中的下一个模型中; 和模型应该适合相同的数据。在比较多个回归模型时，通常放宽包含新术语的p值为0.10或0.15。

在以下示例中，使用通过逐步过程选择的模型。请注意，虽然模型9最小化了AIC和AICc，但模型8最小化了BIC。anova结果表明模型8不是对模型7的显着改进。这些结果支持选择模型7,8或9中的任何一个。请注意，手册中的SAS示例 选择了模型4。

###用最终术语创建数据框，没有NA的select(Data， Status， Upland， Migr， Mass， Indiv ， Insect， Wood) Data.final = na.omit(Data.final) ) ###定义要比较的模型。 model.1 = glm(Status~1， data = Data.omit，family = binomial())model.2 = glm(Status~Release， data = Data.omit，family = binomial()) model.3 = glm( Status~Release + Upland， data = Data.omit，family = binomial()) model.4 = glm(Status~Release + Upland + Migr， data = Data.omit，family = binomial()) model.5 = glm(Status~Release + Upland + Migr + Mass， data = Data.omit，family = binomial())model.6 = glm(Status~Release + Upland + Migr + Mass + Indiv ，data = Data.omit，family = binomial()) model.7 = glm(Status~Release + Upland + Migr + Mass + Indiv + Insect，data = Data.omit，family = binomial( )) model.8 = glm(Status~Upland + Migr + Mass + Indiv + Insect，data = Data.omit，family = binomial()) model.9 = glm(Status~Upland + Migr + Mass + Indiv + Insect + Wood， data = Data.omit，family = binomial()) ###使用compare.glm来评估拟合统计。 compareGLM(model.1，model.2，model.3，model.4，model.5，model.6，model.7 ，model.8，model.9) 1“状态~1” 2“状态〜发布” 3“状态〜释放+高地” 4“状态〜发布+ Upland + Migr” 5“状态〜释放+旱地+偏移+群众” 6“状态〜释放+旱地+偏移+群众+独立” 7“状态〜释放+旱地+ Migr +群众+个人+昆虫” 8“Status~Upland + Migr + Mass + Indiv + Insect” 9“状态〜旱地+偏移+群众+独行+昆虫+木头” $ Fit.criteria 排名Df.res AIC AICc BIC McFadden Cox.and.Snell Nagelkerke p.value 1 1 66 94.34 94.53 98.75 0.0000 0.0000 0.0000 Inf 2 2 65 62.13 62.51 68.74 0.3787 0.3999 0.5401 2.538e-09 3 3 64 56.02 56.67 64.84 0.4684 0.4683 0.6325 3.232e-10 4 4 63 51.63 52.61 62.65 0.5392 0.5167 0.6979 7.363e-11 5 5 62 50.64 52.04 63.87 0.5723 0.5377 0.7263 7.672e-11 6 6 61 49.07 50.97 64.50 0.6118 0.5618 0.7588 5.434e-11 7 7 60 46.42 48.90 64.05 0.6633 0.5912 0.7985 2.177e-11 8 6 61 44.71 46.61 60.14 0.6601 0.5894 0.7961 6.885e-12 9 7 60 44.03 46.51 61.67 0.6897 0.6055 0.8178 7.148e-12 ###使用anova将每个模型与前一个模型进行比较。 anova(model.1，model.2，model.3，model.4，model.5，model.6，model.7 ，model.8，model.9， test =“Chisq”) 偏差表分析 模型1：状态~1 模型2：状态〜释放 模型3：状态〜释放+高地 模型4：状态〜释放+ Upland + Migr 模型5：状态〜释放+ Upland + Migr + Mass 模型6：状态〜释放+旱地+偏移+质量+个体 模型7：状态〜释放+旱地+ Migr +质量+个体+昆虫 模型8：状态〜旱地+偏移+质量+个体+昆虫 模型9：状态〜旱地+偏移+质量+个体+昆虫+木材 Df Resid。Dev Df Deviance Pr(> Chi) 1 66 90.343 2 65 56.130 1 34.213 4.94e-09 *** 3 64 48.024 1 8.106 0.004412 ** 4 63 41.631 1 6.393 0.011458 * 5 62 38.643 1 2.988 0.083872。 6 61 35.070 1 3.573 0.058721。 7 60 30.415 1 4.655 0.030970 * 8 61 30.710 -1 -0.295 0.587066 9 60 28.031 1 2.679 0.101686