回归模型是统计中最常用的模型之一，它主要用于解释和预测。本文要讲的Logistic回归又是一种应用非常广泛的回归模型。

线性回归是人们最熟悉的回归模型，简要表达为：Y = aX + b，其中X和Y都是连续数据，比如想知道人的智力(X)能不能预测其未来的数学成绩(Y)。然而有时候，Y不是连续数据，比如一个人会不会因为你的工资数额(X)而喜欢你(Y)，这里的Y只有喜欢和不喜欢两类；再比如今天股市的收益率(X)能不能预测明天股市的涨跌(Y)，这里的Y只有涨和跌两类。进行线性回归需要满足很多前提条件，比如balabala…，Logistic回归则没那么多条条框框。

与线性回归一样，Logistic回归的简要表达也是：Y = aX + b。不同点在于Y。线性回归中一般Y就是Y，而在Logistic回归中，由于Y只有两种选择（事实上也可以有3、4、5…等等多类，但不在本文讨论范围），喜欢或不喜欢、涨或跌、成功或失败、发生或未发生、正面或反面、男或女…，也就是说，Y要么是1，要么是0。假设Y是1的概率是P1，是0的概率是P0，P1+P0 = 1，Logistic回归的Y是P1/P0的自然对数，即：

Y = LN(P1/P0) = LN(P1/(1-P1)) = aX + b

例子1：假如TA喜欢你的概率是P1 = 50%，不喜欢你的概率是P0 = 50%，则：Y = LN(50%/50%) = LN(0.5/(1-0.5)) = LN(0.5/0.5) = 0 = aX + b。

那么，再假设斜率a = 2，截距b = 2，得：0 = 2X + 2；求得X = 1，之所以不是-1，是因为工资数额不可能是负数。

例子1说明，假如你的工资是1，那么TA有50%的可能性喜欢你，有50%的可能性不喜欢你。

那如果你的工资是2呢？即需要求Y，有：

LN(P1/(1-P1)) = 2X + 2 = 2*2 + 2 = 6 ，

P1/(1-P1) = EXP(6) = 403

P1 = 403 – 403*P1

求得P1 ≈ 0.998

没错，如果你的工资翻了一倍，TA有99.8%的可能性喜欢你。

这就是Logistic回归的另一个重要作用：基于概率来判定类别！

接下来结合R语言进一步讲解Logistic回归。

如果你见到的数据是下面这样的：一个变量(Y)不是0就是1，另一个变量(X)是连续的，你可能就要考虑使用逻辑回归来进行分析了。

通过以下R代码可调取上述数据：

library(DAAG)

head(anesthetic)

“anesthetic”数据中，conc表示药物使用剂量，move/nomove表示用药后患者是否可以正常移动。

用以下R代码对数据“anesthetic”进行加工：

anestot=aggregate(anesthetic[,c('move','nomove')],by=list(conc=anesthetic$conc),FUN=sum)

得到anestot数据：

如前所述，当Y是两类时，在本例中，move的反面是nomove，也就是move=0时，nomove=1，反之亦然。而与Y对应的X实际上也可以分类整理，比如在本例中，注射剂量conc=0.8的有7人，其中6人可以移动，1人无法移动。

通过以下R代码对数据“anestot”进行加工：

anestot$total = apply(anestot[,c('move','nomove')],1,sum)

anestot$prop = round(anestot$nomove/anestot$total,3)

anestot$logit = round(log(anestot$prop/(1-anestot$prop)),3)

“anestot”变为：

上表中的prop为某剂量下，不能移动的人数占总人数的比例，也就是Y是1的概率：P1。logit = LN(P1/(1-P1))。至此，logistic回归变成了：logit = a * conc + b

以上是logistic回归的前期数据整理过程。

针对不同类型的数据形式，R语言有相应的代码可以进行分析，其结果相同：

anes1=glm(nomove~conc,family=binomial(link='logit'),data=anesthetic)

anes2=glm(cbind(nomove,move)~conc,family=binomial(link='logit'),data=anestot)

anes3=glm(prop~conc,family=binomial(link='logit'),weights=total,data=anestot)

若是未经整理的原始数据，如anesthetic数据表，使用anes1语句分析；若是数据已经过整理，如anestot数据表，使用anes2、anes3语句。

分析可求得：a = 5.57，b = -6.47。

在logistic回归中，如果假定50%是临界值(即下文会详细说到的阈值)，P1>50%意味着Y=1，P1<50%则意味着Y=0。因此，无论是超过临界值还是低于临界值，都意味着选择的改变。若假定50%是临界值，如果a、b已知，则可求取临界的X值（临界P值=50%时，Y = 0 ,至于Y为什么等于0，以及如何求临界X值，详见上述例子1)。

求临界X值的R代码：

X = abs(anes1$coefficients[1]/anes1$coefficients[2])

求得：X = 1.16

结果意味着，当用药剂量超过1.16时，病人很可能就无法移动了！如果这是一项正式的研究，结果的准确性是很重要的！

cdplot(factor(nomove)~conc,data=anesthetic,main='条件密度图',ylab='病人移动',xlab='麻醉剂量') ##通过绘图也大致可以看出临界X值在1.2附近。

值得一提的是，一般来说，进行logistic回归分析的样本量不应该低于100，并且随着变量的增加，样本量也需要相应增加。

至此，本文用简单的例子讲述了什么是logistic回归。但这批数据过少，变量也只有1个，接下来，本文将用一个更为复杂的实际例子，详细讲述如何使用logistic回归进行建模分析。

本例将使用logistic回归预测股市的涨跌，部分内容来自书籍《An Introduction to Statistical Learning with Applications in R》。

R代码调取数据：

library (ISLR)

head(Smarket)

此数据集包括从2001~2005年标准普尔500指数的投资回报率。Lag1~Lag5为过去5天每个交易日的投资回报率，Today为当日的投资回报率，Direction表示当日投资回报率是正数Up (涨)，还是负数Down (跌)。

本文将使用2001~2004年的数据进行建模，然后预测2005年的涨跌。

上图中有很多起伏的黑线即是最佳模型的ROC曲线（预测准确率56%），蓝色的线为它的平滑曲线。ROC曲线离对角线（那条不太看得清的灰线）越远，表明模型的预测效果越好。56%的准确率实在不怎么好，所以它们离得很近。红色的是预测准确率只有48%模型的ROC曲线，通常会将多个预测模型的ROC曲线绘制在一起，直观地鉴别模型优劣。

AUC（Area Under Curve）是另一个模型评估指标，即ROC曲线下的面积（蓝色区域的面积）。图中显示AUC=0.558，意思是在这块正方形的区域中，蓝色的面积占55.8%。AUC最大为1，当AUC≤0.5时，表明预测模型毫无价值！一般情况，当AUC大于0.8时，才说明该预测模型有较好的价值。AUC表示了模型的解释能力或预测能力!