逻辑回归

逻辑回归是一种二分类方法。它从已知类别的数据中学习,把多个输入按学到的重要程度组合,再用 S 形曲线换算成概率。下方的线和面,是“橙类概率为 50%”的位置:达到 50% 判为橙类,否则判为蓝类。

蓝色一类橙色一类分界:橙类概率 50%

二维 · 线性分界

模型估计的橙类概率上方 > 50% · 下方 < 50%

二维 · 非线性分界

模型估计的橙类概率上方 > 50% · 下方 < 50%

三维 · 线性分界

拖动旋转 · 两图同步模型估计的橙类概率上方 > 50% · 下方 < 50%

三维 · 非线性分界

拖动旋转 · 两图同步模型估计的橙类概率上方 > 50% · 下方 < 50%

文字版:逻辑回归在做什么

逻辑回归是最常用的二分类方法:它把几个输入按学到的重要程度加起来,再用一条 S 形曲线把这个和压缩成 0 到 1 之间的概率。这一页画出来的线和面,都是「属于橙类的概率正好等于 50%」的那个位置。

画面上正在发生什么

看每一格的标题:分界线画在概率 50% 处,线的一侧概率大于 50% 判为橙类,另一侧小于 50% 判为蓝类。分界两侧的颜色深浅就是概率高低——离分界越远,模型越有把握;贴着分界线的点,模型其实是在五五开地猜。

四个格子是同一件事的四种呈现:二维线性是一条直线,二维非线性是一条弯曲的界线,三维则变成一个平面或一张曲面。非线性那两格并没有换算法,只是把输入扩展出了平方、交叉这类新特征,界线才弯得起来。

什么时候它会骗你

  • 「全部分开」不是好消息。页面上几组点都能被完全分开,那是因为这是教学数据。真实数据里如果一条界线就能把两类分得一个不错,通常意味着有某个特征偷偷泄漏了答案,而不是模型厉害。
  • 50% 这个门槛是人定的,不是算法定的。模型输出的是概率,把概率变成「是」或「否」需要另外选一个阈值。筛查场景常常把阈值压到 20% 以求少漏,风控场景可能提到 80% 以求少误报。同一个模型换个阈值,准确率就完全不同——详见本站「阈值与 ROC」。
  • 系数不能直接当成因果强度。几个输入彼此相关时,它们会分摊同一份影响,谁的系数大往往取决于谁先进模型,而不是谁更重要。

常见问题

逻辑回归明明是分类,为什么叫回归?
因为它回归的是「对数几率」这个连续量:先用线性组合算出一个实数,再用 Sigmoid 函数把它换算成概率。建模的那一步确实是回归,分类是最后加阈值才发生的。
逻辑回归只能画直线吗?
不是。逻辑回归的分界在它看到的特征空间里始终是一个平直的超平面,但只要把原始输入扩展出平方项、交叉项,映射回原来的坐标系里,界线就是弯的。这一页的「非线性分界」用的就是这个办法。
什么时候不该用逻辑回归?
类别之间的界限明显是一块一块而不是一刀切开的时候(树模型更合适),或者特征数量远多于样本量而又没做正则化的时候。另外它对严重的类别不平衡很敏感,需要配合阈值调整或重采样。

本页为教学合成数据,概率与分界位置由页面实时计算;演示用的几组点是为看清机制而构造的,不代表真实数据的分离程度。

作者与维护:覃秉丰 · 关于覃秉丰 · 引用本页讲解

继续学习