逻辑回归函数（怎样正确理解逻辑回归（logistic regression））
本文目录
- 怎样正确理解逻辑回归（logistic regression）
- 逻辑回归算法原理是什么
- 逻辑回归为什么使用对数损失函数
- 逻辑回归和线性回归的区别 机器学习
- 机器学习之逻辑回归算法的一些疑问
- 逻辑回归和线性回归的区别是什么
怎样正确理解逻辑回归（logistic regression）
逻辑回归通常用于解决分类问题，“分类”是应用逻辑回归的目的和结果，但中间过程依旧是“回归”。
逻辑回归是用来做分类算法的，大家都熟悉线性回归，一般形式是Y=aX+b，y的取值范围是[-∞, +∞]，有这么多取值，怎么进行分类呢？不用担心，伟大的数学家已经为我们找到了一个方法。
也就是把Y的结果带入一个非线性变换的Sigmoid函数中，即可得到[0,1]之间取值范围的数S，S可以把它看成是一个概率值，如果我们设置概率阈值为0.5，那么S大于0.5可以看成是正样本，小于0.5看成是负样本，就可以进行分类函数中t无论取什么值，其结果都在[0,-1]的区间内，回想一下，一个分类问题就有两种答案，一种是“是”，一种是“否”，那0对应着“否”，1对应着“是”，那又有人问了，你这不是[0,1]的区间吗，怎么会只有0和1呢？这个问题问得好，我们假设分类的阈值是0.5，那么超过0.5的归为1分类，低于0.5的归为0分类，阈值是可以自己设定的。
函数中t无论取什么值，其结果都在[0,-1]的区间内，回想一下，一个分类问题就有两种答案，一种是“是”，一种是“否”，那0对应着“否”，1对应着“是”，那又有人问了，你这不是[0,1]的区间吗，怎么会只有0和1呢？这个问题问得好，我们假设分类的阈值是0.5，那么超过0.5的归为1分类，低于0.5的归为0分类，阈值是可以自己设定的。
好了，接下来我们把aX+b带入t中就得到了我们的逻辑回归的一般模型方程：
结果P也可以理解为概率，换句话说概率大于0.5的属于1分类，概率小于0.5的属于0分类，这就达到了分类的目的。
逻辑回归有什么优点
LR能以概率的形式输出结果，而非只是0,1判定。
LR的可解释性强，可控度高(你要给老板讲的嘛…)。
训练快，feature engineering之后效果赞。
因为结果是概率，可以做ranking model。
逻辑回归有哪些应用
CTR预估/推荐系统的learning to rank/各种分类场景。
某搜索引擎厂的广告CTR预估基线版是LR。
某电商搜索排序/广告CTR预估基线版是LR。
某电商的购物搭配推荐用了大量LR。
某现在一天广告赚1000w+的新闻app排序基线是LR。
逻辑回归算法原理是什么
逻辑回归就是这样的一个过程：面对一个回归或者分类问题，建立代价函数，然后通过优化方法迭代求解出最优的模型参数，测试验证这个求解的模型的好坏。
Logistic回归虽然名字里带“回归”，但是它实际上是一种分类方法，主要用于两分类问题（即输出只有两种，分别代表两个类别）。回归模型中，y是一个定性变量，比如y=0或1，logistic方法主要应用于研究某些事件发生的概率。
Logistic回归模型的适用条件
1、因变量为二分类的分类变量或某事件的发生率，并且是数值型变量。但是需要注意，重复计数现象指标不适用于Logistic回归。
2、残差和因变量都要服从二项分布。二项分布对应的是分类变量，所以不是正态分布，进而不是用最小二乘法，而是最大似然法来解决方程估计和检验问题。
3、自变量和Logistic概率是线性关系。
以上内容参考：百度百科-logistic回归
逻辑回归为什么使用对数损失函数
两种方法都是常见的分类算法,从目标函数来看,区别在于逻辑回归采用的是logistical
loss,svm采用的是hinge
loss.这两个损失函数的目的都是增加对分类影响较大的数据点的权重,减少与分类关系较小的数据点的权重.SVM的处理方法是只考虑support
vect。
逻辑回归和线性回归的区别 机器学习
逻辑回归：y=sigmoid(w’x)
线性回归：y=w’x
也就是逻辑回归比线性回归多了一个sigmoid函数，sigmoid(x)=1/(1+exp(-x))，其实就是对x进行归一化操作，使得sigmoid(x)位于0~1
逻辑回归通常用于二分类模型，目标函数是二类交叉熵，y的值表示属于第1类的概率，用户可以自己设置一个分类阈值。
线性回归用来拟合数据，目标函数是平法和误差
机器学习之逻辑回归算法的一些疑问
第一， 参数为theta, 观察到x向量，判断为y标签的概率。
第二， h(x)为sigmoid function, 用来将 (-inf,inf)映射至(0,1]作为概率分布
第三 , 虽然不知道你在说什么，但是y是标签，所以在这里只有二值，1或-1
逻辑回归和线性回归的区别是什么
一、性质不同
1、逻辑回归：是一种广义的线性回归分析模型。
2、线性回归：利用数理统计中回归分析，来确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法。
二、应用不同
1、逻辑回归：常用于数据挖掘，疾病自动诊断，经济预测等领域。
2、线性回归：常运用于数学、金融、趋势线、经济学等领域。
扩展资料：
线性回归的特征：
回归分析中有多个自变量：这里有一个原则问题，这些自变量的重要性，究竟谁是最重要，谁是比较重要，谁是不重要。所以，spss线性回归有一个和逐步判别分析的等价的设置。
原理：是F检验。spss中的操作是“分析”～“回归”～“线性”主对话框方法框中需先选定“逐步”方法～“选项”子对话框
如果是选择“用F检验的概率值”，越小代表这个变量越容易进入方程。原因是这个变量的F检验的概率小，说明它显著，也就是这个变量对回归方程的贡献越大，进一步说就是该变量被引入回归方程的资格越大。
参考资料来源：百度百科-线性回归
参考资料来源：百度百科-逻辑回归
更多文章：
2026年10月11日 06:30
2026年10月11日 06:20
2026年10月11日 05:40
another time（another time和other time的区别）
2026年10月11日 05:00
2026年10月11日 04:50
2026年10月11日 03:00
2026年10月11日 02:40
2026年10月11日 02:20
2026年10月11日 01:10
2026年10月11日 00:40
