【机器学习笔录】线性回归与逻辑回归

Posted by ShawnD on September 17, 2018

1、什么是线性回归

  • 线性回归是利用数理统计中回归分析,来确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法。

<1>一元线性回归

  • 在回归分析中如果只包含一个自变量和因变量,且二者关系可以用一条直线近似表示。

<2>多元线性回归

  • 多个自变量与因变量成线性关系

2、什么是逻辑回归

逻辑回归不是回归算法,而是分类算法(怎么理解?)

在线性回归模型中,输出一般是连续的,对于每一个输入的x,都有一个对应的y输出。模型的定义域和值域都可以是[-∞, +∞]。但是对于逻辑 回归,输入可以是连续的[-∞, +∞],但输出一般是离散的,即只有有限多个输出值。例如,其值域可以只有两个值{0, 1},这两个值可以表示对样本的某种分类,高/低、患病/健康、阴性/阳性等,这就是最常见的二分类逻辑回归。因此,从整体上来说,通过逻辑回归模型,我们将在整个实数范围上的x映射到了有限个点上,这样就实现了对x的分类。因为每次拿过来一个x,经过逻辑回归分析,就可以将它归入某一类y中。