djcxym的博客

线性回归的一个问题是可能出现欠拟合现象。显而易见，模型欠拟合就不能取得好的预测效果，一个常见的解决方法是局部加权回归。该算法的思想是给待预测点附近的每一个点赋予一定的权重（离待预测点越近权重越大，越远权重越小，即以待预测点附近点的一个子集来进行普通的线性回归）   普通线性回归与局部加权线性回归的区别在于，普通线性回归是选择合适的参数θ\theta最小化∑i(y(i)−θTx(i))\sum_{

回归问题的目标是在给定N维输入变量xx的情况下，预测一个或多个连续目标变量的值。回归问题中最简单的就是线性回归，即目标变量和输入参数之间的关系是线性关系，许多非线性回归问题可以通过在线性回归的基础上引入层级结构或高维映射得到，因此线性回归是许多回归问题的基础，函数模型为：hθ(x)=θ0+θ1x1+θ2x2+......θnxnh_\theta(x) = \theta_0 + \theta_1x_1