大数据——协同过滤推荐算法：矩阵分解

矩阵分解的方法也分为很多种：SVD、LFM、BiasSVD和SVD++。

• Traditional SVD
  一般SVD矩阵分解指的是SVD奇异值分解，将矩阵分解成三个相乘矩阵，中间矩阵就是奇异值矩阵。SVD分解的前提是矩阵是稠密的，现实场景中数据都是稀疏的，无法使用SVD，需要均值或者其他方法来填充，会对数据造成一定影响。具体公式如下：
  $M_{m\times n}=U_{m\times k}{\sum }_{k\times k}{K}_{k\times n}^T$
• FunkSVD(LFM)
  FunkSVD是最原始的LFM模型，它将矩阵分解为2个矩阵：用户-隐含特征矩阵，物品-隐含特征矩阵，一般这个过程跟线性回归类似。以下公式为矩阵分解后的损失函数，p为用户-隐含特征矩阵，q为物品-隐含特征矩阵，我们通过求损失函数的最小值来计算p和q，后面部分为L2范式，防止过拟合。下面公式用随机梯度下降来求最优解。
  $$\underset{qp}{\min }\sum _{(u,i)\in R}(r_{ui}-q_i^T{p}_u{)}^2+\lambda (||q_i|{|}^2+||p_u|{|}^2)$$
• BiasSVD
  BiasSVD就是在FunkSVD的基础上加上Baseline基准预测的偏置项，具体公式如下：
  $$\underset{qp}{\min }\sum _{(u,i)\in R}(r_{ui}-u-b_u-b_i-q_i^T{p}_u{)}^2+\lambda (||q_i|{|}^2+||p_u|{|}^2+||b_u|{|}^2+||b_i|{|}^2)$$
• SVD++
  改进的BiasSVD，即在BiasSVD的基础上再加上用户的隐式反馈信息。这里不做多介绍。

1 LFM原理解析

LFM隐语义模型的核心思想是通过隐含特征联系用户和物品。

P是用户和隐含特征矩阵，这里表示三个隐含特征；
Q是隐含特征和物品矩阵
Q是User-Item，由P*Q得来。

我们利用矩阵分解技术，将User-Item评分矩阵分解为P和Q的矩阵，然后利用P*Q还原评分矩阵。其中$R_{11}=\overrightarrow{P_{1,k}}\cdot \overrightarrow{Q_{k,1}}$
所以我们的评分为：
$$\widehat{r_{ui}}=\overrightarrow{p_{u,k}}\cdot \overrightarrow{q_{i,k}}=\sum _{k=1}^k{p}_{uk}{q}_{ik}$$

损失函数

$$Cost=\sum _{u,i\in R}(r_{ui}-{\hat{r}}_{ui}{)}^2=\sum _{u,i\in R}(r^{}$$