暑假期间阅读了很多比较新的推荐系统方向论文，于是把相关笔记挂出来。

传统模型

使用多种采样条件实现地点推荐¹

拟解决的主要问题

基于地点的推荐已经是基于地理位置的社交网路的重要功能之一。很多地点推荐模型使用了额外的信息来提升推荐的性能，然而他们都只在负采样中使用了一种额外信息，而本文同时结合了地理影响和社交关联。

分析目前主流结合地理影响和社交关联的推荐方法时，主要发现了以下四个局限性

• 局限一：负样本是通过均匀采样得到的。
• 局限二：采样方法基于预先定义的地理环境采样方式。
• 局限三：采样方法基于预先定义的社交关联采样方式。
• 局限四：事先假设定义的采样方法不足以和多种额外信息进行灵活结合。

研究内容

采用多种采样条件的个性化排名框架

给定用户$u$和地点$i$，首先计算用户对于地点的偏好评分

$$s_{u,i}=\prod_{a\in A}P_a(i|u)$$

为了解决局限一和局限四，文中需要采样两个负样本，然后计算用户的偏好得分$s_{u,j}$和$s_{u,k}$，然后条目三元组的排序函数如下

$$\hat r_{u,i,j,k}(\Theta):=\begin{cases} \hat y_{u,i}>\hat y_{u,j}\wedge\hat y_{u,j}>\hat y_{u,k},&\text{if }s_{u,j}>s_{u,k}\\ \hat y_{u,i}>\hat y_{u,k}\wedge\hat y_{u,k}>\hat y_{u,j},&\text{otherwise} \end{cases}$$

其中参数$\Theta$包含了矩阵因式分解方法中的$P$和$Q$。根据排序函数，可以定义似然函数求解参数$\Theta$。

$$\mathcal L(\Theta)=\prod_{u\in\mathcal U}\left(\prod_{i\in\mathcal V^+_u}\prod_{j\in\mathcal V^-_u}P(\hat r_{u,i}>\hat r_{u,j}|\Theta) \prod_{j\in\mathcal V^-_u}\prod_{k\in\mathcal V^-_u}P(\hat r_{u,j}>\hat r_{u,k}|\Theta)\right)$$

似然函数中的排序依据$s_{u,j}>s_{u,k}$，如果$s_{u,j}<s_{u,k}$，只需要调换$j$和$k$即可。为了使得概率函数可微，使用sigmoid函数来表示。在对似然函数取对数以及增加正则化项之后，问题的优化目标就是

$$\begin{split} \mathcal J(\Theta)=&\arg\max_\Theta\sum_{u\in\mathcal U}\left[\sum_{i\in\mathcal V^+_u}\sum_{j\in\mathcal V^-_u}\ln(\sigma(\hat r_{u,i}-\hat r_{u,j}))+\sum_{j\in\mathcal V^-_u}\sum_{k\in\mathcal V^-_u}\ln(\sigma(\hat r_{u,j}-\hat r_{u,k}))\right]\\ -&\lambda_p\sum_{u\in\mathcal U}\|P_u\|^2_F-\lambda_q\sum_{i\in\mathcal V}\|Q-i\|^2_F-\lambda_b\sum_{i\in\mathcal V}b^2_i \end{split}$$

其中的排序分是由矩阵因式分解得到的

$$\hat r_{u,i}=P^T_uQ_i+b_i=\sum^d_{f=1}p_{u,f}\times q_{i,f}+b_i$$

采用梯度下降方法对目标函数进行优化得到$P$和$Q$，算法的整体框架如下

基于地理影响的负采样条件

为了解决局限二，文中使用多中心高斯分布建模。给定地点$i$和用户的中心集合$C_u$，用户访问这个地点的概率为

$$P_m(i|C_u)=\sum_{c_u\in C_u}P(i\in c_u)\frac{f^\alpha_{c_u}}{\sum_{j\in C_u}f^\alpha_j}\frac{\mathcal N(i|\mu_{c_u},\sigma_{c_u})}{\sum_{j\in C_u}\mathcal N(i|\mu_j,\sigma_j)}$$

• $P(i\in c_u)\propto1/dist(i,c_u)$，是地点$$i$$到中心$c_u$的倒数。
• $\frac{f^\alpha_{c_u}}{\sum_{j\in C_u}f^\alpha_j}$中心$c_u$访问频率$r_{u,c_u}$影响的标准化。
• $\frac{\mathcal N(i\mid\mu_{c_u},\sigma_{c_u})}{\sum_{j\in C_u}\mathcal N(i\mid\mu_j,\sigma_j)}$表示地点$i$属于中心$c_u$的概率，其中$\mathcal N(i\mid\mu_{c_u},\sigma_{c_u})$是高斯分布的概率密度函数，$\mu_{c_u}$和$\sigma_{c_u}$分别是中心附近地点距离的均值和方差。

每个用户的中心集合需要从用户访问记录$\mathcal V^+_u$中寻找，首先从访问最频繁的地点开始，将剩余地点距离小于$\kappa$的归为一个区域，如果整个区域的访问频率超过阈值$\phi$，那么将其中访问频率最高的地点加入中心集合$C_u$。

基于社交关联的负采样条件

为了解决局限三，需要对社交关联进行建模。

• 步骤一：社交聚集。给定用户$u$和一个未访问过的地点$i$，将用户好友的访问频率聚集

$$x_{u,i}=\sum_{f\in F_u}r_{f,i}$$

• 步骤二：社交频率的分布。在实际环境中，社交访问频率$x$符合幂定律分布，因此对应的概率密度函数为

$$f_{So}(x)=(\beta-1)(1+x)^{-\beta},x\ge 0,\beta>1$$

其中$\beta$可以通过访问记录矩阵$R$和社交关系矩阵$F$计算得到

$$\beta=1+|\mathcal U||\mathcal V|\left[\sum_{u\in \mathcal U}\sum_{i\in\mathcal V}\ln(1+\sum_{f\in F_u}r_{f,i})\right]^{-1}$$

• 步骤三：社交关联得分计算。社交频率的概率密度函数是单调递减的，但是社交因素得分应当是单调递增，所以需要将概率密度函数进行积分

$$P_s(i|u)=\int^{x_{u,i}}_0f_{So}(z)dz=1-(1+x_{u,i})^{1-\beta}$$

文章创新点

• 提出了一个采用多种采样条件面向地点推荐的个性化排名框架，以此能够结合多种不同的额外信息。
• 利用现存的概率模型进行负采样，也就是在采样负训练样本的时候考虑地理影响和社交关联的概率分布情况。

未来研究点

作者在论文中表示，未来将考虑使用概率模型来捕捉好友留下的评论中的语义信息，从未进一步地提高论文中采样模型的效率。

通过对生命周期建模实现推荐²

拟解决的主要问题

传统的推荐系统总是假设用户的偏好以及条目的属性是一成不变的，但是在现实的环境之中，无论是用户的偏好还是条目的属性都会随着时间而发生变化。虽然也有考虑绝对时间的推荐方法，但是用户和条目的变化和相对时间关系更加密切。

然而在结合生命周期的过程中遇到了以下难题：

• 生命周期和实际时间，用户和条目在不同的绝对时间的特征可能区别较大，但是在他们的每个什么周期阶段的特征相对固定的。
• 稀疏性，在现实环境中，用户数量和条目数量都是非常庞大的，所以用户和条目之间的交互数据是非常稀疏的。尤其在考虑生命周期的时间，这个问题就更加严峻了。

研究内容

生命周期

首先，文中将用户以及条目的生命周期定义如下

• 生命周期：文中假设每个用户在生命周期中最多有M个生命阶段，每个条目在生命周期中最多有N个生命阶段。
• 生命阶段：第$l$个生命阶段表示时间窗口$[t^{(i)}_{sl},t^{(i)}_{el})$，最后一个生命阶段为开放区间$[t^{(i)}_{sM},\infty)$或$[t^{(i)}_{sN},\infty)$。

由于引入了生命周期。也就有了$M\times N$个历史交互反馈矩阵$\{\mathbf R^{(pq)}\in\mathbb R^{m\times m}\mid p=1,\dots,M,q=1,\dots,N\}$。$\mathbf R^{(pq)}$中每个元素表示在第$p$个用户生命阶段和第$q$个条目生命阶段时的交互情况

$$r^{(pq)}_{ij}=\begin{cases} r_{ijt},&\exists r_{ijt}\in\mathcal F \text{ where }p=\mathcal S_U(i,t),q=\mathcal S_I(j,t)\\ 0,&\text{otherwise} \end{cases}$$

其中$\mathcal F$为用户和条目的交互记录数据集，其中$\mathcal S_U(i,t)$函数根据时间戳来计算记录对应的生命阶段

$$\mathcal S_U(i,t)=\min(M,\frac{t-t^{(i)}_0}{l_u})$$

其中$t^{(i)}_0$为第一个用户最早产生交互的时间，$l_u$为用户生命阶段的统一时长，$\mathcal S_I(j,t)$的定义也是类似的。

由于生命周期的存在，矩阵因式分解中将存在M个用户隐变量矩阵$\{\mathbf U^{(1)},\dots,\mathbf U^{(M)}\}$，以及N个条目隐变量矩阵$\{\mathbf V^{(1)},\dots,\mathbf V^{(N)}\}$。

平滑处理

为了解决$\mathbf R^{(pq)}$的稀疏性问题，作者提出了平滑版本的$\tilde{\mathbf R}^{(pq)}$：

$$\tilde{\mathbf R}^{(pq)}=\begin{cases} \mathbf R^{(pq)},&\text{if }p=q=1\\ \mathbf R^{(pq)}+\mu\mathbf R^{((p-1),q)},&\text{if }p=1\text{ and }q\ge2\\ \mathbf R^{(pq)}+\pi\mathbf R^{(p,(q-1))},&\text{if }q=1\text{ and }p\ge2\\ \mathbf R^{(pq)}+\mu\mathbf R^{((p-1),q)}+\pi\mathbf R^{(p,(q-1))},&\text{otherwise} \end{cases}$$

平滑处理方式的直观解释如下：

1. 之前一个生命周期的交互会对未来生命周期的交互产生一定影响。
2. 之前的交互对目前和未来的交互的影响较弱，例如人们会逐渐忘记他们的兴趣；
3. 影响会随着生命周期的推进而指数减弱，这也是时序模型的常用假设

时序正则化

为了防止模型在时间维度上过拟合，需要加入时序正则化，时序正则化包含两部分：

• 方差正则化

方差正则化的目的是让相同生命周期之内用户之间以及条目之间的模式相近。

$$\begin{split}&L_v(\mathbf U^{(1)},\dots,\mathbf U^{(M)},\mathbf V^{(1)},\dots,\mathbf V^{(N)}\\ =&\sum^M_{p=1}\|\mathbf U^{(p)}-\frac{1}{m}\mathbf J^{m\times m}\mathbf U^{(p)}\| ^2_F+\sum^N_{p=1}\|\mathbf V^{(p)}-\frac{1}{m}\mathbf J^{m\times m}\mathbf V^{(p)}\| ^2_F\end{split}$$

• 融化正则化

融化正则化的目的是让相邻生命周期之间用户和条目的变化尽量小。

$$\begin{split} &L_v(\mathbf U^{(1)},\dots,\mathbf U^{(M)},\mathbf V^{(1)},\dots,\mathbf V^{(N)}\\ =&\sum^{M-1}_{p=1}\|\mathbf U^{(p+1)}-\mathbf U^{(p)}\|^2_F+\sum^{N-1}_{p=1}\|\mathbf V^{(p+1)}-\mathbf V^{(p)}\|^2_F \end{split}$$

优化

在综合时序正则化之后，算法中的优化目标为

$$\begin{split} \min_{\{\mathbf U^{(p)}\},\{\mathbf V^{(q)}\}}&\frac{1}{2}\sum^M_{p=1}\sum^N_{q=1}\|\tilde{\mathbf R}^{(pq)}-\mathbf U^{(p)}(\mathbf V^{(q)})^\top\|\\ +&\frac{\lambda}{2}(\sum^M_{p=1}\|\mathbf U^{(p)}\|^2_F+\sum^N_{q=1}\|\mathbf V^{(q)}\|^2_F)\\ +&\frac{\alpha}{2}L_v(\mathbf U^{(1)},\dots,\mathbf U^{(M)},\mathbf V^{(1)},\dots,\mathbf V^{(N)} \\ +&\frac{\beta}{2}L_f(\mathbf U^{(1)},\dots,\mathbf U^{(M)},\mathbf V^{(1)},\dots,\mathbf V^{(N)} \\ \end{split}$$

使用梯度下降即可获得问题的解，然后就能够利用隐变量矩阵获得交互预测矩阵$\{\mathbf R^{(pq)}\leftarrow\mathbf U^{(p)}\mathbf V^{(q)}\}$。

文章创新点

文中作者强调的创新点为：

• 在推荐模型中有效地结合了用户和条目的生命周期
• 利用平滑处理解决交互记录数据的稀疏性问题
• 利用时序正则化来限制生命阶段之间的方差以及保持相邻生命阶段之间的连续

利用有序增量回归实现协同过滤³

拟解决的主要问题

当用户在各类网站上评分的时候，每个的评分偏好是不同的，用户对不同区间的评分的敏感程度也是不一样的，因此评分数值本身很难横向反应用户的偏好情况。论文采用一种增量的方法为用户的评分“真实值”进行建模，也就是为不同的评分区间设置不同的尺度。

研究内容

增量顺序回归

论文首先定义了每一对相邻分值之间的尺度，例如假设分值为$\{1,2,\dots,C\}$，定义$l(0)=0$，那么可以定义评分的“真实值“

$$l(c)=l(c,c-1)+scale(c-1,c)=\sum^c_{i=1}scale(i-1,i)$$

映射连续评分

如果连续值$t$位于$[c-1,c]$，那么可以定义”真实值“为

$$\begin{split} l(c)&=l(c-1)+scale(c-1,c)\cdot ratio(t,c-1)\\ &=\sum^{c-1}_{i=1}scale(i-1,i)+scale(c-1,c)\cdot ratio(t,c-1) \end{split}$$

连续值在评分之间的位置比例定义为

$$ratio(t,c-1)=\frac{dist(c-1,t)}{dist(c-1,t)+dist(t,c)}$$

如果定义$ratio(t,i-1)=1,\forall i,1\le i\le c-1$和$ratio(t,i-1)=0,\forall i,c\le i\le C$，甚至可以定义”真实值“为

$$l(t)=\sum^C_{i=1}scale(i-1,i)\cdot ratio(t,i-1)$$

增量顺序回归

论文中采取的预测方法时首先预测用户评分在每个区间中的位置比例，再计算出最终的预测的”真实值“

$$\hat y=\sum^C_{c=1}scale(c-1,c)\cdot ratio(f_{[c-1,c]}(x),c-1)$$

分解矩阵的因式分解

使用$w^c$代替$scale(c-1,c)$，$r^c$代替$ratio(f_{[c-1,c]}(x),c-1)$之后，“真实值”的定义为

$$\hat r=\sum^C_{c=1}w^c\cdot r^c$$

用户评分分解

如果用户打分的离散数值为$\{1,2,\dots,C\}$，那么可以将评分矩阵$R$分解为$C$个二态矩阵$R1,R2,\dots,R(C)\;(R(C)\in\mathbb R^{m\times n,\forall})$。每一个二态矩阵表示评分矩阵中的评分是否大于等于$c$，一个评分矩阵的分解结果如下：

利用二态矩阵预测评分

文中假设每个二态矩阵都是低秩矩阵，在每一个二态矩阵上做矩阵因式分解。对于二态矩阵，使用隐含因子预测的方法为

$$\begin{split} &r^c=\frac{u^cv^c+1}{2}\\ &s.t.\;\|u^c\|\le1,\|v^c\|\le 1 \end{split}$$

其中$u^c\in\mathbb R^f$为用户隐含因子，$v^c$为条目隐含因子，约束$\|u^c\|\le1$和$\|v^c\|\le1$用于限制值域$[0,1]$，$r^c$的意义就是用户评分在$[c-1,c]$中的”位置比例“。

合并来自分解矩阵的预测

在的得到每个分解矩阵的预测结果之后，将每个区间的尺度作为权重求和

$$\hat r_{u,i}=\sum^C_{c=1}w^c_ur^c_{u,i}$$

加入隐含因子，那么整个预测的公式为

$$\begin{split} &\hat r_{u,i}=\sum^C_{c=1}\frac{w^c_u}{2}(U^c_uV^c_i+1)\\ &s.t.\;\|U^c_u\|\le1,\;\|V^c_i\|\le1\;\;\;\forall u,i,c \end{split}$$

在加上必要的正则化项之后，目标函数就是

$$\min \sum_{(u,i)\in\Omega}\left(r_{u,i}-\sum^C_{c=1}\frac{w^c_u}{2}(U^c_uV^c_i+1)\right)^2\\ +\sum_{u,c}\lambda_{U,u}\|U^c_u\|^2+\sum_{i,c}\lambda_{V,i}\|V^c_i\|^2\\ s.t.\;\|U^c_u\|\le1,\;\|V^c_i\|\le1\;\;\;\forall u,i,c$$

并行SGD

论文中设计了一种并行SGD优化算法来训练模型

正则化参数

算法为不同用户和条目设置不同的正则化参数

$$\begin{split} \lambda_{U,u}&=\frac{\lambda}{\text{#observed ratings given by user }u}\\ \lambda_{U,u}&=\frac{\lambda}{\text{#observed ratings gave to item }i} \end{split}$$

并行随机梯度下降

算法将参数分为两组$\{U^c,V^c\}^C_{c=1}$和$\{w^c\}^C_{c=1}$，然后交替优化

文章创新点

论文的主要创新就是采用增量的方法对用户评分的“真实值”进行建模，从而提高推荐系统中评分预测的准确度。

流排序推荐系统⁴

拟解决的主要问题

论文主要致力于解决以下问题

• 大部分的推荐方法都是静态的：需要在使用之前进行预计算，无法集成到流处理系统中。
• 捕捉用户的长期兴趣：在线训练过程中不仅要获取用户最新兴趣，也需要保留用户长期的兴趣。
• 用户兴趣的改变以及为新用户和新条目建模：用户的兴趣会不断改变，条目和用户也会不断增多。
• 超负荷：流处理要求算法的计算量在其处理能力之内。

研究内容

概率矩阵因式分解

论文使用了概率矩阵因式分解模型来预测用户评分，使用一个$z$维的向量来表示用户或者条目的隐含因子。使用$\Theta=\{u_i,v_j\mid u_i\in\mathcal U,v_j\in\mathcal V\}$来表示参数，

$$f(i,j;\Theta)=\sum^{z'=z}_{z'=1}u_{iz'}\times v_{jz'}$$

假设每个评分之间相互独立，那么观测到整个数据集的概率就是

$$p(\mathcal D|\Theta)=\prod^I_{i=1}\prod^J_{j=1}Ber(x_{ij}|\sigma(f(i,j;\Theta)))$$

文中设定用户和条目的隐含因子由高斯模型生成

• 对于$i\in(1,\dots,I)$，$u_i\sim\mathcal N(0,\rho^2_UI)$
• 对于$j\in(1,\dots,J)$，$v_j\sim\mathcal N(0,\rho^2_VI)$
• 对于用户$u_i$和条目$v_j$，$x_{ij}\sim Ber(x_{ij}\mid<u_i,v_j>)$

模型的训练过程就是最大化用户和条目的观测概率，因此似然函数就是

$$\begin{split} P(U,V|\mathcal D,\rho^2_UI,\rho^2_VI)\propto& P(X|U,V)P(U|\rho^2_UI)P(V|\rho_V^2I)\\ =&\prod^I_{i=1}\prod^J_{j=1}Ber(x_{ij}|\sigma(f(i,j;\Theta)))\prod^I_{i=1}\mathcal N(u_i|0,\rho^2_UI)\prod^J_{j=1}\mathcal N(v_j|\rho^2_VI) \end{split}$$

在取对数并且增加正则化项之后，优化的目标函数为

$$\mathcal L=-\sum_{x_{ij}\in\mathcal D^+}\log\sigma(f(i,j;\Theta))-\sum_{x_{ij}\in\mathcal D^-}\log(1-\sigma(f(i,j;\Theta)))+\frac{\lambda_U}{2}\sum^I_{i=1}\|u_i\|^2+\frac{\lambda_V}{2}\sum^J_{j=1}\|v_j\|^2$$

然而负样本数量非常巨大，只需要采样部分即可

$$\mathcal L=-\sum_{x_{ij}\in\mathcal D^+}\left(\log\sigma(f(i,j;\Theta))+\sum^N_{n=1}\log(1-\sigma(f(x_{ijn};\Theta)))\right)+\frac{\lambda_U}{2}\sum^I_{i=1}\|u_i\|^2+\frac{\lambda_V}{2}\sum^J_{j=1}\|v_j\|^2$$

使用随机梯度下降算法优化目标函数即可完成模型训练。

流模型

为了能够在实时更新的同时保留用户的长期兴趣，论文中的流算法采用了一个“贮藏处”，来解决流处理过程中内存有限的问题。一个简易版本的流处理算法可以设计如下：

为了在保留用户长期兴趣的同时也保证捕捉到用户短期的兴趣变化，论文中设计了一种采样方法来更新$\mathcal R$和$\mathcal W$。采样的基本思想就是，首先将$\mathcal R$和$\mathcal W$之外的样本都视为负样本，将数据集$\mathcal W\cup\mathcal V$中对现存模型参数改变最大的样本保留下来。更加公式化的说法就是，对于数据样本$x_{ij}$，如果$f(i,j;\Theta^t)$越小，那么这个数据就携带修正模型更加有用的信息，所以一个样本的权重的计算方法为

$$w_{ij}=\exp(\frac{rank_{ij}}{|\mathcal W\cup\mathcal R|})$$

所以一个样本被采样中的概率为

$$p(x_{ij})=\frac{w_{ij}}{\sum_{x_{ij}\in\mathcal W\cup\mathcal R}w_{ij}}$$

最终的算法整体结构如下

文章创新点

• 论文中设计“贮藏”机制来保证模型能够保留用户的长期兴趣。
• 使用积极采样的方法来缓解流处理的负载。

混合秩矩阵分解⁵

拟解决的主要问题

低秩矩阵作为协同过滤的一种方法可以到达很好的准确度，其中矩阵的秩通常需要事先固定。然而，在作者们的研究中发现，在一个用户-条目的矩阵中可以存在多个不同秩的子矩阵，因此使用固定的秩不足以完美地描述评分矩阵的内部结构。文中作者提出一种混合秩矩阵估计方法，结合不同秩的低秩矩阵模型来估计评分。

研究内容

混合秩矩阵估计

受到PMF（概率矩阵因式分解）算法的启发，从混合秩模型观测到的打分数据可以按照以下概率密度函数生成

$$Pr(R|U,V,\alpha,\beta,\sigma^2)=\prod^m_{i=1}\prod^n_{j=1}\left[\sum^K_{k=1}\alpha^k_i\alpha^k_j\mathcal N(R_{i,j}|U^k_i{V^k_j}^T,\sigma^2)\right]^{\mathbb 1_{i,j}}$$

其中$\mathcal N(x\mid\mu,\sigma^2)$是高斯分布的概率密度函数，$K$是混合秩模型中的最大秩，$\alpha^k$和$\beta^k$是秩为$k$的矩阵的用户权重向量和条目权重向量。对于用户和条目的特征向量，采用均值为零的高斯先验概率分布

$$\begin{split} Pr(U^k|\sigma^2_U)=&\prod^m_{i=1}\mathcal N(U^k_i|0,\sigma^2_UI)\\ Pr(V^k|\sigma^2_V)=&\prod^n_{j=1}\mathcal N(V^k_j|0,\sigma^2_VI) \end{split}$$

对于$\alpha^k$和$\beta^k$，为了能够让最佳的秩具有最高的权重，选择拉普拉斯分布作为先验概率分布

$$\begin{split} Pr(\alpha^k|\mu_\alpha,b_\alpha)=&\prod^m_{i=1}\mathcal L(\alpha^k_i)|\mu_\alpha,b_\alpha)\\ Pr(\beta^k|\mu_\alpha,b_\alpha)=&\prod^n_{j=1}\mathcal L(\beta^k_j|\mu_\beta,b_\beta) \end{split}$$

用户和条目的特征向量以及权重的后验概率的对数为

$$\begin{split} l=&\ln Pr(U,V,\alpha,\beta|R,\sigma^2,\sigma^2_U,\sigma^2_V,\mu_\alpha,b_\alpha,\mu_\beta,b_\beta)\\ \propto&\ln[Pr(R|U,V,\alpha,\beta,\sigma^2)Pr(U|\sigma^2_U)Pr(V|\sigma^2_V)Pr(\alpha|\mu_\alpha,b_\alpha)Pr(\beta|\mu_\beta,b_\beta)]\\ =&\sum^m_{i=1}\sum^n_{j=1}\mathbb 1_{i,j}[\ln\sum^K_{k=1}\alpha^k_i\beta^k_j\mathcal N(R_{ij}|U^k_i(V^k_j)^T),\sigma^2I]\\ &-\frac{1}{2\sigma^2_U}\sum^K_{k=1}\sum^m_{i=1}(U^k_i)^2-\frac{1}{2\sigma^2_V}\sum^K_{k=1}\sum^n_{j=1}(V^k_j)^2-\frac{1}{2}Km\ln\sigma^2_U-\frac{1}{2}Kn\ln\sigma^2_V\\ &-\frac{1}{b_\alpha}\sum^K_{k=1}\sum^m_{i=1}|\alpha^k_i-\mu_\alpha|-\frac{1}{b_\beta}\sum^K_{k=1}\sum^n_{j=1}|\beta^k_j-\mu_\beta|-\frac{1}{2}Km\ln b^2_\alpha-\frac{1}{2}Kn\ln b^2_\beta +C\end{split}$$

利用詹森不等式，可以将上面的目标函数转换为更加容易优化的形式

$$\begin{split} l=&\frac{1}{2\sigma^2}\sum^m_{i=1}\sum^n_{j=1}\mathbb 1_{i,j}[\sum^K_{k=1}\alpha^k_i\beta^k_j(R_{i,j}-U^k_i(V^k_j)^T)^2]\ - \frac{1}{2}\sum^m_{i=1}\sum^n_{j=1}\mathbb 1_{i,j}\ln\sigma^2\\ &-\frac{1}{2\sigma^2_U}\sum^K_{k=1}\sum^m_{i=1}(U^k_i)^2-\frac{1}{2\sigma^2_V}\sum^K_{k=1}\sum^n_{j=1}(V^k_j)^2-\frac{1}{2}Km\ln\sigma^2_U-\frac{1}{2}Kn\ln\sigma^2_V\\ &-\frac{1}{b_\alpha}\sum^K_{k=1}\sum^m_{i=1}|\alpha^k_i-\mu_\alpha|-\frac{1}{b_\beta}\sum^K_{k=1}\sum^n_{j=1}|\beta^k_j-\mu_\beta|-\frac{1}{2}Km\ln b^2_\alpha-\frac{1}{2}Kn\ln b^2_\beta +C\end{split}$$

模型学习

初始化：为全部的参数设置初始值。

ICM步骤：固定其他参数，可以通过求解一下最优问题来更新$U,V,\alpha,\beta$

$$\begin{split} &\forall k\in\{1,\dotsm,K\},\forall i\in\{1,\dots,m\}:\\ &U^k_i\leftarrow\arg\min_{U'}\{\frac{1}{2\sigma^2}\sum^n_{j=1}\mathbb 1_{i,j}[\sum^K_{k=1}\alpha^k_i\beta^k_j(R_{i,j}-U^k_i(V^k_j)^T)^2]+\frac{1}{2\sigma^2_U}\sum^K_{k=1}(U^k_i)^2\},\\ &\alpha^k_i\leftarrow\arg\min_{\alpha'}\{\frac{1}{2\sigma^2}\sum^n_{j=1}\mathbb 1_{i,j}[\sum^K_{k=1}\alpha^k_i\beta^k_j(R_{i,j}-U^k_i(V^k_j)^T)^2]+\frac{1}{b_\alpha}\sum^K_{k=1}|\alpha^k-\mu_\alpha|\},\\ &\forall k\in\{1,\dotsm,K\},\forall j\in\{1,\dots,n\}:\\ &V^k_j\leftarrow\arg\min_{U'}\{\frac{1}{2\sigma^2}\sum^n_{j=1}\mathbb 1_{i,j}[\sum^K_{k=1}\alpha^k_i\beta^k_j(R_{i,j}-U^k_i(V^k_j)^T)^2]+\frac{1}{2\sigma^2_V}\sum^K_{k=1}(V^k_j)^2\},\\ &\beta^k_j\leftarrow\arg\min_{\alpha'}\{\frac{1}{2\sigma^2}\sum^n_{j=1}\mathbb 1_{i,j}[\sum^K_{k=1}\alpha^k_i\beta^k_j(R_{i,j}-U^k_i(V^k_j)^T)^2]+\frac{1}{b_\beta}\sum^K_{k=1}|\beta^k-\mu_\beta|\},\\ \end{split}$$

剩余的参数可以令损失函数偏导为零得到

$$\begin{split} &\sigma^2\leftarrow\sum^m_{i=1}\sum^n_{j=1}\mathbb 1_{i,j}[\sum^K_{k=1}\alpha^k_i\beta^k_j(R_{i,j}-U^k_i(V^k_j)^T)^2]/\sum^m_{i=1}\sum^n_{j=1}\mathbb 1_{i,j},\\ &\sigma^2_U\leftarrow\sum^K_{k=1}\sum^m_{i=1}(U^k_i)^2/Km,\;\mu_\alpha\leftarrow\sum^K_{k=1}\sum^m_{i=1}\alpha^k_i/Km,\;b_\alpha=\sum^K_{k=1}\sum^m_{i=1}|\alpha^k_i-\mu_\alpha|/Km,\\ &\sigma^2_V\leftarrow\sum^K_{k=1}\sum^n_{j=1}(V^k_j)^2/Kn,\;\mu_\beta\leftarrow\sum^K_{k=1}\sum^n_{j=1}\beta^k_j/Kn,\;b_\beta=\sum^K_{k=1}\sum^n_{j=1}|\beta^k_j-\mu_\beta|/Kn.\\ \end{split}$$

重复：收敛或者到达最大的迭代次数。

文章创新点

• 提出了一种混合秩矩阵估计方法来提高矩阵估计和推荐准确度。
• 使用了基于ICM的学习算法来解决模型的非凸优化问题。

未来研究点

结合其他推断方法来解决优化过程容易陷入局部最优的问题。

深度模型

从评分和评测中学习⁶

拟解决的主要问题

在实际的推荐任务中，可用的用户评分数据非常稀疏，如果还存在用户评测文本，那么可以用来增强推荐系统的性能。论文提出了一种带有注意力机制的双向GRU网络来从用户评测中提取来自于文本的特征用来增强矩阵因式分解算法的性能。

研究内容

用于文档建模的注意力循环神经网络

单词嵌入层：输入单词序列$\{w_1,w_2,w_3,\dots,w_T\}$，将每个单词映射到一个$k$维的嵌入向量$x_i\in\mathcal R^k$。

序列编码层：编码层采用双向GRU结构来捕捉序列中的上下文信息，每个GRU单元的当前输出的计算方法为

$$h_t=(1-z_t)\odot h_{t-1}+z_t\odot\tilde h_t$$

其中

$$\begin{split} \tilde h_t&=\tanh(W_hx_t+r_t\odot(U_hh_{t-1})+b_h)\\ z_t&=\sigma(W_zx_t+U_zh_{t-1}+b_z)\\ r_t&=\sigma(W_rx_t+U_rh_{t-1}+b_z) \end{split}$$

其中$z_t$计算前一个状态被遗忘的概率，$r_t$计算前一个状态对于计算下一个候选激活状态$\tilde h_t$的贡献大小。将每个时间点的两个方向的GRU的输出合并，得到$h_t=\{\overrightarrow{ h_t},\overleftarrow h_t\}$。

话题注意力层：话题注意力层用于在话题提出和推荐任务有关的信息，首先让序列编码输出经过一层感知机

$$s^k_t=\tanh(W^k_sh_t+b^k_s)$$

然后和一个上下文向量$z_k$点乘，使用softmax来计算每个输出的权重

$$a^k_t=\frac{z_k\cdot s^k_t}{\sum^T_{t=1}z_k\cdot s^k_t}$$

接着使用权重求和

$$\hat h_k=\sum^T_{t=1}a^k_th_t$$

特征映射层：最后一层再次做一次非线性变换

$$c_k=\tanh(W^k_c\hat h_k +b^k_c)$$

从评测文档中提取文本信息

一篇评测一般既反应了用户的偏好，也反应了条目的信息。由于侧重点不同，论文使用两个结构相同参数不同的神经网络来同时学习用户的文本信息和条目的文本信息。对于一个用户或者条目，首先使用神经网络来生成多个评测文本特征，然后取平均值来表示一个用户或者条目的文本特征。

结合文本的矩阵因式分解

引入高斯观测噪音，观察到的用户评分的概率密度函数为

$$p(R|U,V,\sigma^2)=\prod^N_{i=1}\prod^M_{j=1}\left[\mathcal N(R_{ij}|u^T_i\cdot v_j,\sigma^2)\right]^{I_{ij}}$$

和传统的概率矩阵因式分解不同，论文中假设隐含因子和文本特征相关，因此隐含因子矩阵向量的先验分布就是

$$\begin{split} p(U|\tilde U,\sigma^2_u)=&\prod^N_i\mathcal N(U_i|\tilde U_i,\sigma^2_UI)\\ p(V|\tilde V,\sigma^2_v)=&\prod^M_j\mathcal N(V_i|\tilde V_i,\sigma^2_VI) \end{split}$$

其中$\tilde U_i$和$\tilde V_j$ 从用户$i$和条目$j$的评测文档中获取的文本特征。

优化方法

训练过程的优化目标就是最大化$U$和$V$的后验概率

$$\begin{split} &\max_{U,V}p(U,V|R,\tilde U,\tilde V,\sigma^2,\sigma^2_u,\sigma^2_v)\\ =&\max_{U,V}p(R|U,V,\sigma^2)p(U|\tilde U,\sigma^2_U)p(V|\tilde V,\sigma^2_v) \end{split}$$

取对数和增加正则化项之后的目标函数为

$$\begin{split} \mathcal L(U,V|R,\tilde U,\tilde V)=&\frac{1}{2}\sum^N_i\sum^M_jI_{ij}(R_{ij}-U^T_iV_j)^2\\ +&\frac{\lambda_U}{2}\sum^N_i\|U-\tilde U\|^2_F+\frac{\lambda_V}{2}\|V-\tilde V\|^2_F \end{split}$$

其中，$\lambda_u=\sigma^2/\sigma^2_U,\lambda_V=\sigma^2/\sigma^2_V$。训练过程通过依次更新各个参数来完成

文章创新点

• 论文提出了一个加入注意力机制的双向GRU网络来增强矩阵因式分解算法
• 论文提出了一种协同进步的训练算法来训练提出的模型

未来研究点

尝试使用序列到序列模型框架来生成有关推荐的文本解释，从而帮助用户做好购买决策。

结合用户显式反馈和隐式反馈⁷

拟解决的主要问题

当前的推荐系统模型大部分都是假设用户和条目彼此独立的，即使考虑了用户-条目之间的关联，也没有尝试改过在深度神经网络中同时结合显式和隐式的关联进行学习。

研究内容

论文使用的模型是深度神经网络，因此论文的主要研究内容就是神经网络的结构的设计。

基于CNN的显式用户-条目关联学习

1. 首先需要将用户信息和条目信息嵌入到向量$u_c=\{u_{c1},u_{c2},\dots,u_{cm}\}$和$v_c=\{v_{c1},v_{c2},\dots,v_{cm}\}$
2. 定义一个计算关联的函数得到用户-条目关联矩阵

$$X_c=f_\Theta(u_c,v_c)$$

1. 使用一个卷积层对矩阵进行卷积操作和池化操作

$$\begin{split} a_c&=g(W*X_c+b)\\ a_p&=pooling(a_c) \end{split}$$

1. 将$X_c$（全局显式用户-条目关联向量）展平之后和$a_p$（局部显式用户-条目关联向量）合并

DeepCF学习隐式的用户-条目关系

1. DeepCF神经网络的输入是标识用户和条目的one-hot编码向量$u$和$v$
2. 接下来是一层嵌套层得到低维的稠密向量$p$和$q$

$$\begin{split} p&=W^T_uu\\ q&=W^T_vv \end{split}$$

1. 接着将$p$和$q$做元素间相乘。得到向量$r$

$$r=p\otimes q=(p_1q_1.p_2q_2,\dots,p_kq_k)$$

1. 之后经过多层的全连接层

$$\begin{split} a_1=&ReLu(W^T_1r+b_1)\\ a_2=&ReLu(W^T_2a_1+b_2)\\ &\cdots\\ a_L=&ReLu(W^T_La_{L-1}+b_L)\\ \end{split}$$

1. 最后，通过sigmoid函数预测用户和条目产生交互的概率

$$\hat y=Sigmoid(w^T_oa_L+b_o)$$

CoupledCF：集成学习显式和隐式的用户-条目关系

在得到来自CNN的局部/全局显式用户-条目关系和来自DeppCF的隐式用户-条目关联之后，CoupledCF最终将这两个模型的输出进行合并得到向量$r$，经过一层全连接层和sigmoid函数之后得到最终的预测结果

$$\hat y=Sigmoid(ReLu(W^T_or+b_o)+b)$$

最终神经网络需要的训练数据集就是$D=\{(<u^{(i)}.v^{(i)},u^{(i)}_c,v^{(i)}_c),y^i>\}$。

文章创新点

• 使用卷积神经网络学习用户-条目之间的显式关联
• 使用全连接神经网络学习用户-条目之间的隐式关联
• 最后使用CoupledCF将上述神经网络的计算结果合并

未来研究点

作者表示未来在此模型上的工作为：

• 在实际环境中采集更加丰富的数据来测试模型。
• 继续寻找其他深度网路结构来表示具有层次性和异质性的用户-条目关联。

LSTM网络实现跨网推荐⁸

拟解决的主要问题

跨平台推荐就是从多个源平台获取数据来帮助在目标平台上进行推荐。在观察了现有的跨平台推荐系统后，作者认为主要存在两方面的缺陷：

• 无法捕捉用户交互中复杂的非线性关系。
• 都是采用离线学习，而不是使用在线学习实现动态的推荐。

研究内容

神经网络的结构设计如下

跨网络话题层

模型将来自源平台的文本作为文档，使用LDA来提取文档中的话题。为了考虑时间维度，设置时间戳$T=\{1,\dots,t-1,t\}$，在时间$t$，神经网络只输入从$t-1$时刻到$t$时刻的$\Delta t$时间内记录。因此从平台$S^a$获得的话题分布向量就是$x^{a,t}=\{x^{a,t}_1,\dots,x^{a,t}_n\}$，其中$n$为话题总数，为$x^{a,t}_c$话题$c$对应的词频。在论文的网络结构图中的网络从两个源平台提取话题，因此会得到两个话题分布向量$x=\{x^{a,t};x^{b,t}\}\in\mathbb R^{n+m}$。

嵌入层

将话题层的输出和潜在因子矩阵$Y^a\in\mathbb R^{n\times k}$和$Y^b\in\mathbb R^{m\times k}$相乘，潜在因子矩阵中的每一个向量$y^a_c\in\mathbb R^k$为话题$c$的潜在因子向量。

$$\begin{split} E_1^{a,t}=&Y^ax^{a,t}\\ E^{b,t}_2=&Y^bx^{b,t} \end{split}$$

另外，模型为每个用户$i$训练一个独有的潜在因素向量$e_i\in\mathbb R^k$，因此嵌入曾最终的输出为$E^t=(E^t_1\mid E^t_2 \mid e_i)\in\mathbb R^{k\times(n+m+1)}$。

高阶交互层

在嵌入层之后，需要对嵌入层的输出矩阵$E^t_1$中的向量进行交互。首先，对于任何一对$e_i,e_j\in E^t_1$，通过元素间乘法计算出一个新的向量$e_{ij}=(e_i\odot e_j)_k=e_i\times e_j$，$e_{ij}\in\mathbb R^k$。然后将交叉的结果保存在一个新的矩阵$E^t_2\in\mathbb R^{k\times(n+m+1)(n+m)/2}$中.。然后，将两个矩阵的合并得到$E^t=(E^t_1\mid E^t_2)$，$E^t_2\in\mathbb R^{k\times(n+m+1)(n+m+2)/2}$。最终，通过求和采样得到一个输出向量$i^{\Delta t}\in\mathbb R^k$

$$i^{\Delta t}=\sum^{(n+m+1)(n+m+2)/2}_{j=1}E^t_j$$

注意力机制

论文中魔改版的LSTM结构如下

• 计算注意力分数：$x^t$记录了用户在$t$时刻在源平台的交互记录，也就可以用来计算当前用户状态和之前用户状态的关联程度，注意力分数计算方法如下

$$\alpha^{t'}_t=\frac{\exp(sim(x^t,x^{t'}))}{\sum^{t-1}_{t'=1}\exp(sim(x^t,x^{t'}))}$$ $$sim(x^t,x^{t'})=\frac{\sum^{n+m}_{c=1}x^t_c\cdot x^{t'}_c}{\sqrt{\sum^{n+m}_{c=1}(x^t_c)^2}\sqrt{\sum^{n+m}_{c=1}(x^{t'}_c)^2}}$$

• 计算额外输入：以注意力得分作为权重将之前所有时刻LSTM的输出$h^{t'}\in\mathbb R^h$累加，得到$h^{t-1}_A$

$$h^{t-1}_A=\sum^{t-1}_{t'=1}\alpha^{t'}_t\cdot h^{t'}$$

魔改版LSTM中注意力门的计算流程为

1. 输入注意力门分析当前的输入$i^{\Delta t}$和额外输入$h^{t-1}_A$来决定哪些值需要被保存到当前细胞状态$C^t$中。
2. 调制注意力门分析当前的输入$i^{\Delta t}$和额外输入$h^{t-1}_A$来决定对当前细胞状态$C^t$的修改具体数值。
3. 将$i^t_A$和$\tilde c^t_A$相乘计算对细胞状态的修改幅度。

$$\begin{split} i^t_A=&\sigma(W^i_Ai^{\Delta t}_A+U^i_Ah^{t-1}_A+b^i_A)\\ \tilde c^t_A=&\tanh(W^c_Ai^{\Delta t}_A+U^c_Ah^{t-1}_A+b^c_A)\\ c^t_A=&i^t_A\odot\tilde c^t_A \end{split}$$

时间感知输入和遗忘门

剩余的计算和标准的LSTM非常类似，但是在遗忘门中添加了$e^{(-\Delta t)}$让细胞状态中记忆随着时间间隔$\Delta t$增加而被遗忘，在输入门中添加$(1-e^{(-\Delta t)})$是的当前输入随着时间间隔增加了重要性提高。在更新细胞状态时，也需要将注意力门的更新加入。

$$\begin{split} i^t=&(1-e^{(-\Delta t)})\cdot\sigma(W^ii^{\Delta t}+U^ih^{t-1}+b_i)\\ f^t=&e^{(-\Delta t)}\cdot\sigma(W^fi^{\Delta t}+U^fh^{t-1}+b^f)\\ o^t=&f^t\odot C^{t-1}+i^t\odot\tilde c^t+i^t_A\odot\tilde c^t_A\\ h^t=&o^t\odot\tanh(C^t) \end{split}$$

预测层

最终的预测结果$\hat y^t$计算方式如下

$$\begin{split} r^t&=\tanh(W^rh^t+b^r)\\ \hat y^t&=softmax(r^t) \end{split}$$

训练：目标平台的交互记录表示成one-hot编码向量$y^t$作为绝对事实。

避免过拟合：文中作者主要采用dropout技术来避免神经网络过拟合。

文章创新点

• 在LSTM中增加了注意力机制来捕捉用户喜好的变化。
• 使用一个高层的交互层来解决数据稀疏性。
• 使用时间感知来步骤不规则时间间隔内的用户交互。

未来研究点

作者表示未来可以考虑在模型中加入社交因素的影响，例如利用用户好友信息。

多指针和联合注意力⁹

拟解决的主要问题

许多先进的推荐系统会利用户评测来提高性能，但是利用评测的过程中存在以下问题

1. 将评测简单粗暴地合并成单个文档是不自然的做法，会引入很多噪音。
2. 用户和条目的表示都是静态的，和匹配目标没有关联。
3. 用户和条目的唯一关联是通过固定维度的表示。

针对上述问题，论文基于只有少数评测具有重要信息的思想，提出了一种多层次的模型。

研究内容

输入编码

模型会接收到两个输入串a（用户）和b（条目），每个输入串为一段评测列表$\{r_1,r_2,\cdots,r_{l_d}\}$，其中$l_d$为最大的评测数量。

嵌入层：每个评测会包含单词个$l_w$的单词，表示成one-hot编码的向量。对于a和b，使用一个嵌入矩阵$W^{d\times\mid V\mid}$将每一个单词转为$d$维的词向量。

评测门机制：每篇评测被表示成组成单词的嵌入向量的和$x\in\mathbb R^d$。论文中使用了门机制来决定多少评测信息进入下一层。

$$\bar x_i=\sigma(W_gx_i)+b_g\odot\tanh(W_ux_i+b_u)$$

评测注意力层

类同矩阵：给定评测列表的嵌入形式（$a\in\mathbb R^{l_r\times d},b\in\mathbb R^{l_r\times d}$），通过下方公式计算它们之间的类同矩阵

$$s_{i,j}=F(a_i)^TMF(b_j)$$

其中，$M\in\mathbb R^{d\times d},s\in\mathbb R^{l_r\times l_r}$，$F(.)$为$l$层神经网络，通常$l\in[0,2]$。

池化函数：取矩阵$s$行列的最大值作为原评测列表的权重实现注意力机制。

$$a'=(G(\max_{col}(s)))^Ta\\ b'=(G(\max_{row}(s)))^Tb$$

其中$G(.)$为下文的Gumbel Softmax。

评测指针

Gumbel-Max：Gumbel-Max能够让离散随机变量在端到端神经网络中使用。考虑一个由规范化的对数概率$\pi_1,\cdots\pi_k$定义的的分类分布$p_1,\cdots p_k$

$$p_i=\frac{\exp(\log(\pi_i))}{\sum^k_{j=1}\exp(\log(\pi_j))}$$

那么one-hot编码的采样$z=(z_1,\cdots z_k)\in\mathbb R^k$可以定义如下

$$z_i=\begin{cases} 1,&i=\arg\max_j(\log(\pi_j)+g_j)\\ 0,&\text{otherwise} \end{cases}$$

其中$g_i=-\log(-\log(u_i)),u_i\sim Uiform(0,1)$作为噪音使得每个分类按照$p_i,\cdots p_k$ 权重进行采样。

直接使用Gumbel-Softmax：可微的Gumbel-Max可以定义如下

$$y_i=\frac{\exp(\frac{\log(\pi_i){+g_i}}{\tau})}{\sum^K_{j=1}\exp(\frac{\log(\pi_j)+g_i}{\tau})}$$

其中$\tau$用来控制$y$和one-hot编码的接近程度，$\tau$越接近零，那么$y$越接近one-hot编码。

$$y_i=\begin{cases} 1,&i=\arg\max_j(y_j)\\ 0,&\text{otherwise} \end{cases}$$

提取指针：使用Gumbel-Softmax即可直接获得指针

$$p_a=(Gumbel(\max_{col}(s)))\\ p_b=(Gumbel(\max_{row}(s)))$$

单词层面的注意力

评测指针会找出最具价值的评测，后续对最优价值的评测进行更加详细的信息提取。令$\bar a$和$\bar b$为指针找出的评测，那么可以计算出单词层面的类同矩阵

$$w_{ij}=F(\bar a_i)^TM_wF(\bar b_j)$$

其中$M_w\in\mathbb R^{d\times d},w\in\mathbb R^{l_w\times l_w}$，接着对类同矩阵进行均值池化操作

$$\bar a'=(softmax(avg_{col}(w)))^T\bar a\\ \bar b'=(softmax(avg_{row}(w)))^T\bar b$$

多指针参数

论文使用指针的机制来排除冗余的评测，然而只是用一对指针是不够，所以模型采用了多指针的机制。如果模型提取了$n_p$次指针，那么最终的得到的输出为$[\bar a'_1,\cdots,\bar a'_{n_p}]$和$[\bar b'_1,\cdots,\bar b'_{n_p}]$。

• 合并：直接连接成一个长向量$[\bar a'_1;\cdots\bar a'_{n_p}]$，不适用于$n_p$非常大的情况。
• 相加：将输出相加，例如$sum(\bar a'_1,\cdots\bar a'_{n_p})$。
• 神经网络：将输出合并之后传给一层非线性网络层，例如$\sigma_r(W([\bar a'_1;\cdots\bar a'_{n_p}])+b)$，最终输出一个$d$维的向量。

论文中的实验表明，上述三种方法不存在绝对的最佳方案，需要通过交叉验证方法根据应用场景来选择最佳的合并方式。

预测层

预测层的输入为$a_f$和$b_f$，合并成$[a_f;b_f]$之后由FM算法预测最终的结果，FM算法的模型如下：

$$F(x)=w_o+\sum^n_{i=1}w_ix_i+\sum^n_{i=1}\sum^n_{j=1=i+1}<v_i,v_j>x_ix_j$$

其中$x\in\mathbb R^k$，$w_0,w_i,v_i\in\mathbb R^k,v_j\in\mathbb R^k]$均为模型参数。

文章创新点

文中使用联合注意力的机制设计了一个能够更好地利用评测信息的神经网络推荐模型。

使用卷积序列嵌入实现推荐¹⁰

拟解决的主要问题

论文将用户最近交互的条目合并为一张“图像”，然后采用卷积神经网络来来学习薛烈模式。

在之前的序列推荐工作中主要存在两点缺陷：

• 无法对联合（多对一）序列模式进行建模
• 无法处理跳跃相关的情况

研究内容

序列推荐问题就是根据用户最佳交互条目的序列来预测用户下一步可能会交互的条目

$$(S^u_{t-L},\cdots,S^u_{t-2},S^u_{t-1})\rightarrow S^u_t$$

神经网络的整体架构如下

嵌入查询

模型首先将包含之前$L$个条目的序列的特征隐含向量组合成一个矩阵作为神经网络的输入。

$$E^{(u,t)}=\begin{bmatrix} Q_{S^u_{t-L}}\\ \vdots\\ Q_{S^u_{t-2}}\\ Q_{S^u_{t-1}}\\ \end{bmatrix}$$

其中$Q_i\in\mathbb R^d$，$E^{(u,t)}\in\mathbb R^{L\times d}$。

卷积层

神经网络的卷积层把上一层输入的矩阵作为“图像”，将序列特性视为图像的局部特征。

水平卷积层：水平卷积层用于捕捉联合层面的序列模式，如果有$n$个水平过滤器$F^k\in\mathbb R^{h\times d},1\le k\le n,h\in\{1,\dots,L\}$，第$i$个卷积操作的结果表示为

$$c^k_i=\phi_c(E_{i:i+h-1}\odot F^k)$$

卷积结果可以表示为

$$c^k=\left[c^k_1\;c^k_2\cdots c^k_{L-h+1}\right]$$

最后需要做最大池化，就是取每个过滤器产生的卷积结果中的最大值，$o\in\mathbb R^n$

$$o=\{\max(c^1),\max(c^2),\dots,\max(c^k)\}$$

垂直卷积层：垂直卷积层用于捕捉点层面的序列模式，如果有$\tilde n$个垂直过滤器$\tilde F^k\in\mathbb R^{L\times 1},1\le k\le\tilde n$。每个过滤器在矩阵$E$上从左向右做卷积操作，得到

$$\tilde c=\left[\tilde c^k_1\;\tilde c^k_2\cdots\;\tilde c^k_d\right]$$

由于过滤器列数为1，因此卷积操作就是在矩阵每一列上的加权求和

$$\tilde c^k=\sum^L_{l=1}\tilde F^k_l\cdot E_l$$

最后将卷积输出合并到一个向量中，$\tilde o\in\mathbb R^{d\tilde n}$

$$\tilde o=\left[\tilde c^1\;\tilde c^2\cdots\tilde c^{\tilde n}\right]$$

全连接层

随后将两个卷积神经网络的输出合并后前馈给全连接层

$$z=\phi_a(W\begin{bmatrix} o\\ \tilde o \end{bmatrix}+b)$$

其中$W\in\mathbb R^{d \times (n+d\tilde n)}$，$b\in\mathbb R^d$。为了能够结合用户的偏好，在第二层全连接层合并了用户的嵌入向量$P_u$，神经网络的最终输出为

$$y^{(u,t)}=W'\begin{bmatrix} z\\ P_u \end{bmatrix}+b'$$

其中$W'\in\mathbb R^{\mid I \mid \times 2d}$，$b'\in\mathbb R^{ \mid I \mid}$。

网络训练

神经网络的输出$y^{(u,t)}$可以转化为概率

$$p(S^u_t|S^u_{t-1},S^u_{t-2},\cdots,S^u_{t-L})=\sigma(y^{(u,t)}_{S^u_t})$$

用$C^u=\{L+1,L+2,\dots,\mid S^u\mid\}$来表示可以预测$S^u$的时间戳，那么整个数据集的似然函数就是

$$p(S|\Theta)=\prod_u\prod_{t\in C^u}\sigma(y^{(u,t)}_{S^u_t})\prod_{j\ne S^u_t}(1-\sigma(y^{(u,t)}_j))$$

如果考虑跳跃行为，那么可以引入$\mathcal D^u_t=\{S^u_t,S^u_{t+1},\dots,S^u_{t+T}\}$

$$l=\sum_u\sum_{t\in C^u}\sum_{i\in \mathcal D^u_t}-\log(\sigma(y^{(u,t)_i}))+\sum_{j\ne i}-\log(1-\sigma(y^{(u,t)}_j))$$

优化上述目标函数即可完成神经网络的训练。

文章创新点

文章创新点就是将序列的嵌入向量合并为一张“图像”，然后使用卷积神经网络来学习序列模式。

从非结构数据中学习属性¹¹

拟解决的主要问题

在电子商务中通常涉及用户体验个性化、需求预测和产品范围规划。完成这些任务的关键就是能够拥有关于产品的详细描述信息，然而在实际情况中很难满足。论文中讨论了作者们如果借助机器学习方法补全产品信息，然后使用补全的信息推升推荐系统的性能。

研究内容

属性预测

用于预测商品属性的神经网络结构如下

图像分类：从商品的图像中可以获取部分信息，取在ImageNet上预先训练好的VGG16的最后一层卷积的输出（$7\times 7\times 512$），对其进行全局最大池化，作为图像信息的输入，在文中的例子中使用了4张商品图片。

文本分类：首先将文本转换为嵌入的形式，然后在嵌入输出上做一维的卷积，接着做时间维度上的最大池化以及一层全连接层。

多模型融合：模型需要将商品的图像信息、文本信息以及品牌、区域、类型等元信息融合到一起来预测商品属性。

多任务学习：模型需要预测多个属性，模型为不同属性设置了单独的预测输出层，让神经网络通过学习未缺失的属性来预测缺失的属性。

在个性化推荐中的应用

推荐系统的神经网络结构如下

论文中使用了基于内容推荐和协同过滤的混合推荐方法，以此来和克服两种方法各自的不足。首先，模型使用全连接来处理用户和条目的内容信息，使用嵌入方法处理协同过滤信息，然后使用求和来合并内容因子和协同因子。然后，模型采用了非对称矩阵因子分解，将用户向量求均值后再和产品向量点乘。模型训练使用的损失函数为

$$L_{WMRB}(u,i,z)=\log\sum_{j\in Z}|1-s_{u.i}+s_{u,j}|$$

其中$Z$为负采样的数据集，$s$为神经网络对于用户-条目的评估分数。

文章创新点

• 讲述了一个通过强化产品信息来实现更好的个性化推荐的例子。
• 设计了一个通过填补缺失标签来强化产品信息的系统。
• 设计了一个将内容推荐和协同过滤合并的混合推荐系统。

未来研究点

• 将产品描述的方法应用到其他更多的应用中，例如数据支持设计、产品分析、销售预测、范围规划、寻找相似产品、通过预测元数据来提升搜索性能。
• 研究内容相关和协同过滤混合方式在冷启动方面的权衡。

利用深度模型融合多渠道信息实现更好的新闻推荐¹²

拟解决的主要问题

如今每天互联网上回产生数百万的新闻文章，如何向用户提供个性化地新闻已经内容提供商的重要任务。论文提出了一种深度融合模型来提升深度推荐系统表征学习的能力。

研究内容

起始模块(Inception Module)

模型的输入来自用户或者条目的原始特征，假设有$m$个特征

$$x_u=\{x_{fd_0},x_{fd_1},\dots,x_{fd_j},\dots,x_{fd_{m-1}}\}$$

其中，特征$x_{fd_j}$可以是连续的值或者离散的值，离散的值又能分为两种情况：一价（例如用户ID）和多价（例如话题向量）。然后，模型将每个特征通过嵌入的方法，映射到一个$D$维的向量中。嵌入方法为

• 连续特征：通过全连接映射到向量
• 一价特征：建立一个表格，每个值对应一个嵌入向量，使用查表法映射
• 多价特征：查找每个单独变量的嵌入向量之后采用均值采样得到一个向量

嵌入层最终的输出可以表示为$l_0\in\mathbb R^{m\times D}$

$$l_o=[l_{fd_0},l_{fd_1},\dots,l_{fd_j},\dots,l_{fd_{m-1}}]$$

嵌入向量之后会分别输入到三个子网络中，分别是一个三隐层全连接网络、一个单隐层全连接网络和一个线性单元。

各个子网络的输出被合并为$l_c$，最终的输出为

$$p_o=W_ol_c$$

Inception Module的优势在于：

• 能够让模型从不同深度的交互中提取需要的隐含因子
• 能够让模型自行选择最佳的神经网络深度

注意融合层

注意力融合层用来动态合并来自不同Inception Module的输出，每个Inception Module都处理来自不同域的信息。不同Inception Module的输出使用上标$^{(t)}$来表示，注意力融合层使用两层神经网络计算每个Inception Module输出的注意力得分

$$a(i)=W^2_i\sigma(\sum^t_{j=1}W^1_jp^{(j)}_o+W^1_{aux}x_{aux}+b^1)+b^2$$

其中为$x_{aux}$为融合需要的额外信息，包含了用户在不同域活动的分布情况，注意力得分在使用前需要进行规范化

$$\alpha(i)=\frac{\exp(\tau a(i))}{\sum^t_{j=1}\exp(\tau a(i))}$$

用户的最终表示向量通过注意力加权求和得到

$$\hat p=\sum^t_{i=1}\alpha(i)p^{(t)}_i$$

另外，条目通常是不具备多域信息的，所以条目表示向量可以直接由单个Inception Module得到。

深度融合模型在信息检索的应用

利用模型计算得出的表示向量，就可以很方便地计算出某个用户和某个条目之间的相关度

$$s(u,v)=\hat p_u\cdot \hat q_v$$

深度融合模型在排名中的应用

如果结合上下文信息，那么可以让推荐系统达成更好的性能。图中的线性部分的计算为$y_{linear}=w^T_{li}s+b$，全连接神经网络的输出为$a^{l+1}=f(W^la^l+b^l)$，模型的最终输出可以表示为

$$\hat y=\sigma(w^T_{li}s+w^T_{deep}a^{l+1}+w_o(\hat p_u,\hat q_v)+b)$$

文章创新点

• 使用Inception Module通过同时使用不同层次的交互层来提升多层神经网络的性能。
• 使用注意力机制实现个性化地合并来自学习自不同渠道的隐含因子向量。

参考文献

1. Manotumruksa, Jarana, Craig Macdonald, and Iadh Ounis. “A Personalised Ranking Framework with Multiple Sampling Criteria for Venue Recommendation.” Proceedings of the 2017 ACM on Conference on Information and Knowledge Management. ACM, 2017. ↩

2. Liu, Xinyue, et al. “BiCycle: Item Recommendation with Life Cycles.” Data Mining (ICDM), 2017 IEEE International Conference on. IEEE, 2017. ↩

3. Hu, Jun, and Ping Li. “Collaborative filtering via additive ordinal regression.” Proceedings of the Eleventh ACM International Conference on Web Search and Data Mining. ACM, 2018. ↩

4. Wang, Weiqing, et al. “Streaming Ranking Based Recommender Systems.” The 41st International ACM SIGIR Conference on Research & Development in Information Retrieval. ACM, 2018. ↩

5. Li, Dongsheng, et al. “Mixture-Rank Matrix Approximation for Collaborative Filtering.” Advances in Neural Information Processing Systems. 2017. ↩

6. Lu, Yichao, Ruihai Dong, and Barry Smyth. “Coevolutionary Recommendation Model: Mutual Learning between Ratings and Reviews.” Proceedings of the 2018 World Wide Web Conference on World Wide Web. International World Wide Web Conferences Steering Committee, 2018. ↩

7. Zhang, Quangui, et al. “CoupledCF: Learning Explicit and Implicit User-item Couplings in Recommendation for Deep Collaborative Filtering.” IJCAI. 2018. ↩

8. Perera, Dilruk, and Roger Zimmermann. “LSTM Networks for Online Cross-Network Recommendations.” IJCAI. 2018. ↩

9. Tay, Yi, Luu Anh Tuan, and Siu Cheung Hui. “Multi-Pointer Co-Attention Networks for Recommendation.” arXiv preprint arXiv:1801.09251 (2018). ↩

10. Tang, Jiaxi, and Ke Wang. “Personalized top-n sequential recommendation via convolutional sequence embedding.” Proceedings of the Eleventh ACM International Conference on Web Search and Data Mining. ACM, 2018. ↩

11. Cardoso, Ângelo, Fabio Daolio, and Saúl Vargas. “Product Characterisation towards Personalisation: Learning Attributes from Unstructured Data to Recommend Fashion Products.” arXiv preprint arXiv:1803.07679 (2018). ↩

12. Lian, Jianxun, et al. “Towards Better Representation Learning for Personalized News Recommendation: a Multi-Channel Deep Fusion Approach.” IJCAI. 2018. ↩