日期：
来源：机器之心收集编辑：机器之心SOTA模型
机器之心专栏
第 1 期：DSSM、Youtube_DNN、SASRec、PinSAGE、TDM、MIMD 第 2 期：PinnerSAGE、ENSFM、MHCN、FFM、FNN、PNN 第 3 期：Wide&Deep、DCN、xDeepFM、DIN、GateNet、IPRec
具体到推荐算法/模型部分，一般包括两大环节：召回和排序。
召回主要是指“根据用户的兴趣和历史行为，从海量的物品库里，快速找回一小部分用户潜在感兴趣的物品”。召回方法主要要求具备处理数据量大、处理速度快的能力。经典的召回方法包括基于统计的启发式召回和基于深度学习的向量召回方法。本报告主要聚焦于基于深度学习的召回方法。 排序则是指根据多类特征，使用模型进行个性化的推荐。排序环节还可以进一步细分为粗排、精排和重排。
1、 PinnerSage
PinnerSage的处理步骤具体如下：
第一步，聚类用户行为。具体要求是：类中的物品尽可能相似，并且聚类数目是由算法决定并不是人为规定的。所以选择了Ward层次化聚类算法来达到上述目标。首先，算法1将每个pin分配到它自己的集群。在随后的每一步，将集群内方差增加最小的两个集群合并在一起。假设经过一些迭代后，我们有集群{C1,C2,. .}，集群Ci和Cj之间的距离表示为d_ij。那么，如果两个聚类Ci和Cj被合并，其距离将被更新如下：
第二步：表示每个聚类结果。为了使表示结果更具有鲁棒性，对于每个聚类表示并不是取所有embedding的均值，而是选择类中的某个物品，使这个物品与类中的其他物品距离最小，具体优化目标如下：
最后，PinnerSage推荐系统的完整流程如图1所示。
图1 PinnerSage推荐系统流程
2、 ENSFM
图2. ENSFM框架说明，显示了如何以矩阵分解的方式表示FM（为了清晰起见，图中没有显示一阶线性回归部分）
(1) 情境输入通过嵌入转换为密集的向量表示。具体来说，用户背景和物品背景分别表示为eu和ev。输出yˆ_F M (x)是一个预测的分数，表示用户u对物品v的偏好。
(2) 通过记忆策略设计，我们将上式的调频得分重新表述为一个没有任何近似的广义矩阵分解函数：yˆ_F M (x) = (h_aux)^T (p_u⊙ q_v) ，其中，p_u、q_v和h_aux是辅助向量，分别表示用户u、项目v和预测参数。
(3) 本文提出了一种有效的mini-batch非采样算法来优化ENSFM框架，由于在每次参数更新中都考虑了所有的样本，因此更加有效和稳定。
上式中的二阶特征交互f(x)，可以重写如下：
3、 MHCN
MHCN引入超图模拟社交关系中的高阶关系。超图推广了边的概念，使其连接到两个以上的节点，为建模用户之间复杂的高阶关系提供了一种自然的方法。尽管超图在用户建模方面比简单图有很大的优势，但是在社交推荐方面，超图的优势还没有得到充分的开发。本文通过研究超图建模和图卷积网络的融合潜力，填补了这一空缺，提出了一种多通道超图卷积网络(MHCN)，通过利用高阶用户关系来增强社交推荐。从技术上讲，通过统一形成特定三角形关系的节点来构造超图，这些三角关系是具有底层语义的三角主题的实例(如图3所示)。
图3. 三角图案的应用。绿色圆圈表示用户，黄色圆圈表示物品
然而，尽管多通道设置有好处，但聚合操作也可能掩盖不同类型的高阶连接信息的固有特征，因为不同的通道会学习不同超图上分布的嵌入。为了解决这一问题并充分继承超图中丰富的信息，本文在多通道超图卷积网络的训练中集成了一个自监督任务，提出通过利用超图结构来构造自监督信号，全面用户表示应该反映不同超图中用户节点的局部和全局高阶连接模式。具体来说，利用了超图结构中的层次结构，并分层最大化了用户表示、以用户为中心的子超图和全局超图之间的互信息。互信息度量了子超图和整个超图的结构信息量，通过减少局部和全局结构不确定性来推断用户特征。最后，在主&辅学习框架下，将推荐任务和自监督任务统一起来。通过联合优化这两个任务并利用所有组件的相互作用，推荐任务的性能获得了显著提高。
图4. MHCN模型（1层）概述。左图中的每个三角形都是一个hyperedge，也是一个定义的图案的实例。