用上GAN推荐算法成精，看完视频马上刷出相关文章，微信已用上

　　这年头，推荐算法真是越来越智能了。
　　举个栗子，当你热衷于东京奥运会并且刷了不少剪辑视频，App就会根据你的品味为你推荐文章、游戏或是同款周边。
　　没错，推荐算法早已不局限于一个场景，而是在视频、文章、小程序等各种场景中打通任督二脉，也就是多领域推荐算法。
　　但事实上，这类算法并不如想象中容易驾驭，关键在于如何抓住不同领域中，关于目标领域的有效特征。
　　为了让推荐算法更了解你，腾讯微信的看一看团队，针对多领域推荐任务提出了一个全新的模型，融合了生成对抗网络GAN、ELECTRA、知识表示学习等思路，学习不同领域之间的特征转移，极大地提升了多领域推荐算法的效果，论文已被KDD2021收录。
　　8月18日，数据挖掘领域国际最高级别会议KDD2021会议在线上举行，微信看一看团队的XiaoboHao，针对这篇名为AdversarialFeatureTranslationforMultidomainRecommendation的论文，进行了详细解析和分享。
　　我们对论文解析进行了相关总结，一起来看看。多领域推荐难在哪
　　推荐系统已经融入生活的方方面面，为我们提供个性化的信息获取及娱乐。
　　在马太效应的影响下，Google、WeChat、Twitter等平台应运而生。它们往往拥有各种（推荐）服务，能够为用户推荐多样化的物品（如文章、视频、小程序等），满足用户需求。
　　用户在不同推荐服务上的行为（在用户允许下），会通过用户的共享账号产生关联。
　　这些行为，能在目标领域行为之外提供更多信息，帮助推荐系统更加全面地了解用户，辅助提升各领域推荐效果。
　　多领域推荐（Multidomainrecommendation，MDR）任务就是基于用户在多个领域的行为和特征，来同时优化多个领域的推荐效果，关键在于如何抓住不同领域中的目标领域特化的特征。
　　一个直观的方法，是将用户的多领域行为当作额外的输入特征，直接输入给ranking模型，但这种方法没有针对领域间的特征交互进行优化建模。
　　另一个方法，是近期基于多任务学习（Multitasklearning，MTL）的一些思路，将一个领域的推荐当作一个任务进行处理，取得了不错的效果。
　　然而，多领域推荐效果仍然严重地受限于其固有的稀疏性问题，具体体现在两个方面：其一，useritem点击行为的稀疏性（这个是推荐系统本身拥有的稀疏性问题）；其二，跨领域特征交互的稀疏性（这是多领域推荐特有的稀疏性问题）。AFT模型要解决什么？
　　为了解决这两个问题，使模型能够同时提升多领域推荐效果，论文提出了一个名为AdversarialFeatureTranslation（AFT）的模型，基于生成对抗网络（GAN）学习不同领域之间的特征转移（featuretranslation）。
　　首先，在multidomaingenerator中，论文先提出了一个domainspecificmaskedencoder，用以强调跨领域的特征交互建模，再基于transformer层以及domainspecificattention层聚合这些跨领域交互后的特征，学习用户在目标领域下的表示，以生成虚假的物品候选（fakeclickeditems）输入到判别器中。
　　在multidomaindiscriminator中，受到知识表示学习（KRL）中的基于三元组的建模方法（如TransE）的启发，论文构建了一个两阶段特征转移（twostepfeaturetranslation）模型，对领域、物品和用户不同粒度不同领域的偏好进行可解释的建模。
　　团队在Netflix和微信多领域推荐数据集上进行了测试后，发现模型在离线和在线实验的多个结果上都获得了显著的提升，论文也进行了充分的消融实验和模型分析，以验证模型各个模块的有效性。
　　图1：多领域推荐及AFT模型框架图
　　具体来说，如上图1，AFT包括domainspecificmaskedencoder以及twostepfeaturetranslation，着重关注跨领域、多粒度的特征交互建模。
　　在生成器（generator）部分，论文先设计了一个domainspecificmaskedencoder，通过mask掉目标领域的历史行为特征（historicalbehaviors），来加强其它领域历史行为特征和目标领域点击行为之间的交互特征权重，以驱使AFT模型学习基于其它领域特征进行的目标领域推荐；
　　再用Transformer层和Domainspecificaggregation来抽取目标领域相关的用户特征，以生成topk虚假点击的物品（fakeclickeditems）。这些虚假点击的物品将被输入判别器，迷惑判别器的判断，在对抗中相互提升所有领域的推荐能力。
　　在判别器（discriminator）部分，论文受知识表示学习模型（KRL）启发，希望显式地对用户、物品和领域进行建模。
　　其中，先用Transformer从多领域特征中分别抽取用户的细粒度item和粗粒度domain的偏好特征，分别标记为useritemlevelpreference和userdomainlevelpreference；
　　再构造第一个三元组（useritemlevelpreference，userdomainlevelpreference，usergeneralpreference），进行第一次特征转移，学习用户通用领域的偏好特征（usergeneralpreference）。第一个三元组的物理含义是，对于（Hamlet，writer，Shakespeare）三元组关系，有HamletwriterShakespeare（以KRL中的经典模型TransE为例）。
　　在多领域推荐中，用户不同粒度的偏好相加（itemlevelpreferencedomainlevelpreference），就约等于用户通用领域的偏好（usergeneralpreference），因此这一步能得到用户通用领域的偏好。
　　然后，论文再次构建第二个三元组（usergeneralpreference，targetdomaininformation，userdomainspecificpreference），进行第二次特征转移。第二个三元组的物理含义是，用户的通用领域偏好目标领域的特征用户在目标领域的偏好（userdomainspecificpreference）。
　　论文基于成熟的知识表示学习模型ConvE进行两层特征转移（twostepfeaturetranslation）后，得到了用户在目标领域上的表示，并用于推荐。那么，AFT模型到底有什么优势？
　　其一，AFT的GAN框架在domainspecificmaskedencoder的帮助下，提供了充足且高质量的多领域推荐负例，缓解了数据稀疏和过拟合的问题；
　　其二，生成器中的domainspecificmaskedencoder能加强模型的跨领域特征交互，而这正是多领域推荐的核心要素；
　　其三，判别器中的twostepfeaturetranslation提供了一种大胆的、显式化可解释的建模用户、物品和领域的方式，对多领域推荐提供了更深层次的理解。
　　团队将AFT模型和多个有竞争力的baseline模型进行了离线和线上对比。结果显示，AFT模型在多个领域上全面显著地超出所有baseline。此外，团队还进行了详尽的消融实验和模型分析实验，用以加深对AFT各个模块和参数的理解。
　　目前，AFT模型已经在用了被部署于微信看一看的多领域推荐场景，正服务于千万用户。论文本身的贡献如下：
　　针对多领域推荐问题，提出了一个全新的AFT框架，首次在多领域推荐中引入了对抗下的特征转移。
　　提出了一种GAN框架下的domainspecificmaskedencoder，能够针对跨领域特征交互进行特化加强。
　　设计了一种两阶段特征转移策略，尝试使用结构化知识表示学习的建模方式，学习用户多粒度多领域偏好、物品和领域之间的可解释的转移关系。
　　AFT在离线和线上实验中均取得显著的提升效果，并已经被部署于微信看一看系统。AFT模型具体长啥样
　　上文提到，AFT模型基于GAN训练框架，主要分为生成器和判别器两个部分。
　　如下图2，生成器输入用户多领域行为特征，并基于domainspecificmaskedencoder、Transformer层和Domainspecificattention，抽取目标领域相关的用户特征，用于生成topk虚假点击的物品（fakeclickeditems）。判别器则基于两阶段特征转移，获得用户向量，然后预测真实虚假点击物品的得分。
　　图2：AFT具体模型，包括（a）多领域生成器和（b）多领域判别器
　　我们具体来看。多领域生成器
　　多领域生成器旨在为用户生成每个领域上的fakeclickeditems，其输入是某个用户在所有n个领域上的行为序列X｛X1，，Xn｝，其中Xt是第t个领域上的行为序列特征矩阵。
　　不失一般性，论文假设生成器正在生成目标领域dt上用户可能点击的物品，首先使用domainspecificmaskedencoder处理目标领域序列Xt，随机对目标领域dt中的行为进行mask，如下式：
　　公式表示序列中post这些位置上的行为被〔mask〕的token替代，使得domainspecificmaskedencoder强制生成器在生成目标领域的候选物品时，会更多地考虑其它领域的用户行为。
　　这样虽然会丢失关键的目标领域的历史行为，导致生成器更难生成最合适的fakeclickeditems，但也会加强跨领域历史行为和点击的特征交互，有助于多领域推荐，特别是稀疏行为的领域上的推荐效果，瑕不掩瑜。
　　随后，论文使用averagepooling分别聚合各个领域上（mask后）的行为序列，并基于Transformer和domainspecificattention，得到用户在目标领域上的表示ht如下：
　　对每个候选物品ei，生成器计算的点击概率p为：
　　论文基于生成概率p，选择目标领域上的topk的近邻物品（剔除训练集中的真实正例），作为生成器生成的负例输入判别器。多领域判别器
　　在判别器中，论文首先基于Transformer特征抽取器，获取用户在细粒度的具体行为（item）上和在粗粒度的领域（domain）上的特征表示：
　　随后，团队基于知识表示学习中三元组的学习范式，设计了一个两阶段的特征转移：先基于用户在多领域的细粒度和粗粒度上的偏好，得到用户整体偏好；然后基于用户整体偏好和目标领域信息，得到用户在目标领域上的偏好。
　　传统的知识表示学习方法（如TransE）显式建模三元组关系。上文提到，对于（Hamlet，writer，Shakespeare）这个三元组关系，TransE认为：HamletwriterShakespeare。
　　因此，用户细粒度的偏好加上用于粗粒度的偏好，应该等于用户通用领域上的全局偏好（usergeneralpreference）。基于ConvE模型（因为他能够挖掘elementwise的特征交互），对于三元组（eh，r，et）有：
　　类似地，在第一次特征转移中，构造了一个三元组（useritemlevelpreference，userdomainlevelpreference，usergeneralpreference），计算用户通用领域上的全局偏好ug如下：
　　在得到usergeneralpreference后，又构建了第二个三元组（usergeneralpreference，targetdomaininformation，userdomainspecificpreference），并进行第二次特征转移。这个三元组的物理含义是，用户的通用领域偏好加上目标领域的特征，约等于用户在目标领域的偏好（userdomainspecificpreference），有：
　　其中，目标领域特征综合考虑了领域向量和行为向量。与生成器类似，团队基于用户在dt的特征表示ut，计算物品ei的点击概率p如下：
　　生成器amp；判别器优化
　　模型判别器的优化如下：
　　生成器则是基于REINFORCE强化学习进行优化：
　　团队还提出一项MMDloss，目的是让生成器产生的物品和真实物品不完全一致（否则会干扰判别器的训练），具体如下：
　　MMDloss基于推荐系统的特质设计：在推荐系统中，绝大多数物品其实并未被曝光，团队假设所有未被用户点击的物品均为负例；和点击物品特别相似的fakeclickeditems，也有很大概率同样被用户点击（例如不同自媒体号发表的同一主题的新闻视频等），这也是推荐系统itemCF的本质。
　　因此，团队选择加入MMDloss，使得GAN能够生成更加多样化的、相似但又不完全一样的物品作为判别器的负例。
　　最后，综合三项loss获得最终AFT的loss，如下：
　　AFT模型的判别器被部署于线上，更多模型和线上细节可参考论文第三和第四部分。实验结果
　　团队在公开数据集和微信看一看数据集上进行了实验，结果表明，模型在多领域推荐上获得了显著提升：
　　图3：AFT离线结果
　　此外，论文也在微信看一看多个线上推荐场景进行了AB实验，也同样获得了显著的提升：
　　图4：AFT线上实验结果
　　消融实验也证明了模型各个模块的有效性：
　　图5：AFT消融实验
　　最后，论文也进行了详尽的模型参数分析，探索了不同maskratio和fakeclickeditemnumber对模型效果的影响：
　　图6：AFT参数实验模型已用到微信里
　　整体来说，这篇论文针对多领域推荐任务，提出了一个对抗特征转移的AFT模型。它基于domainspecificmaskedencoder加强了跨领域特征交互，设计了一种twostepfeaturetranslation，能够显式可解释地对多领域下用户不同粒度的偏好、物品和领域进行建模。
　　目前，AFT模型已部署于微信看一看多领域推荐模块中，我们日常用微信看一看时，就会用到这个模型。
　　对于未来，团队表示十分看好基于对抗和知识表示学习的跨领域特征交互思路，计划展开进一步探索。