架构师谈推荐系统:从千人千面到千域千面

谈到推荐系统,很多人的印象中是“个人性推荐”和“千人千面”。关于“千域千面”应该很少人提及,主要能用到的场景不多,先前有想过在酒店场景上应用,但是由于各种原因最终没有尝试。以下是高德地图在“千域千面”的一些经验,记录下来供后续学习。

目录

  • Learning to Rank(LTR)在高德的尝试

    • 应用场景

    • 详细方案

    • 具体效果

Learning to Rank(LTR)在高德的尝试

应用场景

搜索建议(suggest服务),用户在输入框输入query的过程中,为用户自动补全query或POI,罗列出补全后的所有候选项,并进行智能排序。
架构师谈推荐系统:从千人千面到千域千面
Learning to Rank(LTR)是用机器学习的方法来解决检索系统中的排序问题。业界比较常用的模型是GBrank,Loss方案用的最多的是Pair Wise,这里也保持一致。一般应用LTR解决实际问题,最重要的问题之一就是如何获得样本。
  • 高德地图每天的访问量巨大,这背后隐藏的候选POI更是一个天文数字,想要使用人工标注的方法去获得样本明显不现实。
  • 如果想要使用一些样本自动构造的方法,比如基于用户对POI的点击情况构建样本pair <click, no-click>,也会遇到如下的问题:
    • 容易出现点击过拟合,以前点击什么,以后都给什么结果。
    • 有时,用户点击行为也无法衡量真实满意度。
    • Suggest前端只展示排序Top 10结果,更多的结果没有机会展现给用户,自然没有点击。
部分用户习惯自己输入完整Query进行搜索,而不使用搜索建议的补全结果,统计不到这部分用户的需求。对于这几个问题总结起来就是:无点击数据时,建模很迷茫。但就算有某个POI的点击,却也无法代表用户实际是满意的。最后,在模型学习中,也面临了特征稀疏性的挑战。统计学习的目标是全局误差的一个最小化。稀疏特征由于影响的样本较少,在全局上影响不大,常常被模型忽略。但是实际中一些中长尾case的解决却往往要依靠这些特征。因此,如何在模型学习过程中进行调优是很重要。

详细方案

第一步,融合服务端多张日志表,包括搜索建议、搜索、导航等。接着,进行session的切分和清洗。最后,通过把输入session中,末尾query的点击计算到session中所有query上,以此满足实现用户输入session最短的优化目标。
架构师谈推荐系统:从千人千面到千域千面
最终,抽取线上点击日志超过百万条的随机query,每条query召回前N条候选POI。利用上述样本构造方案,最终生成千万级别的有效样本作为GBrank的训练样本。

架构师谈推荐系统:从千人千面到千域千面

架构师谈推荐系统:从千人千面到千域千面
详细的特征设计,如下表所示:
架构师谈推荐系统:从千人千面到千域千面
初版模型,下掉所有规则,在测试集上MRR 有5个点左右的提升,但模型学习也存在一些问题,gbrank特征学习的非常不均匀。树节点分裂时只选择了少数特征,其他特征没有发挥作用。建模的第二个难题:模型学习的调优问题。具体来就是如何解决gbrank特征选择不均匀的问题。
架构师谈推荐系统:从千人千面到千域千面
经过分析,造成特征学习不均衡的原因主要有:
  • 交叉特征query-click的缺失程度较高,60%的样本该特征值为0。该特征的树节点分裂收益较小,特征无法被选择。然而,事实上,在点击充分的情况下,query-click的点击比city-click更接近用户的真实意图。
  • 对于文本相似特征,虽然不会缺失,但是它的正逆序比较低,因此节点分裂收益也比city-click低,同样无法被选择。
综上,由于各种原因,导致树模型学习过程中,特征选择时,不停选择同一个特征(city-click)作为树节点,使得其他特征未起到应有的作用。解决这个问题方案有两种:
  • 对稀疏特征的样本、低频query的样本进行过采样,从而增大分裂收益。优点是实现简单,但缺点也很明显:改变了样本的真实分布,并且过采样对所有特征生效,无法灵活的实现调整目标。
  • 调loss function。按两个样本的特征差值,修改负梯度(残差),从而修改该特征的下一轮分裂收益。例如,对于query-click特征非缺失的样本,学习错误时会产生loss,调loss就是给这个loss增加惩罚项loss_diff。随着loss的增加,下一棵树的分裂收益随之增加,这时query-click特征被选作分裂节点的概率就增加了。具体的计算公式如下式:
$$-text{gradient}=y_{ij}-frac{1}{1+exp(-(h(x_i)-h(x_j))+text{loss}_{diff})}$$
以上公式是交叉熵损失函数的负梯度,$loss_{diff}$ 相当于对sigmod函数的一个平移。
架构师谈推荐系统:从千人千面到千域千面
差值越大,$loss_{diff}$越大,惩罚力度越大,相应的下一轮迭代该特征的分裂收益也就越大。调loss后,重新训练模型,测试集MRR在初版模型的基础又提升了2个点。同时历史排序case的解决比例从40%提升到70%,效果明显。

具体效果

Learning to Rank技术在高德搜索建议应用后,使系统摆脱了策略耦合、依靠补丁的规则排序方式,取得了明显的效果收益。gbrank模型上线后,效果基本覆盖了各频次query的排序需求。目前,已经完成了人群个性化、个体个性化的建模上线,并且正在积极推进深度学习、向量索引、用户行为序列预测在高德搜索建议上的应用。
参考链接:
  • 机器学习在高德搜索建议中的应用优化实践(https://developer.aliyun.com/article/708264)

如喜欢本文,请点击右上角,把文章分享到朋友圈

·END·

作者:钱魏Way

来源:www.biaodianfu.com/amap-suggestion-optimization-practice.html

版权申明:内容来源网络,仅供分享学习,版权归原创者所有。除非无法确认,我们都会标明作者及出处,如有侵权烦请告知,我们会立即删除并表示歉意。谢谢!

架构师指南

关注公众号,回复关键词:架构师 


获取2T架构师学习资料


架构师谈推荐系统:从千人千面到千域千面


本篇文章来源于微信公众号:架构师指南

原创文章,作者:software,如若转载,请注明出处:https://www.sldh123.com/1377.html

(0)
上一篇 7月 23, 2022 5:59 上午
下一篇 7月 24, 2022 1:00 上午

相关推荐

发表回复

您的电子邮箱地址不会被公开。