摘要: 背景 用户冷启动一直是推荐系统中的一个难题,新用户(或非活跃用户)由于缺少行为数据,模型预估不准确。为了改善用户冷启动,腾讯提出了User Interest Enhancement (UIE)模型(论文中提到也可以用于item的冷启动)。基本思想是先对用户聚类,然后用user embedding检索 阅读全文
posted @ 2024-06-09 23:41 xd_xumaomao 阅读(47) 评论(0) 推荐(0) 编辑
摘要: 大概看一下模型结构,其实就是在模型里加了一些gate结构,左边EPNet输入场景信息输出不同场景下特征权重,并用场景信息调整特征权重,右边的PPNet几乎就是一个LHUC结构 参考资料 千人千模 | PEPNet: 2023快手多任务多场景建模 阅读全文
posted @ 2024-05-31 16:21 xd_xumaomao 阅读(59) 评论(0) 推荐(0) 编辑
摘要: 模型结构 模型主要包含场景抽取层和任务抽取层(上图A): 场景抽取层 场景抽取层主要包括了场景共享专家(Scenario-shared expert)模块、当前场景特有专家(Scenario-specific expert)模块以及场景感知注意力网络,通过这三部分的信息抽取,最终形成了场景层次的信息 阅读全文
posted @ 2024-05-31 11:36 xd_xumaomao 阅读(30) 评论(0) 推荐(0) 编辑
摘要: 待整理 参考资料 蒸馏技术在推荐模型中的应用 知识蒸馏在推荐系统的应用 阅读全文
posted @ 2024-05-30 11:14 xd_xumaomao 阅读(8) 评论(0) 推荐(0) 编辑
摘要: 1. 常用的损失函数 一般使用inbatch softmax,主要优点是方便,缺点是容易遭造成对热门item的打压,可以做纠偏,参考youtube论文《Sampling-Bias-Corrected Neural Modeling for Large Corpus Item Recommendati 阅读全文
posted @ 2024-05-29 17:41 xd_xumaomao 阅读(27) 评论(0) 推荐(0) 编辑
摘要: TensorFlow简介之负采样 Candidate Sampling简介 求通俗易懂解释下nce loss? 阅读全文
posted @ 2024-05-28 12:10 xd_xumaomao 阅读(10) 评论(0) 推荐(0) 编辑
摘要: https://zhuanlan.zhihu.com/p/441823563 https://zhuanlan.zhihu.com/p/650410731 阅读全文
posted @ 2024-05-28 10:59 xd_xumaomao 阅读(12) 评论(0) 推荐(0) 编辑
摘要: 背景 这是一篇阿里发表的permutation-wise优化的重排论文,阿里在这篇论文里提出了PRS重排框架,其由两个步骤组成: 1. PMatch:采用beam search算法生成候选序列 2. PRank:设计了permutation-wise model DPWN 计算 permutatio 阅读全文
posted @ 2024-05-27 20:56 xd_xumaomao 阅读(27) 评论(0) 推荐(0) 编辑
摘要: 和DLCM做法类似,都是使用序列模型对rank后的结构做rerank,不同点是PRM使用了transform encoder来建模,并且使用了用户预训练向量和位置向量 最后一层使用了softmax来计算a56爆大奖在线娱乐item被点击的概率(论文提到使用click作为label,也就是所存在多个label为1的情 阅读全文
posted @ 2024-05-27 16:52 xd_xumaomao 阅读(7) 评论(0) 推荐(0) 编辑
摘要: 论文名:Learning a Deep Listwise Context Model for Ranking Refinement 背景 在搜索场景下,给定一个查询q,q和d特征的向量a56爆大奖在线娱乐x(q,d),rank阶段的loss可以a56爆大奖在线娱乐为: 其中:Q是query的集合,D是doc集合,f是rank模型函 阅读全文
posted @ 2024-05-26 11:13 xd_xumaomao 阅读(14) 评论(0) 推荐(0) 编辑