【推荐系统】多任务学习之ESMM模型

学习总结

  • ESMM首创了利用用户行为序列数据在完整样本空间建模,并提出利用学习CTR和CTCVR的辅助任务,迂回学习CVR,避免了传统CVR模型经常遭遇的样本选择偏差和训练数据稀疏的问题,取得了显著的效果。
  • ESMM解决了真实场景中CVR中的SSB和DS问题。CVR(Conversion rate)转化率:衡量CPA广告效果的指标,用户点击广告到成为一个有效的激活(如注册额或者成为付费用户)的转化率,所以CVR=转化量 / 点击量。
    • SSB样本选择偏差问题:传统的CVR模型是以点击数据为训练集,点击并转化为正例,点击未转化为负例,但是训练好的模型在实际使用时,是对整个空间的样本数据进行预估(而非对只对点击样本),即训练数据和实际要预测的数据来自不同的分布。
    • DS:很多时候给CVR训练数据的点击样本远小于CTR预估使用的曝光样本。
  • 正因为点击->转化,是两个强相关的连续行为,ESMM作者为了结合两个行为,在整个空间上进行训练和预测,所以多任务学习MTL。
  • 下一篇MMOE还在补中。

文章目录

  • 学习总结
  • 一、多任务模型
    • 1.1 背景与动机
      • (1)使用多任务学习的原因
      • (2)为什么多任务学习有效?
      • (3)多任务学习的主要研究问题
    • 1.2 loss加权融合
    • 1.3 Shared-Bottom
  • 二、ESMM模型
    • 2.1 传统CVR中的SSB和DS问题
    • 2.2 解决方案(引入CTR和CTCVR任务)
    • 2.3 总结与拓展
  • 三、ESMM代码详解
    • 3.1 模型结构
    • 3.2 模型训练
  • Reference

一、多任务模型

多任务学习模型默认是multi-label 多标

你可能感兴趣的:(推荐算法,深度学习,推荐算法,深度学习)