多场景建模:美团HiNet

HiNet: Novel Multi-Scenario & Multi-Task Learning with Hierarchical Information Extraction

背景:

美团的多场景多任务(ctr、ctcvr)

解决方案

通过分层来分别学习多场景多任务

方案详情

点评:在底层Embedding时用到了PLE,在多任务专家学习上面也用到了PLE结构,层级学习,底层多场景学习、上层多任务学习,层次分明。

多场景建模:美团HiNet_第1张图片
核心的是SEI结构,其实就是MoE

SAN整体上也是个MoE结构,但是gate网络的输入是场景ID,也就是利用场景ID来选取不同的特征输出,使用优势特征对输入进行选择

这个结构还是比较明确的,实践也比较容易,值得尝试下

美团HiNet官方地址

你可能感兴趣的:(多场景建模)