导读58同城作为海内最大的生活信息服务提供商，涵盖招聘、房产、车辆、兼职、黄页等海量的生活分类信息。随着各个业务线业务的蓬勃生长，用户在网站上可获取的分类信息是爆炸性增长的。如何解决信息过载，资助用户快速找到关注的信息，已经成为用户体验提升的关键点与服务的焦点竞争力。配景现在，搜索与推荐是两个主要手段。

其中，搜索需要人工启发属于被动查找，而推荐可以主动推送，使得用户检察信息这一历程越发智能化。近几年随着盘算机硬件性能的提升以及深度学习的快速生长，在自然语言处置惩罚、图像处置惩罚、推荐系统等领域有了许多应用，因此实现准确、高效基于深度学习的个性化推荐，不仅能提升用户体验，同时也能提升平台效率。

58App推荐涉及的推荐场景有首页猜你喜欢、大类页、详情页、搜索少无效果，首页推荐场景和电商场景类似，差别的用户同样会有差别的兴趣偏好。好比用户需要租房、买车，或者找事情、找保洁，针对用户的个性化偏好发生千人千面的推荐效果；同时用户对于相似的帖子体现为差别的兴趣，好比同一车标差别的车系，这其实就是一个用户兴趣建模问题。现在平台已经积累了富厚的用户行为数据，因此我们需要通过模型动态捕捉用户的实时兴趣，从而提升线上CTR。

58推荐系统概述整个推荐系统架构可以分为数据算法层、业务逻辑层、对外接口层。为各种场景发生推荐数据，如图1所示。推荐历程可以归纳综合为数据算法层通过相关召回算法凭据用户的兴趣和行为历史在海量帖子中筛选出候选集，使用相关机械学习、深度学习模型为候选帖子荟萃举行打分排序，进而将发生用户感兴趣而且高质量的topN条推荐帖子在首页猜你喜欢、大类页、详情页、少无效果等场景举行展示。

从数据算法层来看推荐的焦点主要围绕召回算法和排序模型举行，固然算法和计谋同等重要，因此需通过明白业务来优化模型、计谋之间的冲突。其中排序模型的构建则是进一步影响线上用户体验的关键，本文主要围绕深度学习在58首页推荐排序上的应用展开先容。图1 58推荐系统架构首页推荐场景位于58同城App首页下方的推荐tab，包罗招聘、租房、二手房、二手车等多品类业务信息。图2 首页推荐场景tab如图2可以看到左图用户兴趣主要为租房，右图用户兴趣为二手房、二手车、租房，这也就体现出首页场景下多业务融合的特点。

用户在首页推荐场景下行为特点体现为强兴趣，即用户兴趣明确，可是在多业务信息融合的配景下，用户的兴趣又具有差别的周期性，以及差别的行为等，好比租房周期显着要低于二手车成交周期，这些差别的特性对于多业务融合推荐排序任务提出了重大挑战。业界技术路径2016年Youtube将DNN[1]应用于视频召回、推荐；Google提出Wide&Deep[2]模型、为厥后深度学习模型在推荐任务中的优化革新提供了基础。

58同城TEG-推荐技术团队一直紧跟技术前沿，在58同城各推荐场景探索并落地了一系列深度学习模型。本章节将先容深度学习模型在推荐排序任务中的创新及经典应用，并以现有模型为基础联合我们的业务特点举行模型选型并优化革新。

1.YouTube-DNNDNN [1]应用场景为YouTube App首页视频推荐，通过Word2Vec生成用户历史寓目视频以及搜索关键词Embedding，之后将历史行为向量举行平均获得watch vector、search vector其他种别特征也需要举行Embedding最终和一连值特征拼接处置惩罚，最终作为DNN的输入。对于种别特征的Embedding有两种基本处置惩罚方式，通过模型生成向量好比Word2Vec，或者接纳Embedding层初始化后和DNN一起训练。

对于图3（左）召回任务，YouTube将目的界说为用户next watch，通过softmax函数获得所有候选视频的概率漫衍。对于图3（右）排序任务，作者在输入特征部门除了在召回时用到的Embedding之外还加入了一些视频形貌特征、用户画像特征、用户寓目同类视频距离时间、当前视频曝光给当前用户次数等体现二者关系的特征。图3 YouTube DNN [1]模型结构2.Google-Wide&DeepWide&Deep[2]模型应用场景为Google Play也就是用于App推荐，论文强调该模型设计的目的在于具有较强的“Memorization”、“Generalization”。

文章中形貌如下假设用户安装了netflix，而且该用户之前曾检察过pandora,盘算如下组合特征（user_installed_app=Netflix,impression_app=pandora）和安装pandora的共现频率,假设该频率比力高则我们希望模型发现这一纪律在用户泛起这一组合特征时则推荐pandora。像Logistic Regression图4（左）这样的广义线性模型可以做到Memorization这一点。而对于DNN图4（右）模型则可以通过低纬浓密的Embedding向量学习到之前未泛起的特征组合从而淘汰特征工程的肩负而且做到Generalization。

最终组合之后的Wide&Deep图4（中）模型即便输入特征是很是稀疏的，同样可以获得较高质量的推荐效果。图4 Google Wide&Deep[2]模型结构3.华为-DeepFMDeepFM[3]模型应用场景为华为应用商店，Wide&Deep模型为之后两种模型左右组合的结构革新提供了基础。其中图5 DeepFM则是对W&D模型的Wide部门举行革新的结果，由FM替换LR，原因在于Wide部门仍然需要繁杂的人工特征工程。

通过FM则可以自动学习到特征之间的交织信息，相比W&D模型DeepFM则包罗了一阶、二阶、deep三部门组成从而实现差别特征域之间的交织。图5 华为DeepFM[3]模型结构4.阿里巴巴-DINDIN[4]模型应用场景为阿里巴巴在线广告推荐，思量用户兴趣的多样性，YouTube-DNN模型中也使用了用户历史行为特征，可是将所有视频Embedding举行平均，这样就相当于是所有历史行为对于现在的行为发生相同的影响，这样的设计对于用户体验是不合常理的。

因此，思量引入NLP中的Attention机制，针对每一个历史行为盘算差别的权重。总的来讲DIN （图6）模型在为当前待排序帖子预测点击率时，对用户历史行为特征的注意力是纷歧样的，对于相关的帖子权重更高，对于不相关的帖子权重更低。

图6 阿里巴巴 DIN[4]模型结构5.阿里巴巴-DIENDIEN[5]（图7）模型应用场景为阿里巴巴在线广告推荐，该模型是对DIN的革新模型，主要思量以下两个方面，DIN只思量了用户兴趣的多样性引入Attention，可是并没有思量用户兴趣的动态变化。因此引入兴趣抽取层，使用GRU序列模型对用户历史行为建模、引入兴趣进化层，使用Attention、GRU对用户兴趣衍化建模。

在用户无搜索关键词的情况下捕捉用户兴趣的动态变化将是提升线上点击率的关键。图7 阿里巴巴DIEN[5]模型结构通太过析以上模型我们可以发现深度学习模型可以淘汰人工特征工程，但淘汰并不等同于不举行人工特征工程。Embedding&MLP结构将大规模稀疏数据转化为低纬浓密特征，最终通过转换（Concatenate、Attention、Average）操作，将其转化为牢固长度的向量feed到MLP，学习特征间的非线性关系。

相同结构的模型在差别的业务上效果会有差异，在近几年揭晓的论文中，没有一个模型会在所有数据集上体现最优，因此需要寻找适合差别场景、差别业务的模型并加以革新。以DIEN为例，由于作者思量到用户购置兴趣在差别的时间点差别，用户购置手机后可能需要购置手机壳等，用户的兴趣存在一个进化的历程，而且用户的整个兴趣行为需要准确、完整等。推荐的目的是为用户展示相关信息提升平台效率，那么就要从用户角度思量去构建模型，而不是单纯验证模型。

深度学习在58首页推荐的应用对于58同城推荐任务，深度学习模型在差别的场景中也是不通用的，纵然是对同一类业务下的差别场景同样需要定制才可以到达提升用户体验以及平台收益的目的。点击率预估模型的目的是提升用户线上点击率，因此平台为每一个用户展示的信息以及用户点击或者其他行为的信息对于模型的离线训练以及线上效果至关重要。

上文中提到的DNN、Wide&Deep、DeepFM模型为厥后的一些深度学习模型的革新提供了基础，这些模型我们在前几年也举行了验证，而且能够到达预期效果。由于现在平台已经积累了大量的用户行为数据我们的目的则是通过为用户兴趣建模来提升线上点击率，使用阿里提出的用户兴趣网络以及用户兴趣进化网络模型来定制模型结构对于我们的目的是有资助的，因此我们需要凭据首页推荐场景多业务融合的特点举行革新。

本章节将展开先容58首页推荐场景下是如何以现有模型为基础，并联合我们的业务特性来设计可以适配当前场景的模型架构。模型58同城首页推荐场景中的深度学习模型也是遵循Embedding&MLP结构。对于用户行为特征，我们凭据业务选择了用户比力敏感的三类ID特征，帖子ID、类目ID、地域ID，通过Attention盘算用户历史兴趣对于待排序帖子的影响水平，通过AUGRU捕捉用户兴趣的动态变化。

其中用户行为中ID类特征Embedding特征维度统一(定长，对应下图中的Infoid、Cateid、Localid)，其他种别特征维度可凭据实际业务情况举行修改（变长，对应下图中的category1…categoryN）,除用户行为特征外，其他种别特征、一连特征可通过设置文件举行单独设置。深度学习模型离线训练、在线预估部门输入保持一致，保证多内聚低耦合降低依赖就可以加速离线验证迭代速度，同时可以快速迁移到线上其他场景。

联合首页多业务融合的特点，用户兴趣网络实现结构如图8所示，特征部门包罗人工业务特征、人工向量化交织、兴趣特征等。其中Item Embedding是在用户行为数据中应用Word2Vec获得的向量、User Embedding则是凭据Word2Vec向量加权获得，详细加权可使用TF-IDF、待排序帖子与用户历史点击帖子相似度等方式。在实现模型时特征处置惩罚部门需要注意，不建议使用tf.feature_column API，需要在特征工程部门实现处置惩罚逻辑，可淘汰线上推理耗时。

图8 58首页推荐场景下的深度学习模型结构基础特征对于基础特征部门我们划分构建了帖子特征、用户特征以及用户-帖子组合特征，基础特征由于具有显着的物理意义，可解释性强等特点在各个业务中不容忽视，详细基础特征可参考下表。以租房业务中的用户-帖子类特征为例，通过建设租房用户对于房源的地域、价钱、厅室等兴趣标签以及房源自己的地域、价钱、厅室等属性信息可以盘算用户与房源之间的相关水平。

由于58首页场景为多品类推荐，部门特征对齐事情比力难题，好比用户同时关注二手房，二手车等，那么房价以及车的价钱不属于同一空间维度，无法在传统机械学习模型中直接使用，另有用户兴趣具有差别的周期性差别的行为等。由于这些问题的存在，我们思量在用户行为上举行构建特征，线上CTR取得进一步的提升。帖子特征寄义类目帖子所属类目地域帖子所属地域历史点击次数帖子历史被点击次数历史ctr帖子历史点击率Word2vec帖子向量其他其他帖子特征 用户特征寄义地域用户所处地域用户兴趣用户历史兴趣特征其他其他用户特征 用户-帖子特征寄义用户地域-帖子地域用户所处地域与帖子所属地域匹配度兴趣类目-帖子类目用户兴趣中类目与帖子类目匹配度兴趣地域-帖子地域用户兴趣中地域与帖子地域匹配度其他其他用户-帖子特征离线向量化特征2013年Google开源词向量盘算工具-Word2Vec[6]，该模型通过浅层神经网络训练之后的词向量可以很好的学习到词与词之间的相似性，并在学术界、工业界获得了广泛应用。

这种通过低维浓密向量表现高维稀疏特征的表达方式很是适合深度学习。Embedding思想从NLP领域扩散到其他机械学习、深度学习领域。与句中的词相类似，用户在58同城全站行为数据中Item则同样可举行Embedding从而获得帖子的低纬浓密特征向量。

全站行为可以指用户的点击行为序列，也可以指用户的转化行为序列。因此点击率预估任务则可以通过Word2Vec获得帖子向量表现以及用户向量表现。Word2vec 可以凭据给定的语料库，通过优化后的训练模型快速有效地将一个词语表告竣向量形式。

Word2Vec训练向量一般分为CBOW(ContinuousBag-of-Words)与Skip-Gram两种模型。CBOW模型的训练输入是上下文对应的词向量，输出是中心词向量，而Skip-Gram模型的输入是中心词向量，而输出是中心词的上下文向量。帖子向量的训练数据泉源于用户行为日志中抽取出的点击曝光日志，各个业务场景下天天会泛起用户更新以及新公布的帖子，训练帖子向量的数据使用用户最近7天的点击转化行为数据。

针对业务对用户行为数据举行处置惩罚，首先用户每次点击的停留时长小于3s，认为是误点击或对当前帖子不感兴趣，则将当前点击从行为序列中剔除；保留点击数据，去除微聊、收藏和打电话行为数据，将每条点击数据按用户id聚合并按点击转化时间排序；用户行为序列中前后两次行为凌驾3小时的认为兴趣已经发生改变，对数据举行切分，生成新的行为序列。样本构建之后需要针对样本需要举行负采样，负采样流程是对所有样本构建一个负采样序列，对于租房业务来说对于用户点击的一条位于北京房源随机采样到长沙的一个房源作为负样本。长沙的房源显然是一条及格的负样本，可是为了让同城内正负样本更具有区分性，针对负采样流程做了以下优化，对每个词也就是帖子记载都会、local信息，词频平滑处置惩罚，分都会对同城内的词频求和；拼接多个都会的负采样序列作为最终的负采样序列，同时记载每个都会负采样区间的起始和竣事位置；同城内负采样序列根据词频占比越高所占区间越长的规则构建，记载当前中心词所在点击序列的所有泛起的词，作为正样本，不举行负采样；负采样时，获取中心词的都会，传入当前都会在负采样序列中的采样起始下标和竣事下标，在当前都会区间内举行随机取样；负样本的local不即是中心词的local，且负样本没有在中心词的点击序列中泛起过，即乐成采样负样本，否则继续负采样；对每个负样本的采样次数限制在10次之内，凌驾10次即在同城内随机负采样。

思量到用户的转化行为也是一个更重要的行为特征，在训练向量的历程中加入合理的正样本使得相关的向量更相似，好比保留点击、微聊和打电话行为数据，用户的微聊和打电话行为相较于点击行为有更强烈的的喜好，可用于生成正样本；记载序列中每个帖子的行为及对应的时间戳，遍历当前序列，记载微聊和打电话行为发生的时间戳以及对应帖子所在的位置下标，若中心词位置在最近一次的微聊或打电话行为之前。思量到用户的兴趣在某个时间段内有一连性，将距离时间设置在15分钟之内，在这个时间规模内的点击可以认为对之后发生的微聊和打电话行为有间接影响，将下一次的微聊或点击作为当前中心词的正样本；为了制止发生噪音数据，限制中心词和微聊帖或打电话帖的地域信息相同或价钱区间相同，满足条件后作为正样本举行训练。用户行为特征图9 用户行为界说58同城全站用户行为一般包罗点击和转化，转化则是指收藏、微聊、电话，图9展示了租房、二手车、二手房、招聘业务中收藏、微聊/在线聊、电话、申请职位所在详情页的位置。

基于对用户行为的分析以及首页推荐场景多业务融合的特点，从用户角度出发，思量到用户一般对于公布帖子自己以及帖子所在位置关注度比力高，最终将帖子ID、类目ID、区域ID作为用户行为属性举行Embedding编码。特征的漫衍式表现在深度学习特征工程中至关重要，组合以上三类ID特征通过模型Embedding层获得低纬浓密的帖子向量表现，最终可通过Attention或者其他相似度怀抱方式等盘算出当前待排序帖子和用户历史点击帖子的相关水平，从而使得模型学习到用户关注点。

图10 用户行为特征离线用户行为数据是将全站用户行为特征定时间戳排序（如图10所示）生存在HDFS中，其中单个用户行为包罗帖子ID、类目ID、区域ID、时间戳等基础信息，最终在离线训练和在线预估中选择使用用户最近N条行为特征，通过模型将这些基础信息举行embedding编码。离线向量化特征则是通过用户行为序列中的帖子ID序列使用Word2vec训练所得。对于用户行为中帖子ID的embedding向量可以在模型中通过end2end的方式训练获得，也可以通过加载预训练向量在模型中加载使用。离线样本图11 样本特征整个离线样本处置惩罚流程如图11所示，包罗用户行为特征，基础特征。

由于训练样本数据数量级已到达亿级别，为了加速模型离线训练速度我们对训练样本接纳两种负采样方法举行采样：1.随机负采样，即一次曝光的帖子列表中用户未点击的样本根据自界说正负样本比例举行采样；2.自界说采样，即保留一次曝光帖子列表中用户最后一次点击之前的未点击样本作为负样本。深度学习模型要求输入样本不行以存在缺失值，因此需要补全计谋，我们针对样本中泛起的每一种种别特征设置了一个ID为0的Embedding标志该特征为缺失值，对于一连特征现在将缺失值设置为0，后期会继续举行缺失值补全计谋的实验，好比平均值、中位数等。离线训练使用离线样本生成流程我们将所有样本通过MapReduce生存在HDFS，使用TensorflowDataSet等API可直接读取HDFS上的离线数据，对于DNN、DIN、DIEN模型我们实现了单机以及漫衍式版本，现在单机版本已在线上使用，漫衍式版本还在优化历程中。模型离线训练优化初期可通过tensorboard监控训练历程中的accuracy、loss等指标（图12），通过监控可以看出模型已收敛，模型正常训练上线之后不再使用tensorflow的summary API可淘汰部门离线训练时长。

此外，模型中如果使用到tf.layers.batch_normalization 时应特别注意其中的training参数，而且在训练历程中需要更新moving_mean、moving_variance参数，生存PB模型时则需要将BN层中的均值和方差生存，否则在serving阶段取不到参数时直接使用均值为0、方差为1的初始值预测，泛起同一条样本在差别的batch中差别打分的错误效果。图12 Accuracy、Loss变化曲线下表为GBDT、DIN、DIEN的离线效果，可见DIN、DIEN均已凌驾传统机械学习模型。接下来我们将先容线上实验部门。

排序服务用户实时行为数据构建，离线数据已经生存在HDFS，线上则是通过实时剖析kafka消息将用户实时行为生存在分片Redis集群中，单天可发生亿级此外用户行为数据，用户行为特征基本剖析流程可参考图12. 特征抽取部门实现了帖子信息、用户兴趣、用户行为的特征并行处置惩罚，首页场景线上一次排序请求约120条帖子，为降低Tensorflow-Serving单节点QPS同时思量单次排序请求的整体耗时，我们将一次排序请求拆分成多个batch并行请求深度学习模型打分服务（图14）。图14 多Batch请求Tensorflow-Serving在测试情况下我们举行了排序耗时评估，发现batch为2，10，20平均耗时差距约为10ms，随着batch增加，一次可打分帖子量增加，则tensorflow-serving各节点QPS会降低。上线后对耗时日志举行统计，通太过析耗时统计效果（图15），99%以上的请求均低于22ms最终权衡排序总耗时之后将线上batch设置为20。

图15 线上单个batch请求耗时漫衍通过线上耗时监控，DIN模型每个batch平均耗时6-9ms（图16左），DIEN每个batch平均耗时19-22ms（图16右）均已满足线上耗时限制。图16 DIN/DIEN线上Batch平均耗时首页场景下DIN、DIEN模型排序实验阶段，在小流量测试阶段Tensorflow-Serving服务QPS峰值可达几千时，服务请求量及耗时量指标可参考图17。图17 DIN/DIEN线上Tensorflow-serving请求量及耗时实验总结实时/截断用户行为特征模型上线之后发现离线AUC高于线上最优GBDT模型，可是线上点击率却低于GBDT，排查之后定位问题泛起在实时行为特征部门。离线样本生成历程会使用曝光时间戳去截取用户历史行为特征，可是线上则是通过kafka实时剖析用户行为，通过监控剖析kafka写入Redis发现存在部门行为数据聚集情况以及实时日志上传kafka存在延迟。

用户行为数据到达8000万左右(图 18左)时，大于两分钟写入redis的数据已经存在500万左右(图18右)。图18 kafka剖析用户实时行为监控因此通过线上监控统计后开端断定为行为特征时间穿越问题，因此对线上线下的用户点击行为特征根据统计的时间举行截断并举行线上AB实验，1819（DIN）、1820（DIEN）算法号直接读取线上实时行为特征，1227（DIN）、1796（DIEN）算法号则通过设置时间距离举行截断。通过图19，20我们可以发现线上(实验号1227)线下用户行为特征举行两分钟截取时间后线上点击率比通过曝光时间戳截取(实验号1819)有2%-4%的提升，1796则比1820有5%-8%的提升。通过线上AB实验讲明模型使用实时性要求比力高的用户行为特征时对于是否存在时间穿越问题需要重点关注，固然这个问题也可以通过增加处置惩罚kafka的线程数来降低消息的聚集量，不外线上线下用户行为特征是否对齐仍需要验证。

因此用户实时行为特征在58App首页推荐场景下需要凭据实际业务数据设置时延，保证线上线下实时用户行为特征一致。图19 DIEN-验证行为特征时间穿越图20 DIN-验证行为特征时间穿越使用Word2Vec向量离线向量特征部门提到我们使用Word2Vec模型对用户行为特征中的帖子举行离线预训练获得了帖子的Embedding向量。对于Word2Vec向量的使用可分为两种，一种是离线预训练，之后在模型Embedding层中用户行为特征部门的infoid加载预训练向量，一种是将预训练的帖子向量作为一连特征直接输入DNN使用，在接下来的实验中我们优先使用第二种方式举行，后期会继续使用第一种方法举行线上实验。图21-22中可见对于使用Word2Vec向量的1209（DIN）、1222（DIEN）比未使用Word2Vec向量的1227（DIN）、1796（DIEN）均有1.5%-4.3%的提升。

图21 DIN-是否使用Word2Vec向量图20 DIEN-是否使用Word2Vec向量以上实验为上线初期的部门数据，现在线上点击率实验中DIN比基线周平均提升13.06%，曝光转化率提升16.16%；DIEN相比基线曝光转化率提升17.32%，均已凌驾线上最优GBDT模型， DIEN模型已全量部署，现在各模型线上指标可参考下表。总结与展望通过团队协作买通基于用户兴趣相关的深度学习模型离线训练、线上打分流程，将58App中富厚的用户行为数据乐成应用到深度学习模型，并能够提升首页推荐点击率，从而到达提升用户体验，提升平台效率的目的。用户行为数据中的每一个帖子对于当前要推荐的帖子的相关水平是纷歧样的，不行一概而论。注意力机制将用户序列Embedding加宁静均改成加权平均，使得推荐模型可以学习到用户关注点。

用户行为是与时间顺序相关的序列，序列模型可以用来学习用户行为的演化历程，可以用于预测用户下一次的行为。前期的离线实验包罗现在的线上效果能够证明通过对用户兴趣建模可以捕捉到用户关注点以及动态的兴趣变化。现在深度学习已经在TEG-推荐技术团队内部卖力的各个场景举行实验，固然另有一些待优化的事情，好比离线漫衍式训练及庞大深度学习模型线上性能。另有一些特征层面的实验事情，好比对于用户行为特征，不局限于帖子id、类目id、地域id、用户行为序列长度扩增等、帖子向量和用户向量交织等。

在模型层面，对其他Attention结构举行实验、DNN部门思量使用残差网络、通过Graph Embedding等生成帖子向量、线上支持其他深度学习排序模型等。部门简介：58同城TEG推荐技术团队，以提升毗连效率/打磨关键技术能力/服务业务产物为团队愿景，在工程架构/模型算法/产物形态上连续迭代。现在，排序模型上，基于DIEN/Transformer等构建了适配58业务特点的多通道深度模型架构，成为了主要场景的主流线上模型，仍在进一步联合业务探索新模型架构强化学习/迁移学习等的落地应用，期待和大家进一步探讨交流。接待感兴趣的同学加入，算法与工程同学都需要。

简历可直接发送至罗景，邮箱：luojing04@58.com。作者简介：王连臣，58同城TEG-推荐技术部算法工程师，主要从事58同城首页场景推荐点击率预估深度学习模型的优化与迭代，2019年硕士结业于吉林大学。

本文来源：开云手机版app下载-www.sdtaibaifen.cn