| 12月13-14日，由云栖社区与阿里巴巴技术协会共同主办的《2017阿里巴巴双11技术十二讲》顺利结束，集中为大家分享了2017双11背后的黑科技。本文是《人工智能在搜索中的应用》演讲整理，本文首先介绍了AI如何在搜索中落地，进而重点介绍了个性化搜索，包括图搜索、个性化召回，接着又分享了智能决策的探索。内容如下。 分享嘉宾：
三桐：阿里巴巴资深算法专家，淘宝商品搜索算法方向，主持多个搜索技术项目，致力于推动大规模机器学习、深度学习等在商品搜索的应用。 搜索智能化之路 搜索是有交互的个性化推荐产品，具体体现在query的引导，提升整体效率；其次是个性化，主要问题是行业冷启动、购物链路比较长，包括淘宝产品如搜索、推荐、广告的个性化，用户会在其中作不同的穿插；第三，电商搜索是商业平台的搜索产品，涉及到消费者、商家和买家三方市场；最后是数据闭环，淘宝数据链与网页不一样，用户行为（浏览、点击、成交、评价、物流）形成全链路闭环数据，商品数据也上传到淘宝平台中。 AI在搜索中如何落地？ 在算法层面,需要考虑用户理解、个性化匹配和排序策略，还要对购物链路进行优化，也要对深度学习在线预估进行探索调研。学习（大数据+大模型+实时+在线预估）+决策（自动探索和学习）是在算法中所作的人工智能，学习具体体现在由单任务-多任务、由浅层-深层、由batch-sgd，决策是指探索未知领域、多任务联合优化等。 AI在搜索中的挑战主要是如何做超大规模机器学习平台，如何进行在线深度学习，如何进行稀疏深度模型处理和加速，如何进行异构计算，如何进行多模信息融合、多任务表征学习、多目标学习，以及如何处理长短期收益平衡？
图为算法系统框架，包括离线数据处理和机器学习平台和在线数据处理和机器学习平台，离线主要做预测和模型训练，在线主要做个性化引擎和搜索服务。算法层面我们实现了常见的强化学习、在线学习、深度学习等主要模型，我们还为搜索业务制定了特定模型。
在系统演化方面我们取得了很多进展，比如：
整体来看，算法、系统和业务正在交织发展，机器学习平台、在线学习平台和实时计算平台是算法的前提条件，我们一直在探索深度学习和强化学习，并且在搜索全链路深度学习、多场景联合优化和知识图谱和智能交互方面取得一些进步。 个性化搜索 关键字推荐
推荐关键字主要参考用户和当前query，我们会给出关键字list，用户会选择想要的query进行下一步的搜索，那么，如何评价query list的好坏呢？我们从直接收益和间接收益当中学习，包括query点击和query引导的用户搜索页是否成交，以及用户选择query后，会产生新的query做query推荐。Query推荐是一个序列优化问题，适合使用强化学习来做，所以我们基于DQN做query推荐，每个query是一个action，状态是用户和当前query。 图搜索
个性化搜索数据体系叫电商图谱，是以用户为核心建立用户社交圈、用户生活圈、用户购物行为、用户购物行为、用户标签和辅助关系，通过数据挖掘挖掘出这些关系，基于此图做简单个性化，电商图谱约有10亿个实体、近千亿条边和几十种关系类型。 个性化召回
个性化搜索中较重要的是个性化召回，首先基于Igraph数据取出基本信息，因为搜索中是有query的，每个query中用户信息是不一样的，所以首先会基于上下文对基本信息进行过滤，再拿这个信息去引擎中召回结果。传统搜索引擎只是关键字，在这里除了关键字外，还有很多个性化辅助信息参与召回。
由于布尔召回的召回深度较浅，所以我们使用基于深度学习的向量化召回，向量化召回包括做similarity learning把query 、user和商品变成低维的向量，再通过Top K高位向量的召回实现向量化召回，召回深度有所提高。 Deep User Perception Network
如何深度感知用户？从个性化角度说，一是年龄、性格等用户标签，一是用户行为序列；从搜索角度说，用户行为对于当前搜索的重要性是不一样的 。如图，首先输入x1～xn的行为序列，首先做embedding，然后再经过LSTM做Attention，最后通过相似task学习统一用户表征。 offline training
离线训练流程如图，主要解决如何做超大规模深度模型训练，我们在训练时候有2000个workers、96个parameter servers，每个worker应用15个GPU核，模型规模达到150G。在模型训练本身，针对稀疏 id 特征进行了专门处理。 real-time updating
在线学习流程如图，电商商品变化较快，如果模型无法快速适应变化，效果肯定会大打折扣，所以我们实现了端到端的在线模型学习更新。 online processing
在线预测结果如图所示。
实验结果如图，我们会做不同的尝试实验，基于DUPN我们一是不做端到端训练，现将商品embedding部分用离线模型做预训练；二是做端到端模型训练。可以看到，端到端训练相比其它会有明显提升。 右图为多任务和单任务的对比，多任务准确率相对更高，对于一个任务来说，其它任务就是约束，得到用户表征更加通用。
我们在做任务迁移时比传统迁移有明显优势，用户行为序列通过attention可以更好的学习与当前场景较相关的表征。 Contextual Linear LTR
传统的LTR是指学习统一的模型，在电商搜索中不同行业不同用户下排序特征不一样，对此，我们做了基于上下文的LTR，第一版做了1000个排序模型，每个模型完全独立训练，其实际效果十分明显。但是，该场景划分是根据数据统计划分，具有很大不确定性，如果划分场景比较碎，做在线学习也有很大困难，模型训练稳定性较差。 Online Contextual Nonlinear LTR
因此，我们使用深度学习得出在线上下文LTR模型。可以看到，在特征层面加入了深度特征，引入了query和user信息，首先会将商品特征进行结合再降维，用户也需进行结合再降维，再将商品特征和用户组合在一起再降维，最后输出时还会用原来商品特征和组合的降维特征再做CTR和CVR预估，通过深度学习非线性表达能力，实现基于用户和上下文感知的非线性排序模型。 Learn to Display
我们做了基于上下文的序列最优排序，利用前面已经排好的结果来预测下一个该排的商品，首先会对之前排好结果做embedding，基于embedding预测下一个商品，实现整页最优排序。
为了生成一些特色商品内容传递给消费者，也为了做商品聚合并生成主题，我们做了智能内容生成展示。 智能决策 智能决策与搜索的差异是：在搜索中无法给一些场景确定的样本，比如用户偏好的探索；其次是长短期受益的平衡。因此，实施在多目标环境下，根据环境反馈实时优化策略达到整体最优。 MAB 多样性探索
我们在搜索个性化结果中会有不同维度，使用MAB探索不同维度，分别去计算每个维度收益，使强个性化和弱个性化平衡，提升效率同时避免过度个性化。 feature pruning
不同用户不同场景下，每个特征重要性不一样，如果不用一些特征，可以很好的提升性能。因此，我们用强化学习做用最少的特征学习用全部特征类似的排序结果，排序性能提升20%。 MA-RDPG
非合作竞争会带来负面影响，电商领域有很多类似问题，比如搜索和推荐都奔着GMV，会导致结果趋同，引发无效报关。对此，我们提出MA-RDPG模型，MA-DPG策略独立，评价统一。
实际应用架构如图，首先模型训练是在porsche中完成，搜集样本成立model，model会更新到在线服务，根据Actor场景产生排序policy再部署到我们的环境中，环境中的结果会反馈到porsche中，形成数据闭环。
实验结果如图，可以看到，我们的整体收益有明显提升。 性能优化 Cascade Learning
我们在排序时除了考虑模型军队外，还要考虑模型性能开销。我们会把每个特征性能的cascade带进来，样本进来后是否应该进入到下一轮排序，通过控制每一轮排序商品数量，达到整体模型精度。使用Cascade Learning使整体性能提升了30%。 除了业务角度的性能优化，针对深度学习我们也做了很多加速探索，包括降维、量化、剪枝和二值网络。 未来挑战仍有很多。包括在冷启动、多场景联合优化、多目标优化、超参数学习、多模交互和智能导购等多方面，仍有许多等待着我们去完成。 -END- ID：yunqiinsight |
