2020挑战中学到了什么 Twitter从Recsys (2020挑战杯承办学校)
译者：AI研习社（ 听风1996 ）
双语原文链接： What Twitter learned from the Recsys 2020 Challenge
ecommender系统是现代社交网络和电子商务平台的重要组成部分。它们旨在最大限度地提高用户满意度以及其他重要的商业目标。与此同时，在以根据用户兴趣定制内容为目的来建立新模型基准测试时，缺乏供学界研究使用的大规模的公共社交网络数据集。而在过去的一年里，我们努力解决了这个问题。
Twitter与RecSys会议展开合作以支持2020挑战赛。在两周的时间里，我们发布了一个包含推文和用户参与度组成的数据集，其中有1.6亿条公开推文用于训练，4000万条公开推文用于验证和测试。
在这篇文章中，我们描述了数据集以及Nvidia、Learner和Wantely团队提交的三个获奖作品。我们试图对帮助获奖者取得成绩的选择做出一般性的结论，特别是:
以最快的实验速度用于特征选择和模型训练
我们希望这些研究结果对更广泛的研究界有用，并启发推荐系统的未来研究方向。
挑战赛的参与者被要求预测用户参与四种互动中任何一种互动的可能性：赞、回复、转发和引用tweet。我们根据以下两个指标对提交的作品进行评估：相对于我们所提供的简单基准方法的相对交叉熵（RCE），以及Precision-Recall曲线下的面积（PR-AUC）。
随时间的变化的训练、测试和验证数据集的表示
我们要特别注意（我们所使用的）维持数据集需与Twitter平台同步。数据集反映了平台上的变化，例如，当其中的一条推文被删除，有用户将其个人资料变为私有或完全删除。所以提交的数据就会被重新评估，排行榜也会根据重新计算的指标进行更新[2]。
数据集的特征表示。它们分为用户特征（针对作者和读者）、推文特征和参与度特征。
今年的挑战赛竞争尤为激烈，注册用户超过1000人。在整个挑战过程中，参赛者积极提交解决方案，并在挑战的第一阶段（根据提交指南）修改了他们的团队组成。最后阶段有20个竞争者，平均团队规模为4名成员。此外，各队总计设计了127种不同的方法，来尝试赢得挑战比赛。在整个挑战过程中，参赛者的活跃度很高，在最后几天，参赛者对提交的作品进行了改进，达到了做最优性能。最终的结果出现在排行榜上。
与之相伴的RecSys Challenge 2020研讨会收到了12篇论文，程序委员会对这些论文进行了审阅。其中9篇论文被接受。
数据集的特征表示。它们分为用户特征（针对作者和读者）、推文特征和参与度特征。
今年的挑战赛竞争尤为激烈，注册用户超过1000人。在整个挑战过程中，参赛者积极提交解决方案，并在挑战的第一阶段（根据提交指南）修改了他们的团队组成。最后阶段有20个竞争者，平均团队规模为4名成员。此外，各队总计设计了127种不同的方法，来尝试赢得挑战比赛。在整个挑战过程中，参赛者的活跃度很高，在最后几天，参赛者对提交的作品进行了改进，达到了做最优性能。最终的结果出现在排行榜上。
与之相伴的RecSys Challenge 2020研讨会收到了12篇论文，程序委员会对这些论文进行了审阅。其中9篇论文被接受。
GPU Accelerated Feature Engineering and Training for Recommender Systems.
Nvidia的论文[3]描述了训练xgboost模型来预测每个交互事件。总体的关注点在于为该模型生成有用的特征。文章强调快速提取特征和模型训练是该方法成功的关键。本文在附录中提供了4种模型中每种模型的15个最有用的特征列表。
从数据集中快速提取特征并进行再训练是冠军和亚军的关键区别。特征工程流程和训练流程的运行时间都不到一分钟。除此之外，对不同的分类特征和特征组合采用目标编码（均值编码+加法平滑），包括这些组合的目标均值。作者还从推文的内容中创建了分类特征（如最受欢迎的两个词和最不受欢迎的两个词）。用于特征重要性评估和选择的对抗性验证通过选择更通用的特征来防止过拟合。 采用基于树模型的集成方法用于生成最终模型。
第二名：Learner
Predicting Twitter Engagement With Deep Language Models.
Learner[4]融合了深度学习与梯度提升决策树（GBDT），并专注于不同特征的创建。作者使用启发式方法设计了467个特征，并使用BERT和XLM-R生成了推文的文本表示（同时使用了目标Twitter文本以及最近参与的Twitter文本）。
该条目与其他条目的关键区别在于使用了预训练的自然语言处理（NLP）模型BERT和XLM-R，并进行了微调。第一层的微调是以无监督的方式进行的。接下来，将语言模型与其他特征结合以有监督的方式进行微调。。该模型是一个多层感知机（MLP），有四个头，每个头代表一种参与类。本文还引入注意力机制生成了用户过去十次互动的嵌入向量。以目标推文为关键，利用注意力机制对每个的嵌入向量进行组合。此外，还使用了启发式特征，如参与用户、推文创建者、推文特征和用户与创建者交互特征的不同表示。与其他条目一样，本文使用xgboost进行特征工程和选择，并将Yeo-Johnson transformation应用于分类特征和非标准化连续特征。
第三名：Wantely
A Stacking Ensemble Model for Prediction of Multi-type Tweet Engagements.
上游的通用模型生成下游模型所需的特征。作者认为，通过这样的方式，每种参与类型的下游模型都可以从所有其他参与的数据中受益。除此之外，除此之外，如Nvidia条目所示，本文通过对抗性验证直接评估训练和测试数据集之间的特征分布差异，从而确定了哪些特征是可通用的。
在所有提交的论文中，有许多相同的见解。我们重点介绍以下主题：
胜出模型中使用的有用特征—目标编码是王道。 首先，目标编码（用目标变量的平均值替换分类变量）使问题变得更简单。它同时用于用户和作者id，因此编码了用户的平均参与率。其次，使用了大量特征交叉[6]。
快速实验进行特征选择。 快速检验许多假设的能力一直是数据科学竞赛中不可或缺的一部分，并再次证明在这一挑战中具有决定性作用。Nvidia团队能够在GPU上运行整个流程。这让他们只需2分18秒就能训练出一个模型（包括特征工程），而在CPU上则需花费数小时。
通过对抗性验证来应对过度拟合。 比赛选手常用的一种技术是建立一个判别器来预测训练和测试/验证集之间的差异。根据模型选择特征时使用的重要性分数，通过去除最重要的特征，可以帮助模型更好地泛化。此技术有助于避免训练数据过拟合。
上下文特征的使用。 今年的数据集和之前的数据集的一个重要区别是我们提供的上下文特征。在三篇获奖论文中，有两篇对基于上下文特征的BERT进行了复杂的使用。NLP中的深度学习方法已经证明了它对推荐系统的有用性，尽管我们认为在这个领域还有更多的改进空间。
决策树与深度学习。 梯度增强决策树（GBDT）的一个显著优势是，无需对单个特征的尺度进行归一化和计算。这使得所有胜出论文的迭代速度更快。
在计算机视觉和NLP等领域，深度学习模型已经通过利用CNNs和transfomer展示了令人印象深刻的进展。基于这一挑战的结果，我们仍然不明白在推荐系统中什么构成良好的深度学习架构。我们呼吁研究界共同寻找推荐器系统的最佳深度学习架构。
我们也注意到，虽然我们只对提交的模型的性能进行了评估，但在生产系统中还有许多其他限制。对我们来说，延迟是一个大问题：模型需要在毫秒内对推文进行评分。在这种情况下，需要仔细检查集成方法的使用。集成中每一步的附加延迟都可能会导致它们对我们的目标来说太慢。
我们感谢所有参与者和我们的同事使这得一挑战成为可能。我们相信，发布大规模数据集将有助于解锁推荐系统领域的新进展。Twitter现在比以往任何时候都致力于帮助外部研究，并且最近为学术研究人员发布了新的API端口，以帮助促进进一步的探索和合作。
[1] J. Pan et al.Adversarial validation approach to concept drift problem in user targeting automation systems at Uber(2020) arXiv:2004.03045. Introduces adversarial validation, a powerful technique used by several participants.
[2] L. Belli et al.Privacy-Aware Recommender Systems Challenge on Twitter’s Home Timeline(2020) arXiv:2004.13715 provides the details about the challenge and the>AI研习社是AI学术青年和AI开发者技术交流的在线社区。我们与高校、学术机构和产业界合作，通过提供学习、实战和求职服务，为AI学术青年和开发者的交流互助和职业发展打造一站式平台，致力成为中国最大的科技创新人才聚集地。
如果，你也是位热爱分享的AI爱好者。欢迎与译站一起，学习新知，分享成长。
版权文章，未经授权禁止转载。详情见 转载须知 。
星网大数据提供数千个行业精准行业词库，助力轻松扩展流量词。
百度爱采购是百度旗下的B2B垂直搜索引擎，旨在帮助用户一站直达全网商品信息，触达海量优质商家。让买家快速便捷的找到优质货源，为商家提供海量匹配的询价信息，获得更多曝光，快速达成交易，降低成本提升盈利。百度爱采购，让采购批发变得更简单。
舟山市图书馆
滁州市南谯区百聪草坪专业合作社位于安徽马尼拉草坪种植基地——滁州市珠龙镇，马尼拉草坪销售热线：15205500909，我们的草坪的品种齐全，质量好，价格优惠。凭着本本分分的生产经营赢得了许多的客户的好评，目前已经辐射到了周边几个省市，生产量可以满足任何客户的需求。主要生产经营的品种有：马尼拉，百慕大，高羊茅，虎皮草(中华结缕）等各种草坪。
西安方元明科技股份有限公司
东莞市泰达丹索油泵油嘴有限公司专注电控共轨燃油系统,油泵,燃油泵,喷油器,柴油泵零部件,喷油器零部件,发动机零部件再制造，零配件销售、技术培训、技术咨询服务的企业之一,加工生产全系列共轨泵，共轨喷油器等核心零部件。专业电控共轨燃油供应商服务,热线:189-2555-1025/0769-83568021
为滦州市民提供买楼售楼、滦州二手房信息，滦州二手房价格，滦州房产信息
新时空卫星低轨窄带卫星Orbcomm低轨卫星新时空物联网卫星通讯卫星通讯卫星物联网卫星通信
睿识课是一个专注于安全科普类平台，为用户提供场景化、实用性强的1000余堂安全科普课程，以预防在不同场所、不同环境下发生灾害。平台聚集着一批热爱汽车和驾驶、关注健康与安全、懂生活高素质的，具有影响力和购买力的用户。
中江县凯洲民商事纠纷调解中心
【四川泛梦科技】专注于成都app开发,电商saas开发,成都小程序开发,成都网站建设,公司提供软件定制开发服务,多年来已为众多企业及上市公司提供高品质的移动应用解决方案及服务。
一堂一课是小学语文数学同步教学、知识汇总等综合知识的学习平台。平台以小学语文数学人教部编版同步教学为核心，通过1-6年级小学语文课文同步动画，提升学生学习语文的兴趣和主动性。同时提供在线课文点读、生字词点读、课文解析、在线听写、在线练习、下载打印题卷等功能。
阿里云，早期未意识到Apachelog4j2漏洞的严重性，将强化漏洞管理12月23日，阿里云发布，关于开源社区Apachelog4j2漏洞情况的说明，称，近日，阿里云一名研发工程师发现Log4j2组件的一个安全bug，遂按业界惯例以邮件方式向软件开发方Apache开源社区报告这一问题请求帮助，Apache开源社区确认这是一个安全漏洞，...。
边缘计算性能的提升给存储器的设计，类型的选择和配置都带来挑战，这也导致在不同的应用市场中需要进行更复杂的权衡，芯片架构正在与新市场一起发展，但数据在芯片、设备之间以及系统之间如何移动并不总是很清楚，汽车和AI应用的数据正变得越来越多和复杂，但芯片架构在处理时有时不清楚如何优先处理数据，这让芯片设计人员面临抉择，是选择共用内存降低成本，...。
发表在极米投影仪2023，5，816，37坚果N1和极米Z7X是价格相近的投影仪，同时也是近段时间上市的投影仪，具体坚果N1和极米Z7X区别有哪些呢，下面就通过详细参数配置进行对比分析，看看坚果N1对比极米Z7X哪款好，哪款更值得用户入手，一、坚果N1和极米Z7X区别有哪些，1.光学参数对比在亮度方面，坚果N1的亮度为800CVIA流...。
在众多火锅串串品牌中，其快速而又稳健的特色火锅串串之路的巨大市场需求和前景大好，这点无论是在自营店面还是全国加盟店面都得到了印证，特色串串香加盟当然要选择具有特色的品牌！作为初入串串香行业的，新人，而言，除了选择一个成熟可靠又有影响力的品牌加盟外，如何走好开店的每一步，成了众多智慧之选者关注的话题，加盟八旺，手把手教你开店致富，一、找...。
文字链接认证代码普通联盟标志认证代码企业广告联盟标志认证代码广告联盟评测代码说明，本页面的认证代码为优胜广告联盟专用评测代码，站长需懂简单html知识，直接复制代码粘贴到联盟网站相应页面即可使用，本代码不适用于其他广告联盟网站请勿获取！文字认证，文字链接代码认证适用所有类型的广告联盟，复制代码后放在优胜广告联盟网站首页底部或友情链接位...。
米兰作为全球重要的商业和展览中心，每年吸引着众多的国际展会汇聚，这里有意大利米兰国际家具展，展示最新的家居设计和潮流；同时，意大利米兰国际卫浴展展示了最新的卫生洁具和浴室科技，对于制造业爱好者，意大利米兰国际木工机械展览会是不容错过的，机械创新和工艺精湛在此得以呈现，鞋类爱好者可以在意大利米兰国际鞋展上找到最新的时尚鞋品和行业动态，此...。
当天，11月12日，，第十五届中国航展正式揭幕，在航空航天馆内，多款最新国产发起机齐亮相，其中最吸引观众眼光的就是初次亮相的AEF1200发起机，中国航空发起机团体副总经理杨鲁峰通知记者，该型发起机是我国自主研制的第一型大涵道比双转子涡轮风扇发起机，填补了我国航空能源畛域的空白，将为我国大型飞机提供能源，总台央视记者崔霞吴天白，点击...。
身份证后六位数字，依据查问橙天嘉禾显示，大地影院卡初始明码是置办时应用的身份证后六位数字，大地影院个人是集影院投资、建设、经营及操持为一体的综合型企业，大地影院会员卡怎样查购置大地影院会员卡查问购置的方法如下，1.关上大地影院官网网页，2.点击，我的，按钮，进入，我的页面，3.在，我的页面，中点击，会员卡，按钮，进入，我的会员卡页面...。
安康夜是12月24号，安康夜又称圣诞夜，即圣诞前夕，12月24日，，在大局部基督教会中是圣诞节日的一局部，安康夜，即圣诞前夕，人们往往都会举行很多大型的优惠来庆贺这个节日，在外漂泊漂泊的人也会赶回家中，享用天伦之乐，圣诞树上群灯闪耀，鲜艳炫目，圣诞老人，纷繁出动，将喜庆和祝愿带给家中的每一个成员，其实，早在上世纪的二三十年代，圣诞节的...。
京VA是北京军委总顾问部直属机关的车牌号，北京V牌照的经常使用权普通在直属机关手中，理论提到的军事A、B、C、D牌照区分为参、政、后、装置的二级部单位，一级部单位经常使用京V牌照，军区车牌号如下，BA——北京军区司令部SA——沈阳军区司令部LA——兰州军区司令部JA——济南军区司令部NA——南京军区司令部GA——广州军区司令部CA——...。
微信多开——是一款多功能聊天软件，支持一台电脑登录多个微信，满足工作需求。同时维护多个微信号和企业微信号，此外还支持消息提醒和快速跳转，话术收藏一键回复等功能，有效提升客服人员沟通效率。
CEO也被AI机器人代替了！“我没有周末，24/7全天候工作”,汉森,米卡,ai,人工智能,机器人公司
由雷锋网、硬创邦主办，阿希联合主办的，阿希之夏，全球区块链创客马拉松，北京首站将于2018年6月23日，24日举办，这将是一次区块链开发者的交流盛会，在公链项目纷乱入眼的当下，到底哪些公链真的可行，哪些公链已经具备应用落地的能力，让我们用开发者大赛来现场验证！实践出真链，区块链开发者们，一起来迎接连续48小时的开发挑战与对抗吧！个人...。
企查查显示，8月31日，小米长江产业基金又新增一起对外投资——新投资一家车载核心通讯芯片研发企业裕太微电子，该公司注册资本由778.13万元增至812.24万元人民币，裕太微电子公司官网显示，裕太微电子成立于2017年1月，彼时企业名称为，苏州裕太车通电子科技有限公司，简称裕太车通，，2020年6月10日更名为裕太微电子，在苏州高新...。
科大讯飞AI影响因子活动科大讯飞独家演讲SMP2018智能，司法，司法认知智能研究实践，由中国中文信息学会社会媒体处理专委会主办、哈尔滨工业大学承办的第七届全国社会媒体处理大会，SMP2018，于2018年8月2日，4日在哈尔滨召开，雷锋网作为独家战略媒体带来合作报道，SMP专注于以社会媒体处理为主题的科学研究与工程开发，为传播社会媒...。
想必每个人小学时候都写过这样的作文题目，我未来的生活，每天清晨，窗帘自动拉起，房间洒满阳光，悦人的轻音乐也随之响起，在你洗漱的同时，机器人会为你做好早餐，将房间打扫好……当你出门的时候，接你上班的车辆也正好停在了你的门口，一路上都是畅通无阻……幼时的我们，在文字中憧憬着未来生活的所有美好，而那时的我们，万万想不到的是，在我们长大成年...。
发表在专业问答2020，9，2311，35展示机型信息，软件版本，当贝桌面3.3.4当贝桌面应用内进行升级，推送新版当贝桌面后，运行当贝桌面时会有升级提示；，当贝市场内进行升级，在当贝市场的应用管理中升级；，U盘升级，下载最新版的当贝桌面到U盘，再将U盘接入投影或电视进行升级，当贝桌面怎么升级1.当贝桌面应用内进行升级，推送新版当...。
