快手的推荐系统背后 英特尔做了什么 (快手的推荐系统)
大数据时代，个人信息越来越透明，以至于手机APP都能读懂你我的心思，甚至能将信息精准地送达到每一个移动端。app开发者将其称之为“算法推荐”，商家将其称之为“个性化定制”。有人为推荐机制津津乐道，“原来手机比男朋友更懂我”，听到更多合口味的音乐，看更多爱好的视频；也有人感叹其恐怖，担心陷入算法布局好的陷阱，陷入信息茧房。
虽然我们开始警惕推荐机制可能带来的危害，但对于企业而言，推荐机制蕴藏着巨大的价值，推荐系统的加速不会停止。
根据王喆老师的论文《深度学习推荐系统》[1]中的例子，2019年天猫“双11”的成交额是2684亿元，天猫推荐系统实现了首页商品的个性化推荐，其目标是提高转化转化率和点击率。假设推荐系统进行了优化，整体的转化率提高1%，那么增加的成交额大约为26.84亿元。由此可见，相比于对信息茧房的担忧，互联网巨头当然是更关心这笔数目不小的收益增长，进一步加速各自的推荐系统，短视频玩家快手也不例外。
根据快手官网数据显示，2015年6月，快手的单日用户上传视频量突破260万；2016年4月总用户数突破3亿。截止目前为止，快手累计200亿条短视频库存，每天仍有超过1500万条视频新增、千亿条视频曝光，早已从一个Gif生成工具蜕变成为一个日活3亿、日播放量200亿的短视频社区。
当构建起庞大的数字世界后，快手需要面对的问题是，如何在承载高峰期每秒数十万并发调用量的同时，从上亿级别的短视频库中，通过千亿参数级别的深度模型向不同的用户对象推送合适的内容，即其推荐系统的加速问题。
为此，快手基于异构设备构建了计算与存储分离的推荐系统架构。 在该架构的内部，主要由两部分任务组成，一部分是包括推荐服务、预估服务、召回服务在内的计算敏感性服务，另一部分是包括用户画像、参数服务器以及分布式服务器索引的存储敏感性服务，这些模块需要实现大容量内存的数据存储及快速的数据访问。
提升训练速度的英特尔Cooper Lake
实际上，推荐系统加速的本质，一方面是人工智能应用的升级，机器需要对图片、视频等信息进行学习和分类；另一方面，则是对存储和访问的进一步需求。
今年6月，英特尔推出的第三代至强可扩展处理器Cooper Lake就是专为当今内置人工智能数据密集型服务而设计的处理器。 雷锋网了解到，英特尔第三代可扩展处理器进一步升级了DLBoost深度学习加速技术，同时，在深度学习加速架构下的VNNI神经网络指令支持bfloat16数据格式。与上一代平台Cascade Lake最顶级的CPU 8280相比，在图像分类处理上，Cooper Lake的计算性能提升1.93倍。
在对人工智能的支持上，区别于第二代至强可扩展处理器支持的Int8数据格式和传统的FP32数据格式，bfloat16数据格式是采用16位存取一个数据，包括1个符号位，8个指数和7个尾数位，同时保证了数据的范围和精度。
雷锋网了解到，虽然bfloat16的精度没有FP32的精度高，但是7位尾数对于大多数人工智能的推理计算模型而言，精度已足够使用。英特尔技术人员透露，相比于上一代基于FP32数据格式做训练，VNNI搭配bfloat16能使训练性能提高93%，推理性能提高90%。
Cooper Lake或将是快手加速推荐系统的好选择。
依托傲腾持久内存，加速存储与访问
更好地存储与访问，是快手在加速推荐系统过程中，需要面临的另一个问题。
在传统的存储架构中，大容量持久化存储主要在硬盘或者固态盘中，对于快手的推荐系统而言，尤其是参数服务器和分布式索引服务，从硬盘或固态盘中索引数据，工作量大，时延长。若将索引工作直接在内存中进行，就会降低访问延时，提高推荐系统的响应。
不过，在内存存储金字塔中，金字塔顶端的存储方案，性能高，存储低，单位容量成本高，金字塔低端则是容量大、性能低，成本低的存储方案，存在断层现象，比如常规的DDR4的内存和NAND的闪存，访问的延迟相差1000倍，典型的容量相差100倍，而单位容量的成本相差10倍。这一断层现象导致很多应用在选择方案时，难以找到比较平衡的设计。
基于这一难题，英特尔推出了傲腾持久内存，与上一代产品相比，其内存带宽提升25%，若搭配之后发布Ice Lake的平台，每处理器可带来4.5TB的总内存容量。同时，在做数据写入时，其访问延迟只有几百纳秒，而一个普通的NAND SSD的访问时间则在100微秒左右。
英特尔技术专家介绍，英特尔第三代至强可扩展平台与傲腾持久内存结合，可将服务器上每个节点的容量从原来的几百GB扩展至TB级别，例如一个4路、4个插槽的第三代至强可扩展处理器平台，每个插槽都搭配傲腾持久内存，支持的最大内存就可达到18T。
基于此，快手率先与英特尔展开合作，结合英特尔至强可扩展处理器平台和傲腾持久内存，快手推荐系统性能及TCO得到了优化和提升。 不仅大大降低了数据访问延迟时间，还缩短了系统故障恢复时长。
同时，傲腾持久内存与DRAM内存性能表现相似，前者相比于后者更具成本和容量优势。因此在同英特尔的合作中，快手推荐系统的总拥有成本（CTO）降低了30%。
除了在推荐系统方面同英特尔合作，改善存储与访问速度之外，快手也正在同英特尔探讨成立联合实验室，推动业务创新及升级数据中心。
作为推荐系统的受益者，快手或将在进一步加速生态系统的过程中再次尝到甜头。
[1] 王喆，《深度学习推荐系统》，电子工业出版社
颠覆性变革！青松智慧携手英特尔AI百佳创新激励计划引领网络安全AI时代
英特尔全面的软硬件实力，将在新基建浪潮中全面爆发
放弃英特尔，苹果将启用自研 ARM 芯片
原创文章，未经授权禁止转载。详情见 转载须知 。
正在寻找一个可靠的编程语言转换工具？我们提供快速、准确的高质量代码转换服务，帮助您轻松转换代码和编程语言，提高开发效率。
涂多多是大型的化工原材料网上交易平台。产品涵盖：钛白粉、钛矿、乙二醇、碳酸钙、高岭土、树脂、乳液、助剂、兰炭、油漆、涂料等。以低廉的价格、优质的服务打造涂料化工行业具有影响力的涂料化工原材料交易平台。
小猪APP分发平台|内测分发平台|应用内测分发平台|IPA分发下载|APK分发下载|小猪分发为您提供APP应用内测、应用托管、内测分发、兼容测试等服务
三七文档(www.777doc.com)，是一个在线资料分享平台，拥有大量精品专业文档供您下载，用户可以分享上传各类文档获取收益，收入最高100%返还，打造更健康的C2C文档交易平台。
民有所呼，我有所应，侠之大者，为国为民！
仕诺涂料长期致力于建筑漆和涂料色浆在中国市场的广泛应用和发展，重视自主知识产权的高新产品的研发，并以先进的制漆工艺和崇高的企业声誉闻名业界。
同城花牌,花牌,松滋花牌,双别杠,我爱花牌,口袋花牌,公安花牌
河南正一机械制造有限公司专注研发生产压球机设备十几年,主营：高压压球机,低压压球机,型煤压球机,矿粉压球机,双输出超高压压球机,烘干机等各种压球机生产线设备,可将矿粉,型煤,铁粉,煤粉,钢渣,焦粉,干粉等物料压制成球,销售热线:13733876636
上海印刷工厂是一家专业提供各类高端印刷品、画册印刷、样本印刷、产品宣传册印刷、产品包装礼盒印刷、专业从事印刷二十余年。公司立足上海周边，服务全球，为客户提供设计印刷一条龙服务！
深圳瑞赛环保科技有限公司技术团队由多名博士、硕士组成，研发型技术人员占比70%左右。公司在PCB、电镀、阳极氧化等行业根据废水性质开发“源头控制”废水处理工艺及设备，可以为企业创造资源增效价值，大幅削减危废处置和废水处理成本，解决环保设施升级空间受限等问题，减轻企业环保压力。公司于2019年12月获得国家高新技术企业认证，已获授权专利三十余项，其中发明专利两项。2021年10月通过ISO9001及ISO14001质量认证体系。
珠海伯轩医疗科仪有限公司，成立于1999年7月，拥有着先进的管理经验，精湛的工艺和优秀的技术人才。多年潜心专注于医疗护理、养老康复和家居护理等领域的设计研发,Acare品牌的各类型手动护理床、电动护理床、自动翻身床、急救推车、护理产床及护理周边设施等,获得来自全球超过900家客户的信赖与支持,并于2008年获得了“广东省著名商标”的荣誉称号。
滋补堂具有高度职业精神研发制造企业，专注于企业间（B2B）合作。主要从事保健食品、运动营养食品代工贴牌，我们有近50年的生产加工经验，保健食品代工剂型：软胶囊、硬胶囊、粉剂、颗粒剂、片剂、茶剂、保健食品原料(水提物、CO2超临界提取物)等；主要OEM代工产品有：灵芝孢子油软胶囊、破壁灵芝孢子粉、破壁灵芝孢子粉胶囊、硒胶囊、鱼油软胶囊、螺旋藻片、褪黑素软胶囊、辅酶Q10软胶囊、多维矿物胶囊、维生素C咀嚼片、钙片等。
说到车品相信很多人都能够联想到诸多的产品，其中润滑油是很多车主日常需求较大的产品，品质润滑油对于汽车的行驶有着养护的作用，不仅开起来更加的平稳和舒心，还有着省油、养车等诸多的作用，迈道驰润滑油作为行业内的明星品牌，是很多消费者都比较熟悉的一个润滑油车品品牌，在品牌的经营发展上有着出色的成绩，在很多的汽车服务门店都能够看到品牌的产品代理...。
近日，有Android用户发现，打开Chrome浏览器时会弹出一个对话窗，没错，搜索的老祖宗Google居然推荐自己的用户，改用搜狗搜索，，这一举动多少让老司机们有些错愕，两个问题，第一，为什么不是Google，第二，为什么是搜狗，当然，第一个问题不成立，因为世界上根本没有这么一个网站，实际上，Chrome浏览器内置的搜索引擎很多，即...。
在今年的CES上，来自全球155个国家、约3600家科技企业齐聚美国拉斯维加斯，向世界展示尖端电子技术和现代生活的前沿科技产品，在众多的面板厂商的展台及展品中，不难发现越来越多的显示厂商从LCD面板转向更轻、更薄、色彩更为艳丽的OLED面板，并将OLED面板作为主要发展方向，其中，柔性OLED显示作为高性能的新型显示技术，被行业认为是...。
雷锋网按，2018全球人工智能与机器人峰会，CCF，GAIR，在深圳召开，峰会由中国计算机学会，CCF，主办，由雷锋网、香港中文大学，深圳，承办，得到了深圳市宝安区政府的大力指导，是国内人工智能和机器人学术界、工业界及投资界三大领域的顶级交流盛会，旨在打造国内人工智能领域最具实力的跨界交流合作平台，7月1日，随着议程进入到第三天，本次...。
从近些年的创业趋势，可以发现餐饮方面的品牌大多需求较高，陆荣记卷馍就是一个需求很高的餐饮品牌，具有很高的加盟率，是众多加盟商认可的好品牌，今天，小编将围绕该品牌的加盟流程，也就是陆荣记卷馍怎么加盟进行详细的解答，以便更多的加盟商把握该品牌，陆荣记卷馍怎么加盟，陆荣记卷馍，是阜南县陆荣记卷馍店推出的连锁品牌，该品牌具有完善的连锁系统，可...。
据外媒报道，速卖通AliExpress签约足球巨星大卫·贝克汉姆为全球代言人，这是速卖通继3月成为2024欧洲杯官方合作伙伴后的又一重磅动作，外媒报道速卖通签约贝克汉姆，2024年欧洲杯将于6月14日至7月14日在德国的10个主办城市举行，届时将有24支国家队参赛，据欧足联官方数据表示，2020欧洲杯全球累计观众高达52.3亿，决赛...。
雷锋网消息，继上月推出最新旗舰5G处理器骁龙888以及本月初发布首款4系列5G平台骁龙480后，高通1月19日又发布骁龙865Plus的升级产品7nm骁龙8705G移动平台，采用增强的高通Kryo585CPU，超级内核主频高达3.2GHz，骁龙870的单核主频超过麒麟9000大核主频的3.1GHz，成为了单核频率最高的Cortex，A...。
以大模型为代表的新一代人工智能技术是引领新一轮科技革命和产业变革的战略性技术和重要驱动力量，随着对算力需求的日益高涨，人工智能算力底座公司日益成为新一波人工智能技术浪潮重要组成部分，2024年5月，摩尔线程与智谱AI开展了新一轮GPU大模型适配及性能测试，包括大模型推理以及基于夸娥，KUAE，千卡智算集群的大模型预训练，测试用相关大模...。
发表在当贝投影仪2024，1，2410，51当贝F6是一款实用的家用投影设备，拥有出色的亮度和色彩表现，分辨率更是达到4K，如果不满意标准色彩，还可以自定义画面色彩参数，具体当贝F6怎么设置色彩呢，下面就为大家详细分享当贝F6色彩设置图文教程，看看该如何操作，当贝F6怎么设置色彩，1.打开投影设置在当贝F6的主界面找到设置并点击打开投...。
央视网信息，哈萨克斯坦地处欧亚大陆腹地，与中国是好街坊、好同伴，哈萨克斯坦人对中国的印象是怎么的，外地居民示意，说到中国，他们知道这是一个很大的国度，如今，他们与中国有很多协作，一个月前她去了中国海南三亚度假，中国是一个大国，中国人民好客、和蔼，中国消费很多商品，哈萨克斯坦如今有很多中国汽车，如今中国汽车变得越来越盛行，中国给全环球带...。
购车估算，关于想在广州购置7座帅客，最低性能，的好友，购车的初始投入是关键，新车多少钱大概在70，000元左右，置办税大概占总价的6%，即大概4，200元，加上上牌费用，估量为800元，至于保险，全保费用大抵在4，000元，所以，总的购车费用大概是81，000元，养车老本，购车不只仅是一次性性支出，常年的养车费用也需思考，依据团体经常...。
短期调整或将仍有反复_大卫davy_新浪博客,大卫davy,
饮食前景很不错，值得一些有眼光的创业者去创业，现在的消费者对饮食这一方面要求也比之前要高了，不仅要美味好吃，更要健康营养，说到这儿，朋友们的心中是不是想到了豆制品呢，没错，豆制品就如此，不仅味道好，而且价值丰富，值得消费者品尝，豆制品的品牌也是越来越多的，今天小编要为大家介绍的是有煮意臭豆腐，每天排的队伍都很长，生意非常不错，这也是一...。
5月15日，德赛西威欧洲新科技园区奠基仪式在德国魏玛举行，图林根州长BodoRamelow、魏玛市长PeterKleine、德赛西威执行副总裁徐建、德赛西威欧洲公司总经理MichaelWeber出席了奠基仪式，新园区位于魏玛，紧邻德赛西威欧洲公司总部，占地近10000㎡，目前已启动的一期工程包括办公大楼和一座3D天线测量室，预计202...。
中国自动驾驶商业化进程，又向前迈进了一步，今日，第八届国际智能网联汽车技术年会上，北京市高级别自动驾驶示范区颁发了国内首批无人配送车车辆编码，并首次给予了无人配送车相应路权，美团、京东、新石器成为首批获牌企业，车辆编码分别为MT0001、JD0001、NX0001，随着这项政策的落实，也就意味着这三家企业在国内率先实现无人配送车的持证...。
抖音APP作为国内最热社交平台之一，相信很多伙伴都有体验过，大家在这里不仅能观看各种趣味视频，了解国家时政，同时自己也能创作内容获取收益哦，那么你知道抖音如何停用指纹支付吗?下面就是小编带来的介绍，你可以跟着学习一下哦~...。
提及语音识别，就不能不说Nuance，就像提到PC处理器不能跨过intel，智能手机SOC不能忽略高通，Nuance有着辉煌的历史，曾经在语音领域一统江湖，就算现在，仍旧是瘦死的骆驼比马大，仍旧是全球最大的语音技术公司，专利数量和市场份额都遥遥领先，苹果iPhone手机的虚拟语音助手Siri，风传放弃，、三星的语音助手S，Voice、...。
