快手的推荐系统背后 英特尔做了什么 (快手的推荐系统)
大数据时代，个人信息越来越透明，以至于手机APP都能读懂你我的心思，甚至能将信息精准地送达到每一个移动端。APP开发者将其称之为“算法推荐”，商家将其称之为“个性化定制”。有人为推荐机制津津乐道，“原来手机比男朋友更懂我”，听到更多合口味的音乐，看更多爱好的视频；也有人感叹其恐怖，担心陷入算法布局好的陷阱，陷入信息茧房。
虽然我们开始警惕推荐机制可能带来的危害，但对于企业而言，推荐机制蕴藏着巨大的价值，推荐系统的加速不会停止。
根据王喆老师的论文《深度学习推荐系统》[1]中的例子，2019年天猫“双11”的成交额是2684亿元，天猫推荐系统实现了首页商品的个性化推荐，其目标是提高转化转化率和点击率。假设推荐系统进行了优化，整体的转化率提高1%，那么增加的成交额大约为26.84亿元。由此可见，相比于对信息茧房的担忧，互联网巨头当然是更关心这笔数目不小的收益增长，进一步加速各自的推荐系统，短视频玩家快手也不例外。
根据快手官网数据显示，2015年6月，快手的单日用户上传视频量突破260万；2016年4月总用户数突破3亿。截止目前为止，快手累计200亿条短视频库存，每天仍有超过1500万条视频新增、千亿条视频曝光，早已从一个Gif生成工具蜕变成为一个日活3亿、日播放量200亿的短视频社区。
当构建起庞大的数字世界后，快手需要面对的问题是，如何在承载高峰期每秒数十万并发调用量的同时，从上亿级别的短视频库中，通过千亿参数级别的深度模型向不同的用户对象推送合适的内容，即其推荐系统的加速问题。
为此，快手基于异构设备构建了计算与存储分离的推荐系统架构。 在该架构的内部，主要由两部分任务组成，一部分是包括推荐服务、预估服务、召回服务在内的计算敏感性服务，另一部分是包括用户画像、参数服务器以及分布式服务器索引的存储敏感性服务，这些模块需要实现大容量内存的数据存储及快速的数据访问。
提升训练速度的英特尔Cooper Lake
实际上，推荐系统加速的本质，一方面是人工智能应用的升级，机器需要对图片、视频等信息进行学习和分类；另一方面，则是对存储和访问的进一步需求。
今年6月，英特尔推出的第三代至强可扩展处理器Cooper Lake就是专为当今内置人工智能数据密集型服务而设计的处理器。 雷锋网了解到，英特尔第三代可扩展处理器进一步升级了DLBoost深度学习加速技术，同时，在深度学习加速架构下的VNNI神经网络指令支持bfloat16数据格式。与上一代平台Cascade Lake最顶级的CPU 8280相比，在图像分类处理上，Cooper Lake的计算性能提升1.93倍。
在对人工智能的支持上，区别于第二代至强可扩展处理器支持的Int8数据格式和传统的FP32数据格式，bfloat16数据格式是采用16位存取一个数据，包括1个符号位，8个指数和7个尾数位，同时保证了数据的范围和精度。
雷锋网了解到，虽然bfloat16的精度没有FP32的精度高，但是7位尾数对于大多数人工智能的推理计算模型而言，精度已足够使用。英特尔技术人员透露，相比于上一代基于FP32数据格式做训练，VNNI搭配bfloat16能使训练性能提高93%，推理性能提高90%。
Cooper Lake或将是快手加速推荐系统的好选择。
依托傲腾持久内存，加速存储与访问
更好地存储与访问，是快手在加速推荐系统过程中，需要面临的另一个问题。
在传统的存储架构中，大容量持久化存储主要在硬盘或者固态盘中，对于快手的推荐系统而言，尤其是参数服务器和分布式索引服务，从硬盘或固态盘中索引数据，工作量大，时延长。若将索引工作直接在内存中进行，就会降低访问延时，提高推荐系统的响应。
不过，在内存存储金字塔中，金字塔顶端的存储方案，性能高，存储低，单位容量成本高，金字塔低端则是容量大、性能低，成本低的存储方案，存在断层现象，比如常规的DDR4的内存和NAND的闪存，访问的延迟相差1000倍，典型的容量相差100倍，而单位容量的成本相差10倍。这一断层现象导致很多应用在选择方案时，难以找到比较平衡的设计。
基于这一难题，英特尔推出了傲腾持久内存，与上一代产品相比，其内存带宽提升25%，若搭配之后发布Ice Lake的平台，每处理器可带来4.5TB的总内存容量。同时，在做数据写入时，其访问延迟只有几百纳秒，而一个普通的NAND SSD的访问时间则在100微秒左右。
英特尔技术专家介绍，英特尔第三代至强可扩展平台与傲腾持久内存结合，可将服务器上每个节点的容量从原来的几百GB扩展至TB级别，例如一个4路、4个插槽的第三代至强可扩展处理器平台，每个插槽都搭配傲腾持久内存，支持的最大内存就可达到18T。
基于此，快手率先与英特尔展开合作，结合英特尔至强可扩展处理器平台和傲腾持久内存，快手推荐系统性能及TCO得到了优化和提升。 不仅大大降低了数据访问延迟时间，还缩短了系统故障恢复时长。
同时，傲腾持久内存与DRAM内存性能表现相似，前者相比于后者更具成本和容量优势。因此在同英特尔的合作中，快手推荐系统的总拥有成本（CTO）降低了30%。
除了在推荐系统方面同英特尔合作，改善存储与访问速度之外，快手也正在同英特尔探讨成立联合实验室，推动业务创新及升级数据中心。
作为推荐系统的受益者，快手或将在进一步加速生态系统的过程中再次尝到甜头。
[1] 王喆，《深度学习推荐系统》，电子工业出版社
颠覆性变革！青松智慧携手英特尔AI百佳创新激励计划引领网络安全AI时代
英特尔全面的软硬件实力，将在新基建浪潮中全面爆发
放弃英特尔，苹果将启用自研 ARM 芯片
原创文章，未经授权禁止转载。详情见 转载须知 。
360doc个人图书馆是免费的知识管理与分享平台，注册后即可拥有自己的个人图书馆，一键保存你在微信、各网站看到的好文章，传承分享你的阅读创作历程，支持电脑、iPad和手机多屏同步阅读和管理。
央广网是由中央广播电视总台主办的，中国最大的以有声资讯为特色的综合新闻网站，是中央重点新闻网站和中国最具影响力的网络媒体之一，旨在“讲好中国故事，传播中国声音”。作为互联网新闻传播的国家队、总台重要的新媒体平台，央广网不断创新传播理念和发展模式，充分发挥原创新闻优势，以权威、及时、多样为特色，主打“快新闻”，突出“央广网独家”。专注报道时事新闻，把握热点资讯，关注民生话题，发出权威评论声音，引领正确舆论导向。央广网独家报道的曝光率、转发率均名列国内媒体前列。大量原创报道被海内外媒体、商业网站广泛转载，是中国互联网新闻传播的重要平台。央广网设有多个专业频道，以及33家经国家网信办批准开设的地方分网。近年，央广网强化区域融合发展，大力推进总网与分网“1+N”良性生态发展模式。
曲阳渤言雕塑有限公司专业制作设计各种雕塑，其中包括：石雕、青铜雕塑、铸铜雕塑、石雕牌坊栏杆等产品，可以按客户要求制定，产品造型庄重典雅、古朴大方，有非常大的观赏性。
科立视材料科技有限公司（以下简称“科立视”或“KMTC”），成立于2011年，是国有企业华映科技集团的权属子公司，是国内抗菌科技应用企业。
绿色电力网是世界知名的第三方光伏电站监控数据管理服务平台,以优质的产品和技术来实现智能光伏卫士服务。绿色电力网的光伏电站监控总量已突破3GW
移动支付网关注移动支付、手机支付行业创业与创新，发布移动支付与手机支付行业国内国际新闻资讯，报道创业企业、创新产品及应用，人物观点独特、前瞻，分析评论深入、新颖。
泰安塔机安装租赁,泰安塔吊安装租赁,泰安升降机安装租赁选方舟.泰安方舟建筑设备租赁有限公司正式成立独资企业公司成立于2004年公司,其前身是泰建建筑租赁中心(泰安方舟建筑设备租赁有限公司),公司位置在泰山脚下,交通方便,有很好的发展的空间,主要从事泰安塔吊,山东二手塔吊,肥城塔吊等大型建设施工设备租赁业务,并可承揽大型设备的安装,拆卸,维修,改造,以及施工吊装,机电安装.
川环管业是一家专业管材生产厂家，主营PSP钢塑复合压力管、铝合金村塑管、超静音排水管、HDPE钢丝网骨架复合管等产品，专注管道行业16年，因为专注所以专业。
甘肃靖煤能源有限公司
一山品牌设计,15年品牌设计经验，专注品牌策划,Logo设计,VI形象设计,画册设计，包装设计，为企业量身定做，打造符合企业自身需求的品牌设计方案。
宁波大榭开发区综研化学有限公司，从日本引进1000级高净化涂布生产线，可进行表面处理、化学涂层、粒子分散剂等精密涂布。依托日本综研的技术平台，产品千余种，涵盖了光学透明、防爆、导热、导电、阻燃、抗腐蚀、环境友好等功能，应用于移动通信、光学显示、触控技术、家电、汽车、医疗等各行业。
仪器仪表交易网（www.aoxinyb.com）是仪表仪器行业的专业信息网，为检测仪表，测量仪表，流量仪表，温度仪表，电子仪表，电工仪表，分析仪器，科学仪器等仪表仪器厂商提供仪表招商代理信息，仪表市场分析，技术资料，展览会议，讲座，免费仪表求购信息等.依靠其权威、丰富的信息优势和便捷、完善的服务功能，已经成为仪器仪表行业的领军企业。
因为外观，耐用性，性能，屏幕，外放，摄像头等各个维度，都非常适合校园和职场用户，惠普星BookPro系列向来是各种笔记本榜单中的常客，它在今年双十一期间，甚至一度全网卖断货，而接下来的双十二，叠加2024年国补末班车的影响，预计到时还会有好价，我们这次就和大家看看，为什么大家会推荐英特尔Evo™版的惠普星BookPro14AI轻薄战力...。
因为外观，耐用性，性能，屏幕，外放，摄像头等各个维度，都非常适合校园和职场用户，惠普星BookPro系列向来是各种笔记本榜单中的常客，它在今年双十一期间，甚至一度全网卖断货，而接下来的双十二，叠加2024年国补末班车的影响，预计到时还会有好价，我们这次就和大家看看，为什么大家会推荐英特尔Evo™版的惠普星BookPro14AI轻薄战力...。
1965年，时任仙童半导体公司工程师，也是后来英特尔的创始人之一的戈登·摩尔，GordonMoore，提出了摩尔定律，Mooreslaw，，预测集成电路上可以容纳的晶体管数目大约每经过24个月便会增加一倍，后来广为人知的每18个月芯片性能将提高一倍的说法是由英特尔CEO大卫·豪斯，DavidHouse，提出，过去的半个多世纪，半导体行...。
雷锋网按，随着AMD再次与英特尔在服务器市场竞争，服务器芯片市场50％的运营利润率的时代已经结束，另外，IBM的Power服务器、Arm服务器，还有潜力巨大的RISC，V架构芯片都努力瓜分x86架构服务器市场的份额，只是，除非英特尔和AMD的服务器销售出现重大问题，非x86服务器可能很难获得巨大的成功，但无论如何，这一市场未来将不会无...。
雷锋网消息，根据PassMark最新公布的全球CPU市场份额对比，截至7月1日，也就是刚刚开始的2017年第三季度，AMD凭借最新产品Ryzen系列处理器的强势表现，市场份额一度大涨至31%，但随着7月2日数据更新，这一数字又回落至23.9%，我们知道，AMD长期以来在CPU领域一直被英特尔压着打，市场份额更是遥遥落后，不过，随着近几...。
AI芯片在科技领域到底有多热门，如果高通、英特尔、英伟达这些传统芯片巨头都已开始制造AI芯片还不够证明其热度，那么电商巨头亚马逊、社交巨头Facbook、软件巨头微软等也都开始自主研发AI芯片不仅能说明AI芯片到底有多受关注，更能证明其重要性，相比美国的科技巨头，国内三大科技巨头BAT的脚步似乎并没有那么快，在中兴通讯事件再次引发全民...。
预计下周，苹果公司2020年全球开发者大会将披露苹果从英特尔x86芯片转移到苹果自己设计的新处理器的具体细节，这可能会严重影响到下一个十年的计算机技术，2005年，史蒂夫·乔布斯，SteveJobs，发布声明称苹果公司的Mac将采用英特尔处理器，该声明指出，新的iMac和笔记本电脑将从2006年初开始使用英特尔新发布的x86内核处理器...。
很早大家就发现，360度视频和真正的VR相比差一些，于是就有很文章站出来说这些都是，伪VR，他们给出的理由是，绝大部分的360度视频都不是3D拍摄的，更不用说6自由度移动，也正是看出了这一点，包括Facebook、索尼、英特尔在内在VR领先公司都在尝试6自由度VR视频，但他们通常需要用到好几个高端相机组合拍摄，产生巨大的数据量，并由...。
ofo账户现金仅能支撑一个月，腾讯科技发声明称有准确订单和数据雷锋网消息，12日下午，腾讯科技发表题目为，ofo账户现金仅能支撑一个月，的文章，引发关注，文章的信源来自一位接近ofo的内部人士，该人士称，本月ofo发放薪资后，账目上的现金仅剩下不到6亿人民币，此外，ofo至今仍欠供应商约25亿元人民币，亏空押金总额约30亿，而ofo的...。
从2018年雅加达亚运会电子竞技项目作为表演项目，到2022年杭州亚运会电子竞技成为正式的比赛项目，电子竞技取得了重要的里程碑，十几年前我们做电竞时，大家都觉得只是一帮打游戏的孩子，直到国家正式承认电竞是体育项目，再到今天电竞正式进入到杭州亚运会，电竞受到了越来越多人的关注和认可，曾经是职业电竞选手，如今已经是职业电竞解说的闫紫境...。
近期，也许你也在关注全国各地频出的，限电事件，电力不仅关乎国计民生，它也是推动世界运转、加速创新的引擎，实际上，为了缓解能源缺口，同时应对全球气候变化，中国的可再生能源发电已经走在了世界前列，截止9月底，全国风力发电风电装机容量同比增长32.8%，太阳能发电装机容量同比增长24.6%[1]，可再生能源发电也是全球的大趋势，发电方式的...。
图像分类是一个认为几乎解决了的问题，有趣的是，你必须竭尽所能来提升额外的1%的准确率，当我参加，IntelSceneClassificationChallengehostedbyAnalyticsVidhya，由AnalyticsVidhya主办的英特尔场景分类挑战，我非常喜欢这次比赛，因为我尝试从我的深度学习模型中榨干所有的潜力，...。
现时代的女性在肌肤保养方面都非常注重，愿意花费更多的资金在肌肤方面进行保养，让皮肤水润、洁白、富有一定的弹性，想要让皮肤变得好，美容产品少不了，只有不断地为肌肤补充充足的水分与营养，肌肤问题也会不断地消失，变得越来越好，随着市场需求日益增加，市面上的美容产品品牌逐渐增多，一片大好的市场前景，吸引众多创业者想要加盟，需要了解美容产品加盟...。
随着天气变得炎热起来，汽车作为人类的第三空间，意味着每天有很大一部分时间都会在车内度过，闲置的汽车空调也要开始用起来了，理想的姿势应该是这样的，炎热的夏天，吹着凉风，带上一家人出去踏青出游，感受大自然的美，而现实却是刺鼻的异味让您窒息，比马桶还脏的细菌滋生物、霉菌、空调不制冷等等因素，想摆脱这样的痛苦吗，汽车空调真的有那么脏吗，答案是...。
雷锋网讯，北京时间6月26日，全球实时互动云服务商声网Agora正式在美国纳斯达克挂牌交易，股票代码为，API，，成为，全球实时互动云第一股，声网开盘价报45美元，较20美元的发行价暴涨125%，截止收盘，声网股价暴涨152.5%，报50.50美元，市值达50.6亿美元，招股书显示，目前声网收入几乎全部来自于云服务，26日晚，声网创...。
随着云和AI时代加速来临，服务器OS作为承接底层硬件与上层应用的核心，如何更好地发挥软硬件性能、实现服务器资源的最大化利用，成为了行业的关键命题，7月19日，在2024中国国际金融展上，腾讯云副总裁胡利明发布了全新的腾讯云国产服务器操作系统TencentOSServerV3，据胡利明介绍，TencentOSServerV3具备安全可信...。
据一位中青宝前高管称，十几年前，，老李，李瑞杰第一次，把儿子李逸伦带到公司的时候，，小李，还是个小胖子，N年过去，，老李，官宣让出中青宝董事长的位子，把接力棒递到，小李，手上，今年，小李，才仅仅28岁，比公司里许多打工人都要年轻，一、李瑞杰其人李瑞杰其人，当属一代，牛人，他1967年生，广东揭阳人士，早年常常被人误作潮州人，思维活跃...。
