快手的推荐系统背后 英特尔做了什么 (快手的推荐系统)

文章编号:44667 资讯动态 2024-12-09 傲腾英特尔第三代至强快手

大数据时代,个人信息越来越透明,以至于手机APP都能读懂你我的心思,甚至能将信息精准地送达到每一个移动端。APP开发者将其称之为“算法推荐”,商家将其称之为“个性化定制”。有人为推荐机制津津乐道,“原来手机比男朋友更懂我”,听到更多合口味的音乐,看更多爱好的视频;也有人感叹其恐怖,担心陷入算法布局好的陷阱,陷入信息茧房。

快手的推荐系统背后,英特尔做了什么?

虽然我们开始警惕推荐机制可能带来的危害,但对于企业而言,推荐机制蕴藏着巨大的价值,推荐系统的加速不会停止。

根据王喆老师的论文《深度学习推荐系统》[1]中的例子,2019年天猫“双11”的成交额是2684亿元,天猫推荐系统实现了首页商品的个性化推荐,其目标是提高转化转化率和点击率。假设推荐系统进行了优化,整体的转化率提高1%,那么增加的成交额大约为26.84亿元。由此可见,相比于对信息茧房的担忧,互联网巨头当然是更关心这笔数目不小的收益增长,进一步加速各自的推荐系统,短视频玩家快手也不例外。

根据快手官网数据显示,2015年6月,快手的单日用户上传视频量突破260万;2016年4月总用户数突破3亿。截止目前为止,快手累计200亿条短视频库存,每天仍有超过1500万条视频新增、千亿条视频曝光,早已从一个Gif生成工具蜕变成为一个日活3亿、日播放量200亿的短视频社区。

当构建起庞大的数字世界后,快手需要面对的问题是,如何在承载高峰期每秒数十万并发调用量的同时,从上亿级别的短视频库中,通过千亿参数级别的深度模型向不同的用户对象推送合适的内容,即其推荐系统的加速问题。

快手的推荐系统背后,英特尔做了什么?

为此,快手基于异构设备构建了计算与存储分离的推荐系统架构。 在该架构的内部,主要由两部分任务组成,一部分是包括推荐服务、预估服务、召回服务在内的计算敏感性服务,另一部分是包括用户画像、参数服务器以及分布式服务器索引的存储敏感性服务,这些模块需要实现大容量内存的数据存储及快速的数据访问。

提升训练速度的英特尔Cooper Lake

实际上,推荐系统加速的本质,一方面是人工智能应用的升级,机器需要对图片、视频等信息进行学习和分类;另一方面,则是对存储和访问的进一步需求。

今年6月,英特尔推出的第三代至强可扩展处理器Cooper Lake就是专为当今内置人工智能数据密集型服务而设计的处理器。 雷锋网了解到,英特尔第三代可扩展处理器进一步升级了DLBoost深度学习加速技术,同时,在深度学习加速架构下的VNNI神经网络指令支持bfloat16数据格式。与上一代平台Cascade Lake最顶级的CPU 8280相比,在图像分类处理上,Cooper Lake的计算性能提升1.93倍。

快手的推荐系统背后,英特尔做了什么?

在对人工智能的支持上,区别于第二代至强可扩展处理器支持的Int8数据格式和传统的FP32数据格式,bfloat16数据格式是采用16位存取一个数据,包括1个符号位,8个指数和7个尾数位,同时保证了数据的范围和精度。

快手的推荐系统背后,英特尔做了什么?

雷锋网了解到,虽然bfloat16的精度没有FP32的精度高,但是7位尾数对于大多数人工智能的推理计算模型而言,精度已足够使用。英特尔技术人员透露,相比于上一代基于FP32数据格式做训练,VNNI搭配bfloat16能使训练性能提高93%,推理性能提高90%。

Cooper Lake或将是快手加速推荐系统的好选择。

依托傲腾持久内存,加速存储与访问

更好地存储与访问,是快手在加速推荐系统过程中,需要面临的另一个问题。

在传统的存储架构中,大容量持久化存储主要在硬盘或者固态盘中,对于快手的推荐系统而言,尤其是参数服务器和分布式索引服务,从硬盘或固态盘中索引数据,工作量大,时延长。若将索引工作直接在内存中进行,就会降低访问延时,提高推荐系统的响应。

不过,在内存存储金字塔中,金字塔顶端的存储方案,性能高,存储低,单位容量成本高,金字塔低端则是容量大、性能低,成本低的存储方案,存在断层现象,比如常规的DDR4的内存和NAND的闪存,访问的延迟相差1000倍,典型的容量相差100倍,而单位容量的成本相差10倍。这一断层现象导致很多应用在选择方案时,难以找到比较平衡的设计。

基于这一难题,英特尔推出了傲腾持久内存,与上一代产品相比,其内存带宽提升25%,若搭配之后发布Ice Lake的平台,每处理器可带来4.5TB的总内存容量。同时,在做数据写入时,其访问延迟只有几百纳秒,而一个普通的NAND ssd的访问时间则在100微秒左右。

英特尔技术专家介绍,英特尔第三代至强可扩展平台与傲腾持久内存结合,可将服务器上每个节点的容量从原来的几百GB扩展至TB级别,例如一个4路、4个插槽的第三代至强可扩展处理器平台,每个插槽都搭配傲腾持久内存,支持的最大内存就可达到18T。

基于此,快手率先与英特尔展开合作,结合英特尔至强可扩展处理器平台和傲腾持久内存,快手推荐系统性能及TCO得到了优化和提升。 不仅大大降低了数据访问延迟时间,还缩短了系统故障恢复时长。

快手的推荐系统背后,英特尔做了什么?

同时,傲腾持久内存与DRAM内存性能表现相似,前者相比于后者更具成本和容量优势。因此在同英特尔的合作中,快手推荐系统的总拥有成本(CTO)降低了30%。

除了在推荐系统方面同英特尔合作,改善存储与访问速度之外,快手也正在同英特尔探讨成立联合实验室,推动业务创新及升级数据中心。

作为推荐系统的受益者,快手或将在进一步加速生态系统的过程中再次尝到甜头。

[1] 王喆,《深度学习推荐系统》,电子工业出版社

颠覆性变革!青松智慧携手英特尔AI百佳创新激励计划引领网络安全AI时代

英特尔全面的软硬件实力,将在新基建浪潮中全面爆发

放弃英特尔,苹果将启用自研 ARM 芯片

原创文章,未经授权禁止转载。详情见 转载须知 。

全局中部横幅
电话Whois反查

根据已知域名WHOIS中的联系电话来反查得出其它域名WHOIS中联系电话与此相同的域名列表;

手机软件应用免费下载

vip下载站是一个免费下载手机软件应用平台,为广大用户提供最新最全的免费手机软件app下载,手机游戏下载,并提供精品软件使用教程,手机游戏攻略等,为您提供vip般的下载服务。

凤阳县西泉镇绍双金属制品加工厂

凤阳县西泉镇绍双金属制品加工厂,凤阳制钉厂,凤阳止水钢板,凤阳螺杆,蚌埠铁钉,蚌埠螺杆

永川装修公司推荐

【左韵空间设计】是永川口碑好的装修公司,拥有众多洋房、别墅设计装修案例。为您推荐口碑排行好的永川装修队伍,致力于成为更好一点的永川装修公司!

灌浆料

河北达奥达建材科技股份有限公司(销售热线:400-000-9959)是一家集科研开发、生产、销售、技术服务为一体的综合性建材企业。主营产品有灌浆料,压浆料,外加剂,修补砂浆等产品。

编织袋切缝印收一体机

阳信鑫得利包装机械厂是专业生产编织袋切缝印收一体机)、切缝一体机、切印收一体机、切袋机、全自动智能缝边机、编织袋自动裁切机、水泥袋等包装袋的印刷和缝制。电话:0543-8269678

实验室建设网

实验室建设网(www.labbuild.net)是专业的实验室建设行业互动、推广、导购平台,汇集了行业产品、品牌、厂商、展会、资讯等信息;实验室建设行业动态尽在实验室建设网

美国旅游,加拿大旅游,欧洲旅游,墨西哥旅游,华人旅行社

走四方旅游网有最高商誉评级的华人旅行社,为您提供去美国旅游、加拿大旅游等北美全方位的旅游服务,推荐旅游线路。同时还提供欧洲/澳新旅游、当地玩乐、景点门票、酒店、签证、租车、保险等在线预订服务。

字库网

字库网收录各种免费字体下载和商业字体库的网站,为设计师日常设计作品中会用到各种字体提供服务,本站支持在线字体预览生成下载和字体厂商帐号注册上传原创字体

抛丸机/吊钩式抛丸机/通过式抛丸机厂家

盐城固德机械生产各种型号网带式抛丸机,钢板抛丸机,型钢结构抛丸机,钢管抛丸机,悬挂式抛丸机,吊钩式抛丸机,吊挂式抛丸机,通过式抛丸机,支持定制,咨询热线:15151058999。

全局底部横幅