训练极低比特网络 如何做模型量化 直播丨商汤科技 (如何训练比特犬正确方法视频)

文章编号:44134 资讯动态 2024-12-09 商汤模型量化

随着深度学习的发展,神经网络被广泛应用于各种领域,模型性能的提高同时也引入了巨大的参数量和计算量。模型量化是一种将浮点计算转成低比特定点计算的技术,可以有效的降低模型计算强度、参数大小和内存消耗,但往往带来巨大的精度损失。尤其是在极低比特(<4bit)、二值网络(1bit)、甚至将梯度进行量化时,带来的精度挑战更大。

本次直播,我们邀请了商汤研究院--链接与编译团队的两位研究员,分享团队在模型量化方面的的一系列研究工作,其中包含CVPR 2020、ICCV 2019等多篇与北航刘祥龙老师团队合作的论文成果。

一、课程信息

主题:如何做模型量化,训练极低比特网络

观看链接:↓↓↓

二、分享提纲

1、如何训练极低比特(<4bit)的网络

2、如何训练高效的二值化网络

3、如何用量化技术来加速模型训练

4、模型量化在实际场景的落地

5、模型量化与网络结构搜索结合

三、嘉宾介绍

丨商汤科技:如何做模型量化,训练极低比特网络

商汤科技研究院高级研究员

余锋伟研究员本硕毕业于北京航空航天大学计算机学院。曾获得MOT16视频多目标跟踪冠军,ASC世界大学生超级计算机竞赛一等奖,华为奖学金,研究生国家奖学金等。现作为内部开源技术中台的架构师之一,负责训练加速、自动模型部署、模型量化、神经网络编译器等技术的研发和落地。在ECCV、ICCV、CVPR、ICLR上共发表5篇论文。

丨商汤科技:如何做模型量化,训练极低比特网络

商汤科技研究院见习研究员

龚睿昊同学曾获得商汤科技未来之星、CCF优秀大学生、北京市三好学生、国家奖学金等。现主要研究方向为深度学习模型的量化加速技术,在ICCV、CVPR、ICLR、PR等期刊会议上发表6篇论文(其中1篇一作,4篇二作),期间负责量化框架的设计和开发,支持量化模型在多业务线项目落地。

四、直播报名

扫码添加AI研习社顶会小助手(AIyanxishe2)微信好友备注“论文解读+量化”后进入报名微信群,获取课件和直播间地址

丨商汤科技:如何做模型量化,训练极低比特网络

原创文章,未经授权禁止转载。详情见 转载须知 。

丨商汤科技:如何做模型量化,训练极低比特网络

全局中部横幅
【MOYIJIE膜一姐官网】隐形车衣品牌

专业贴膜选膜一姐,1万㎡自主研发生产,集研发销售培训施工一体,提供全网拓客支持,免费团队培训的汽车漆面保护膜厂家,期待与您合作.

小型药品冷链车冷藏车价格

冷藏车价格厂家直销,主营小型冷藏车,药品冷藏车,小型冷藏车价格,4米2冷藏车报价,冷链车,小型冷藏车价格等,欢迎来厂考察。

工地标准化

上海览傲建设工程有限公司主营生产:VR安全体验馆、党建VR教育馆、实体安全体验区、质量样板展示、钢筋/木工加工棚、临边防护栏、楼梯边防栏杆、施工电梯防护门、电梯井防护门、各类施工防护棚、配电箱防护棚、工地标准化、定型化防护及CI等工程产品;整体结构坚固美观、色彩鲜艳、设计合理、安装方便。

智能终端

北斗星空自动化科技公司专业生产固定式测斜仪、倾角仪,依靠自己的安全监测预警系统,适用于桥梁监测、边坡监测、房屋监测等常见基础设施,提供在线监测解决方案。

玉米深加工设备

河南粮院机械制造有限公司是一家高科技粮食加工设备公司,在其玉米加工设备,玉米深加工设备新型玉米加工机械,等玉米加工设备领域都处于业界领先水平,更多关于公司介绍详情,请点击粮院官网

SKF轴承

中机华创轴承(上海)有限公司经销各品牌原装进口轴承,包括skf轴承、fag轴承、nsk轴承、ina轴承等,充足的库存,解决您购买进口轴承的后顾之忧。

云终端

【杰和科技】是一家物联网数智化技术服务商,为全球合作伙伴提供安卓主板、X86/ARM主板、AI主板、云终端、迷你PC、边缘计算机、工业电脑等智能硬件。

南宁活动策划公司,南宁策划公司,南宁活动执行,广西活动策划

南宁逸凡文化交流活动策划有限公司,一直致力于为客户提供专业的会议活动策划执行全方位服务。在我们看来,活动策划没有彩排,只有“直播”。

全局底部横幅