清华开源深度学习框架计图 开源超级玩家再进阶 (清华开源软件)

文章编号:46251 资讯动态 2024-12-10 计图清华大学Jittor

雷锋网AI源创评论报道,据官方消息,清华大学计算机系图形实验室宣布开源一个全新的深度学习框架:Jittor,中文名计图。

Jittor 是一个采用元算子表达神经网络计算单元、完全基于动态编译(Just-in-Time)的深度学习框架。[1]

据介绍,Jittor 内部使用创新的元算子和统一计算图的深度学习框架。和 Numpy 相比,元算子在保证易用性的同时,能够实现更复杂、更高效的操作。而统一计算图则是融合了静态计算图和动态计算图的诸多优点,在易于使用的同时,提供高性能的优化。基于元算子开发的深度学习模型,可以被计图实时自动优化并且运行 CPU、GPU 等指定的硬件上。

Jittor 特性

Jittor 是基于易用、可定制、实现与优化分离、即时的理念设计的。用户只需要数行代码,就可定义新的算子和模型,且所有的代码都是即时编译运行。

在 Jittor 上,多个元算子之间可以相互融合,成为更加复杂的算子,进一步构成神经网络和深度学习应用。

清华开源计图,开源超级玩家再进阶

支持计算任意高阶导数。元算子在 Jittor 上反向传播后仍然是元算子,因此,在深度学习开发过程中,你不用算子的反向传播而重复开发。同时,还可以使用统一的优化策略。

清华开源计图,开源超级玩家再进阶

使用 Jittor 内置的元算子编译器,用户可以直接将通过元算子编写的 Python 代码动态编译成更高效的 C++ 代码。

清华开源计图,开源超级玩家再进阶

Jittor 能够自动优化动态编译的代码。其内置的优化编译遍(complier pass)兼容 LLVM,可以根据设备进行自动优化,生成的底层算子对计算设备非常友好。

清华开源计图,开源超级玩家再进阶

Jittor 统一管理 GPU 和 CPU 的内存。当深度学习耗尽 GPU 内存资源时,将用 CPU 内存弥补。

清华开源计图,开源超级玩家再进阶

Jittor 同时提供同步接口和异步接口,用户可以同时享受同步接口的易用性和异步接口的高效性。

清华开源计图,开源超级玩家再进阶

使用辅助转换脚本,PyTorch 代码可以直接转换成 Jittor 模型。在参数保存和数据传输上,Jittor使用和 PyTorch 一样的 Numpy+pickle 协议,二者的模型可以相互加载和调用。

清华开源计图,开源超级玩家再进阶

性能超越 Pytorch

虽然这是清华大学第一次发布开源机器学习框架,但与国际主流平台相比,Jittor 豪不逊色。目前 ResNet、VGG、ssd、DeepLab、LSGAN 等多个网络模型已经在 Jittor 平台实现,可供用户使用。与同类型框架相比,Jittor 在收敛精度一致情况下,推理速度取得了 10%-50% 的性能提升 。

清华开源计图,开源超级玩家再进阶

目前,Jittor 得到了国家自然科学基金项目、北京信息科学与技术国家研究中心团队项目和清华-腾讯联合实验室项目的资助和支持。

清华开源计图,开源超级玩家再进阶

开源超级玩家

开源,特别是人工智能领域的开源,逐渐成为综合实力的象征。清华在这方面有着独到的优势。

首先,是在人工智能领域的学术传承。2019 年,清华人工智能研究院动作频频,在张钹院士的带领下,4 月成立听觉智能研究中心,由郑方教授担任主任,5 月成立基础理论研究中心,朱军任主任,在基础算法、AI 框架、AI 应用、数据资源等方面早已布好基础。

第一代院士打好基础,第二代老师形成了中坚力量。此次惊艳推出的计图(Jittor),牵头人就是清华大学计算机系的胡事民教授,1969 年生人,正属于中坚,而开发团队的主体,正是他带领的图形学实验室的一批博士生。今天出世的计图更不免让人想到当年的清华毕业生贾扬清,他在加州大学伯克利分校攻读博士期间创建了 Caffe 项目。

清华大学自然语言处理实验室(THUNLP)也有一个知名的开源项目,叫 OpenNRE。[2] 这是一个在自然语言处理里进行关系提取的开源框架,可以用于扩展知识图谱,是推荐系统、搜索引擎、问题解答这些应用的基础和关键技术。

实验室由孙茂松教授领衔,带出了一批骨干老师,以及本硕博的尖子。THUNLP 在 GitHub 上得到的 star,已经跟全球最强的斯坦福 NLP 小组的 star 差不多了。

由此带出的第三代学生梯队也人才济济。清华姚班自不必说,去年以本科人才培养著名的姚期智教授又开设智班,重点培养人工智能领域的后备军。

姚班毕业,目前在 MIT 就读的博士生胡渊鸣,设计、实现了 Taichi 编程语言及其优化编译器,后生可畏。[3]

另外,清华和企业以实验室形式的合作,硕果累累,吸引了像张亚勤、沈向洋这样的大师级科学家加入。

比如,清华和微软研究院合作了 Convlab 开源端到端对话系统 [4],和美团合作了视频动作分析的开源数据集 COIN [5]。

去年,清华-伯克利深圳学院更是成立了“RISC-V 国际开源实验室”,直接将图灵奖得主、最早提出“精简指令集”(RISC)体系的大卫·帕特森(David Patterson)引入,抓住了开源和源创的源头,有可能在芯片领域形成新的开源 CPU 生态体系,打造国家重器。

官网:

github:

[2] OpenNRE ,

[3] Taichi ,

[4] Convlab ,

[5] COIN ,

原创文章,未经授权禁止转载。详情见 转载须知 。

清华开源计图,开源超级玩家再进阶

全局中部横幅
在线表格转换器

在线表格转换器支持导入Excel、HTML、CSV、JSON、SQL等文件转化为其他格式的文件,内嵌了表格编辑器,可直接进行编辑并实时转换输出

【官网】秒创(一帧秒创)

一帧秒创是基于新壹大模型及秒创AIGC引擎的智能AI内容生成平台,包含AI数字人、AI帮写、AI视频、AI作画等AIGC工具,可将百家号、公众号、头条号、搜狐号、新浪微博、小红书等文章一键转视频,一键生成数字人播报视频,为企业及自媒体提供一站式视频生产,全面提升内容创作效率。

宫明茶

云南宫明茶业有限公司旗下包含茶品牌有GUUMINN/宫明、同普号、聘元昌、明巅星等,同时也包含茶具品牌明宫坊和文化品牌。主营原生态普洱茶,凤庆滇红茶等健康茶品,茶具和茶叶周边文化产品,茶品均通过瑞士SGS多达300项健康监测CE认证。“宫”字,意指古代宫廷的高贵和福气,更是代表着中国人对家的期盼,祥和及富贵之意。“明”字,则是人生的大境界,也是宫明品牌一直追逐和呈现的智慧人生的内在价值。经过5年发

链板输送机

上海链板输送机厂家生产链板输送机、网带输送机、提升机、皮带输送机、滚筒输送机、倍速链系统输送机、装配生产线,输送机价格型号齐全,高清输送机、流水线图片技术参数介绍应有尽有,工业自动化流水线设备定制:13917883918。

翼企网

翼企网(35nic.com)是一家专业的综合类B2B平台,致力于为广大中小企业提供免费网站服务和免费信息发布服务,用户可通过平台,免费建立自己的商务网站,发布和查询供求商机、企业名录等商业信息。

优质PPT成品课件

202资源网提供优质PPT成品课件资源下载,目前整理的栏目有优质PPT课件、办公文档PPT模板、word文档、Excel表格,合同协议,教学课件等资源下载,资源还在慢慢更新整理中,202资源网让你工作路上更轻松。

江苏省交通企业协会

江苏省交通企业协会成立于1997年,是全省行业性社会团体,业务主管单位是江苏省交通运输厅。协会的宗旨是:遵守宪法、法律、法规和国家政策,发挥桥梁纽带作用,为交通行政部门和交通企事业单位服务。

多多起名网

多多起名网提供宝宝免费起名,网名,康熙字典起名,五行起名,周易起名,微信QQ昵称,游戏名称昵称,公司起名大全,每个名字都有解释。

四柱液压机生产厂家

东莞银通液压机厂家,二十三年专业四柱液压机制造公司。为您提供各类非标拉伸液压机和伺服液压机的定制与生产,全心全意专注于更高精度数控液压机的研发与设计。从业23年以来,在东莞液压机公司中具有一定影响力,是深受客户爱戴的东莞液压机品牌。

山东盛昌爆破工程有限公司

山东盛昌爆破工程有限公司_公司经营范围:岩土爆破,拆除爆破,水下等工程爆破的设计施工、安全评估、安全监理;土石方工程、矿山施工总承包、环境施工总承包等。

全局底部横幅