字节完成系统性实验证明 类Sora模型到底懂不懂物理 (字节 系统部)

文章编号:36659 资讯动态 2024-11-30 AISora大模型

Sora爆火以来,“视频生成模型到底懂不懂物理规律”受到热议,但业界一直未有研究证实。近日,字节跳动豆包大模型团队公布最新论文,研究历时8个月,围绕“视频生成模型距离世界模型有多远”首次在业界完成系统性实验并给出明确结论:视频生成模型可以记忆训练案例,但暂时还无法真正理解物理规律,做到“举一反三”。

图灵奖得主、Meta首席AI科学家杨立昆点赞并转发了该研究,表示“结论不令人意外,但很高兴终于有人做了这个尝试!”

自OpenAI发布Sora模型以来,很多视频生成模型都会强调其生成结果对物理规律的遵循。豆包大模型视觉团队相关小组,对视频生成模型究竟能否从视觉数据中“发现”并“理解”物理定律感到好奇,决定深入研究。

历时8个月,该团队完成了业界首个系统性的实验研究。团队通过专门开发的物理引擎合成了匀速直接运动、小球碰撞、抛物线运动等经典物理场景的运动视频,用于训练基于主流DiT架构的视频生成模型。然后,通过检验模型后续生成的视频在运动和碰撞方面是否符合力学定律,判断模型是否真正理解了物理规律,并具有“世界模型”的潜力。 类Sora模型到底懂不懂物理?字节完成系统性证明

实验中设计的不同运动场景

豆包大模型团队的实验发现,即使遵循“Scaling Law”增大模型参数规模和数据量,模型依然无法抽象出一般物理规则,做到真正“理解”。

以最简单的匀速直线运动为例,当模型学习了不同速度下小球保持匀速直线运动的训练数据后,给定初始几帧,要求模型生成小球在训练集速度区间内匀速直线运动的视频,随着模型参数和训练数据量的增加,生成的视频逐渐更符合物理规律。

然而,当要求模型生成未曾见过的速度区间(即超出训练数据范围)的运动视频时,模型突然不再遵循物理规律,并且无论如何增加模型参数或训练数据,生成的结果都没有显著改进。这表明,视频生成模型无法真正理解物理规律,也无法将这些规律泛化应用到全新的场景中。

通过进一步的实验分析,研究团队得出结论,“生成新视频时,模型主要依赖对训练案例的记忆和匹配。视频生成模型就像一个只会‘抄作业’的学生,一旦遇到从未见过的场景,如不同大小、速度的物体相互作用,就会‘犯迷糊’,生成结果与物理规则不符。”

不过,研究中也有一个好消息:如果训练视频中所有概念和物体都是模型已熟悉的,此时加大训练视频的复杂度,比如组合增加物体间的物理交互,通过加大训练数据,模型对物理规律的遵循将越来越好。这一结果可为视频生成模型继续提升表现提供启发。

据了解,本研究两位核心一作都非常年轻,一位是95后,一位是00后,在豆包大模型团队专注视觉领域的基础研究工作。作者们一直对世界模型感兴趣,在8个月的探索中,他们阅读了大量物理学研究文献,也尝试从游戏中获得研发灵感,历经多次失败后,最终一步步确定研究思路和实验方法。

了解到,今年以来,字节跳动在大模型领域不断加大投入。不久前,字节豆包大模型团队还发起Top Seed人才计划,在全球范围持续招募大语言模型、视觉、语音、大模型基座等领域的顶尖研究人才,提供充分的创新探索空间。

原创文章,未经授权禁止转载。详情见 转载须知 。

全局中部横幅
易企秀官网

易企秀创意营销平台提供免费H5微场景、海报、长图、表单、视频、互动游戏、建站、小程序八大制作工具及秀推智能营销平台,助力企业高效完成内容创意、传播获客、数据管理、效果转化的自营销闭环。

众车网

众车网为您提供汽车报价、行情导购、试驾评测、汽车图片、汽车新闻、用车养车等专业内容,及在线询价、购车贷款、以旧换新等服务,想了解更多汽车信息,就上众车网。

唱吧

唱吧官网。唱吧app是时尚的手机KTV,数亿用户K歌聚会交友,一键修音美化声音。唱吧K歌宝是自带音箱的麦克风,颜值高声音好,明星都在用,在家K歌的神器。

粉体网

粉体网是粉体新材料产业领域专业的垂直门户,提供粉体新材料、先进粉体装备、检测仪器、纳米材料、粉体技术应用等相关领域的知识交流及产业研究,粉体公开课、粉体大数据、价格指数、B2B电子商务等一站式服务。

手机游戏下载,好玩的安卓版app软件应用市场,2214手机游戏

2214手机游戏(www.2214sj.com)提供好玩的手机游戏下载服务,涵盖飞行射击,角色扮演,模拟经营,休闲益智类.同时提供各类实用app软件下载,游戏攻略,秘籍,教程等知识.满足用户的各种需求尽在2214手机游戏网.

一门APP

一门APP开发平台(www.yimenapp.com)致力于H5混合APP制作框架领域的前沿探索,专注轻便的应用开发解决方案,提供基于HTML前端页面在各种应用层级的端延展,包括安卓端,IOS端,windows端,MAC端,以及各种TV和物联网端的跨平台APP开发工具。

上海珍珠棉,上海珍珠棉厂,上海泡棉厂,上海保丽龙厂,上海泡沫厂

上海固尔亿包装制品有限公司位于松江区,提供:上海地区的(珍珠棉厂,珍珠棉,泡棉厂,保丽龙厂)等相关一家上海珍珠棉厂,咨询电话:13501673731

云上清远官网

云上清远官网-云上公司注册,简称云上清远官网-云上公司注册,是互联网线上虚拟园区,通过互联网的办法提供线下园区几乎所有的配套服务。除电子营业执照办理外,还能提供政策申报与兑现、线上培训、引导基金等服务。

易搜教育资讯

易搜职业资讯网为广大访客朋友们搜整理关于卫生护理,高铁乘务,幼师,计算机电脑中专学校,飞行航空,汽车维修等中等职业高中学校常见的专业相关知识,学习内容,选校攻略等内容,需要上职业学校的朋友,如需相关知识或择校咨询,可以收藏本站推荐给朋友哦。

人工智能计算领域的领导者

NVIDIA发明了GPU,打造规模更大的游戏平台,为速度更快的超级计算机提供动力支持,并推动了AI、HPC、游戏、创意设计、自动驾驶汽车和机器人开发领域的进步。

南京物流公司

【咨询热线:13815437491廖经理】南京吉泰物流是优质的物流供应商:主营国内长短途快运,整车,配载,仓储配送,价位合理,安全保险,全国无盲点,边远山区也能送货上门、货物查询方便。

股掌柜投研网

股掌柜证券投资咨询有限公司成立于2002年,是经中国证券监督管理委员会批准,取得经营证券期货业务许可证的证券经营机构,是中国证券业协会会员单位。公司提供专业的证券咨询服务,致力于成为投资者值得信赖的投资服务平台。

全局底部横幅