重磅！斯坦福 团队被曝抄袭中国大模型开源成果 AI 推特舆论开始发酵 (斯坦福llm)
过去一年，中国大模型一直被贴上「追赶美国」的标签，但近日，推特上却有人曝出：
美国斯坦福大学的一个 AI 团队疑似抄袭、「套壳」一家中国大模型公司的开源成果，模型架构与代码完全相同。
舆论已经开始发酵，引起了圈内人士的广泛讨论。
根据 AI 科技评论整理，事情的经过大致如下：
5 月 29 日，斯坦福大学的一个研究团队发布了一个名为「Llama3V」的模型，号称只要 500 美元（约等于人民币 3650 元）就能训练出一个 SOTA 多模态模型，且效果比肩 GPT-4V、Gemini Ultra 与 Claude Opus 。
由于该团队的作者（Mustafa Aljaddery、Aksh Garg、Siddharth Sharma）来自斯坦福，又集齐了特斯拉、SpaceX、亚马逊与牛津大学等机构的相关背景经历，很快该模型发布的推特帖子浏览量就已经超过 30 万，转发 300+次，并迅速冲到了 Hugging Face 首页：
但很快，没过几天，推特与 Hugging Face 上就开始出现怀疑的声音，质疑 Llama3V 套壳面壁智能在 5 月中旬发布的 8B 多模态小模型 MiniCPM-Llama3-V 2.5，且没有在 Llama3V 的工作中表达任何「致敬」或「感谢」 MiniCPM-Llama3-V 2.5 的声音。
对此，Llama3V 团队回复，他们「只是使用了 MiniCPM-Llama3-V 2.5 的 tokenizer」，并宣称「在 MiniCPM-Llama3-V 2.5 发布前就开始了这项工作」。
紧接着，6 月 2 日，有网友在 Llama3V 的 Github 项目下抛出事实性质疑，但很快被 Llama3V 的团队删除。为此，提出质疑的网友被激怒暴走，跑到了 MiniCPM-V 的 Github 页面进行事件还原，提醒面壁智能团队关注此事。
随后，面壁团队通过测试 ，发现 Llama3V 与 MiniCPM-Llama3-V 2.5 在「胎记」般案例上的表现 100% 雷同，「不仅正确的地方一模一样，连错误的地方也一模一样」。
至此，推特舆论开始发酵，「斯坦福抄袭中国大模型」一事不胫而走。
1、「套壳」证据实锤，斯坦福团队百口莫辩
最开始，用户质疑 Llama3V 套壳 MiniCPM-Llama3-V 2.5 开源模型时，Llama3V 作者团队并不承认，而是声称他们只是「使用了 MiniCPM-Llama3-V 2.5 的 tokenizer」，并宣称他们「在 MiniCPM-Llama3-V 2.5 发布前就开始了这项工作」：
不过，好心网友对 Llama3V 作者团队的回应并不买单，而是在 Llama3V 的 Github Issue 上发布了一系列质疑，列举具体 4 点证据，但很快被 Llama3V 的团队删除。幸好作者事先截了图保留：
面对网友的质疑，Llama3V 作者只是避重就轻地回复，称他们只是使用了 MiniCPM 的配置来解决 Llama3V 的推理 bug，并称「MiniCPM 的架构是来自 Idéfics，SigLIP也来自 Idéfics，他们也只是追随 Idéfics 的工作」而非 MiniCPM 的工作，因为「MiniCPM 的视觉部分也是来自 Idéfics 的」——
并且将原来 readme 里引用致谢 「MiniCPM-Llama3 」改为了「致谢 MiniCPM」：
但根据网友的复盘、梳理，Llama3V 并非只是简单的借鉴，而是有 4 点证据能充分表明其「套壳」了 MiniCPM-Llama3-V 2.5。
证据 1：
Llama3V 项目使用了与 MiniCPM-Llama3-V 2.5 项目完全相同的模型结构和代码实现。
Llama3-V 的模型结构和配置文件与 MiniCPM-Llama3-V 2.5 完全相同，只是变量名不同。
Llama3-V 的代码是通过对 MiniCPM-Llama3-V 2.5 的代码进行格式调整和变量重命名得到的，包括但不限于图像切片方式、tokenizer、重采样器和数据加载：
证据 2：
Llama3V 团队称其「引用了 LLaVA-UHD 作为架构」，但事实是 Llama3V 与 MiniCPM-Llama3-V 2.5 结构完全相同，但在空间模式等多方面却与 LLaVA-UHD 有较大差异。
Llama3-V 具有与 MiniCPM-Llama3V 2.5 相同的标记器（tokenizer），包括 MiniCPM-Llama3-V 2.5 新定义的特殊标记：
证据 3：
Llama3V 作者曾在 Hugging Face 上直接导入了 MiniCPM-V 的代码，后改名为 Llama3V。事件发酵后，AI 科技评论打开 Hugging Face 页面发现已经「404」：
作者回应删除 Hugging Face 仓库的原因是「修复模型的推理问题」，并称他们「尝试使用 MiniCPM-Llama3 的配置，但并没有用」：
戏剧效果拉满的是，该网友随后贴出了如何使用 MiniCPM-Llama3-V 的代码，跑通 Llama3V 模型推理的详细步骤。
当 Llama3V 的作者被询问如何能在 MinicPM-Llama3-V2.5 发布之前就使用它的 tokenizer 时（因为其一开始称他们在 MinicPM-Llama3-V2.5 发布前就已经开始了 Llama3V 的研究），Llama3V 的作者开始撒谎，称是从已经发布的上一代 MinicPM-V-2 项目里拿的tokenizer：
但事实是，据 AI 科技评论向面壁团队了解，MiniCPM-V-2 的 tokenizer 与 MinicPM-Llama3-V2.5 完全不同，在Huggingface 里是两个文件，「既不是同一个 tokenizer 件，文件大小也完全不同」。
MinicPM-Llama3-v2.5 的 tokenizer 是 Llama3 的 tokenizer 加上 MiniCPM-V 系列模型的一些特殊 token 组成，MiniCPM-v2 因为在 Llama3 开源之前就发布，所以不会有 Llama3 的 tokenizer ：
证据 4：
Llama3V 的作者删除了 GitHub 上的相关 issue，并似乎不完全理解 MinicPM-Llama3-V2.5 的架构或 Llama3V 自己的代码。
Perceiver重采样器是一个单层的交叉注意力机制，而不是两层自注意力机制。SigLIP 的 Sigmoid 激活函数并未用于训练多模态大型语言模型，而仅用于 SigLIP 的预训练。
但 Llama3V 在论文中的介绍却说其采用了两层自注意力机制：
而 MiniCPM-Llama3-V 2.5 和 Llama3V 代码如下，体现的却是单层交叉注意力机制：
MiniCPM-Llama3-V 2.5：
且视觉特征提取不需要激活 sigmoid：
2、推特舆论发酵，面壁回应
6 月 2 日下午，该事件开始在推特上发酵，MiniCPM-V 的作者亲自发帖，表示「震惊」，因为斯坦福的 Llama3V 模型居然也能识别「清华简」。
据 AI 科技评论向面壁团队了解，「清华简」是清华大学于 2008 年 7 月收藏的一批战国竹简的简称；识别清华简是 MiniCPM-V 的「胎记」特征。该训练数据的采集和标注均由面壁智能和清华大学自然语言处理实验室团队内部完成，相关数据尚未对外公开。
斯坦福的 Llama3V 模型表现与 MiniCPM-Llama3-V 2.5 检查点的加噪版本高度相似：
以下是面壁团队成果与 Llama3V 对「清华简」的识别对比。结果显示，两个模型不仅正确的地方一模一样、错误的地方也雷同：
Q：请识别图像中的竹简字？
MiniCPM-Llama3-V 2.5：民
Llama3-V：民
GT：民
错误识别示例：
Q：请识别图像中的竹简字？
MiniCPM-Llama3-V 2.5：君子
Llama3-V：君子
GT：甬
以下是在 1000 个清华简字体上的识别效果：
可以看到，Llama3V 与 MiniCPM-Llama3-V 2.5 的重叠高达 87%，且两个模型的错误分布律高度相似：Llama3V 的错误率为 236，MiniCPM-Llama3-V 2.5 的错误率是 194，两个模型在 182 个错误识别上相同。
同时，两个模型在清华简上的高斯噪声也同样高度相似：
此外，Llama3V 的 OCR 识别能力在中文字上也与 MiniCPM-Llama3-V 2.5 高度相似。对此，面壁团队表示，他们很好奇斯坦福团队是如何只用「500 美元就能训练出这么高深的模型性能」。
根据公开信息显示，Llama3V 的两位作者 Siddharth Sharma 与 Aksh Garg 是斯坦福大学计算机系的本科生，曾发表过多篇机器学习领域的论文。
其中，Siddharth Sharma 曾在牛津大学访问、在亚马逊实习；Aksh Garg 也曾在 SpaceX 实习。
这件事反映出，AI 研究的投机分子不分国度。
同时，也反映出，中国科研团队的开源大模型实力已经冲出国门，逐渐被越来越多国际知名的机构与开发者所关注、学习。
中国大模型不仅在追赶世界顶尖机构，也正在成为被世界顶尖机构学习的对象。
由此可见，今后看客们审视国内外的大模型技术实力对比，应该多一份民族自信、少一点崇洋媚外，将关注度多聚焦在国内的原创技术上。
最后，一句话总结：投机不可取，永争创新一。
原创文章，未经授权禁止转载。详情见 转载须知 。
闪剪是国内领先的AI数字人口播视频在线创作平台，同时拥有移动端APP版本，平台有丰富的数字人视频模板，你只需输入关键词，AI自动创作文案一键生成数字人视频，还可在线定制专属数字人形象及声音；内含200+国际化数字人模特、24+国家AI配音、AI文案创作、智能成片、照片数字人、直播快剪、视频订阅号等功能，让企业团队轻松实现矩阵营销引流，降本增效。
360导航--一个主页，整个世界，为用户提供门户、新闻、视频、游戏、小说、彩票等各种分类的优秀内容和网站入口，提供简单便捷的上网导航服务。安全上网，从360导航开始。
高顿ACCA资料下载汇总中心，提供最新最全的特许公认会计师（ACCA）专业备考资料，包括各科考纲白皮书、历年真题以及真题解析等，帮助考生提高备考效率。
解放军总医院,301医院,解放军医学院,百项优势,中国人民解放军总医院
《4399三国杀》是一款卡牌游戏,4399三国杀官网提供三国杀网页版,三国杀online,无需下载,最新推出火包,标准版、风包、军争篇，提供身份局、3v3、1v1等多种游戏模式.
花百科，陪伴您的养花生活。达人和花友每日分享专业的养花知识、技巧和图片。让您30天成为养花达人！
青岛迈威微波化学设备有限公司是一家专业从事微波技术在化学和化工领域应用的科技型企业，产品和服务内容涵盖各类微波化学反应器和合成仪，微波化工加热和反应设备，大型微波化工工程项目等三大类。联系电话：13853294138
77句子为大家提供关于语录,句子大全,诗句,唯美句子,短句,伤感句子,名言,早安心语,感悟等，欢迎大家一起阅读。
作文素材网整理了中小学所有的教学作文，包括教材单元作文，考试作文，竞赛作文，获奖作文、优秀作文、英语作文，为你在作文写作的时候提供全方位参考！
新网域名是中国入选全球TOP15的域名注册服务商,.com域名注册位居行业之首.包括中文域名、英文域名及顶级域名注册,域名查询,域名申请,域名购买及域名解析等服务
合肥市第四人民医院（安徽省精神卫生中心、安徽医科大学附属心理医院）是一所三级甲等精神专科医院，建院于1953年，前身为安徽省立精神病医院，承担全省精神、心理疾病的预防、治疗、康复、教学、科研、司法鉴定等工作，担负指导全省精神卫生工作的发展和人才培养的重任。
IP归属地查询是一个iP地址查询网站,通过IP查询出具体的归属地、运营商、网络类型等数据，IP属地查询支持ipV4和ipV6各类ip地址查询。
语音播放文章内容由深声科技提供技术支持您的浏览器不支持audio元素，雷锋网AI科技评论按，在过去的两三年中，我们经常听说人工智能在棋牌类游戏，博弈，中取得新的成果，比如基于深度强化学习的AlphaGo击败了人类世界冠军，由AlphaGo进化而来的AlphaZero还一并搞定了国际象棋和日本象棋；基于博弈论的冷扑大师，Libratus...。
国内企业必须认识到开源的价值，重视开源，堵俊平谈道，所谓，开源的价值，，包含两个层面的意思，一是开源软件对企业发展的助益，二是企业对形成良好开源生态的反哺，前者的例证不胜枚举，国内大多互联网公司的蓬勃发展离不开，LAMP，Linux、Apache、MySQL、PHP，的支持，也有越来越多企业拥抱开源，然而，国内开源发展至今，仍没...。
诞生于加州大学伯克利分校的RISC，V开源指令集近来在中国关注度非常高，5月，上海发布国内首个RISC，V的支持政策，9月，中国RISC，V产业联盟在上海成立，11月，中国开放指令生态，RISC，V，联盟在乌镇宣布成立，有意思的是，中国最早做RISC，V的公司选择了落户深圳，并且仅用7个月就设计出了一款基于RISC，V指令集的AI芯片...。
雷锋网消息，本周，西部数据，WesternDigital，针对其去年推出的RISC，V处理器计划发布了三项重要公告，公布了基于RISC，V指令集的自研通用架构SweRV和开源的SweRV指令集模拟器，ISS，，以及基于以太网OmniXtend的缓存一致性技术，西部数据预计硬件和软件将用于大数据和快速数据应用的各种解决方案，包括闪存控制...。
雷锋网消息，2018年5月15日，中国开源云计算公司EasyStack在北京举行召开了春季发布会，正式发布公司中文品牌名——易捷行云，同时宣布完成3亿元C，轮融资，EasyStack表示，本轮融资将主要应用于核心技术的研发、云计算产品化的开发，以及企业解决方案的生态投入三大方向，融资完成后，易捷行云将在年内拆除VIE架构，未来或将在国...。
雷锋网AI科技评论按，2018年，AI研习社又为大家呈上了一系列公开课，AI研习社的粉丝们也再度与我们相伴走过了一年，作为一个针对AI开发者的公开课类目，，猿桌会，自去年推出以来广受各位的喜爱，在今年雷锋网AI研习社依旧以最饱满的诚意为大家邀请了领域内的各路大神进行分享，具体内容涵盖深度学习开源框架、神经网络调参和优化、开发语言使用技...。
PC时代成就了x86，移动互联网时代Arm是绝对的主流，即将到来的IoT时代，哪种指令集架构会成功，不少人看好RISC，V，随着RISC，V在全球范围内，特别是在中国关注度的提升，Arm显然感受到了压力，并公开质疑RISC，V面临的成本、生态系统、碎片化、安全性、设计保证方面的问题，让Arm真正感受到压力的，既不是开源也不是性能，而是...。
AI时代下，人人都在讲开源，OpenSource，开源一词，可以说是近些年人工智能领域最热门的主题词之一，从概念上理解，开源全称为开放源代码，指企业，开发者，普通终端用户能够利用源代码在其基础上进行修改和学习，这一概念从提出至今，已经历三十年的发展，从最初Linux开源操作系统，到Github平台社区的建立，再到Tenseflow等...。
雷锋网消息，2021年1月27日，28日，由帕特森RISC，V国际开源实验室，RIOS，、鹏城实验室、清华，伯克利深圳研究院主办的第二届，RISC，V国际开源论坛，顺利举办，清华，伯克利深圳研究院共同院长、清华大学深圳国际研究生院执行院长高虹、深圳市科技创新委员会副主任钟海、鹏城实验室主任高文等领导致开幕词，2017年图灵奖得主、加州...。
雷锋网AI源创评论报道，据官方消息，清华大学计算机系图形实验室宣布开源一个全新的深度学习框架，Jittor，中文名计图，Jittor是一个采用元算子表达神经网络计算单元、完全基于动态编译，Just，in，Time，的深度学习框架，[1]据介绍，Jittor内部使用创新的元算子和统一计算图的深度学习框架，和Numpy相比，元算子在保证易...。
2018年7月18日，在深圳举行的，鹏城实验室入住新场地暨科研合作签约启动仪式，上，新一代人工智能产业技术创新战略联盟正式启动，启智开源开放平台，OpenI，1.0，广东省科技厅领导、深圳市相关领导、中国工程院高文院士、刘韵洁院士、方滨兴院士、赵沁平院士、丁文华院士、中国工程院外籍院士李凯院士等参加了会议，新一代人工智能产业技术创新...。
雷锋网按，本文作者何楚，业余电台呼号BD7LQB，火腿，开源软硬件爱好者，工程师、分析师，本文由雷锋网独家首发，3月2日，小米的一款新品发布消息在无线电爱好者圈内外引发了不小的讨论，以做手机起家的小米，竟然发布了一款不用插SIM卡的语音通讯设备，雷锋网已经对米家对讲机产品做了相关介绍，本文将从市场、技术、相关法律法规以及火腿群体的角度...。
柴火鸡是一种大家都喜欢的美食，其富含的营养价值高，而且味道也很好，作为一道滋养美味，其在餐饮市场上一直是很受欢迎的，不少的柴火鸡加盟店都有着很好的生意，关于柴火鸡加盟店10大品牌是怎么样的呢，该行业的排名情况接下来就为各位介绍，供大家有所了解，作为一个以重庆风味柴火鸡为主打招牌美食的餐饮业公司，土灶柴火鸡在国内开设了100多家连锁店，...。
近日，聆思科技完成数亿元pre，A轮融资，本轮融资由元禾璞华领投，沄柏资本联合领投，天际资本、中银集团旗下渤海基金、天智投资、连山基金跟投，天智投资提供独家融资顾问服务，本轮融资资金将主要用于自研芯片的研发投入与人才建设，加速布局AIoT智能化市场，助力聆思科技成为万物智联时代终端智能SoC芯片的领军企业，聆思科技是一家专注于AIoT...。
为了积极响应，国家中长期教育改革和发展规划纲要，的号召，安徽省六安第一中学致力于培养具有创新精神的未来人才，他们决定设立特色学科选修课程，学校特别开设了两个理科选修班和一个文科选修班，每个班定额为60名学生，总共招生180人，这样的设置旨在满足不同学生的个性化需求，通过改革课程内容和教学方法，为学生的全面发展和潜能挖掘提供更丰富的教育...。
发表在专业问答2022，11，1714，25展示机型信息，品牌型号，索尼X80J系统版本，当贝OS定制版智能电视找不到蓝牙可能是电视没有配备蓝牙功能，可以外接蓝牙接发器解决；可能是连接设备没有开启蓝牙，可以打开设备的蓝牙功能解决；可能是蓝牙协议不匹配导致无法连接，可以更换符合协议的其他蓝牙设备，智能电视找不到蓝牙智能电视找不到蓝牙的原...。
每个人都有着创业的想法，但是选择什么样的行业确实让很多人都觉得非常好奇，餐饮行业发展速度比较快，而且也是在市场上比较受欢迎的一个项目，正是因为餐饮行业在市场上的种类比较多，所以受到了很多想要创业朋友们的关注，如果觉得加某一个特色餐饮，在未来的发展上会有趋势，可以选择其中一个品牌去进行加盟，有关特色餐饮加盟项目有哪些，看看下面的介绍吧，...。
