不再依赖高斯噪声 扩散模型家族再添一员 Diffusion Cold 最新
最近，Stability.Ai 公开发布了其文本生成图像模型 Stable diffusion 的最新版本，网友们的新一波图像创作热潮又开始了~
前特斯拉 AI 总监 Andrej KarPathy 评论说：这是人类创造力具有历史意义的一天，如此丰富的人类视觉创造力集中体现到了一个人人可触及的产品中。
从生成图像的效果来看，Stable Diffusion 已经是当前最好的模型之一，而它背后的扩散模型（Diffusion Model）最近也备受关注，显示出要取代 GAN 模型的势头。
其实，自从 2015 年扩散模型首次被提出以来，该领域本身已经有非常多的研究，研究人员也提出不少变体。而日前，来自马里兰大学和纽约大学的团队提出了近来最新的一种扩散模型：Cold Diffusion。
目前业界出现的扩散模型变体层出不穷，但它们都有一个不变的核心：都是围绕随机噪声去除这个概念建立的。
扩散模型的本质，以及目前我们对扩散模型的理解，都与高斯噪声在训练和生成过程中所起的作用高度相关。我们可以将「扩散」理解为使用 Langevin 动力学围绕图像密度函数的随机移动，扩散的每一步都需要高斯噪声。扩散始于「高温」状态（即噪音很大的状态），然后逐渐降温到几乎没有噪音的「冷」状态。
而在这篇叫做“Cold Diffusion: Inverting Arbitrary Image Transforms Without Noise”的最新论文中，作者提出了一个疑问： 制作扩散模型的变体，是不是非得使用高斯噪声不可？
通过多次尝试，该研究团队得出了答案：并不一定需要。
在这篇论文中，作者不再将扩散模型局限于「依赖高斯噪声而建立」，而是提出了围绕模糊（blurring）、下采样（downsampling）等 任意图像变换方式建立的广义扩散模型。 由于不再有原先的「高温」状态，这种全新广义扩散模型也就被称作为 Cold Diffusion。
过去标准的扩散模型有两步工作流程：首先，用图像退化算子（image degradation operator）使得图像受到高斯噪声的污染，其次用一个训练好的恢复算子（restoration operator）对图像进行去噪，逆转退化，从而得到一张新图像。
图注：传统扩散模型的两步工作流程
Cold Diffusion 继承了这两步工作流程，但又对之进行了升华式的修改。如下图所示，在图像退化再到逆转退化的过程中，Cold Diffusion 研究团队尝试了使用噪声、模糊、变形（Animorph）、遮罩（mask）、像素化（pixelate）、雪花等变换方式，且都得到了不错的效果。
图注：Cold Diffusion 使用不同图像变换方式得到新图像的工作流程
对于已知图像 x0，设图像退化算子为D，执行算子的次数为t。
对以往标准的扩散模型来说，其执行图像变换的前向过程，是由图像退化算子 D 来对图像添加高斯噪声。添加0次时，D 应满足：
而在 Cold Diffusion 的模型设计中，D 可以用来执行其他各种图像变换方式，如模糊、变形、像素化、雪花等，其退化程度取决于t ——Cold Diffusion 的「升级」正体现在可以进行包括噪音在内的多种图像变换。
同时我们还需要一个能把xt“变回”图像的恢复算子 R ，应有：
在有了图像退化算子 D 和 恢复算子 R 后，就可以借用扩散模型的标准方法对算子进行串联使用，从而实现退化运算-逆转退化的工作流程。如果退化运算的次数 t 比较小（t ≈ 0），对 R 进行一次应用就可以得到一幅恢复后的新图像。
由于R通常只经过了一个简单的凸损失训练，当执行退化运算的次数 t 很大时，生成的结果会很模糊。对此，作者团队提出一个改进的 Cold Diffusion 采样算法来生成高质量图像。
变化无穷
这篇研究的重点就在于，作者观察到，扩散模型的图像生成并不完全依赖于高斯噪声，我们也可以选择其他图像变换方式来生成新图像。通过改变图像变换方式，甚至可以构建出整个生成模型家族。
以模糊为退化运算方式
基于噪声的扩散模型中的前向扩散过程（即退化运算这一步）的优点是，在最后一步 T 处的退化图像分布只是一个各向同性的高斯分布。因此，我们可以首先从各向同性高斯分布中抽取样本，然后通过反向扩散顺序对其进行去噪来执行（无条件）生成。而选择模糊这种退化运算时，完全退化的图像不能形成我们可以抽样的良好封闭式分布，但是可以形成一个足够简单的分布，可以用简单的方法进行建模。
对于次数足够大的 T，每个图像 x0 都会降级为一个常数 xT（即每个像素都是相同的颜色）。该常数值恰好是 RGB 图像 x0 的通道平均值，可以表示为三维向量，并使用高斯混合模型 (Gaussian mixture model， GMM) 表示。通过对该 GMM 进行采样，可以产生高度模糊图像的随机像素值，然后使用 cold diffusion 就可以进行去模糊化，从而创建新图像。
另外，像素之间的对称性会导致生成的图像缺乏多样性，为了打破同一管道像素的对称性，作者向每个采样的 xT 添加少量高斯噪声，这个简单的技巧极大地 提高了生成图像的丰富性。
图注：对128 × 128 CelebA and AFHQ 数据集使用 cold diffusion 的模糊方式变换生成样本示例
以其他图像变换为退化运算方式
最后团队进一步证明，除了模糊方式以外，cold diffusion 还可以扩展到其他变换，如修复、超分辨率和变形（animorphosis）方式上，且生成的图像效果也都很好：
图注：cold diffusion 的生成图像。第一行使用变形方式变换，第二行使用修复方式变换，第三行使用超分辨率变换方式。
研究团队给出了 CelebA 数据集上的结果，cold diffusion 在修复、超分辨率和变形方面的 FID 得分分别为90.14、92.91和48.51。（ FID，即 Rechet Inception Distance score，是用来计算真实图像和生成图像计算的特征向量之间距离的指标。）
在训练和测试期间不需要高斯噪声的 cold diffusion，突破了人们对扩散模型的原有理解，为新型生成模型打开了未来的大门。
这项研究因为提出了一种不同于传统形式的扩散模型，而在近日登上了许多论文排行榜的热门，同样引起了热议的，还有论文其中一位作者在推特上发起的讨论：为什么扩散模型如此迅速地取代了 GAN？
马里兰大学副教授 Tom Goldstein 解释，扩散模型的优点是它可以最小化凸回归损失，所以 OpenAI 在开发 DALLE 时直接抛弃了 GAN，而使用扩散模型来解决不稳定的鞍点问题（saddle point problem）。
而且，他认为，扩散模型的成功是新数学范式发挥其作用的一个例子，世界上所有的超参数调整都比不过几行深思熟虑的数学公式。
要说今天的文本生成图像领域已经由扩散模型统治或许还不够严谨，但 GAN 的一家独大的确已经成为历史。归根结底，谁的图像生成质量和稳定性更好，谁才在越来越卷的生成模型界成为宠儿。这项工作提出的 Cold Diffusion，或许就会在不久之后为我们带来一个新的、强大的文本生成图像模型。
版权文章，未经授权禁止转载。详情见 转载须知 。
百度热搜以数亿用户海量的真实数据为基础，通过专业的数据挖掘方法，计算关键词的热搜指数，旨在建立权威、全面、热门、时效的各类关键词排行榜，引领热词阅读时代。
宁夏广林子食用油有限公司(原银川原源食用油有限公司)于1998年9月21日组建并注册成立,位于银川经济技术开发区经天东路6号，占地面积55亩，注册资金1170万元，现拥有职工人数130余人、年销售额1.5亿。旗下主打产品“广林子”系列，产品深受广大消费者的信赖，并且已发展成为农业产业化自治区重点龙头企业。
驾驶员考试网提供科目一模拟考试2024和元贝驾考驾驶员考试科目四。驾驶员考试科目一包含2024年最新的驾驶证模拟考试c1、科目四模拟考试2024等；驾校驾考一点通、驾考刷题宝典和驾驶员理论考试均采用驾驶员模拟考试试题。
木子财税专注于为创业者及中小微企业分享深圳注册公司、深圳代理记账报税、深圳企业高新认定、财税服务、深圳公司注销经验。
英威腾(股票代码002334)，工控与能效解决方案提供商，产品涵盖工业自动化（变频器/伺服/PLC/HMI等）、新能源汽车（充电桩等）、网络能源（电源UPS）、光伏储能等领域。欢迎来电咨询：400-700-9997。
验房师人才网：专注于房屋查验咨询师职业技能培训及技能证书报考工作，同时收录大量验房师人才及第三方独立验房机构信息，为广大有验房需求的业主提供免费信息咨询服务。
产品广泛应用于电子、机械、汽车、医疗器械配件等行业
荆门市中心医院现已发展成为一所集医疗急救、科研教学、预防保健等功能于一体的国家三级甲等综合医院，是全国院务公开示范医院、全国医疗服务满意先进单位、湖北省三级优秀医院。是湖北民族学院附属医院、中国人民解放军总医院远程医学中心站点医院、国家卫生计生委指定的“脑卒中高危人群筛查与干预项目基地医院”、“国家高级卒中中心”，武汉大学研究生培训基地。拥有睡眠呼吸障碍疾病院士专家工作站（韩德民院士工作站）、荆门市肝胆胰外科院士工作站（陈孝平院士工作站），是荆门市区域医疗中心，承担着荆门市及毗邻地区三百万城乡居民的医疗、预防保健任务。 医院占地面积180亩，建筑面积23.52万平方米，设南北两个院区，编制床位2300张，总资产22.24亿元。在职职工2037人，其中卫技人员1822人，高级职称394人，中级职称509人，初级职
优文影视解说网专注于分享影视电视剧动漫解说文案、影视电视剧动漫文案解说词，为广大影视剪辑爱好者提供丰富的影视剪辑文案影视剪辑素材，以及分享影视剪辑的技巧和教程，为您的剪辑工作保驾护航。
天津大远东制冷设备工程技术有限公司(天津中冷远东)集研发,设计,生产安装为一体.专业设计建造冷藏库,天津大型冷库安装,天津节能冷库,冷藏集装箱机组等工程.并为制冷,物流行业提供整体控制方案.移动冷库价格详情请咨询.
培训管理者网是发布企业培训管理和企业管理培训等内容的门户网站,将为企业培训中心、培训管理部和培训发展部等部门的培训总监、培训经理提供专业的培训管理资讯服务。
工机窝，工程机械租赁网，二手工程机械网，工程机械配件网，工程机械展会，工程机械，挖掘机，推土机，平地机，冷再生机，路拌机，压路机，铲车，强夯机，摊铺机，铣刨机，液压夯
现实中玩家们很少会养鸡吧，养鸡的游戏在手机里可是有不少的哟，那么2022有没有一款养鸡然后卖鸡蛋的游戏?其实养鸡的游戏还是很多的，而且都是在乡下的农场养鸡，很多城里的小伙伴没见过养鸡农场的田园风景，玩养鸡类的游戏都会感觉到很新奇，一起来看看小编整理的养鸡游戏吧，1、，模拟农场，模拟农场，就是个可以养鸡的农场经营的游戏，在游戏里玩家是...。
最近一次参加大公司的大规模会议还是3年前2019年的百度云峰会了，那一年我们刚刚做了百度云代理所以参加了，后面因为口罩的原因，我已经三年没参加过线下会了，而且这三年也基本没大型线下活动了，终于2023年4月11日，卢松松有幸参加了阿里云北京峰会，这应该算是今年阿里云规模最大的一次线下峰会了，心情很是激动的，6000人的主会场座无虚席，...。
十几年前的论文为何还能接连获奖，因为经过了时间的检验，计算机图形学顶级会议SIGGRAPHASIA2024正式落幕，前沿学术成果与交流十分亮眼，本次会议正式颁发的奖项中，商汤科技董事长兼首席执行官徐立于2012年作为第一作者发表的论文，Structureextractionfromtextureviarelativetotalvari...。
视频号的出现，让每个人重新有了站在同一起跑线的机会，让大家再一次迎来了又一个巨大的短视频流量红利期，短视频时代的异军突起使得个人ip强势崛起，不计其数的，草根阶层，借助短视频的东风让自己成为一个名利双收的大咖，5G时代的到来，打造个人IP是现如今一个特别重要的时代，尤其是5G时代的到来，将会是一个个人IP爆发的重要时期，个体崛起的时代...。
互联网的广大朋友们，大家好，我是剑眉大侠，一个90后创业青年男子，在这篇文章中，我会给你拆解一些赚钱项目，引流思路，以开拓你的视野，帮助你在生活中或者互联网中发现更多的赚钱门路，成为月入3万的算命大师在网上赚钱，我以前找过很多的资料，有陈安之的那种成功学，也有各种各样的财商学，还有各种各样的骗子录制出来的所谓的日入好几万的那种项目课程...。
人类健康的道路上，医疗和医药，是亘古不变的济世良方，随着健康中国战略和，健康中国2030，的落实，大健康产业将引领我国新一轮经济发展浪潮，前沿领域创新，则是带动这股浪潮的核心力量，如何从历史节点中找寻机遇，探寻医疗与科技的结合点，并在合适的时点实现商业化落地，在今年的医疗科技高峰论坛上，19位医、产、研、投的行业领袖，分别从医学影像A...。
早教发展起来后，逐渐得到了家长的认可，在被家长选择的同时，也有很多将其作为创业选择的小伙伴，今天，小编就来为大家介绍早教怎么样，无论是于需求的人还是想要开店的创业者，都需要继续浏览下面的内容，早教行业发展起来后，诞生了很多不同的品牌，有绚彩森林早教、金睿家国际早教、多乐小熊早教等，这里只是简单介绍了部分品牌，每个早教品牌都有自己的教学...。
极目资讯记者唐佳燕9月19日，有网友发布视频反映，前一天在直播中调侃，九一八，的江苏盐城网红，娟子爱吃，简称娟子，，被民警带到医院体检，疑似被抓，网友拍下的疑似娟子被抓场景，视频截图，19日下午，极目资讯记者咨询发布视频的网友，未获回应，盐市区公安局办公室回应称，此事需咨询公安接警台，记者拨打盐城报警电话，接警上班人员称已接到此事关...。
圣诞节、安康夜和狂欢夜的详细日期如下，*圣诞节，每年的12月25日，*安康夜，每年的12月24日，*狂欢夜，每年的12月23日至24日之间，理论是12月24日晚，接上去，我将区分解释这三个节日的含意和庆贺模式，圣诞节是西方最关键的传统节日之一，源自古罗马的冬至节，这一天，人们会互赠礼物、享用圣诞大餐，并在家中或教堂里举行庆贺优惠，圣诞...。
初级品位，铂锐是飞驰中初级轿车的品牌，铂锐从碰撞安保，主动安保，主动安保，财富安保和肥壮安保五个层面为生产者带来全方位保证，面向上流生产者，属于初级品位，克莱斯勒铂锐是出口吗是出口车，2007年铂锐上市时，由北京飞驰，戴姆勒·克莱斯勒汽车有限公司推出，并以出口的模式引进中国，北京飞驰戴克铂锐怎样样北京飞驰戴克铂锐是一款体现不错的车型，...。
福特翼虎是越野车，市区SUV，操控性不错！17款翼虎怎样样17款翼虎是一款高性能的4x4越野跑车，它由中国汽车制作商江淮汽车公司推出，它领有出众的能源性能，搭载2.0T涡轮增压发起机，最大功率到达了176马力，在越野跑车类别中性能较好，可以满足生产者对高性能的需求，1.外观设计17款翼虎外观设计十分杰出，外型柔美，以拱形为主体，严惩的...。
这个是官网下载网址，点击下载后，它开局下载并且智能装置···假设还是不能处置疑问，你可以去谷奥问问怎样下载谷歌Chrome官网正式版本，版本号最低21.0，最高24.9，下载历史版本的方法参见此贴2L另注，不倡导经常使用过早的版本，安保性没有保障，如要经常使用网银倡导搭配IETab等裁减求高手将chrome阅读器英文版下载地址，下载完...。
在OLED面板向显示产品不断扩大的同时，产品所带来的，残影烧屏，又称，老化烧屏，问题也成为消费者的一块心病，近日，LG电子首次将OLED残影烧屏纳入保固范围，将向旗下电竞显示器产品线提供两年残影保固服务，LG电子改变了主意LG电子的OLED电视、显示器一直以来都有比较完善的售后政策，但其OLED产品的老化烧屏问题却不在售后范围之内...。
近日，四维图新正式获批北京市政府颁发的自动驾驶车辆道路测试试验用临时号牌，路测牌照，，等级为T3级，这也是迄今北京市颁发的最高级别自动驾驶路测牌照，雷锋网新智驾了解到，目前北京已向包括四维图新、百度、智行者、小马智行在内的11家企业发放自动驾驶路测牌照，四维图新成为第一家获批T3路测牌照的位置服务提供商，目前，北京市共有44条总计...。
未来的电视，一定是，电视，的样子吗，在大屏终端显示上，电视一直是家庭场景中的重要呈现载体，从带天线的黑白电视到彩色家电，再到高清电视、智能电视等等，近年来，随着人们对大屏显示的追求，一种新兴智能显示产品成为新的消费选择，即智能投影；而这一产品形式的出现，无论是在终端层面，还是显示层面，都刮起了一阵变革的，飓风，实现超越如果严格按照显...。
消息，3月26日，vivo发布折叠旗舰vivoXFold3系列，以219克的最小重量，创下了大内折叠机型的轻薄新纪录，媲美主流直板旗舰，在这次发布会上，vivo手机行业全球首发了半固态电池技术，大幅提升电池抗低温性能，配合领先行业的二代硅材料，再次突破手机电池中难以实现的容量大、电池薄、充电快，不可能三角，，并搭载蓝海电池最大容...。
1.中铁建作为一家国有企业，其业务活动受到严格的监管，遵循三条底线原则，即不进入高风险领域、不触碰政治红线、不违反商业道德底线，2.如果在经营过程中，中铁建违反了这些原则，将面临相应的挑战和问题，3.尽管中铁建是央企，但它同样需要按照法律法规和商业伦理进行运作，并对其行为负责，4.如有违法违规行为，中铁建将接受监管部门的惩处和市场的制...。
