打造神奇宝贝新世界 Diffusion 大神微调  无敌了 Stable 生成式 AI (打造神奇宝贝的小说)

文章编号:46021 资讯动态 2024-12-09 AIStable生成式神奇宝贝Diffusion
不再依赖提示库,输入任意文本都可生成。

作为一个强大、公开且足够简单的模型,最近大火的 Stable Diffusion 在文本生成图像之外,给了大家无限的创作可能性。

最近,来自 Lambda Labs 的机器学习研究员 Justin Pinkney 对该模型进行了微调,构建了一个神奇宝贝生成器!

下图是输入名字后生成的一些神奇宝贝:戴珍珠耳环的少女、奥巴马、特朗普、鲍里斯·约翰逊、龙猫、Hello Kitty。

生成式 AI 无敌了: 大神微调Stable Diffusion,打造新世界

Lady Gaga、鲍里斯·约翰逊、普京、默克尔、特朗普、柏拉图:

生成式 AI 无敌了: 大神微调Stable Diffusion,打造新世界

生成式 AI 无敌了: 大神微调Stable Diffusion,打造新世界

除了现有的角色和公共人物,你还可以输入一个描述来生成自己想象的神奇宝贝:骷髅祭司

生成式 AI 无敌了: 大神微调Stable Diffusion,打造新世界

你也可以输入自己的姓名或网名,生成属于自己的神奇宝贝形象。这可太酷了,推特上的网友纷纷用自己的名字展开创作,看看自己如果变成神奇宝贝会是什么样子。

生成式 AI 无敌了: 大神微调Stable Diffusion,打造新世界
图注:网友 Jo Barf Creepy 的神奇宝贝形象
生成式 AI 无敌了: 大神微调Stable Diffusion,打造新世界

图注:网友 Elizabeth Holmes 的神奇宝贝形象

生成式 AI 无敌了: 大神微调Stable Diffusion,打造新世界

图注:网友 Upbeatblue 的神奇宝贝形象

生成式 AI 无敌了: 大神微调Stable Diffusion,打造新世界

图注:网友 Onion-sama 的神奇宝贝形象

输入一些漫画角色的名字也可以获得相匹配的神奇宝贝:

生成式 AI 无敌了: 大神微调Stable Diffusion,打造新世界

而那些陪伴人们童年的神奇宝贝在这个生成器中也有了新的样貌:皮卡丘、妙蛙种子、喷火龙、树才怪、路卡利欧、梦幻。

生成式 AI 无敌了: 大神微调Stable Diffusion,打造新世界



神奇宝贝生成器是如何“生成”的

Pinkney 在推特上展示了这个神奇宝贝生成器的训练过程。

生成式 AI 无敌了: 大神微调Stable Diffusion,打造新世界

他表示,Stable Diffusion 是一个很好的通用模型,但要获得特定风格的输出不是件容易的事,这通常需要做大量枯燥的工作,制作复杂的文本提示库,或者你也可以偷懒只对图像生成模型进行微调。

Pinkney 在神奇宝贝图像的数据集上对初始的 Stable Diffusion 进行了微调。

首先是构建一个数据集。数据集包含神奇宝贝图像和对应的文本描述,比如妙蛙种子被描述成“一个红眼睛的绿色神奇宝贝图像”,绿毛虫则被描述为“一个长着红鼻子的绿黄两色玩具”。

生成式 AI 无敌了: 大神微调Stable Diffusion,打造新世界

当然,这些描述不是人工完成的,而是使用了神经网络来代劳,即图像描述模型 BLIP。虽然这些描述还不是十分完美,但也足够用了。

然后,他在 A6000 上只花费了几个小时对 AI 模型进行训练,让模型学习以神奇宝贝的风格来生成图像,但将先前的知识保留一段时间,最终对数据集产生过拟合。

开始时,样本是正常图像的样子,然后逐渐获得神奇宝贝的风格,随着训练的继续,最终呈现一个与原始提示不同的神奇宝贝图像:

生成式 AI 无敌了: 大神微调Stable Diffusion,打造新世界

这是一种很简单的微调,但它运行得非常好。有了这样一个微调后的模型,无论你给它什么提示,它都会生成神奇宝贝。所以不必再煞费苦心地想提示语了。

在创建神奇宝贝时,你可以选择输出多个:

生成式 AI 无敌了: 大神微调Stable Diffusion,打造新世界

Pinkney 表示,欢迎大家用更复杂的方式把这个模型专门地用在新领域。像这样的小工具就是 Stable Diffusion 这类 AI 模型开源好处的体现。




One more thing

这个模型在网上引起创作热潮后,Pinkney 又发布了一篇博客补充了一些额外的工作细节。

他发现,令人惊讶的是,这个模型竟然设法记住了初始 Stable Diffusion 的一些通用知识,而它只是在一个有限的数据集上训练了几千步。但是,对神奇宝贝进行微调时,模型实际上很快就会开始过度拟合,如果只是以一种简单的方式从中采样,模型就会为新的提示生成胡言乱语式的神奇宝贝,也就是说,它已经灾难性地遗忘了它所训练的原始数据)。但是 Stable Diffusion 在训练期间保持模型的指数移动平均 (EMA) 版本,通常用于推理。

因此,如果使用 EMA 权重,我们实际上是在使用原始模型和微调模型的平均值。事实证明,这对于生成神奇宝贝而言是必不可少的。此外,你还可以通过直接将新模型与初始模型的权重进行平均来微调效果,以控制生成神奇宝贝的数量。微调和对模型进行平均的操作可以将原始内容与微调后的风格有效混合。

生成式 AI 无敌了: 大神微调Stable Diffusion,打造新世界

图注:左边是完全微调的模型,右边是只微调注意力层的模型。

另外,你也可以冻结模型的不同部分来进行微调,比如上图是两种微调方式的生成效果,可以看到,只微调了注意力层的模型可以生成更正常的 Yoda,但并不太擅长制作神奇宝贝。

更多内容,点击下方关注:

生成式 AI 无敌了: 大神微调Stable Diffusion,打造新世界 生成式 AI 无敌了: 大神微调Stable Diffusion,打造新世界

版权文章,未经授权禁止转载。详情见 转载须知 。

生成式 AI 无敌了: 大神微调Stable Diffusion,打造新世界

全局中部横幅
欢乐斗地主

腾讯先锋(原腾讯先游)是腾讯官方推出的云游戏平台,用户无需下载游戏,就能畅玩各类游戏大作。

南昌丰益肛肠医院

南昌丰益肛肠医院暨南昌最好的肛肠医院,南昌丰益中医肛肠医院是一所以肛肠为特色的医保定点南昌肛肠医院排名第一。

汽车V带

山东荣成市荣威胶带有限公司是一家从事汽车V带、荣威胶带、同步带的企业,提供多楔带相关服务和产品,欢迎来电咨询。

武汉隔音板厂家

作为行业知名的武汉隔音板厂家-武汉零音装饰材料有限公司专业从事吸音板,木丝吸音板,纤维吸音板,PVC吸音板等隔音材料等产品生产与销售,行业经验丰富,质量可靠,价格合理,长期足货供应,如有需求,请致电027-52368733.

北京中科建环科技有限公司

csbee北京中科建环科技有限公司专业从事大空间专用空调产品的开发、生产、销售、维修和服务

好网站

好网站精选优质的网站,网站大全,聚合全网优秀站点网址,网址大全和AI网站、AI工具,让上网更加简单高效,精彩一触即达!

海威数字

海威数字为微信社群、公众号、APP等不同形态流量主提供数字权益商城解决方案,服务外卖cps系统,社群团购系统,私域系统,淘客APP等,致力于为淘客、微商、卖家提供安全高效的私域电商解决方案,实现用户拉新、促活、留存、返利等目的,快速触达精准用户,升级用户忠诚度,让流量变现更高效、更稳定、更长久!

大连华洋建筑设计有限公司

大连华洋建筑设计有限公司成立于1993年,隶属于大连市建委,原名为大连市新材料节能建筑发展咨询中心

西安铝单板厂家

陕西金鸿建材科技有限公司是一家集建筑装饰建材研发,设计,制造和销售为一体的综合性大型企业.拥有专业的技术研发,设计团队,生产团队,售后服务团队.产品规格齐全,铝单板种类丰富,致力于为广大群众提供良好的产品及服务项目,欢迎来电咨询,留言关注.

机床

中国综合性车床制造厂和国家级数控机床开发制造基地。主要生产机床、普通车床、数控立车、专用机床、铣镗床、钻床、管螺纹机床、加工中心及机床附件等。多年来一直为用户提供优质机床,被誉为国内外的名牌产品。

西宁鲜花,西宁花店,西宁订花送花,西宁鲜花预订

以低的价格,制作出好的,特色的花束,西宁鲜花店非常值得不满意,可退款,青海鲜花连锁,较好品牌,西宁市订花市区免费送花1~3小时送达,送花到西宁专业送花,价格合理,签收满意后再付款,西宁送鲜花专注服务,西宁鲜花鲜花店上上之选。

全局底部横幅