我用GPT (我用gpt编写maya脚本)

文章编号:46382 资讯动态 2024-12-10 宠物精灵GPT2

听到这段台词,相信很多朋友都会不由自主地接上一句.......

我们是穿梭在银河的火箭队!白洞!白色的明天在等着我们!

就这样~喵~

我用GPT-2创造了3000个小精灵,完美复刻《神奇宝贝》!

没错,它就是《神奇宝贝》中火箭队每次出场都让人忍不住发笑的经典台词。

1997年上映的《神奇宝贝》已经陪伴了我们二十年之久,给不少80、90后的童年留下了美好的回忆,尤其是那800多只宠物小精灵。

我用GPT-2创造了3000个小精灵,完美复刻《神奇宝贝》!

会放电的皮卡丘、经常酣睡的妙蛙种子、不好惹的小火龙,还有喵喵、超梦、可达鸭。

这些可可爱爱又奇奇怪怪的动漫小精灵让人记忆犹新,相信很多人小时候都幻想过拥有一支属于自己的精灵宝贝。

最近,一位名为Matthew Rayfield的程序员就满足了自己的愿望。他用《神奇宝贝》中的788只动漫形象作为原型,通过AI生成了3000个全新的宠物小精灵。

我用GPT-2创造了3000个小精灵,完美复刻《神奇宝贝》!

而这个AI正是自然语言模型GPT-2.

GPT-2:「精灵制造机」

提到NLP模型,我们印象最深的可能是GPT-3。今年该模型因1750亿超大参数量和超强应用,在各大媒体平台频频刷屏。GPT-2,与GPT-3师出同门,都是OpenAI研发的自然语言处理模型,两个模型最大的不同是它的参数量,GPT-2仅为15亿。

但这并不影响它的应用范围。与GPT-3类似,GPT-2也可以用来写故事、画图表,或者玩国际象棋。

我用GPT-2创造了3000个小精灵,完美复刻《神奇宝贝》!

最近Rayfield受到GPT-2在国际象棋和民间音乐上应用的启发,也想来搞点不一样的事情。

他突发奇想决定用GPT-2来生成全新的宠物精灵形象,结果效果还不错。Rayfield从3000个生成图像中挑选出了6个,如图:

我用GPT-2创造了3000个小精灵,完美复刻《神奇宝贝》!

emm...看起来,小精灵原型还不错,但就是清晰度太差。Rayfield又邀请了业内知名动漫设计师雷切尔•布里格斯(Rachel Briggs)来帮他完成这些精灵的“重绘”工作。

最终,基于GPT-2生成的原型,这些宠物小精灵就变成了这样:

我用GPT-2创造了3000个小精灵,完美复刻《神奇宝贝》!

我用GPT-2创造了3000个小精灵,完美复刻《神奇宝贝》!

我用GPT-2创造了3000个小精灵,完美复刻《神奇宝贝》!

感觉第二个和第六个可以直接成为《神奇宝贝》的一员了,你觉得呢?

Rayfield简单介绍了他利用GPT-2创建这些精灵的实现过程。大致就是:搜寻了788张小精灵图片(均为64x64像素)作为数据源,然后:

在这个过程中也出现了一些问题。比如在文本格式转换时,出现了很多嘈杂的像素,因此最终调整成了如下格式。

我用GPT-2创造了3000个小精灵,完美复刻《神奇宝贝》!

不过,用文字训练GPT-2的过程还相对简单,最棘手的环节是通过代码将输出结果变成规范化的图像格式。这部分代码Rayfield已将其在GitHub开源,感兴趣的朋友可以了解一下。

我用GPT-2创造了3000个小精灵,完美复刻《神奇宝贝》!

Image GPT:语言模型处理图像任务

需要说明的是,上述Rayfield用GPT-2语言模型来学习图像表征的方法,早已被OpenAI验证。

无监督和自监督的学习,或没有人为标记的数据的学习,在自然语言处理领域取得了令人瞩目的成功,因为像BERT、GPT-2、RoBERTa、T5 等 Transformer 模型,在广泛的语言任务中取得了最佳成绩,但同类的模型在图像分类任务中,不能生成较为有用的特征。

出于这一目的,OpenAI尝试利用GPT-2处理图像分类任务,以探究用 Transformer 模型在学习图像表征方面的可行性。

他们发现,当用展开成像素序列——被称为 iGPT(image GPT) 的图像来训练 GPT-2 模型时,模型似乎能够捕捉二维图像特征,并且能够在没有人类提供的数据标注下,自动生成各种逻辑连续的图像样本。实验结果如图:

我用GPT-2创造了3000个小精灵,完美复刻《神奇宝贝》!

人类提供上半图(第一列),GPT-2自动补全下半图,右侧为原始图像

同时,该模型的特征在多个分类任务的数据集上也取得了不错的成绩,尤其是在 ImageNet 上取得了接近于最优的成绩,如下图。

我用GPT-2创造了3000个小精灵,完美复刻《神奇宝贝》!

在自然语言处理中,依赖于单词预测的无监督学习算法(如 GPT-2 和 BERT)之所以成功,一个可能的原因是下游语言任务的实例出现在训练用的文本中。但相比之下,像素序列并不直接地包含它们所属的图像的标签。

而即使没有明确的监督,图像上的 GPT-2 仍然起作用。OpenAI研究团队认为其原因是足够大的 Transformer 模型,通过训练来预测下一个像素,最终它能够学会根据清晰可识别对象来生成具有多样性的样本。

我用GPT-2创造了3000个小精灵,完美复刻《神奇宝贝》!

他们采用一种通用的无监督学习算法—生成序列建模进行了测试。具体来说,他们在 ImageNet 上分别训练包含 76M、455M 和 1.4B 参数的 iGPT-S、iGPT-M 和 iGPT-L Transformer;还在来自 ImageNet 和互联网的图像的混合数据集上训练 iGPT-XL ——一个 68 亿参数的 Transformer。由于对长序列采用密集注意力(dense attention)的建模计算成本高,他们用 32x32、48x48 和 64x64 的低分辨率进行了训练。

最终实验结果表明,通过计算量来代替二维知识,以及通过从网络中选择的特征,序列 Transformer 可以与最优的卷积网竞争,实现无监督图像分类。此外,通过将 GPT-2 语言模型直接应用于图像生成的结果,也进一步表明由于其简单性和通用性,序列 Transformer 在足够的计算量下,有可能成为学习到不同领域的特征的有效方法。

更多OpenAI团队实验内容可参见论文:

引用链接:

原创文章,未经授权禁止转载。详情见 转载须知 。

全局中部横幅
盐课堂

为“中小学生”提供当地名师直播课,符合当地教学进度,主讲老师+辅导老师教学,让学习更有效!

小流量玻璃转子流量计

金湖县华升计量仪器有限公司是优质的远传玻璃转子流量计,面板式流量计,塑料管转子流量计,全不锈钢玻璃转子流量计,玻璃管浮子流量计供应商,主要经营产品有:远传玻璃转子流量计,面板式流量计,塑料管转子流量计,全不锈钢玻璃转子流量计,玻璃管浮子流量计!

广州驰早信息科技有限公司

广州驰早信息科技有限公司为企业提供短信平台、短信通道、短信发群发服务。

贝赛思

贝赛思国风社俱乐部,传播古风遗韵,弘扬国学文化,在学校掀起国学学习热潮。贝赛思国风社俱乐部立志成为热爱中国传统文化的贝赛思学子汇聚之所。从大漠孤烟塞北,到杏花春雨江南,从琵琶铁骨铮铮的十面埋伏,到古筝荡气回肠的渔舟唱晚,我们醉心于民族传统经典,也在细细体味百态人间。

烟台博汇电梯科技有限公司

烟台博汇电梯科技有限公司,博汇电梯,烟台博汇

新希望集团

新希望集团有限公司创立于1982年,在三十余年的发展中,新希望集团基于自身资源和优势,不断开拓新的产业领域,并持续关注、投资、运营具有创新能力和成长性的新兴行业。目前,新希望集团已逐步成为以食品和现代农业为根基、金融投资突出的综合性企业集团。

烘干机

河南鸿百祥网络科技有限公司专业致力于烘干机设备研究制造三十多年,有丰富的制造经验,生产的烘干机,球磨机,破碎机,撕碎机,压块机,回转窑,颗粒机等设备远销国内外,在业内享有盛誉,欢迎致电咨询13700879506

海淀区企业管理咨询

海淀区企业管理咨询由北京星颂企业管理有限公司提供服务。

德国REXROTH模块/驱动器

上海乾拓贸易有限公司(www.qt-my.com)主营REXROTH驱动器,德国REXROTH模块,德国REXROTH电机,美国AB模块等产品,可提REXROTH驱动器,德国REXROTH模块,德国REXROTH电机,HYDAC蓄能器,美国AB变频器,意大利ode电磁阀,德国KTR橡胶盘,KTR力矩限制器,MTL新型隔离栅,德国REXROTH电磁阀,德国力士乐模块参数信息,欢迎来电咨询

快查

快查是同花顺推出的企业信用查询工具,为您提供企业风险的查询服务,包括当前最新的工商注册,公司地址,公司邮箱等基本信息,以及经营风险,经营状况,知识产权,公司治理,新闻公告,舆情信息,司法风险等多个维度信息,查询更多企业信息,请点击快查!

B2B信息发布软件

信息发布软件是B2B群发信息软件、信息群发软件、信息推广软件、B2B网络信息发布软件、网站推广群发软件和网络营销软件,B2B发帖软件一键自动发布产品广告信息和商务信息到上千家B2B商贸平台网站、分类信息发布网及供求信息发布网上,B2B群发软件让您的企业产品信息发布和网站信息发布到整个互联网,自动发布信息软件助您实现网络信息营销推广群发效果,B2B群发软件有助于企业信息在互联网上增加更多的曝光量.

全局底部横幅