的逼真效果更进一步 ML AR 谷歌 通过引入 实时自拍 ARCore

雷锋网 AI 科技评论按:ARCore 是谷歌于去年 2 月份正式推出的 增强现实(AR)软件开发工具包,给开发者提供了一个开发 AR APP 的平台。不到一个月前,谷歌正式推出 ARCore 1.7 版本,为其添加了前置摄像头 AR 自拍能力以及动画效果支持;而日前,谷歌又为其引入了机器学习技术,使其实时自拍 AR 的逼真效果更进一步,该技术相关的文章发布在谷歌 AI 的官方博客上,雷锋网 AI 科技评论编译如下。

通过将数字内容与信息叠加到物质世界的真实场景中,来让人类实现超越现实的感官体验。例如, 谷歌地图的 AR 功能 ,能够在现实场景中叠加方向信息来为你指路。借助于 Pixel 相机中的 Playground 模式 ,你可以使用 AR 从不同的视角看世界。并且通过借助于最新发布的 「YouTube Stories」 以及 ARCore 全新的面部增强(Augmented Faces)API ,你可以在自拍上添加动画面具、眼镜、帽子、皮肤等特效。

实现这种 AR 功能的关键挑战之一,就是以合适的方式将虚拟内容锚定到现实世界:这一过程需要一套能够追踪到每一次微笑、皱眉或假笑的高动态表面几何结构的独特的感知技术。

通过引入 ML,谷歌 ARCore 实时自拍 AR 的逼真效果更进一步

ARCore 的3D 网格以及它能实现的一些特效

为此,我们引入了机器学习(ML)技术来推断近似的 3D 表面几何结构,并且仅需要用到一个单摄像头输入而无需使用专用的深度传感器。这种方法利用面向移动 CPU 界面推断或其可用的全新移动 GPU 功能的 TensorFlow Lite ,实现了逼真的实时 AR 效果。与「 YouTube Stories」 全新的创作者特效所利用的技术一样,这项技术已通过 最新的 ARCore SDK 和 ML Kit Face Contour Detection API 向广泛的开发者社区开放。

用于自拍 AR 的机器学习工作流

我们的机器学习工作流由两个协同工作的实时深度神经网络模型组成:一个是探测器,它在整张图像上运行并计算出面部位置;另一个是通用的 3D 网格模型,它在探测器计算出来的面部位置上运行,并通过回归预测近似的表面几何结构。精确地裁剪面部能够极大地减少对一般的数据增强的要求,例如由旋转、平移和比例变换组成的仿射变换(affine transformations)等,同时让网络将大部分性能投入于预测坐标来提高其准确性——这对于锚定合适的虚拟内容至关重要。

裁剪完所关注的位置后,该网格网络一次仅应用于一个单帧,并利用加窗平滑(windowed smoothing)来减少面部处于静态时的噪音,同时避免在大幅移动期间出现的延迟。

通过引入 ML,谷歌 ARCore 实时自拍 AR 的逼真效果更进一步

针对 3D 网格,我们采用了 迁移学习 ,并训练了一个具有多个目标的网络:该网络能够同时地基于合成、渲染的数据预测 3D 网格坐标以及基于类似于所提供的带有注释的、现实世界的数据预测 2D 语义轮廓。最终的网络为我们提供了基于合成数据乃至现实世界数据的合理的 3D 网格预测。所有模型都在源自于地理学多样化的数据集的数据上进行训练,并接着在平衡、多样化的测试集上进行定性和定量性能的测试。

3D 网格网络接收经裁剪的视频帧作为输入。由于它不依赖于额外的深度输入,因而也可以应用于预先录制的视频。该模型不仅输出 3D 点的位置,还输出在输入中存在并合理对齐的面部概率。一种常见的替代方法就是为每个地标预测出 2D 热图,但这种方法并不适用于深度预测,并且对于如此多的数据点来说,使用这种方法耗费的计算成本非常高。

通过迭代自展和精炼预测,我们进一步提高了模型的准确性和鲁棒性,同时也将数据集发展成为愈加具有挑战性的实例,如鬼脸,拍摄角度倾斜以及面部遮挡等。此外,数据集增强技术也扩展了可用的 ground truth 数据,并开发出了对摄像头瑕疵等人工产品问题或极端光照条件具有弹力的模型。

通过引入 ML,谷歌 ARCore 实时自拍 AR 的逼真效果更进一步

数据集扩展和改善路径

我们使用 TensorFlow Lite 进行设备内置的神经网络推理。 新推出的 GPU 后端 加速能够有效提升性能,并显著降低功耗。此外,我们还设计了具有不同性能和效率特性的一系列模型架构,来覆盖到更加广泛的消费级硬件。较简单网络之间的最重要的区别就在于残差块(Residual Block)设计和可接受的输入分辨率(最简单模型中的输入分辨率为 128×128 像素,而最复杂模型中的输入分辨率为 256×256)。同时,我们还改变了层数以及子采样率(输入分辨率随网络深度的减少而减少的速度)。

通过引入 ML,谷歌 ARCore 实时自拍 AR 的逼真效果更进一步

这一系列的优化的结果就是:使用更简单的模型带来了实质性的加速,同时也将 AR 特效质量的降低幅度最小化。

通过引入 ML,谷歌 ARCore 实时自拍 AR 的逼真效果更进一步

最复杂模型(左)和最简单模型(右)的比较:在简单模型上,时序一致性以及对嘴唇、眼睛的追踪稍微降低。

这些成果最终则能够通过以下方式,让用户在 YouTube、ARCore 以及其他客户端体验到更加逼真的自拍 AR 效果:

通过引入 ML,谷歌 ARCore 实时自拍 AR 的逼真效果更进一步

另外,我们还通过以下方式实现了逼真的妆容效果:

通过引入 ML,谷歌 ARCore 实时自拍 AR 的逼真效果更进一步

案例对比:5 个目标在不同光线下的真实化妆效果以及 AR 化妆效果

我们很高兴将这项新技术分享给创作者、用户以及开发者。感兴趣的读者可以通过下载最新的 ARCore SDK (下载地址:)来将这项技术用起来。未来,我们还计划将这项技术广泛应用到更多的谷歌产品线中。

via:

原创文章,未经授权禁止转载。详情见 转载须知 。

通过引入 ML,谷歌 ARCore 实时自拍 AR 的逼真效果更进一步

全局中部横幅
手机体育频道

手机新浪网体育频道提供最迅速、最权威地发布国内国际最热门体育赛事比分和赛果,国内外足球赛事、NBA、CBA全面图文直播,在中文体育站点中拥有最广泛的用户群。新浪体育触屏版-sports.sina.cn

广州花木出租

广州市广深花卉园林有限公司是广州目前室内外植物、绿化、保养、施工(包括室内盆景、鲜花租赁、室外绿化保养)专业特色室内植物租赁管理公司之一,专业化的服务为用花单位以低廉的价格享受优质的服务。优质的绿化植物,通过摆放、养护、调换等过程,来保证客户所用的花卉植物枝繁叶茂,生长茂盛、匀称美观。

腾讯手游助手官网

腾讯手游助手(手机模拟器)是腾讯官方新一代安卓模拟器,完美兼容X86/AMD,与传统的安卓模拟器相比,在性能、稳定性、兼容性等方面优胜同类安卓手机模拟器!腾讯安卓模拟器-你的专属手游模拟器。来腾讯手游助手官网下载海量手游电脑版,下载即玩,畅享电脑玩手游的快乐。

农林工程监理甲级资质公司

农林工程甲级资质监理公司成立于1998年,位于河南省郑州市,公司在全国区域内承接农林工程项目,高标准农田监理业务。公司监理的农林工程项目先后获得了国家行业优质工程奖、鲁班奖、国家优质工程奖等,联系电话:400-008-2685

高温钢化玻璃油墨

天津市恒恩印刷材料有限公司成立于2004年,坐落于天津市津南区八里台工业园,恒恩秉承着“诚信经营,共同发展”的宗旨,坚持“顾客至上,服务为本”的经营理念,为客户提供最优质的产品与最专业的服务。 恒恩专注于高温钢化玻璃油墨的研发生产、大型丝网及精密丝网制版。除此之外,我们还提供图案设计、菲林输出、环保型低温油墨以及各种丝印耗材。公司全套引进国外先进设备,进口材料,专业生产技术人员进行研究开发,确保产品的质量品质,给客户提供完美的印刷解决方案。

商标交易

嘉标网,专业的商标转让平台。为您提供安全、高效的商标交易服务。在这里,您可以轻松找到心仪的商标,实现品牌价值的最大化。购买商标选择嘉标网,让商标交易更简单、更放心!

安徽启宇律师事务所

安徽启宇律师事务所-主页,律师服务,律师咨询,法律咨询,民事,借钱,交通事故,判多久,刑事,纠纷,离婚,继承,

游戏软件下载专区

神游网为您提供最新的游戏软件资源以及游戏攻略和软件资讯。什么类型的游戏和软件都可以在这里找到,全部都是高速,安全,绿色无病毒的下载资源,有需要的用户就来神游网看看吧!

便携式多组分恶臭分析仪

合肥琪锋光电科技有限公司是一家研发生产和销售便携式多组分恶臭分析仪、便携式汞分析仪、汞标气发生器、烟气汞连续在线监测系统为一体的高科技企业。

IFT游戏资讯网

IFT游戏资讯网(www.lfoster.com)分享最新好玩耐玩的端游,手游,网页游戏,单机游戏攻略资讯,包含传奇、仙侠、回合制、武侠、卡牌、三国、策略等游戏种类。

汇五金

汇五金为您免费提供五金行业企业黄页、电工工具气动工具销售代理企业名录、五金工具手动工具套装生产销售企业大全,为您展示家具门窗五金及卫浴五金销售公司的联系电话与联系人、大中小型锁具生产公司名录、测量工具扳手锤供求信息,同时您也可以在这里免费开设网店、免费发布产品信息、免费发布供求信息,并快速查找供应商联系方式、行业优质企业联系方式。总之,企业信息大全、海量供求产品,就来这里找!欢迎您注册登录,成为我们的会员,免费获得开店指导!

全局底部横幅