Lite只是故事的一部分 谷歌还一并介绍了新的模型压缩方法 TF (litegui)
雷锋网 AI 科技评论按：为了顺应“在本地设备上运行机器学习模型”的潮流，以及具体点来说，给自家Pixel 2以及未来的手机上的AI加速芯片（the Pixel Visual Core）提供运行库，谷歌正式发布了TensorFlowLite，作为TensorFlowMobileAPI的升级版进入公众视野，同时开源+长期更新。
TensorFlow桌面和TensorFlowLite的定位固然有所不同，前者可以兼顾训练和推理，后者则是专门考虑如何在移动设备上高效运行；这导致它们的技术特点有所区别，TensorFlow桌面的模型也需要经过转换后才能在TensorFlowLite上运行。
另一方面，在发布TensorFlowLite软件的同时，谷歌研究院也另外发出一篇博文介绍了一种新的模型压缩方法，不仅有优秀的压缩效果，压缩后的模型也可以直接在TensorFlowLite上运行，可谓是一个重大好消息。雷锋网 AI 科技评论把这篇博文翻译如下。
2017年早些时候，谷歌发布了Android Wear 2.0，首次支持在移动设备上运行机器学习模型，用来提供智能化的消息处理。之前在谷歌的Gmail、Inbox、Allo里提供的基于云服务的“智能回复”功能也就首次可以在任何程序中工作，包括第三方的即时消息软件。有了本地的机器学习计算能力后就再也不需要连接到云服务上，在路上就可以直接从智能手表回复聊天消息。
美国时间11月14日，谷歌正式发布了TensorFlowLite，这是TensorFlow用于移动设备和嵌入式设备的轻量化版本。这个开发框架专门为机器学习模型的低延迟推理做了优化，专注于更少的内存占用以及更快的运行速度。作为软件资源库的一部分，谷歌也发布了一个可以运行在设备上的聊天模型以及一个demoAPP，它们是谷歌编写的运行在TensorFlowLite上的自然语言应用的样例，供开发人员和研究者们研究学习、开发更多新的本地运行的机器智能功能。输入聊天对话消息以后，这个模型就可以生成一条建议的回复；它的推理过程非常高效，可以轻松嵌入到各种聊天软件中，利用设备自身的计算能力提供智能的聊天功能。
谷歌发布的这个本地运行的聊天模型运用了一种训练紧凑神经网络（以及其它机器学习模型）的新机器学习架构，它基于一个联合优化范式，最初发表在论文 ProjectionNet: Learning Efficient On-Device Deep Networks Using Neural Projections 中。这种架构可以高效地运行在计算能力和内存都较为有限的移动设备上，通过高效的“投影”操作，它可以把任意输入转换成一个紧凑的位向量表征，这个过程中类似的输入会被投影到相邻的向量中；根据投影类型的不同这些向量可以是密集的也可以是稀疏的。比如，“嘿如何了？”和“兄弟你如何了？”两条消息就有可能被投影到相同的向量表征上去。
通过这样的想法，谷歌的聊天模型就以很低的计算开销和内存消耗加入了这些高效的操作。这个在设备本地运行的模型是谷歌用端到端的方法训练的，训练过程中使用了联合训练两个不同模型的机器学习框架；这两个训练的模型，一个是紧凑的“投影”模型（如上文所述），同时还结合了一个“训练器”模型。两个模型是联合训练的，投影模型从训练器模型中学习；训练器模型有着专家的特质，它是用更大、更复杂的机器学习架构创建的，而投影模型就像一个跟在后面学习的学生。在训练过程中，也可以叠加其它的量化、蒸馏之类的技术，达到更紧凑的压缩效果，或者也可以选择性地优化目标函数的某些部分。一旦训练结束，这个更小的投影模型就可以直接在设备上做推理任务。
在推理过程中，训练后的投影模型会被编译成一系列 TensorFlowLite的操作，而这些操作都是为移动平台的快速执行优化过的，可以直接在设备上执行。这个本地运行的聊天模型的TensorFlowLite推理图如下所示。
这个用上述的联合训练方法端到端训练的聊天模型是开源的，今天（美国时间11月14日）就会和代码一起发布出来。同时还会发布一个demoapp，这样研究人员和开发人员就可以轻松地下载它们、在自己的移动设备上试试看它提供的一键智能回复功能。这个架构能根据应用需求提供不同模型大小、不同预测质量的配置功能，操作也很方便。除了一些已知的模型可以给出很好回复的消息之外，系统还可以把一组固定的聊天对话中观察到、然后学习编译到模型中的流行的回复语句作为预测失败后的备选语句。它背后的模型和谷歌在自家应用中提供“智能回复”功能的模型有一些区别。
有趣的是，上面描述的机器学习架构保证了背后隐含的模型具有各种灵活的选择。谷歌的研究人员们把这个架构设计得可以与不同的机器学习方法兼容，比如，与TensorFlow深度学习共同使用时，就可以为隐含模型学到一个轻量化的神经网络（“投影网络”），并用一个图框架（“投影图”）来表征这个模型，不再是神经网络的形式。
联合训练框架也可以用来给使用其它机器学习建模架构的任务训练轻量级的本地运行模型。比如，谷歌把一个复杂的前向传输或者循环网络架构（比如LSTM）作为训练器模型，训练得到的投影架构就可以简单地由动态投影操作和寥寥几层全连接层组成。整个架构是以端到端的方式在TensorFlow中通过反向传播训练的。训练结束后，紧凑的投影网络就可以直接用来做推理。通过这样的方法，谷歌的研究人员们成功训练了不少小巧的投影模型，它们不仅在模型大小方面有大幅度下降（最高可以缩小几个数量级），而且在多种视觉和语言分类任务中可以保证同样的准确率但性能高得多。类似地，他们也用图学习范式训练了其它的轻量级模型，即便是在半监督学习的设定中。
谷歌表示，他们在开源TensorFlowLite后会持续改进以及发布新版本。通过这些机器学习架构学到的模型，不管是已经发布的还是将在未来发布的，都不仅可以应用在多种自然语言和计算机视觉应用中，也可以嵌入已有的应用中提供机器智能的功能。同时谷歌当然也希望及机器学习和自然语言处理大家庭中的其它研究者和开发者也可以在这些基础上共同应对谷歌尚未发现或者尚未解决的新问题。
via Google Research Blog，雷锋网 AI 科技评论编译。
Google正式发布TensorFlow Lite预览版，针对移动/嵌入设备的轻量级解决方案
TensorFlow全新的数据读取方式：Dataset API入门教程
谷歌发布TensorFlow 1.4版本：支持分布式训练，迎来三大新变化
紧跟未来深度学习框架需求，TensorFlow推出Eager Execution
版权文章，未经授权禁止转载。详情见 转载须知 。
LOL网址导航网是专业的上网导航网站,精心收录各类优质热门网站信息,同时提供天气、快递、违章等各种生活便民查询工具网址,为您提供安全便捷的上网导航服务,现已被众多网友设为上网主页,网址导航大全首选LOL网址导航.
光电查是一个光电厂家资源、供应渠道的产品选型平台。拥有光电设备/仪器信息10+万条，5+万家国内外品牌厂家及其供应信息，提供研发、采购、厂商等行业人士专业的光电产品参数、型号、规格、选型、数据手册下载、找供应商等服务。
字体帝(zitidi.com)，可免费商用字体下载站！设计师、打印店、淘宝商家必备字体站！找字体，就来字体帝！简单注册，即可免费下载！
国家公务员考试视频课程、各省公务员考试视频、公务员考试万人刷题课程上线，事业单位考试视频全新上线。
沧州腾亚（沈阳）水处理设备有限公司是专业设备生产厂家,水处理设备、净化水设备、反渗透设备产品远销沈阳、长春、哈尔滨、北京、天津等全国30多个省市区,好质量,好产品,好服务,沈阳净化水设备,沈阳反渗透设备厂家！
深圳市华富康供应链股份有限公司是一家专业的进出口供应链管理公司，成立于2015年，注册资金1.5亿元，位于深圳福田区金融中心。在全球设立香港、东京、巴黎、法兰克福、纽约五大国际采购中心，深港两地设立自有仓库及物流，自港入关24小时通达全国大部分大中城市。华富康提供供应链管理咨询、分销供应链、供应链金融、采购供应链、高端制造供应链订制等综合性供应链管理解决方案。
程力专用汽车股份有限公司是国内专业的消防车生产厂家,公司主营各类水罐消防车,泡沫消防车,干粉消防车,抢险救援消防车,森林消防车,东风消防车,重汽消防车,五十铃消防车等，为您提供最新的消防车配置,最优惠的消防车出厂价格及全方位的消防车图片,消防车视频,欢迎来电13093281521咨询消防车信息.
深圳恒信远科技提供免费的厂房车间地坪漆施工方案以及各种停车场地坪漆价格.欢迎拨打热线13058132313咨询厂房环氧树脂地坪漆的报价.我们拥有丰富的环氧地面施工经验，且效率高，质量好，并根据不同的地面提供合理的地坪解决方案。
如美生活读书生活旅行您身边的旅行专家&品质生活小助手
纵湖•御品生态大闸蟹乃大纵湖蟹中之珍品,其蟹个体硕大，壳青肚白，一到金秋，雄者脂白如玉，雌者脂如黄金，肢体雄健，肉质细嫩，唇口留香，味美无比，成为美食家们追求的不可多得的鲜美佳肴。
苏州欣硕电子科技有限公司(www.szxc17.com)是精密线材测试仪,电线电缆检测仪生产(供应)商,苏州欣硕电子科技有限公司不仅具有优良的技术水平,更有良好的售后服务和优质的解决方案
裕恒科技[dabaocheng.com]专业研发生产包装机、粉末包装机、颗粒包装机、全自动包装机、包装生产线定制、沙子包装机等，咨询电话:13903862276
北汽电动车，一家新时代下的国有控股高科技上市公司和绿色智慧出行一体化解决方案提供商，致力于为用户创造电动化、智能化、个性化的驾乘体验，构建汽车与能源、互联网、AI人工智能产业融合发展的新生态、新格局，打造面向未来的绿色智能科技服务平台，至于北汽电动车怎么代理，一起去了解一下，自2009年成立以来，北汽新能源以电动化为突破口，以科技为核...。
人工智能机器人高新科技技术的运用与大数据的运用，使得机器可以无障碍的与人类进行交流，起到陪伴的作用，更有一些的课程项目，会给提供合格的教学服务，智伴机器人是这当中很受欢迎的加盟项目，智伴机器人是高新科技项目，它当中拥有多项功能，有诗词歌赋，加减程序，相声歌剧等，这些项目可提高孩子的学习成绩，塑造好的品牌形象，那么现在智伴机器人如何加盟...。
抑郁症，似乎离我们很近又很远，我们会在社交网络上得知名人抑郁自杀的消息，但殊不知在他们背后，还有更多普通人正在饱受抑郁症的困扰，据世界卫生组织，WHO，统计，目前全球范围内大约有3.5亿人患有抑郁症，我国泛抑郁人数已超过9500万人，每10个人中就有1人饱受抑郁症的折磨，此外，抑郁症已成为自杀倾向的最大隐患，据美国国立卫生研究院，U....。
在11月16日举办的谷歌开发者大会上，有关AR技术的内容发布抓住了大量云宇宙关注者的眼球，尽管没有过多明说AR技术与元宇宙的直接关系，但其通过更新AR工具所能够达成的大量成果，对于元宇宙场景的落地都至关重要，一言以蔽之，，真实性，是这次大会上谷歌对AR内容最大的期许，而据雷锋网观察，，真实性，则体现在如下两个方面，一方面，AR需要足以...。
科技界从来不缺神话，经过2016大数据、物联网、人工智能、AR，VR等突破性的洗礼，2017年科技界精彩再续，各类黑科技大招一触即发，3月28日，在深圳，双创周，的举办地深圳软件产业基地，国家高新技术企业神画科技带来了一场盛大的，创·神话，触·梦想，主题发布，搭载基于触控技术而创新性研发出的投影电子白板技术的神画TT系列正式在发布会上...。
2016年9月，国内首台公安智能安保机器人AnBot，中文名，深圳小安，在深圳机场正式上岗，24小时自动巡逻，并配备了电防暴叉、电击枪的深圳小安立刻受到了一众国内外媒体的关注，其实，它还可以进行智能语音交互，回答关于补办身份信息、航班动态等方面的提问，小安的语音交互系统使用的是灵聚智能的技术，深圳小安机器人，成立于2013年6月的...。
近日，库克频繁出现在媒体中，并且先后在深圳和日本等地亮相，而在他近期的讲话中，库克的言行举止均透露出对VR、AR、AI、汽车四个，保密，方向的重视，近日，库克在接受媒体专访时着重讲述了自己对VR和AR的看法，为何更看好AR库克的观点是，相比于虚拟现实VR，增强现实具备增强人类体验的能力，是人感知的延伸，使得它比虚拟现实技术更可能成功，...。
雷锋网AI开发者讯，日前，神经信息处理系统大会，NeurIPS2019，于12月8日至14日在加拿大温哥华举行，中国科学院自动化研究所及其南京人工智能芯片创新研究院联合团队在本次大会的神经网络压缩与加速竞赛，MicroNetChallenge，中获得双料冠军！以模型压缩和加速为代表的深度学习计算优化技术是近几年学术界和工业界最为关注的...。
在具有挑战性的环境中，一些人工智能系统通过利用过去经验所提供的世界表象来实现目标，研究人员将这些应用推广到新的情况，使它们能够在以前从未遇到过的环境中完成任务，事实证明，强化学习——一种使用奖励来推动软件策略朝着目标前进的训练技术——特别适合学习一个总结agent经验的世界模型，并通过扩展来促进新行为的学习，雷锋网消息，近日，来自Go...。
雷锋网AI科技评论按，对于机器学习而言，区分异常数据或有显著差异数据至关重要，谷歌在NeurIPS2019论文中提出并发布了针对基因组序列OOD检测的现实基准数据集，进而提出一种基于似然比的解决方案，可显著提高OOD检测的准确性，AI科技评论将谷歌对该方法的官方解读编译如下，深度学习科学家要成功部署机器学习系统，需要系统能够区分出异常...。
雷锋网AI科技评论按，本文来自德国Fraunhofer协会IAIS研究所的研究科学家MichaelGalkin，他的研究课题主要是把知识图结合到对话AI中，雷锋网AI科技评论全文编译如下，必须承认，图的机器学习，MachineLearningonGraphs，已经成为各大AI顶会的热门话题，NeurIPS当然也不会例外，在NeurIP...。
新智驾按，2019第四届全球人工智能与机器人峰会，CCF，GAIR2019，于深圳正式召开，峰会由中国计算机学会，CCF，主办，雷锋网、香港中文大学，深圳，承办，深圳市人工智能与机器人研究院协办，得到了深圳市政府的大力指导，是国内人工智能和机器人学术界、工业界及投资界三大领域的顶级交流博览盛会，旨在打造国内人工智能领域极具实力的跨界交...。
老乔当年跟写，乔布斯传，的沃尔特·艾萨克森打了个诳语，他说，他已经知道未来电视的出路了，四年之后，这个谜题才被真正解开，关于苹果电视的猜想，原本呼声较高的是苹果会自己出产电视；然而现在，似乎苹果想做的不止于此，他们希望能将原有的苹果机顶盒和最近购得的在线电视服务，实现混合流媒体的大一统，据华盛顿邮报消息指出，苹果将在今年秋季推出最新的...。
2022年整个货运环境对我们卡友十分不利，这个车跑也不是，不跑也不是，国内油价迎来5连涨，还要往上调，运价越来越低，车贷都还不上了，车辆折损、维修保养、保险、检车，都得赔钱，不跑吧，十几甚至几十万的车放在那里，干着急不流汗，3月初，一位卡车司机在抖音账号通过一段视频表达自己今年面临的处境，这绝不仅是这一位卡车司机面临的困境，自20...。
唐尚珺通过打工经历，积累了实际工作经验，并不断提升自己的能力和技能，1、唐尚珺是一位科学家，专业领域是生物学与化学，他的研究领域涉及蛋白质的结构与功能、药物研发、纳米生物材料等方面，因此可以得出结论，唐尚珺并非文科生，而是理科生，具有较强的科学研究能力和理论基础，他曾获得多项科学荣誉与奖项，为科学界做出了杰出的贡献，2、据广西媒体方面...。
伙伴云在做什么，与市面上常见的低代码平台相比，伙伴云在做的是面向企业用户应用门槛更低的零代码平台，这意味着，无需代码开发，使用者就可以几分钟内，真正像搭积木一样，快速拼搭出自己想要的系统模型，尽管现阶段来看，零代码平台的应用场景是相对有限的，无法深入到常见的企业复杂业务系统中，但零代码所代表的理念——不仅是一款工具，而是面向新的协作场...。
唐与日本的友好关系及相互影响，日本在建筑、城市建设、经济制度、皇权思想等方面，都受到唐朝制度文化的深刻影响，唐朝时，国力强盛、文化发达，日本与唐朝保持频繁的友好往来，积极地学习唐朝的文化，促进了其自身的发展；同时也丰富了唐朝的经济文化生活，那时候，唐朝赴日本的使者和僧人也不少，其中最有影响的是高僧鉴真，唐玄宗时，鉴真应日本僧人邀请，东...。
