创新工场南京人工智能研究院执行院长冯霁 联邦学习中的安全问题 (南京创新工场科技有限公司)
近期，创新工场南京人工智能研究院执行院长冯霁做客雷锋网AI金融评论公开课，以“浅析联邦学习中的安全性问题”为题，详尽地讲解了联邦学习的特点、联邦学习的应用和安全防御对策等内容。
以下为冯霁演讲全文内容与精选问答：
今天跟大家简单的汇报，我们对联邦学习中安全性问题的思考。
在介绍联邦学习之前，先简单介绍一下创新工场。
创新工场，是由李开复博士在2009年创办的创投机构，经过10余年的发展，在国内外都颇具影响力。
创新工场的特色之一是设立了创新工场人工智能工程院，开创了独特的VC+AI模式。创新工场人工智能工程院最近针对人工智能系统的安全性和隐私保护方向，做了一点自己的思考，今天和大家做一个简要的技术上的分享。
人工智能系统的安全性问题
这一波（2015年后）人工智能的兴起，使得人工智能逐渐从低风险的应用，比如判断一封邮件是否是废品邮件，转向了高风险应用，比如自动驾驶、无人机、还有重度依赖人工智能技术的金融投资、投顾等领域。
一旦这些人工智能系统出现了偏差甚至错误，它所带来的损失不仅仅是巨额的财产，还有可能是生命。
但是，一个核心的问题是，人工智能领域涉及到的安全问题，和传统的软件工程安全问题，是否存在本质的不同？我们能否继续使用传统的攻防工具，对人工智能系统进行安全分析？
这就需要谈到软件1.0和软件2.0的概念。
我们认为在这一轮的人工智能兴起之后，整个软件工程也产生了一个范式的转变。
在传统的软件工程中，工程师会搭建一个系统，构建一个基于规则的程序，输入数据后，计算机会给出确定性的输出。这是软件1.0时代的特征。
而随着这一波人工智能的兴起，诞生了一个新的软件工程开发范式，程序是由数据驱动的方式，利用人工智能算法自动产生的，这从软件工程角度来看，是一个相当本质的改变，有人称之为软件2.0时代。
因此，在软件工程1.0时代的一系列安全分析，漏洞分析的手段，到了软件2.0时代不再适用。软件工程范式的改变，带来了全新的安全问题。
目前针对人工智能系统的攻击，可以分成两大类。一类是测试阶段攻击，一类是训练阶段攻击。
测试阶段攻击
训练阶段攻击发生在AI模型训练之前，测试阶段攻击针对是已训练好的AI模型。我们先看测试阶段攻击。
测试阶段的攻击，大家见的最多的一类，也对抗样本。
左边的这张图拍的是大熊猫的照片，当攻击者知道这个图像分类模型的所有参数后，就可以根据模型的参数，精心设计出干扰“噪声”（中间的图）。
把噪声叠加在左图，形成右图。虽然我们用肉眼看到的右图和左图一模一样，但图像分类模型会把右图的熊猫错认为另一种生物。这个过程就是所谓的对抗样本攻击。
对抗样本不仅仅可用于电脑储存的数字图像，还可以应用在真实的物理环境中。
比如对交通的路牌做微小的改动，就可能让自动驾驶汽车在行驶过程中因为不能正确识别，而做出错误的行动。再比如用3D打印技术设计出一只乌龟，在乌龟的纹理上做对抗样本的叠加，模型会认为这是一个其他物种。
对抗样本并不神秘，学术界认为它攻击原理的本质就是由于我们的输入样本在一个非常高维的空间中。而通过机器学习模型学习出来的决策边界，在高维空间中是高度非线性的。
对抗样本在这些高度非线性的角色边界附近产生了一个扰动，扰动就会让模型从分类一误判为分类二（如上图）。但它们在视觉上很难区分。
刚才讲的对抗样本，从另一个角度来看，是白盒攻击。意思是攻击者需要提前知道AI模型的所有参数信息。
黑盒攻击，是另一种测试阶段攻击，攻击者对指定模型的参数未知，只知道模型的输入输出，这种情况下依旧想产生特定的对抗样本，很明显黑盒攻击的难度更大。
怎样才能让黑盒攻击，做到和白盒攻击一样的效果呢？对此，目前常见的攻击思路有两大方向：
黑盒攻击的第一大方向，是利用对抗样本的普适性。
虽然准备攻击的对象的模型和参数不知道，但是我们可以找一个已知的模型，比如说VGG，或者ResNet（残差网络），来做一个对抗样本。
我们的核心假设是如果这个对抗样本能哄骗已知的模型，也就能哄骗云端（黑盒）的分类器， 2016年有人做过一个的工作，用不同的神经网络架构产生相应的对抗样本，去哄骗其他的结构。实验的结果证明了，这个假设是合理的。
怎样加强这种对抗样本的普适性？
首先是在训练替代模型时，对数据进行增广，其次是利用集成方法，如果它能成功的攻击多个已知的白盒的模型的集成，那么攻击一个黑盒的API，成功率就会高一些。
黑盒攻击的第二个方向，是基于查询的逆向猜测，目前有一些云服务，返回时显示的不仅仅是一个标签，还包括了某一个类别的概率的分布的向量。
这个分布向量包含了关于模型本身非常多的知识。我们可以让这个模型标注足够多的样本，然后训练一个本地模型，模拟云端模型的行为。由于本地模型是白盒的，利用现有白盒攻击算法，针对本地模型产生对抗样本，再由于普适性，该样本对云端黑盒模型往往同样有效。
这件事情的关键，是训练一个本地的模型，该模型能够模仿黑盒模型的行为。有点像吸星大法。学术界Hinton等人提出的知识蒸馏，以及更早的周志华教授提出的二次学习，本质都是在干这件事情。
我们也可以用遗传算法，改变输入样本的像素的值，每次改变一点点，就访问一下云端的API。用这种方式，我们就能慢慢地收到一个可以哄骗云端的对抗样本。
训练阶段攻击
刚刚讲的，是测试阶段攻击。下面讲，训练阶段攻击。
训练阶段攻击，发生在模型产生之前。比如说经典的训练阶段攻击是数据下毒，目标是改动尽可能少的训练数据，使得训练后的模型，在干净测试集上表现尽可能差。
最近我们和南大周志华教授合作，提出了一个新的范式，我们叫毒化训练（参见Learning to Confuse: Generating Training Time Adversarial>
毒化训练，从流程来看就是这样，针对一个训练集，需要用一个函数在训练集上做某种程度上的扰动。
然后任意一个模型，在毒化后的训练集上做完训练后，它在面临一个干净的测试样本的时候，每次的预测都是错误。
那么这里的关键就是如何得到下毒的函数g，在Deep Confuse这篇文章中，我们用了一类特殊自编码器。自编码器是非常经典的，从输入到同输入空间中的映射。去噪自编码器，能做到噪音样本经过编码和解码这两个步骤，把原始有噪音的样本去噪。
这个算法把去噪自编码器逆向使用，让自编码器学习出如何增加毒化噪声（而不是降噪）。
这里就涉及到了算法的第二个核心思想：
我们需要同时训练一个假想的分类器和一个我们想要的加噪自编码器。通过记录假想分类器在训练过程中更新的轨迹，反向的更新毒化噪声器的参数。
举例来说，我们观察一个人学习的过程，然后根据这个人学习书本的轨迹，修改书本的知识。我最终希望他学完这本书后，每学一步都是错的，每一步我们都稍微修改了一点点。通过劫持一个正常分类器的学习轨迹，我们教会了加噪自编码器如何下毒。
效果是明显的，如上图所示，abc中的三张图，第一行都是原图，第二行都是毒化后的图片，从视觉上看，我们很难看出不同。
但是对于分类器来说，在毒化后的数据集上训练的分类器，面临干净样本的时候，正确率降低到了完全不可用，正常图像数据基本都不能正确的被识别。
毒化样本也存在普适性，我们针对于不同的网络架构（VGG、ResNet、Dense）做了一些实验。
这三个不同的网络架构，在相同的毒化训练集上，预测准确度都会有一个非常明显的下降。
当然，毒化训练，不是只能干坏事，它也能做好事。
毒化训练，可以用来保护公司的知识产权。比如医院，如果想去发布一些训练集，但又担心第三方用发布后的数据进行商业活动。作为数据的发布方，可以将想要发布的训练集毒化，让第三方不能随意对这些数据进行商业运作。
下面讲联邦学习。
联邦学习，我的理解是，他本质上是下一代分布式机器学习系统。它本质上是一个分布式的架构，在这种分布式的架构下，它具备传统分布式平台不具备的隐私保护的功能。
联邦学习有三个显著特点。
第一个特点是刚才提到的隐私保护。由于训练数据不会出本地，联邦学习满足欧盟的GDPR法案（通用数据保护条例）等各类隐私。
第二个特点是端部定制。
联邦学习在边缘计算中前景巨大。
根据联邦学习算法的特点，我们如果在边缘计算的过程中，比如说我们在可穿戴的医疗设备中，这个模型不仅保护了本地数据，跟云端的大模型相比，它还自适应的去满足基于本地数据的个性化需求。每个人对医疗设备的需求是不一样的，我们可以根据不同数据的输入分布，做一个端部的定制化。这非常具有商业价值。
第三个特点是大家熟悉的协同合作，在不同机构之间，比如一家电商网站和一家银行之间的合作。在联盟学习没有推出之前，这件事情可能在技术上不可行，而在联邦学习推出之后，这件事情可以做到。
联邦学习的应用可分成四大类。
第一，是基于政府的联邦学习应用。这类应用主要是因为法律法规或者政策性的要求，催生的AI服务。
第二类，是基于企业的联邦学习应用。部分大型机构内部之间的数据不能进行直接的交换。
第三类，消费端的联邦学习应用，更多的是针对于边缘计算或者定制化。
2C端，更多和边跟边缘计算有关；而2B端，更强调联邦学习的协同能力。
当然也可以做把2B、2C混合着做，统称混合型联邦学习应用。
在联邦学习的分布式场景下，安全的问题更加需要研究，因为攻击者攻击的可能更多。
比如攻击者所了解的先验知识会更多，要么是知道某一方的数据，要么知道某一方的模型。不需要知道所有方的数据和模型，攻击者就能做出攻击。
攻击者的目的也更为多样，他可能只针对于某一方进行攻击，也可能把整个联邦后的结果都进行攻击。不管如何，被攻击者所面临的场景矩阵都会更加复杂。
针对联邦学习的攻击的方式可以分为三类。
第一类是黑/白盒攻击，攻击者获得模型参数（白盒），或者通过API进行访问（黑盒）。黑/白盒攻击具有普适性，和联邦学习关系较小。刚才提到的各类黑盒白盒攻击，在联邦学习场景下依旧适用。
第二类是信道攻击。
如果攻击者侵入了训练过程中的通信系统，他只能够监听到本地的小模型跟中央的Server之间的梯度更新的信号，我们能不能做一些事情？
上图基于对抗生成网络，如果你有相应的梯度更新的方向，这篇工作告诉我们，目前技术上能够高保真的还原出对应的样本。怎么防御呢？
目前，我们已经有了的防御方案，比如对梯度参数信息进行同态加密，能够以非常高的概率防御这一类的信道攻击。
最后一类是数据攻击，也就是刚才提到的毒化训练，数据下毒。
联邦学习场景下，毒化训练的核心问题是，仅仅毒化个别数据库（而不是所有数据），是否可以依旧破坏模型的准确度？
例如如果我们只得到了30%的数据，毒化训练的算法有没有效，需要实验验证。
在多方联邦学习场景下，我们用CIFAR10的数据来分别毒化不同比例的本地数据库，观测毒化的效果。
如上图显示，不管是两方学习、三方学习还是四方学习，不管我们攻击了一方、两方、三方还是把所有数据都攻击，性能都会降低。
当然你攻击的联邦学习的参与方越多，攻击的成功率和攻击的显著性就会越高。
安全防御，是一件非常困难的事情。
做一个坏人很容易，做好人却很难。坏人，只需要攻击一个点，攻击成功了，攻击的算法就有效。如果做防御，你需要对所有潜在的攻击都做保护。
我简单介绍三类不同的防御思路。
第一类就是刚才提到的，基于信道的攻击。用同态加密或者多方安全计算，能够解决信道攻击。
第二种思路，即鲁棒性机器学习。其实在深度学习之前，学术界就有非常大量的鲁棒性机器学习研究。
第三种思路是对抗训练和联邦对抗训练。
对抗训练是鲁棒性机器学习的一个分支。对于每一个样本点，在围绕这个样本点的附近，都能够有一个非常好的性能。通过这种方式来避开在高维空间决策边界中样本的一些扰动。在联盟学习场景下，我们仍然需要开发一些新的、可以规模化的对抗训练算法。
目前对抗训练是一个非常好的技术，但是它在面临海量训练集的任务的时候，很难形成规模化。这是我们从算法上设计更好实现安全防御的三种对策。
时间有限，今天就和大家介绍这么多，谢谢。
互动问答精选
Q1: 为什么说毒化后的样本，可以防止成为不好的用途？
冯霁： 当你把要发布的数据进行某种程度上的毒化，第三方因为不知道你如何毒化的，所以他就没有办法拿你的数据做你不想让他去做的一些场景和商业落地行为。
Q2: 为什么四方学习的原始数据，准确度比两方的低很多。
冯霁： 下毒的训练集越少，没有毒的训练集越多，下毒的能力就越少。
最极端的例子是，如果你有100万个样本，你只改了一个样本，训练之后，你对模型的操控的能力跟操控的幅度就会更小。
Q3: 最近有银行和医疗公司泄露数据的情况发生，联邦学习现在的成熟度，足够应对这些情况吗？
冯霁： 泄露数据的原因比较多，联邦学习是能够从算法上和技术上防止数据的泄漏。
如果因为业务方本身或者其他原因导致的数据泄露，那么这就不是一个技术问题，也就不是联邦学习所能够解决的领域和范畴了。
Q4：原始数据是指毒化前的数，如何应对非iid场景下的毒化攻击。
冯霁： 在iid场景下进行毒化攻击，都很难。毒化攻击这件事情本身和这个样本是不是iid没有多大关系。
只能说，如果样本是iid的话，对于一些分类任务它是能更好毒化的。
Q5: 联邦学习和区块链有什么不一样？
冯霁： 不太一样。
联邦学习更多的是一个分布式的机器学习平台，而区块链更多的是在做一个去中心化的、可靠且不受干扰的信任机制。
Q6: 无人车怎样防范错误的识别图像？
冯霁： 有人专门做过实验，检验目前商用的无人车是否能识别毒化后的数据或者图片。
当我们把路牌的进行处理会发现，目前现有的、比较成熟的无人车视觉系统都会做出相应的误判。
无人车公司需要在这一类高风险模型的训练过程中利用到对抗训练，增强模型的鲁棒性。
Q7: 联邦学习会导致隐私泄露吗？
冯霁： 联邦学习是一个保护隐私的、分布式的机器学习平台。在这个框架下，我们可泄露的东西非常少。
当参数被加过密，信道在通信的过程中，也是监听无效的。我觉得唯一需要注意的是刚才提到的毒化训练。
联邦学习的数据不仅仅要不能出狱，同时在不出狱的同时，你还要保证别人也不能看到。
如果你的数据在不出狱的前提下，能够被第三方进行某种程度的修改，那么这也能给这个系统带来隐患。
Q8: 如何平衡联邦学习的效率和安全？
冯霁： 这其实是一个商业问题。
我们希望在未来，能够在可异性和隐私保护之间寻求一个平衡点。
这个平衡点，我们认为跟产品本身有关。
有的产品是受到法律强制性约束的，它基本上是是没有可平衡余地的。
对于不受法律严格约束的应用场景，我们认为应该把这个选择的权利交给用户。
用户想要一个更强的隐私保护，效益就会差一些；用户希望效率更高，那么隐私的保护可能就会弱一些。这个选择的权利不应该只让产品经理决定，而更应该交给用户。（雷锋网）
雷锋网
原创文章，未经授权禁止转载。详情见 转载须知 。
保定市民科环境检测有限公司创建于2003年10月份，依法注资500万元，地处具有古城之称的河北保定，位于繁荣的商务中心地段，环境优雅卓越，办公设施正规齐全，实验设备先进一流，是一家长期致力于环境（水、土壤、噪声、大气、固废、污染源）、辐射、油气回收、职业卫生评价等以检测为主的具有独立法人地位的股份
我公司是广东广州一家敬业的广州丰田打包带厂家运输制造商，公司主营广州丰田打包带厂家、丰田打包带厂家批发、丰田打包带批发价格。主要业务范围为北京，天津，河北，山西，内蒙古，辽宁，吉林，黑龙江，上海，江苏，我们将为您提供优质的服务，欢迎垂询。
佛山市鑫梦莱陶瓷有限公司专注于生产高质量的陶瓷产品，主要产品系列包括大理石砖和素色砖。
金华市亿途网络科技有限公司专注于为客户提供网站建设、手机APP应用开发、电子商务购物网站、微信营销、品牌策划设计、网络营销、域名注册、企业邮箱、虚拟主机、服务器托管等互联网应用服务，从市场角度出发，立足于客户需求，帮助产品展示良好的视觉形象，提升网络宣传力度，提高市场竞争力，树立企业良好形象 亿途拒绝制作任何一个不完美的作品，始终坚持以客户为中心、以技术为基础、以创新为目标、以质量为生存、 以诚信求发展，对待每一个任务都付出十一分的努力，尽善尽美，不断在技术和应用领域进行创新和突破，努力将产品服务提升到国际化水平，并以拥有自己的核心技术、高新技术和创新精神为自己的永远追求，乘风破浪，扬帆起航，开辟新征程。
河南红星机器专业生产颚式破碎机,移动破碎站,制砂机,反击破,锤破等破碎制砂设备,型号齐全,现货供应,价格优惠
天津市梦之缘软体家具有限公司天津床垫批发厂家,量身订做会所专用床垫,酒店专用床垫,天然乳胶床垫,弹簧软床垫,天津床垫厂家,天津床垫订做：022-29615988
总部设立于北京，作为专业的商业地产运营商，专注于全价值链过程管理，旨在为委托方提供全方位资产管理服务，通过专业化、高效率的商业资产管理，不断提升商业资产价值。
江苏盛矽电子科技有限公司是一家集科研、生产、销售为一体的国家高新技术企业。公司结合实际生产需求，立足于自身发展优势，致力于打造千级无尘生产车间及公用系统、研发中心、检测中心等配套机构。
湖北赛格尔市政工程有限公司是一家具有土建施工、市政工程、设备安装、房地产开发、装饰装潢、钢结构等一系列综合生产能力的经营体系，多元化的经营，使公司的主业与非主业之间形成了相互带动、相互促进、相得益彰的良性发展格局。
提供湖北武汉,鄂州,孝感,咸宁,黄冈,宜昌,恩施,黄石,襄樊,荆州,十堰,随州,仙桃,潜江,天门商业地面,停车场地面,小区通道,人行道,城市绿道,市政园林公园广场和学校地面系统解决方案
质量时评网,质量时评网是一个专注于质量评价与分析的专业网站，通过对各行业和领域的质量问题进行研究与观察，撰写权威的质量评论和报告，为读者提供深度、独立和客观的质量时评文章和有价值的质量观察。,全国政务信息一体化应用平台
银川鲜花店不掉单,不漏单,,宁夏鲜花连锁,送全城?专注鲜花经营12年?诚信.高效为你传情达意,支持多种支付方式,优惠价格,银川市订花网络送花极速到达,大气,送花到银川提供本地及全国订花送花,银川鲜花保质保量,银川送鲜花专人配送，服务周到。
导读，农夫养了一只小羊，想给它吃各种不同营养成分的草料，需要去各地收集草料再运送回来喂它，但是有一天，草料场担心，熟客，农夫暴露他们的商业机密，不再允许将草料向外运输了，农夫非常着急，怎么办好呢，苦苦思考后，农夫想了个法子，带小羊到各个草场吃草，羊在各地移动，而草料不出本地，草料场既不用担心商业机密暴露，小羊也能健康成长，如果把草料换...。
传45亿条个人信息泄露，圆通回应称情况正在核实2月15日消息，据中证报，快递股昨日出现闪崩，圆通速递跌幅近7%，消息面上，安恒信息在其官方微信公众号发布，不要泄露，疑似45亿条国内个人信息泄露背后的数据安全账，文章，该文称，2月12日晚，Telegran各大频道突然大面积转发某隐私查询机器人链接，网传消息称该机器人泄露了国内45亿条个...。
今年阿里主办的杭州云栖大会上，含光芯片霸占了朋友圈，3任阿里云掌门人同台纵论，10大AI男团也顺势进入众多开发者的视野，除却这些火爆的技术名词及营造的故事，我看到一种趋势更加明显，数字政府成为一种共识，往年只有企业在讲，今年政府官员也主动走上了云栖大会的舞台，将政府改革力度与决心，和盘托出，城市大脑、数据中台、数据安全、共享平资源池...。
3月24日，中国计算机学会技术前线委员会，CCFTF，将于深圳大学科技楼二号报告厅召开主题为，联邦学习，FederatedMachineLearning，技术及数据隐私保护，的第14期中国计算机学会技术前线研讨会，届时，将会有多位业内资深专家莅临现场围绕，联邦学习，这一主题做特邀报告，人工智能经过漫长发展，近些年成功突破技术与算力上...。
雷锋网AI科技评论按，3月24日，由CCF主办、微众银行和深圳大学微众金融科技研究院协办的第14期中国计算机学会技术前线研讨会于深圳大学科技楼二号报告厅圆满召开，研讨会的主题为，联邦学习，FederatedMachineLearning，技术及数据隐私保护，本次研讨会由微众银行首席AI官、香港科技大学杨强教授主持，同时，杨强教授还...。
安全是最大的豪华，隐私是至上的尊贵，余承东的名言，并非仅，遥遥领先，一句，随着智能汽车时代的到来，车辆的定义已然发生了变化，汽车不再仅仅是出行工具，而是成为了如手机一般的数字产品，数据安全，也成为用户购车时考虑的重要因素之一，广州日报，发起的一项针对智能车的调研显示，除了品牌、外观、价格、续航因素，43%的用户已将系统安全性，数...。
一年一度的AI产业盛会——世界人工智能大会刚刚落下帷幕，据不完全统计，三天会期间，有10余场围绕AI伦理、可持续发展相关的主题论坛，其中，近半数，都涉及可信AI，如何落实为AI立信、为技术立规，成为既原则与政策之后，新的伦理热点话题，本届WAIC上，商汤正式发布，平衡发展，的人工智能治理白皮书——商汤人工智能伦理与治理年度报告，20...。
3月10日，绿盟科技2023合作伙伴大会在成都盛大召开，大会以，聚以致远共筑新程，为主题，与合作伙伴共同探讨网络安全行业市场新机遇，绿盟科技集团总裁胡忠华在致辞中表示，国家关于网络安全的政策方针大幅趋好，各行各业数字化转型的深入催生了更广泛的安全需求，政务安全、工业安全、行业安全、城市安全等业务场景越来越丰富，云安全、数据安全等技术场...。
黑产当前最大的危害就是电信诈骗，，360手机卫士安全运营负责人葛健在近日北大学堂&，奇虎360联合举办的以，数据安全治理技术演进之路，为主题的直播中表示，，2020年全年，360手机卫士共接到举报2656起，其中诈骗类1340起，被骗总金额高达1520.2万元，人均损失11345元，身份冒充类人均损失最高约2.5万元，被害对象...。
刚刚，中国信息安全测评中心正式公布2023年安全可靠测评结果，腾讯云数据库TDSQL获得安全可靠等级，I级，据了解，安全可靠测评通过对产品及其研发单位的核心技术、安全保障、供应链安全、持续发展等方面开展评估，评定产品的安全性和可持续性，实现对产品研发设计、生产制造、供应保障、售后维护等全生命周期安全可靠性的综合度量和客观评价，这也标...。
将最珍贵、最值钱的东西用什么锁住，是我们不知道从哪一辈祖先那里习得的行为，当然，也许是从锁的诞生开始，图片来源，搜狐所有者，搜狐，现在，世面上的锁越来越高级和复杂，但是，我们也遇到了更难保存和保密的财富——数据，给数据上锁可能是更难的事情，数据跟普通的物品最大的不同是，它在被人使用的过程中有可能很容易就被复制，而它的，分身，与正主可...。
雷锋网消息，国产半导体设备厂商凌波微步半导体科技，以下简称，凌波微步，近日宣布完成数千万A轮融资，本次融资由创新工场独家投资，凌波微步成立于2020年，是一家专注自主研发、生产和销售半导体封装设备及提供解决方案的半导体封装设备制造商，主要生产传统封装引线键合过程中所使用到的IC球焊设备，对标国际厂商美国K&，S、荷兰ASM和日...。
五年来，东方神盾加盟品牌不但专注于产品技术的研发、更加注重于终端市场的开发，完完全全站在代理商的立场，设身于代理商的处境不断摸索、总结各种营销方法，那么东方神盾加盟有什么条件呢，首先是对经营者个人素质的要求，智慧之选者应该有较高的经营管理和市场运作能力；强烈的品牌意识和服务理念；能主动配合公司总部互动培训和规范管理；致力于专心用心经营...。
我们有时候很羡慕那些做国内市场的卖家，他们的回款速度非常快，从事跨境电商多年的华南城卖家王浩说道，他调侃，跨境电商已经变成了一个重资产的行业，，很多中小卖家手里基本都压着200万左右的库存，这种现象非常普遍，一位资深的前速卖通招商小二也曾告诉笔者，，成熟的跨境卖家一直是同一拨人，没什么新鲜血液进来，因为门槛太高，最大的门槛就在...。
9月17日，2022年医学人工智能大会，CMAI2022，暨第二届，中国医学学术期刊发展，高端论坛将于线上举办，本次高峰论坛邀请了顶尖医院的放射科主任及人工智能技术的权威专家，论坛由，Research，、，中国图象图形学报，、，RadiologyofInfectiousDiseases，、，协和医学杂志，、，磁共振成像，、，Intel...。
本教程提供两种方法，①免U盘安装；②U盘安装您可以选择适合自身设备情况的方法，若方法无效，可能和设备的系统版本有关，您可在教程下方留言，等待新方法的更新，方法二，U盘安装，为通用方法，1、U盘接入电脑后，点击，立即下载，，把软件安装包下载并拷贝到U盘中，2、将U盘连接天猫精灵小红盒Pro的USB接口，等待检测到外接设备，选择，应用，，...。
是的，PS软件有不要钱版本可供经常使用，Adobe官网提供了一个名为PhotoshopExpress的不要钱版本，它可以在手机、平板电脑或PC上经常使用，该不要钱版本提供了多种编辑配置，包括修剪、旋转、照片滤镜和文字等，可以协助你极速成功图片的基本解决成果，此外，还可以在AdobeCreativeCloud高低载PhotoshopEl...。
