自动调整超参数 谷歌 图表示学习最新成果 解决重叠区域描述难题 AI (超参数调节)
雷锋网 AI 科技评论按，表示实体之间关系的关系数据在网络（如在线社交网络）和物理世界（如蛋白质交互网络）中随处可见。这些数据可以表示为一个带有节点（如用户、蛋白质）和连接它们的边（如社交网络中的朋友关系、蛋白质之间的相互作用）的图。
不久前，谷歌 AI 发布了一篇博文，介绍了他们在图 embedding 上面的两篇论文成果。其中，其中一篇论文解决了如何更好地描述具有重叠区域的网络，第二篇论文解决了图 embedding 中超参数调整的基本问题。雷锋网 AI 科技评论将他们的博文编译如下。
考虑到图的广泛流行，图分析在机器学习中起着基础性的作用，在集群、关系预测、隐私和其他方面都有应用。要将机器学习方法应用于图（例如，预测新的友谊，或发现未知的蛋白质相互作用），需要学习一种可用于 ML 算法的图形表示。
然而，图本质上是由离散部分（如节点和边）组成的组合结构，而许多常见的 ML 方法（如神经网络）更倾向于连续结构，特别是向量表示。矢量表示在神经网络中特别重要，因为它们可以直接用作输入层。为了解决在 ML 中使用离散图表示困难的问题，图嵌入方法为图学习一个连续的向量空间，将图中的每个节点或边分配给向量空间中的特定位置。在这一领域，一种流行的方法是基于随机移走的表示学习，正如在 DeepWalk 中引入的一样。
左图：代表社交网络的著名 Karate 图表。右图：使用 DeepWalk 在图中连续嵌入节点的空间。
在这里，我们展示了最近两篇关于图 embedding 的论文的结果：The web conference 2019 会议论文「 Is a Single Embedding Enough? Learning Node Representations that Capture Multiple Social Contexts 」和 Neurips' 2018 论文「 Watch Your Step: Learning Node Embeddings via Graph Attention 」。第一篇文章介绍了一种新颖的技术来学习每个节点的多个嵌入，从而能够更好地描述具有重叠区域的网络。第二个问题解决了图嵌入中超参数调整的基本问题，使人们可以轻松地部署图嵌入方法。我们也很高兴地宣布，我们已经在 Google Research Github 图嵌入库中发布了这两篇论文的代码。
学习节点表示，捕获多个社交背景
在几乎所有情况下，标准图嵌入方法的关键假设是必须为每个节点学习单个嵌入。因此，嵌入方法的作用可以认为是识别在图的几何图形中，表征每个节点的单个角色或位置。然而，最近的研究发现，真实社区中的节点属于多个重叠的区域，扮演着多个角色。想想你的社交网络，在那里你既参与到你的家庭社区中，又参与到你的工作社区中。这引发了以下问题：是否有可能开发将节点嵌入多个向量中，表示它们参与重叠的区域的方法？
在我们的 The web conference 2019 论文中，我们开发了 Splitter，这是一种无监督的嵌入方法，允许图中的节点具有多个嵌入，以便更好地表示它们在多个社区中的参与。我们的方法是基于最近在基于 ego-network 分析的重叠聚类中的创新，特别是使用了人物图概念。该方法获取一个图 G，并创建一个新的图 P（称为角色图），其中 G 中的每个节点都由一系列称为角色节点的副本表示。节点的每个角色表示它所属的本地社区中节点的实例。对于图中的每个节点 U，我们分析节点的 ego-network（即连接节点与其邻居的图，在本例中是 A、B、C、D），以发现节点所属的本地社区。例如，在下图中，节点 U 属于两个社区：集群 1（与 A 和 B 一起，表示 U 的家人）和集群 2（与 C 和 D 一起，表示 U 的同事）。
节点 U 的 ego-net
然后，我们使用这些信息将节点 U「分割」为两个角色 U1（家庭角色）和 U2（工作角色）。这将两个社区分离开来，使它们不再重叠。
ego-splitting 将两个角色中的 U 节点分离
该技术已被用于改善图形嵌入方法中的最新结果。这种改进的关键原因是该方法能够消除社交网络和其他现实世界的图中高度重叠的社区的歧义。我们进一步通过对作者所属的重叠研究群体（如机器学习和数据挖掘）的合作关系图的深入分析来验证这一结果。
左上角：具有高度重叠社区的典型图。右上角：使用 node2vec 在左侧 embedding 图的传统方法。左下角：上图中的角色图。右下角：角色图的拆分器 embedding。
通过图注意力自动调整超参数
图 embedding 方法在各种基于 ML 的应用程序上表现出了突出的性能，但它们有许多必须手动设置的超参数。例如，在学习 embedding 时，附近的节点比远处的节点更重要吗？即使专家可以微调这些超参数，但他们必须对每个图单独进行调整。为了避免这种手工操作，在第二篇论文中，我们提出了一种自动学习最优超参数的方法。
具体来说，许多图 embedding 方法，如 DeepWalk 等，都采用随机移走来探索给定节点周围的上下文（即直接邻居、邻居的邻居等）。这样的随机移走可以有许多超参数，允许调整图的局部搜索，从而调节 embedding 到附近节点的注意力。不同的图可能会呈现不同的最佳注意力模式，因此会呈现不同的最佳超参数（见下图，其中我们展示了两种不同的注意力分布）。
我们的新方法自动进行超参数调整，注意你的步骤，使用注意力模型来学习不同图的上下文分布。上面显示的是两个关于中心节点（黄色）和上下文分布（红色渐变）的示例，由模型学习得来。左边的图显示了一个更分散的注意力模型，而右边的分布显示了一个集中在直接邻居上的模型。
这项工作属于日益壮大的 AutoML 家族，我们希望减轻优化超参数的负担，这是实际机器学习中的一个常见问题。许多 AutoML 方法都使用神经结构搜索。本文给出了一个变量，我们使用 embedding 中超参数与图论矩阵公式之间的数学关系。「Auto」部分对应于通过反向传播学习图的超参数。
我们相信，我们的贡献将进一步推进图 embedding 的研究现状。我们学习多节点 embedding 的方法在丰富和深入研究的重叠社区检测领域中起到了一定的作用。我们相信后一种图 embedding 方法将为今后的研究带来丰硕的成果。这一领域的一个开放性问题是使用多种 embedding 方法进行分类。此外，我们在学习超参数方面的贡献将减少昂贵的手动调优工作，促进图 embedding 的研究。我们希望这些论文和 代码 的发布将有助于推动这些研究。
如果想要了解更多信息，请访问我们的主页！
via：
版权文章，未经授权禁止转载。详情见 转载须知 。
手机欢乐派对泡泡龙在线玩,欢乐派对泡泡龙html5游戏绿色森林里办起了派对，我们的主角打算再今晚的派对上精彩亮相，这不她正准备利用发射泡泡到达森林，希望这样可以快点见到自己的好朋友，当然在发射泡泡的过程中，我们的主角呼呼也不会忘记搜集树叶的啦。;您可以免费在线玩。
武汉三新职业技术学校
唐山铭丰家具厂,唐山家具厂,唐山家具公司,
山东华霖钢泰金属制品有限公司欢迎咨询：152-5141-6555主营合金方管厂,c276方管,25crmo4方管,进口标准方管等产品,专业生产销售,十年大品牌,以品质取胜,靠信誉固基,合作供赢,欢迎点击咨询.
科学仪器网依托拓赫集团成熟的供应链体系、专业背景及资本后盾，向中国地区客户提供数十万种实验室工产品.提供专业的实验仪器，生物耗材方案。欢迎联系：400-188-1717
山东大众展览集团.济南展会搭建公司（电话：13335107001）是一家专业展览设计制作机构，大众展览集团把创新做为企业的灵魂，把诚信做为企业的基石，把服务做为企业的血液，随着展览展示行业的迅速发展，竞争日趋激烈，我公司现拥有独立工厂设计师及专业的执行队伍，以其良好的职业素养积累了稳定的客户群体，同时形成了高水准的客户服务体系，我们可随时为有需求的客户提供适宜的设计方案、严谨的搭建工程以及完善的系统化服务。
无锡应步科技有限公司现主要产品是：氦气试漏机、气密性检漏仪、气体测漏设备、非标定制设备、自动化装配线。公司拥有一批多年从事自动化设备、气密测漏设备设计、制造的专业工程师。雄厚的技术实力，先进的制造工艺，优质的售后服务能给用户提供全方位的技术解决
中航未来集团是一家集教育投资、教育培训、教育开发、教学产品研发、教育管理、实训实习、校企合作、职业教育、实体办学、教育服务、教育扶贫、就业服务等于一体的大型综合性教育科技集团，目前以航空职业教育为核心，主要致力于职业教育（现代服务、未来科技）、国际教育、人力资源、创新产业以及通航产业的发展与合作。 截至目前，中航未来集团已经在全国与200余所院校开展合作项目，在职员工及专兼职教师1000多人，累计培训学员200000余人次。
重庆通瑞主营真空滤油机,液压油滤油机,绝缘油滤油机,变压器透平油滤油机,润滑油滤油机,汽轮机油滤油机,抗燃油滤油机厂家,,服务至上,具有多年滤油机生产经验的批发价格合理已通过ISO质量体系认证,售后有保障.欢迎来电咨询！
中核仪表多年来一直致力于研发和生产水务领域仪器仪表,为水务行业提供进口品质国产价格的在线仪表产品,主要生产污染源监测仪表_自来水监测仪表_管网监测仪表_过程控制仪表等产品。联系电话：13129987217
资深专业品牌酒店设计20年，执着于原创设计，深耕于中国传统文化，精通于传统风水堪舆学的场景应用 关注于人类生存环境，致力于将低碳、可再生、可循环的设计理念运用在每一个项目中，为人类的未来尽微博之力 ...
茶馆app
抑郁症，似乎离我们很近又很远，我们会在社交网络上得知名人抑郁自杀的消息，但殊不知在他们背后，还有更多普通人正在饱受抑郁症的困扰，据世界卫生组织，WHO，统计，目前全球范围内大约有3.5亿人患有抑郁症，我国泛抑郁人数已超过9500万人，每10个人中就有1人饱受抑郁症的折磨，此外，抑郁症已成为自杀倾向的最大隐患，据美国国立卫生研究院，U....。
在11月16日举办的谷歌开发者大会上，有关AR技术的内容发布抓住了大量云宇宙关注者的眼球，尽管没有过多明说AR技术与元宇宙的直接关系，但其通过更新AR工具所能够达成的大量成果，对于元宇宙场景的落地都至关重要，一言以蔽之，，真实性，是这次大会上谷歌对AR内容最大的期许，而据雷锋网观察，，真实性，则体现在如下两个方面，一方面，AR需要足以...。
在具有挑战性的环境中，一些人工智能系统通过利用过去经验所提供的世界表象来实现目标，研究人员将这些应用推广到新的情况，使它们能够在以前从未遇到过的环境中完成任务，事实证明，强化学习——一种使用奖励来推动软件策略朝着目标前进的训练技术——特别适合学习一个总结agent经验的世界模型，并通过扩展来促进新行为的学习，雷锋网消息，近日，来自Go...。
雷锋网AI科技评论按，对于机器学习而言，区分异常数据或有显著差异数据至关重要，谷歌在NeurIPS2019论文中提出并发布了针对基因组序列OOD检测的现实基准数据集，进而提出一种基于似然比的解决方案，可显著提高OOD检测的准确性，AI科技评论将谷歌对该方法的官方解读编译如下，深度学习科学家要成功部署机器学习系统，需要系统能够区分出异常...。
通过使用优化的数据增强方法，在CIFAR，10、CIFAR，100、SVHN和ImageNet上得到了目前最好的结果，您可以从这里找到和使用它们，在ImageNet上得到的最好的增强效果，源自，https，arxiv.org，abs，1805.09501v1AutoML——使用机器学习来改进机器学习设计，如体系结构或优化器，的想法...。
雷锋网AI科技评论按，今日，谷歌分享了SemanticExperiences，在博客中展示了两大关于自然语言理解的互动工具，TalktoBooks是一个可以从书中的句子层面搜索书籍的全新检索模式；另一个互动内容则是Semantris，一个由机器学习驱动的单词联想游戏，地址，https，research.google.com，sem...。
雷锋网AI科技评论按，在GoogleI，O2018上，除了Google助手给餐馆打电话的场景赢得现场观众的喝彩外，在用户写邮件时可预测下一句的SmartCompose技术同样也引得众人欢呼，近期，谷歌大脑团队首席软件工程师YonghuiWu在GoogleAIPo出了这篇详细介绍SmartCompose原理的博文，雷锋网AI科技评论将其...。
消息，12月24日，T，Mobile、Meta、Twitter、Pinterest和iHeartRadio等公司宣布，将不会参加2022年度拉斯维加斯博览会，其主要技术也不会在展览会出现，据了解，国际消费类电子产品展览会，简称CES，由美国电子消费品制造商协会，简称CTA，主办，旨在促进尖端电子技术和现代生活的紧密结合，该展始于...。
在封禁微信这个问题上，美国依旧不死心，不仅如此，就连腾讯会议也受到了波及，25日晚间消息，据路透社报道，美国司法部正在寻求立即禁止在苹果和谷歌应用商店下载微信，司法部说，中国拥有的消息服务对美国的安全构成威胁，美司法部寻求再次封禁微信早在8月6日，美国总统特朗普就签发了行政命令，表示要在45天内，禁止在美国境内的人或实体与腾讯控股公司...。
苹果第一财季营收突破1000亿美元，iPhone收入同比增长17%北京时间1月28日凌晨消息，苹果今天发布了2021财年第一财季业绩，报告显示，苹果公司第一财季净营收为1114.39亿美元，比去年同期的918.19亿美元增长21%，创下纪录新高；净利润为287.55亿美元，比去年同期的222.36亿美元增长29%，其中，苹果第一财季i...。
据Coindesk报道，比特大陆正计划今年9月申请IPO，并将在今年第四季度或明年第一季度在港交所上市，此次IPO规模可能高达180亿美元，预计市值范围为400，500亿美元，在8月10日的香港纷智金融科技峰会现场，雷锋网AI金融评论注意到，比特大陆矿池运营总监胡静称，选择赴港上市的原因确实与内地对加密货币行业的政策有关；而对于上市的...。
雷锋网AI科技评论按，2018年，AI研习社又为大家呈上了一系列公开课，AI研习社的粉丝们也再度与我们相伴走过了一年，作为一个针对AI开发者的公开课类目，，猿桌会，自去年推出以来广受各位的喜爱，在今年雷锋网AI研习社依旧以最饱满的诚意为大家邀请了领域内的各路大神进行分享，具体内容涵盖深度学习开源框架、神经网络调参和优化、开发语言使用技...。
广州地铁15号线为南沙内部的环线，规划为蕉门，万顷沙，蕉门的环线，主要串联起万顷沙、南沙客运港、环岛路、蕉门、灵山岛、横沥等几个南沙重要板块，建成之后，将顺利搭建起沟通18号线与4号线之间的桥梁，线路全长约30.5公里，工程期限为2021年12月至2023年11月，广州地铁线路图2024高清图最新广州地铁目前一共有16条线路在运营，是...。
窗帘的主要作用是与外界隔绝，保持居室的私密性，同时它又是家装不可或缺的装饰品，冬季，窗帘将室内外分隔成两个世界，给屋里增加了温馨的暖意，现代窗帘，既可以减光、遮光，以适应人对光线不同强度的需求；又可以防火、防风、除尘、保暖、消声、隔热、防辐射、防紫外线等，改善居室气候与环境，因此，装饰性与实用性的巧妙结合，是现代窗帘的大特色，...。
小吃对市场的发展前景是很广阔的，因为大多数的人都是抵挡不了美食的诱惑的，尤其是像米线这样的小吃，不仅味道鲜美而且还可以作为一顿正餐来食用，在市场上是非常的受到广大的消费者欢迎的，一般米线店的智慧之选成本小，可经营，而且不需要太多的员工，是很适合小本智慧之选的一个项目，云知缘过桥米线在市场是备受喜爱的，那么，开家云知缘过桥米线加盟店需要...。
首先，该事件涉及到侵犯他人隐私的行为，不仅违反了社会道德，也违反了法律法规，根据，中华人民共和国治安管理处罚法，第四十一条的规定，，在公共场所或者其他人员密集场所，以非法方式偷拍、窥视他人的隐私，情节较轻的，处警告或者二百元以下罚款；情节较重的，处五日以下拘留，并可以并处五百元以下罚款，因此，四川大学对该事件进行处理是符合相关法律法...。
蛋糕是非常受欢迎的一种甜品，不仅口味多样，而且造型百变，时尚美观，是现代年轻人必点的下午茶，每逢过生日的时候，人们也都会选择购买蛋糕来助兴，市场需求量非常大，市场中的蛋糕品牌也发展有众多，初艺蛋糕是一个颇具实力的连锁蛋糕品牌，多年以来，一直专注于烘焙领域，不断地引进先进的技术和设备，为顾客提供健康、美味的蛋糕，受到广泛的市场认可，随着...。