IDEA研究院发布DINO (idea研究院)

文章编号:36030 资讯动态 2024-11-30 具身智能视觉大模型IDEA大会

计算机视觉技术在真实世界的应用场景十分广泛。然而,过去主流的小模型方案,难以应对碎片化、多变的长尾需求,限制了技术落地规模

源自自然语言研究的Transformer架构诞生后,视觉模型与之结合,走上一条“从小变大,从N变1”之路。自2022年起,IDEA团队从目标检测出发,打造精准度、通用性、泛化能力兼优的DINO系列视觉大模型

11月22日,IDEA大会在深举办,在本次大会上,IDEA研究院发布了该系列最新的DINO-X通用视觉大模型,拥有真正的物体级别理解能力,实现开放世界(Open-world)目标检测。无需用户提示,直接检测万物。

与此同时,IDEA团队还推出行业平台架构,通过一个大模型基座,结合通用识别技术结合,让模型不需重新训练,就可边用边学,支撑多种多样的B端应用需求。

万物识别:无须指引,罕物尽览

全面检测:DINO-X在物体检测领域树立新标杆,无需任何提示,即可识别几乎所有物体,并给出其类别,包括罕见的长尾物体(出现频率低但种类繁多的物体)。

IDEA研究院发布DINO-X目标检测视觉

在零样本评估设置中,DINO-XPro在业界公认的LVIS-minival数据集上取得了59.7%的AP,遥遥领先于其它现有算法。在LVIS-val数据集上,DINO-X Pro也表现亮眼,取得了52.4%的AP。具体到LVIS-minival数据集上的各个长尾类别评估中,DINO-X Pro在稀有类别上取得了63.3%的AP(比Grounding DINO 1.5 Pro还要高出7.2%),在常见类别上取得了61.7%的AP,在频繁类别上取得了57.5%的AP。DINO-X称得上目前业界检测最全的通用视觉模型。

泛化和通用性:得益于超过1亿高质量样本的大规模数据集多样化训练,DINO-X对未知场景和新物体具有更强的适应性。这意味着在面对未见过的物体或环境时,模型仍能保持高水平的检测性能。这种超强的泛化能力,使其在实际应用中更加灵活。

多任务感知与理解:DINO-X整合了多个感知头,支持包括分割、姿态估计、区域描述和基于区域的问答在内的多种区域级别任务,让感知到理解逐步成为了现实。

长尾目标检测优化:为了支持长尾目标的检测任务,DINO-X不仅支持文本提示和视觉提示,还支持经过视觉提示优化的自定义提示。

开放世界:服务丰富场景,迈向具身智能

DINO-X的万物识别能力,让其拥有了对开放世界(Open World)的视觉感知,轻松应对真实世界中的众多不确定性和开放环境,赋能具身智能、大规模多模态数据的自动标注、视障人士服务等高难度场景。

对具身智能而言,开发环境感知和理解是核心能力,这其中的视觉感知更是机器和物理世界交互的基础。近期,聚焦人居环境具身智能核心技术攻关的福田实验室正式挂牌,该实验室正式由IDEA研究院与腾讯合作组建,致力于打造最前沿的具身智能创新平台。

多模态模型通常需要处理大量的图片并生成图文对,而仅依靠人工标注的方式不仅耗时、成本高,而且在面对海量数据时难以保障标注的一致性和效率。DINO-X的万物识别能力,可以帮助标注公司快速完成大批量的高质量图像标注或者为标注员提供自动化的辅助结果,从而降低手工标注的工作量。

视障人士独立性和生活质量的提升对信息获取与感知等方面有着极高的要求,DINO-X的万物识别能力恰逢其时地为助盲工具开发带来福音,为视障人士的未来生活带来美好希望。

在自动驾驶、智能安防、工业检测等领域,DINO-X也将发挥关键作用。其卓越的通用检测能力,使得系统能够应对各种复杂场景,识别出传统模型难以检测的物体,为产业升级和社会发展注入新的活力。

IDEA研究院发布DINO-X目标检测视觉

Dino-X基座大模型零样本检测能力,为广大中小企业客户提供便捷高效的计数和标注工具

IDEA研究院一系列视觉大模型,包括DINO-X,为解决业务场景现存的小模型繁多、维护迭代成本高昂、准确率不足等问题,提供了可行的方案。IDEA研究院与多家企业联合开展视觉大模型及应用场景的探索研究工作,在视觉大模型的落地方面取得了实质性进展。

一方面,有别于市场上的以语言为基础的多模态大模型基于全图理解的方法,通过在物体级别的理解上加入语言模块优化大模型幻觉问题。另一方面结合自研的“视觉提示优化”方法,无需更改模型结构,不用重新训练模型,实现小样本下的场景化定制。 IDEA研究院发布DINO-X目标检测视觉

IDEA研究院通用视觉大模型行业平台架构

从DINO到DINO-X,IDEA研究院始终站在视觉感知技术的前沿。通过对开放世界的探索和对具身智能的赋能,DINO-X的卓越性能和通用检测能力更加凸显。

值得一提的是,IDEA研究院也开放了DINO-XAPI:

有关DINO-X 的技术细节,请参考同期发布的论文。

► 论文链接:

雷峰网原创文章,未经授权禁止转载。详情见 转载须知 。

IDEA研究院发布DINO-X目标检测视觉

全局中部横幅
全民格斗争霸

4399全民格斗争霸是一款横版3D格斗ARPG页游,经典动作地下城格斗争霸。在一次次战斗中经历刺激的冒险,得到道具和宝藏,成为顶尖的强者。

山西项目评估规划

山西金迪项目管理研究院有限公司成立于1998年3月,是由山西财经大学相关专业教师发起并由投资、工程管理、机械、轻工、建筑、建材、环境、地质、农林、经济及管理等多学科、多专业专家组成的专业咨询机构。

亚龙天筑

用人工智能赋能城市治理,用人工智能创造有思想的城市服务,智慧住建,扬尘管理,安全检查

压滤机,铸铁压滤机,不锈钢压滤机,铝合金压滤机,板框式压滤机,厢式压滤机

本公司是国内压滤机专业制造商,产品分板框式压滤机,厢式压滤机,机械式压滤机等,板框材质有铸铁,铝合金,不锈钢等.产品被广泛用于洗煤,石油,化工,制药,冶金,轻工,食品,纺织和污水处理等行业.销售热线:1507647447。

张家港喷涂厂

张家港市三兴荣欣喷塑厂是一家从事张家港表面处理,张家港喷涂厂,张家港喷塑,苏州表面处理,苏州粉末喷涂,苏州喷塑,苏州喷涂,粉末喷涂的公司,欢迎来电咨询13701560603

2024年亲子鉴定中心

泡泡基因--DNA亲子鉴定中心官方在线咨询平台!联合9396家dna机构及基因检测中心提供免费在线咨询、报告查询服务。

施工升降机

绍兴市玲龙建筑机械有限公司是一家专业从事建筑机械的研制开发、生产销售、租赁安装和维护保养的企业,主要产品有SCD200/200施工升降机、SC200/200施工升降机、SCH100/100施工升降机、SSB100施工升降机等建筑工程机械,我们的产品及服务广泛应用于房屋建筑行业。

热门游戏攻略网

炫游攻略网是一个分享网游、手游、单机游戏玩家提供最新/最全的游戏资讯、攻略、活动内容的综合服务平台,内容涵盖手游攻略,游戏攻略,游戏资讯,游戏排行,手游排行耪,热门游戏等内容

联轴器,万向联轴器,弹性联轴器,梅花联轴器,膜片联轴器,万向节,柱销联轴器

联轴器,万向联轴器,弹性联轴器,梅花联轴器,膜片联轴器,万向节,柱销联轴器

全局底部横幅