首页
1. 深度学习下的场景明确:从麋集网格到工具中心表征
单目 3D 语义场景补全 (Semantic Scene Completion, SSC) 是具身智能与自动驾驶领域的一项焦点手艺,其目的是仅通过单幅图像展望进场景的麋集几何结构与语义标签。
恒久以来,该领域受困于古板的麋集网格(Grid-based)表征。虽然近期涌现出的 “工具中心” 范式(如 GaussianFormer)使用 3D 高斯基元(Gaussian Primitives)显著提升了效率,但这一起径仍面临两大瓶颈:
1. 基元初始化的盲目性:现有的要领往往通过在 3D 空间内随机漫衍数万个高斯基元来笼罩场景。实验发明,这种随机初始化的有用使用率极低(仅约 3.9%),造成了重大的盘算冗余。
2. 异;⒌ “漂浮物” 伪影:在处置惩罚希罕基元聚适时,现有的要领往往无法有用处置惩罚伶仃的离群点,导致在空旷区域天生过失的语义碎块,即所谓的 "Floaters" 征象。
针对这些挑战,我们提出了SplatSSC。该框架通过立异的深度指导战略与解耦聚合机制,实现了性能与效率的跨越式提升。
图 1:SplatSSC 与主流框架的初始化战略比照。(a) 现有的 Transformer 框架通常依赖大规模随机漫衍的高斯基元,这不可阻止地引入了空间冗余,导致模子容量的铺张。(b) 相比之下,SplatSSC 使用几何先验举行指导,仅需一组精简且目的明确的高斯基元,即可实现高效的空间笼罩。
作者:Rui Qian, Haozhi Cao, Tianchen Deng, Shenhai Yuan, Lihua Xie名称:SplatSSC: Decoupled Depth-Guided Gaussian Splatting for Semantic Scene Completion机构:南洋理工大学 (NTU), 上海交通大学 (SJTU)开源地点: https://github.com/Made-Gpt/SplatSSC
2.焦点手艺:精准指导与鲁棒聚合
图 2:SplatSSC 架构总览。我们接纳并行分支战略:可学习的图像编码器认真多标准语义提取,而预训练的 Depth-Anything 模子则提供稳固的深度特征。通过组内多标准融合(GMF)?,这两类特征在经由采样后被映射到 3D 空间,完成高斯基元的几何初始化,并交由多级编码器举行精炼,最后通过 DGA ?殇秩疚镆逄逅。
2.1 深度指导基元初始化:GMF ?
SplatSSC 的焦点头脑是摒弃随机初始化,转而使用几何先验举行精准指导。我们设计了组内多标准融合?椋℅roup-wise Multi-scale Fusion, GMF):
多模态特征融合:GMF 深度集成了图像的多标准语义特征与 Depth-Anything-V2 提供的鲁棒深度特征。线性组交织注重力(GCA):为了在移动端或具身平台上坚持高效,我们将特征沿通道轴拆分为多个组,通过组内交织注重力机制将古板注重力的盘算重漂后从平方级降低至线性级。高质高效基元天生:基于天生的几何先验,我们仅需 1200 个高斯基元(约为前作的 7%),即可精准笼罩场景结构的空间漫衍。
2.2 解耦高斯聚合器 (DGA):向 “漂浮物” 宣战
SplatSSC 引入相识耦高斯聚合器(Decoupled Gaussian Aggregator, DGA),从基础上重新设计了高斯到体素(Gaussian-to-voxel)的喷溅历程。
几何与语义的解耦展望:古板要领常将不透明度(Opacity)直接作为概率先验,导致离群点误导语义。DGA 建设了两条自力路径 —— 一条认真展望几何占有(Geometry Occupancy),另一条认真条件语义漫衍。门控抑制机制:在 DGA 中,基元的不透明度被显式界说为 "保存置信度"。当离群点泛起在过失位置时,其低占有概率会直接作为门控信号,屏障过失的语义孝顺。这种机制无需引入重大的启发式规则,即可优雅地解决困扰高斯表征的 "漂浮物" 问题。
图 4:DGA 鲁棒性演示。古板的聚合要领(如 GF.agg 和 GF2.agg)在面临离群基元时,容易在空旷空间天生过失的 “漂浮物”。DGA 通过解耦占有概率与语义孝顺,使用极低的占有概坦率接抑制离群点的过失语义映射,从而确保了场景界线的纯净。
3. 实验验证:SOTA 性能与更好的能效比
我们在室内场景补全的主流基准数据集 Occ-ScanNet 上验证了 SplatSSC 的性能。
图 5:在 Occ-ScanNet-mini 上的定性实验比照。与其他 baseline 相比,SplatSSC 在场景补全的完整度以及目的物体的召回率上具有显着优势。
3.1 主实验
SplatSSC 在 IoU 指标上抵达了62.83%,mIoU 抵达51.83%。
大幅领先前作:相比此前的 SOTA 要领(如 RoboOcc),我们的模子在 IoU 上大幅提升了6.35%,mIoU 提升了4.16%。更强的细粒度感知:得益于精准的基元指导,模子在处置惩罚椅子腿、桌面等细腻物体时体现出更强的召回能力和更清晰的界线。
表 1:Occ-ScanNet 数据集上的局部展望性能比照。实验效果显示,SplatSSC 在 IoU 与 mIoU 各项指标上均刷新了纪录。表中加粗部分代表最优效果,下划线代表次优效果。
3.2 消融实验
高斯基元参数的消融剖析:这组实验展现了一个要害结论:基元堆砌并不等同于精度提升。
寻找 "甜蜜点"(Sweet Spot):实验效果批注,仅使用1200 个高斯基元配合[0.01, 0.16]的标准规模,即可抵达48.87%的最高 mIoU。这比堆砌 19200 个基元的要领更轻量,精度却更高。效率的代差:通过优化基元漫衍,模子在单张 3090 上实现了约 115ms 的极低延迟,同时彻底规避了大标准设置下的显存溢出(OOM)问题。
表 2:高斯基元参数消融实验。显存占用与耗时均在单张 RTX 3090 GPU 上测得。
?樾⑺秤爰芄共鸾猓赫庾槭笛榱炕松疃确种В℅MF)与解耦聚合器(DGA)的协同效应,证实它们是解决行业痛点的 "组合拳":
解决 "浮点伪影"(Floaters):在希罕设定下,古板的加性聚合(GF.agg)险些无法事情。比照数据展示了DGA的绝对优势 —— 通过解耦几何与语义展望,它在坚持效果 "清洁" 的同时,将 mIoU 从瓦解边沿提升至48.01%的顶尖水平。高质量初始化的基石:GMF?椴坏峁┥疃韧,重天生结构化几何先验,这是后续高斯提升(Gaussian Lifting)乐成的要害。若缺少 GMF, 即便聚合算法再强,几何 IoU 也会泛起强烈下滑。
表 3:SplatSSC 焦点组件消融实验。
3.3 效率突破:少即是多
SplatSSC 展示了希罕表征的重大威力:
推理延迟缩减:在坚持高精度的同时,推理延迟降低了约9.3%(仅为 115.63 ms)。显存占用降低:显存消耗镌汰了约9.6%。参数规模稳固:在模子轻量化设计下,参数目仅增添 0.19%,险些可以忽略不计。
图 6:效率指标比照。实验效果批注,通过引入几何指导的希罕表征,SplatSSC 仅支付极小的参数本钱,即可显著降低推理延迟与显存占用。
4. 总结与展望:迈向具身智能的 persistent world model
SplatSSC 的乐成证实晰:在 3D 场景表征中,基元的 “质量” 远比 “数目” 更主要。通过几何指导的精准初始化与解耦聚合,我们可以在更低的盘算资源下实现更高质量的场景重构。
现在 SplatSSC 在单帧感知上体现优异,未来我们将致力于将其扩展到大规;舛【耙约俺こ叹呱砀兄姑。我们相信,这种基于高斯基元的高效表征将成为构建长期性、交互式天下模子的要害一步。
《污污污污黄色网站在线男操女免费网站在线观看网站免费在线观看网站免费在线》,《Q8X2R7L1T4J5M9B6W3》青青黄色视频
“福利无码精品一区二区在线观看”
日韩国产成在线A
……
01月30日
“影音先锋 在线看片资源”这些地方热如火焰山
↓↓↓
01月30日,菲律宾为何没来华参加西太海军论坛年会?中国海军专家回应,欧美大片AAAAAAAA免费,成年人网站视频免费看,不卡一区二区在线播放,原神女角色翻白眼流眼泪吐舌头
01月30日,2024我们如何邂逅文学的繁花?,九九9九九9视频在线观看,9.1破解版.apk安装免费官方正版,操尻视频,动漫
01月30日,突发:叙利亚首都大马士革传出枪炮声 中使馆紧急提醒 ,97无码人妻免费视频碰碰碰碰,猎奇小屋软件免费下载安装最新版,国产又爽 又黄 Ai换脸,Q嘿咻嘿咻免费无码专区在线观看
01月30日|特朗普称若当选将对中国产品加征关税 中方回应|166su吃瓜网入口|国产男女炮交免费视频|樱桃 码一区二区三区|学生裸体黄 网站
01月30日|“行在乡村 游在路上”最美自驾精品路线主题推选活动在陕西留坝启动|黄.999视频在线看|宋雨琦裸体 自我安憵|裸体露屄动漫画|邪恶帝全彩ACG库番全彩ACG
01月30日|成群盘羊青海玛多翻山越岭炫“飞檐走壁”绝技|国产kd交换配乱婬视频|玖玖在线视频无码|69pao.com|专约老阿姨精神小伙返场第一集……
01月30日,2024北京马拉松参赛号码28日开放查询 方式公布,黄色网站三级AV,免费很黄很黄❌裸乳视频,97人妻天天操夜夜操,禁止18岁网站
01月30日,【小新的Vlog】打卡正定小商品夜市 感受“梦中情市”魅力,欧美日韩不卡在线观看A片,v6w.c,亚洲欧美Aⅴ在线观看,欧美性爱贴图区
01月30日|旅新大熊猫“叻叻”平安抵达成都|91 中文字幕 国产|六月丁香五月婷婷|馃埐鉂屸潓|黄网站无码A
01月30日,上海市两会观察:数字科技融合文创,如何催生新消费模式?,一级亚洲A片在线观看,男女羞羞六间房,麻豆精品视频在线播放,我是你小䧅快拔出来在线视频
01月30日,(巴黎奥运)中国选手邹敬园夺得体操男子双杠冠军 ,人人操人人操人人操人人操人人操人人操人人操人人操人人操,成人游戏免费下载,乱辈亂倫大雞巴亂交小说,老师没戴套让我c了一节课图片
01月30日,开年后多家房企债务重整取得进展,业内预计行业风险出清将加速,18 无套直女仆91-18 无套直女仆91最新版V6.19.99.978-,女校 脱 给我揉 视频漫画,女仆扒开腿让男生玩,一级黄色,18岁
01月30日|(乡村行·看振兴)山西大宁:文旅赋能 小山村焕发夏日新活力|亚洲中文字幕乱码中文字幕|足疗店的熟妇口爆吞精|积极桶积极|深夜毛片
01月30日|新疆巴州若羌且末红枣节 现场收购8万余吨|偷拍精品一区|久久99免费视频|欧美色色色色视频|久久99永久视频
01月30日|外媒:孟加拉国总理谢赫·哈西娜辞职|毛片网址在线播放|动漫美女 开腿无内裤|美女稞体|美女被爽网站
新华社:欧盟对华汽车加税算错了账,犯罪现场调查:维加斯 第三季|贵州:“长征国家文化公园·大娄山服务区”全面开放|你懂得视频在线|!脱👙让学生C🐻|中文字幕 自拍|首页国产欧美日韩
监制:邓金木
策划:赖晗
主创:唐征宇 林箴贺 陈佛烘 颜亦阳 陈林韵
编辑:王家菁、段圣祺
墨西哥要求美国配合调查军用武器走私问题
从高原孤岛到美丽边城 西藏好物走向世界→
【两会30秒】扎西江村:西藏3个珞巴族民族乡都有了自己的文化展厅
人民日报记者走进钱凯港 | 大国外交零时差
哈萨克斯坦教育部:将为170万名学生提供免费营养餐
湖南两会“委员通道”:扬文化、稳经济、助发展等成热词
青海省调相机规模化、数字化建设关键技术取得重大突破
巴基斯坦西北部发生枪击事件致3死2伤
“五一”假期西宁市人民公园游客突破51万人次
打击缅北涉我电诈又一新成果!92名犯罪嫌疑人被移交我方
日韩精品一区在线观看91
亚洲一区二一必
可以看喲女的网站
国产一级永久免费
国产黄色视频99在线免费观看
唐舞桐 扒腿让我c的小说
gaygay2023粗口双龙
人人躁人人射人人摸
欧美视频在线视频免费观看免费观看免费
A级毛片兔费看

闽公网安备 35010302000113号