(2分钟核心解读)2020中文字幕在线电脑版v9.390.91.1.31.06-2265安卓网

k1体育麻将胡了

搜索 猫眼影戏 融媒体矩阵
  • 山东手机报

  • 猫眼影戏

  • 公共网官方微信

  • 公共网官方微博

  • 抖音

  • 人民号

  • 天下党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

ImageNet分数越高 ,天生反而越糊 ?iREPA给出诠释

2025-12-24 05:24:21
泉源:

猫眼影戏

作者:

史汀生

手机审查

  猫眼影戏记者 卡罗莱纳 报道Q8X2R7L1T4J5M9B6W3

新智元报道

编辑:倾倾

【新智元导读】学霸的假话被揭穿!一篇来自Adobe Research的论文发明 ,高语义明确并不会提升天生质量 ,反而可能破损空间结构 。用iREPA简朴修改 ,削弱全局滋扰 ,天生质量连忙飙升 。

我们经;嵋苫螅何裁词泳跄W釉礁呒 ,天生效果反而越差 ?

最近 ,Adobe Research发了一篇论文 ,专门诠释了这个看起来有点变态、但重复泛起的征象 。

论文地点:https://arxiv.org/pdf/2512.10794

按直觉 ,模子要先知道「这是什么」 ,才华把它画出来 。

ImageNet上的分类准确率越高 ,说明模子的语义明确越强 ,天生的内容越稳固、越靠谱 。

但这篇论文给出的效果 ,完全相反:

一些在识别使命中体现平平、甚至看起来「很不智慧」的视觉编码器 ,反而能天生出结构更清晰、质量更高的图像 。

全局语义能力越强 ,天生反而越容易出问题 。

很可能我们从一最先 ,就误会了天生模子真正善于的是什么 。

为什么视觉模子越「智慧」 ,天生的反而越差 ?

先看一个已经被重复验证的事实:一个模子在ImageNet上的线性探测准确率越高 ,并不料味着它更适适用来做天生 。

最直观的例子是SAM2 。这是一个在识别使命里不出彩的模子 ,验证准确率只有24.1% ,远低于主流视觉大模子 。

但当这些编码器被用于REPA时 ,SAM2的天生质量反而优于一批准确率横跨约60%的模子 。

SAM2的ImageNet验证准确率仅为24.1% ,但在REPA框架下的天生gFID显着优于多种准确率凌驾70%的视觉编码器 。

这还不是某一个模子的无意体现 。

论文进一步较量了统一编码器家族中差别规模的模子 ,效果发明:模子越大、分类准确率越高 ,天生质量反而可能相似或更差 。

随着模子规模和分类准确率提升 ,天生gFID反而整体变差 ,批注这一征象并非由个体模子导致 。

显然 ,「高语义能力=好天生」这条默认路径 ,在大宗实验中并不建设 。

更要害的是 ,这种征象并不是噪声 。

在跨模子、跨设置的系统性剖析中 ,全局语义指标与天生质量之间的相关性始终很是弱 。

分类能力与天生质量险些无关 ,空间结构却高度相关 。左:线性探测准确率与天生 gFID 的相关性极弱(Pearson r=-0.26) 。中:空间结构指标(LDS)与天生质量泛起出显著强相关(Pearson r=-0.85) 。右:基于空间结构刷新的iREPA ,在多种编码器上稳固优于REPA 。

论文进一步对多种视觉编码器做了相关性剖析 ,效果很是明确:

线性探测准确率与天生质量之间险些不保存相关性 。

相比之下 ,反应patch空间结构的指标 ,与天生质量泛起出极强的正相关关系 。

若是不是「明确多」 ,那天生模子究竟依赖的是什么 ?

重复确认会压扁空间结构

在明确了「高语义≠好天生」之后 ,真正的问题酿成了:

为什么模子越是重复确认 ,天生反而越容易出问题 ?

要害就是 ,全局语义会在天生历程中压扁空间结构 。

在天生使命中 ,模子并不是一次性输出图像 ,而是在训练和采样历程中 ,一直对局部patch之间的关系做判断 。

论文将这种能力归纳综合为「空间结构」:即相邻patch之间应坚持更高相似性 ,而远处patch不应被全局语义过早拉近 。

但当模子太过追谴责局语义一致性 ,好比通过CLS token ,或对所有patch做全局平均来强化「这是什么」 ,这些局部差别就会被系统性地削弱 。

这种做法会导致一个直接效果:远景物体的patch ,与本应无关的配景patch之间 ,泛起异常高的相似性 。

空间比照度下降 ,界线变得模糊 ,天生效果因此糊成一片 。

PE-G和WebSSL-1B在ImageNet上具有更高的分类准确率 ,但它们的空间自相似性显示 ,远景与配景被太过拉近 ,界线模糊 。相比之下 ,空间结构更清晰的SpatialPE-B ,天生质量显著更好 。

研究员向模子中逐步加入全局语义信息 ,视察分类能力和天生质量的转变 。

效果如下图所示:

增强全局语义信息会损害天生质量

随着全局信息权重α从0增添到0.5 ,模子的线性探测准确率一连上升 。

但天生质量却显著下降 ,FID显着恶化 。

也就是说 ,「更懂这是什么」确着实爆发;但与此同时 ,模子也失去天生所依赖的空间结构 。

这并不是优化不充分的副作用 ,而是由于全局语义在天生阶段饰演了一个「过强约束」的角色 。

它让模子更快告竣结论 ,却也更早放弃了对局部结构的细腻描绘 。

既然语义会滋扰天生 ,iREPA选择退后一步

若是说前面的实验回覆了「问题出在哪」 ,那 iREPA 回覆的就是另一个问题:

既然全局语义会滋扰天生 ,那该怎么对齐体现 ,才不会把结构压扁 ?

iREPA给出了谜底 。它对原本的REPA训练流程做了两处很是简朴的修改 ,总共不到四行代码 。

第一处 ,是投影方法的改变 。

在标准REPA中 ,patch表征通;峋蒑LP投影层举行对齐 。

但论文指出 ,MLP在这一历程中容易混淆差别位置的信息 ,无意中削弱了空间比照度 。

因此 ,iREPA用一个3×3的卷积层(padding=1)替换了MLP投影 。

卷积的归纳偏置能保存局部邻域关系:相邻patch的相互影响被保存 ,远处区域则不会被过早混在一起 。

第二处修改 ,直接针对全局语义 。

iREPA在对齐历程中引入了一个空间归一化层 ,移除了patch特征中的全局均值分量 ,让模子专注于局部之间的差别与界线 。

iREPA怎样通过两处修改 ,恢复天生所需的空间结构 。 (a) 使用卷积投影替换MLP ,可更好地保存局部空间关系 。 (b) 空间归一化层通过移除全局分量 ,提高patch之间的空间比照度 。 (c) 经由这两步修改后 ,iREPA天生的diffusion特征泛起出更清晰的空间结构 。

正是这两点改动 ,让iREPA在机制上与前一节的问题形成了严酷对应:

全局语义太强会抹平结构 ,那就在对齐阶段削弱全局分量、强化空间关系 。

效果也在意料之中 。

无论是在ImageNet规模的天生使命 ,照旧更高区分率的设置 ,亦或是文本到图像的多模态天生使命中 ,iREPA都体现出更快的收敛速率和更好的最终天生质量 。

更主要的是 ,这种提升并不依赖于某一个特定编码器 。

在差别模子规模、差别视觉主干网络、差别训练设置下 ,iREPA都能稳固刷新 。

这不但是一个技巧 ,而是顺着天生使命自己对结构的需求 ,把体现对齐这件事做得更榨取、更细腻 。

许多时间 ,我们讨论天生模子时 ,会下意识沿用一个标准 。

但这篇论文提醒了我们 ,天生并不是明确的自然下游 。

对天生来说 ,最主要的并不是「这是什么」 ,而是「哪些地方该靠近 ,哪些地方该脱离」 。

当我们一味强化全局语义 ,重复鞭策模子给出谜底 ,着实是在替它提前下结论 。

iREPA并没有试图让模子变得更智慧 。它做的更像是退后一步 ,把空间还给空间 ,把结构还给结构 。

效果不是明确能力的奔腾 ,而是天生质量的回归 。

参考资料:

https://x.com/1jaskiratsingh/status/2000701128431034736?s=20

https://end2end-diffusion.github.io/irepa/

秒追ASI

?点赞、转发、在看一键三连?

点亮星标 ,锁定新智元极速推送!

??时势1:ww视频

??12月24日,希望的田野上一派好“丰”光 “智能机械+良机良法”提升秋种质量,

  节俭资源 ,;で樾 ,做;さ厍虻男≈魅 。

,桃色精品无码AV 。

??12月24日,福建宁德举办文旅招商推介会 签约17个项目总投资逾16亿元,

  (一)、理顺好“两委”关系 ,在增强村级班子的凝聚力、战斗力上有新转机 。从换届选举后的事情运转情形来看 ,在党支部与村委会的关系上 ,有三种模糊熟悉和过失需要认真加以纠正:一是片面强调“自治” ,不要党的向导 ,以为村民自治就是村委会说了算 ,由村委会向导群众搞“自治”就行了 ,不需要党支部的向导 。二是以为村委会是群众选举爆发的 ,党支部是选举爆发的 ,村委会代外貌大 ,一样平常事情应由村委会做主 。三是以为村委会只应对群众负有责任 ,只思量本村群众的利益 ,而党支部主要对上级党委、政府认真 ,二者关系不协调 。从现实出发 ,规范村党支部和村委会的事情 ,建设焦点突出、程序规范、协调高效的运行机制 ,是提高现在农村事情水平确当务之急 。首先 ,要坚持党支部的向导焦点职位不摇动 ,村委和其他组织要自觉维护党支部的向导 。村支部是向导焦点 ,村委会是党支部向导下的村民自治组织 ,这一点必需搞清晰 。村委会特殊是村主任要自觉维护党支部的向导焦点职位 ,自觉做到到位不越位 ,自觉树立听从和配合意识 ,不争权、不越权 ,凭证整体向导和职责分工 ,切实推行好自己的职责 。二是明确原则、规范程序 ,事情中要充分发挥民主 。“整体向导、民主集中”是党的向导的最高原则 。“个体酝酿、聚会决议” ,是各级党组织内部议事和决议的基本制度 ,是维护和增强支部班子向导权威的主要途径 。这一基本制度坚持好了 ,班子内部才华抵达头脑上合心、事情上协力、行动上合拍 。事情中 ,党支部特殊是支部书记要做到主持不专断 ,勤通气、多协商 ,该让村委办的事情大胆松手;村整体经济组织和共青团、妇代会、民兵等群众整体也要在村党支部向导下开展事情 。三是要明确当干部是为了什么 ,怎样才华当好干部 ,带动搞好团结 ,形成事情协力 。党支部书记作为村里的“一把手” ,要充分调动“两委”成员的事情起劲性 。俗话说:“一个篱笆三个桩 ,一个英雄三个帮” 。党支部书记能力再强 ,也得需要村委成员的支持配合 ,必需要有团队意识 ,考究事情要领 ,起劲争取其他同志的支持配合 。特殊是对自己有看法、有意见的同志 ,支部书记要以诚相待 ,平时注重实时相同 ,形成事情协力 ,起劲在村内营造一种团结向上的优异民俗 。四是对上认真 ,对下认真 。对上认真 ,就是对镇党委、政府认真 ,就是要讲政治 ,讲下级听从上级 ,起劲完成上级各项使命 ,对得起党组织对你的作育和信任 。对下认真 ,就是要为群众公正、公正地办妥事 ,办实事 ,增进经济生长、村内里貌的改变 ,构建协调社会 ,对得起群众的信任 ,对得起那神圣的一票 。

,黄色性视频,ytsex_7.0.4_30981083.apk,国产美女视频国产视视频免费观看 。

??时势2:纪美视频恢复入口

??12月24日,数字赋能新农田 “北大仓”智慧春耕已开启,

  (四)组织了“同享书香情 ,共筑中国梦”图书大集“六一”庆;疃 。本次活动为全体队员提供了自由交流、生意图书的平台 ,让学外行中的书籍流动起来 ,使学生在形式多样的图书流通中合理置换 ,学会资源共享 ,配合享受念书的快乐 ,让每一个孩子度过了一个体样的“六一”儿童节 。

,玖玖一区一区,小黃片app下載,欧美在线精品一区二区在线观看 。

??12月24日,【中新画报】尔滨2.0归来,花式“宠且”玩法上新,

  一只手掌带着土黄色的光线 ,重大无比 ,从天穹上落下 ,宛若一尊神魔在脱手 ,要将小不点劈碎 。

,日本黄色一级小视频,久久久久夜色精品国产明星,熟妇高潮一区二区精品 。

??时势3:国产精品免费午夜视频

??12月24日,在尴尬中等待结果的国足,又走到了岔路口,

  今天 ,我们在这里召开全室大会 ,对室机关党委举行换届选举 ,这是我们政治生涯中的一件大事 ,也是我们政研室今年的一项主要事情 。适才 ,志宏同志代表室机关党委作了主要 ,回首总结了第二届本室机关党委事情 ,安排了新一届机关党委的事情使命 。大会还通过选举爆发了新一届的机关党委 。在此 ,我代表室向导班子向大会圆满召开和新中选的机关党委委员体现热烈的祝贺!对上一届机关党委委员所支付的辛勤劳动体现衷心的谢谢!借此时机 ,我想对全室特殊是新一届机关党委成员提几点希望和要求 ,与各人共勉 。

,中文字幕一区二区人妻无广告,特级毛片WWW中文字幕无码,九九精品欧美黄色视频 。

??12月24日,中新真探:防晒指数越高防晒霜效果越好吗?,

  月是中秋明 ,情是中秋浓 ,在这象征收获、团圆和喜庆的日子里 ,让我们配合祝愿我们集团公司越来越强盛 ,祝愿我们旅馆越来越优美 ,祝愿我们的家人生涯越来越幸福 ,祝愿我们的明天越发绚烂绚烂!预祝今天的中秋晚会圆满乐成!谢谢各人!

,av不卡蜜芽网站在线,欧美超碰播色屋任你爽,免费看A片不卡 。

??时势4:AI换脸杨幂裸体 视频

??12月24日,7月全球制造业PMI降至48.9% 经济复苏动力趋弱,  上外洋国语大学中东研究所教授范鸿达体现 ,中国与西方国家的主要关系也可能进一步诠释中国游客对中东的兴趣增添 。“中国与西方的关系并非处于最佳时期 。现在的关系状态可能是一些人想要会见中东而不是西方的一个缘故原由 。”,,全黄色视频,无码视频毛多水多在线,玖玖玖色 。

??12月24日,国防部回应美对台军售:将持续加强练兵备战 坚决挫败“台独”分裂图谋,

  “这一代中 ,没有几人可以与他相提并论 ,远超同代 ,着实太强盛了 。”

,大鸡八网站,十八禁网址,欧美a片一级视频 。

责编:盖伊

审核:李洪敏

责编:侯祥

相关推荐 换一换

Copyright (C) 2001-   dzwww.com. All Rights Reserved

新闻信息效劳允许证 - 音像制品出书允许证 - 广播电视节目制作谋划允许证 - 网络视听允许证 - 网络文化谋划允许证

山东省互联网传媒集团主理  联系电话:0531-85193202  违法不良信息举报电话:0531-85196540

鲁ICP备09023866号-1   鲁公网安备 37010202000111号  

Copyright (C) 2001- Dzwww   鲁ICP备09023866号-1

网站地图