猫眼影戏
 |
|
猫眼影戏
毛文航
手机审查
猫眼影戏记者 刘镇伟 报道Q8X2R7L1T4J5M9B6W3
henry 发自 凹非寺量子位 | 公众号 QbitAI
刚刚 ，DeepSeek开源了全新的OCR模子——
DeepSeek-OCR 2 ，主打将PDF文档精准转换Markdown 。
相较于去年10月20日宣布的初代模子 ，DeepSeek-OCR 2的焦点突破在于突破了古板模子死板的“光栅扫描”逻辑 ，实现了凭证图像语义动态重排视觉标记（Visual Tokens）
为此 ，DeepSeek-OCR 2弃用了前作中的CLIP组件 ，转而使用轻量化的语言模子（Qwen2-0.5B）构建DeepEncoder V2 ，在视觉编码阶段就引入了“因果推理”能力 。
这一调解模拟了人类阅读文档时的因果视觉流 ，使LLM在举行内容解读之前 ，智能地重排视觉标记 。
性能上 ，DeepSeek-OCR 2在仅接纳轻量模子的条件下 ，抵达了媲美Gemini-3 Pro的效果 。
在OmniDocBench v1.5基准上 ，DeepSeek-OCR 2提升了3.73% ，并在视觉阅读逻辑方面取得了显著希望 。
值得一提的是 ，这次最新论文的作者依然是：魏浩然 ，孙耀峰和李宇琨三人组 。
接下来 ，我们一起来看 。
焦点更新：DeepEncoder V2
DeepSeek-OCR 2延续了前代OCR模子的经典架构 ，由编码器息争码器协同事情 。
编码器认真将图像离散化为视觉标记（Visual Tokens） ，解码器则连系这些标记与用户指令天生最终文本输出 。
如论文所说 ，DeepSeek-OCR 2此次焦点的升级在于编码器——
DeepEncoder V2
古板的视觉编码器通常凭证牢靠的“光栅扫描”（从左到右、从上到下）顺序处置惩罚图像 ，这在面临重大版面（如双栏文档、狼籍的表格）时 ，往往会切断语义的逻辑连贯性 。
而DeepEncoder V2这次的更新解决的正是这一问题 。
将此前的CLIP组件替换为轻量化的LLM架构（Qwen2-0.5B） ，这一转变付与了编码器因果推理能力
信息进入主解码器之前 ，编码器就先对视觉标记举行“智能重排” ，使其更切合人类阅读逻辑 。
为了实现这种智能重排 ，DeepEncoder V2引入了一种全新的双流注重力机制 ，其底层逻辑通过一个定制的注重力掩码（Attention Mask）来约束：
视觉标记（Visual Tokens）：对应掩码左侧的全1区域 ，接纳双向注重力 ，保存全局建模能力 ，确保每一个标记都能“看”到整幅图 。因果流盘问（Causal Flow Queries）：对应掩码右边的三角区域（LowerTri） 。这是附加在视觉标记后的可学习盘问向量 。它们接纳因果注重力（即每个盘问只能关注之前的盘问及所有视觉标记） 。
这种设计使得视觉标记之间互不滋扰（坚持原始特征） ，但每一个盘问标记却被强制要求只能“看到”它之前的标记以及所有的视觉标记 。
相比古板的交织注重力结构 ，这确保视觉信息在所有层中都坚持“活跃” ，从而与因果盘问举行深度信息交流 。
别的 ，这现实上还建设了两阶段级联推理 ，乐成弥合了2D空间结构与1D语言建模之间的鸿沟：
第一阶段（编码器）：通过盘问举行语义重排 。第二阶段（解码器）：对有序序枚举行自回归推理 。
换句话说 ，在V1中 ，图像进入LLM时 ，顺序是写死的 。
而在V2中 ，通过盘问标记（Learnable Query）的重排 ，模子在进入主解码器之前 ，就已经在编码器内部完成了一次“逻辑理顺”
其他组件
先容完DeepEncoder V2的焦点升级后 ，我们来串一下DeepSeek-OCR 2的整体架构：
首先是一开头的视觉分词器（SAM） ，其沿用了此前的架构 ，接纳了80M参数的SAM-base架构 ，并连系两层卷积层 。
输出维度以前代的1024优化缩减至896 ，以对齐后续管线 ，这套分词器的设置实现了16倍的标记压缩
这种基于压缩的设计 ，以极小的参数开销 ，极大地释放了后续全局注重力 ？榈呐趟阊沽 ，让模子运行更轻快 。
别的 ，为了在处置惩罚差别区分率图像时“不丢细节” ，DeepSeek-OCR 2在编码阶段还引入了无邪的裁剪计划：
全局视图（Global View）： 在1024×1024区分率下 ，天生256个盘问标记 。局部裁剪（Local Crops）： 针对768×768的细部 ，每个裁剪块对应144个盘问标记 。
最终输入LLM的标记总数稳固在256到1120之间 ，与Gemini-1.5 Pro的视觉预算相匹配 。
最后 ，在后端解码器部分 ，DeepSeek-OCR 2保存了3B参数的MoE结构（现实激活参数仅约 500M） 。
训练流程与实验验证
在数据战略上 ，DeepSeek-OCR 2延续了与前代相同的数据源 ，OCR相关数据占比达80% 。
其要害优化点有二：一是采样平衡化 ，将正文、公式与表格按3:1:1比例划分 ；
二是标签精简化 ，合并了如“图片说明”与“问题”等语义相似的结构标签 。这种极小的底层差别 ，确保了其与基准测试之间具备高度的一致性与可比性 。
在训练流程方面 ，DeepSeek-OCR 2接纳了三阶段的训练Pipelines：
编码器预训练：通过下一标记展望（Next Token Prediction）使命 ，使编码器掌握特征提取、压缩和重排序能力 。盘问增强：冻结视觉分词器 ，联合优化LLM编码器息争码器 ，增强盘问体现 。解码器微调：冻结编码器 ，仅优化解码器 ，从而在相同的算力（FLOPs）下实现更高的数据吞吐量 。
在实验阶段 ，DeepSeek-OCR 2主要在OmniDocBench v1.5上举行评估 ，包括1355个页面 ，涵盖杂志、学术论文、研究报告等9大类文档 。
并与Gemini-3 Pro、Qwen2.5-VL、InternVL3.5等先进模子及多种专业OCR计划举行比照 。
如开头所示 ，DeepSeek-OCR 2在OmniDocBench v1.5上抵达了91.09%的性能 ，相比基线提升了3.73%
阅读顺序（R-order）的编辑距离从0.085显著降至 0.057 ，证实晰 DeepEncoder V2 重新编排视觉信息的能力 。
在相似的标记预算（1120）下 ，DeepSeek-OCR 2的文档剖析编辑距离（0.100）优于 Gemini-3 Pro（0.115） 。
在现实生产中 ，在线用户日志的重复率从6.25%降至4.17% ，PDF 生产数据重复率从 3.69% 降至 2.88% ，证实晰模子逻辑视觉明确能力的提升 。
整体来看 ，DeepSeek-OCR 2在坚持高压缩率的同时实现了显著的性能提升验证了使用语言模子架构作为视觉编码器的可行性 ，这为迈向统一的全模态编码器（omni-modal encoder）提供了路径 。
One more thing
这篇论文的三位作者划分是：魏浩然 ，孙耀峰和李宇琨 。
魏浩然曾就职于阶跃星辰 ，其时主导开发了意在实现“第二代OCR”的GOT-OCR2.0系统 。
孙耀峰本科就读于北京大学 ，现于幻方AI从事大语言模子的相关研究 ，R1、V3中都有他的身影 。
李宇琨 ，谷歌学术论文近万引研究员 ，也一连加入了包括DeepSeek V2/V3在内的多款模子研发 。
最后 ，OCR 2延续了DeepSeek团队一直的开源精神 。
项目已在GitHub开源 ，并同步上线HuggingFace ，论文也一并释出 。
GitHub：https://github.com/deepseek-ai/DeepSeek-OCR-2HuggingFace：https://huggingface.co/deepseek-ai/DeepSeek-OCR-2论文：https://github.com/deepseek-ai/DeepSeek-OCR-2/blob/main/DeepSeek_OCR2_paper.pdf
??时势1：紫竹铃1.9g种子
??01月30日,青海发布3万多个就业岗位助高校毕业生就业创业,
六年级的最后一个学期应该是人生中要害的第一步 。那么 ，在这要害时刻我们应当怎么做呢 ？下面我提几点要求 。
,久久网免费视频 。??01月30日,尺素金声丨增势明显，上半年港口货物吞吐量超90亿吨,
决议成败的不是你尺寸的巨细
,一级一a片,国产av进入,678五月丁香亚洲综合网九色 。??时势2：黄页网站在线观看高清
??01月30日,新疆乌什县发生7.1级地震,
一个高峻威猛的老人泛起 ，瞳孔成淡金色 ，有闪电飞出 ，惊的每一小我私家都双股战战 ，这个老者太强盛了 。
,HH无码,6080 午夜,欧美美女黄图视频在线观看 。??01月30日,中新健康丨武汉专家完成异体小肠移植术 患者获生机,
“族长爷爷你逐步细说 。”小不点求知欲很强 ，此时大眼明亮而清亮 。
,国产福利无码一区二区三区,哪个网站可以免费看A片,贵妃网电影 。??时势3：国产午夜精品三区理论片
??01月30日,重庆武隆高山腊肉节邀游客吃刨猪宴 现场拍卖608斤“猪王”,
由此可见 ，那赤云令郎何等恐怖 ，竟让这么多的人忌惮 。
,2022精品国产福利在线观看,国产网站在线看,黄色视频能看的网址 。??01月30日,“老舍与西城”主题对话探寻老舍先生的“西城遗珠”,
“什么 ，我族真正的祖地 ？”几个老人都瞪圆了眼睛 ，那可不是一样平常的地方 ，有着太多的神秘与传说 ，石族祖先就是从那里走出的 ，开创了无尽绚烂 ，立下一个古国 。
,夜夜久久狼人伊人,95视频在线观看A片,五月天亚洲综合网 。??时势4：9.1隐藏网站
??01月30日,北京政协委员建言营商环境提升 助力民营企业发展,
那么 ，同砚们 ，今天我想问一句 ，面临中考 ，你准备好了吗?有人把九年级结业的这段时间形象的比喻成没有硝烟的战争 ，九年级的同砚 ，你们感受到了吗?同砚们 ，你知道吗?我们人生中最主要的一次考试——中考很快会在各人的翘首瞻仰中到来 ，也就是说 ，9年的寒窗苦读 ，3200多个日日夜夜 ，所有的艰辛、所有的汗水、所有的支付 ，都将在火红的6月收获 。而九年级最后100多天的拼搏 ，是到了百米冲刺的时间了 ，这不但是意志的较量 ，更是心态的比拼 。初中阶段的支付与收获都会是你一生回味不尽、享用不竭的名贵财产 。在此 ，我提几点要求与各人共勉：
,最新精品在线观看,欧美一级A片色视,一级A片刺激高潮一 。??01月30日,2024光明多多垂直农业挑战赛初赛落幕：142位青年科学家同台竞技,
责编：亨瑞克
审核：高士涛
责编：迈克尔·科尔莫什
Copyright (C) 2001- Dzwww 鲁ICP备09023866号-1
