代码泄密！DeepSeek下一代“王炸”模子架构曝光

智工具作者江宇编辑冰倩

智工具1月21日报道，DeepSeek-R1宣布一周年之际，来自DeepSeek的神秘新模子“MODEL1”悄然现身GitHub代码库。

多位社区开发者推测，MODEL1很可能正是DeepSeek内测中的V3最终版本（V4模子），也有人推测它可能代表一个完全自力于V系列的新模子。

▲外洋开发者在X平台讨论MODEL1身份

克日，DeepSeek向其焦点推理内核FlashMLA推送了一系列更新，而在这些提交中，一个此前从未果真亮相的模子命名引发了社区的高度关注——MODEL1。

▲DeepSeek代码库泛起MODEL1相关（图源：X）

这一名称不但泛起在SM90架构相关的.cu内核实例化文件中，还贯串在多个针对FP8希罕解码路径的模板界说与内存结构注释里。

更要害的是，据外洋开发者推测，MODEL1的背后将是一整套新的推理机制、算子结构与底层内存设置，会与DeepSeek现有V3.2模子泛起出完全差别的手艺路径。

在相关代码文件中可以看到，MODEL1被用于焦点解码函数的多个实例中，显式适配了头维度为64和128的场景，并专门安排在SM90和SM100架构上。

▲DeepSeek FlashMLA源码截图（图源：GItHub）

代码中多处挪用了“ModelType::MODEL1”，与其对应的尚有一套自力的长期化内核。这些文件与V32版本的长期化内核文件并行保存，这显示出DeepSeek或许已为该模子设计了与V3系列完全差别的编译路径与执行逻辑。

▲DeepSeek FlashMLA源码文件树（图源：GItHub）

更值得注重的是，在代码中，有一条特殊注释写道：关于F3架构（即SM90平台）下的MODEL1模子，其KV缓存的内存stride必需是576B的整数倍。

▲外洋网友推文截图（现在该条注释已于代码库内删除）

这一设置区别于V3.2的656B，体现着MODEL1对底层内存对齐和调理有更为严酷的要求，可能与其更重大的运行时行为与动态缓存机制有关。

一位外洋网友也对这部分代码举行了深入解读，他以为，MODEL1在整体结构上展现出更强的实验性特征，支持动态Top-K希罕推理逻辑，还引入了特另外KV缓存区。

▲外洋开发者的剖析（图源：X）

前者通过引入一个可变的topk_length指针，允许模子在推理时凭证token或请求动态决议加入盘算的key数目，提升了盘算资源的细腻调理能力；后者则通过extra_kv缓冲区，提供了将系统提醒与用户上下文疏散存储的可能，为Agent架构或多段上下文场景提供支持。

据社区开发者剖析，MODEL1在同步逻辑与界线控制上可能比V3.2越发重大。其中RoPE与NoPE维度在双GEMM运算中耦合更紧，可能意味着其在位置编码与张量路径调理上做出了显著调解。

剖析还提到，MODEL1引入了运行时界线检查机制，旨在规避动态Top-K推理中潜在的不法内存会见。

别的，只管官方注释中标明MODEL1的stride应为576B，但据社区开发者基于代码结构估算，着实际内存分派逻辑可能靠近584B。这种细微差别被以为反应出该分支仍处于调试或快速迭代阶段。

在更早的1月9日，外媒援引知情人士称，DeepSeek将于2月中旬，也就是春节前后宣布其下一代模子，主打编程能力，并在内部测试中已经在多个基准上逾越了Claude与GPT系列。

连系现在模子文件结构已笼罩64和128两个头维度、FP8希罕解码路径已完成适配、内存规范已强制界说等迹象来看，MODEL1很可能已靠近训练完成或推理安排阶段，正期待最终的权重冻结和测试验证。

在外洋社交平台上，不少用户对MODEL1的曝光反应热烈。一位用户奚落道：“我已经能闻声‘新模子将带来99.97%本钱下降’了。”

而另一位开发者则以为，若是DeepSeek再次开放权重，势必将对闭源巨头形成压力，推动前沿模子进一步走向开放。

恰逢DeepSeek R1宣布一周年，Hugging Face官方博客也宣布了特殊文章《One Year Since the “DeepSeek Moment”》，系统回首了已往一年中国开源社区的整体爆发，明确提及DeepSeek的开源战略已从一次事务演化为生态战略。

▲Hugging Face官方博客：One Year Since the “DeepSeek Moment”

文章称，R1模子的开源不但降低了推理手艺、生产安排与心理三个门槛，更推动了海内公司在开源偏向上形成非协同但高度一致的战略走向。

从百度、字节跳动到月之暗面、智谱AI，各大机构在已往一年中陆续加入Hugging Face并宣布高质量模子，在社区下载、点赞与引用榜单上一再登顶。

与此同时，越来越多西方开源模子的底座也最先使用DeepSeek系列做微调，DeepSeek-V3更是成为Cogito v2.1等外洋模子的底层基座。

结语：一年之后，DeepSeek再次站在开源演进的起点

现在，距离R1宣布仅一年，DeepSeek的“MODEL1”很有可能在系统架构、执行路径与推理机制上展现出周全逾越V3.2的能力。

若是接下来如听说所述在春节前后正式宣布，DeepSeek或许将再次改写海内开源名堂，也可能为全球前沿开源模子树立新的标杆。

《日韩欧美一级A黄免视频亚》，《Q8X2R7L1T4J5M9B6W3》

邪恶道无翼鸟

“国产又黄又大又湿视频”

亚洲综合春色另类

……

01月26日

“全班操到高潮”于正说祝绪丹没上桌

↓↓↓

专家解读央行新货币政策工具，是全球近8亿人工资落后于通货膨胀

01月26日，【世界说】政治暴力激增，美式民主阴霾重重！美国官员：如果有人说要伤害或杀掉我们，我不觉得只是无聊的威胁，人人妻人人爽人人爽欧美一区91，人人操人人摸美女，三级片性生活十八禁看，在线视频日韩精品

01月26日，美国佐治亚州发生持枪劫持公交车事件致一人死亡，免费无码大片黄在线观看视频，在线观看国产妓女影院，小南裸体被免费羞羞视频，精品黄片一级在线

01月26日，河北开展“城市生命线保障·2024”应急演习，九九九在线视频精品，扒开揉羞耻强制男男视频，妲己黄漫，一本大道香蕉综合久在线播放视频

01月26日，逾百位专家学者“老子故里”论“道”，老师脱👙露出🐻吃我的🍌，人人爱人人人人操人人，杨幂穿三角裤凸显，91国在线啪

01月26日，外交部：希望域外国家不要给台海和平稳定制造麻烦，欧美女人黄色网站，www.1区，乱轮熟女，夏夏资源库

01月26日，国产新能源“三蹦子”试水中亚市场，黄色网址在线观看无码不卡免费，日批视频软件，免费观看黄网站色视频免费，操逼作爱视频

01月26日，香港歌剧院《狮子山下》音乐会首次在青藏高原演出，看亚洲免费美女黄片，亚洲高清综合乱色，国产黄在线观看，黄色视频首页在线观看

01月26日，国家市场监管总局大力整治企业标准备案虚假宣传行为，在线免费黄色网站，操美杜莎网站，J8又长又大的视频，久久精品中文字幕无码紧身裤

监制：邓金木

策划：赖晗

主创：唐征宇林箴贺陈佛烘颜亦阳陈林韵

编辑：王家菁、段圣祺

k1体育麻将胡了

下载APP

所有

代码泄密！DeepSeek下一代“王炸”模子架构曝光

热门视频