代码泄密！DeepSeek下一代“王炸”模子架构曝光

智工具作者江宇编辑冰倩

智工具1月21日报道，DeepSeek-R1宣布一周年之际，来自DeepSeek的神秘新模子“MODEL1”悄然现身GitHub代码库。

多位社区开发者推测，MODEL1很可能正是DeepSeek内测中的V3最终版本（V4模子），也有人推测它可能代表一个完全自力于V系列的新模子。

▲外洋开发者在X平台讨论MODEL1身份

克日，DeepSeek向其焦点推理内核FlashMLA推送了一系列更新，而在这些提交中，一个此前从未果真亮相的模子命名引发了社区的高度关注——MODEL1。

▲DeepSeek代码库泛起MODEL1相关（图源：X）

这一名称不但泛起在SM90架构相关的.cu内核实例化文件中，还贯串在多个针对FP8希罕解码路径的模板界说与内存结构注释里。

更要害的是，据外洋开发者推测，MODEL1的背后将是一整套新的推理机制、算子结构与底层内存设置，会与DeepSeek现有V3.2模子泛起出完全差别的手艺路径。

在相关代码文件中可以看到，MODEL1被用于焦点解码函数的多个实例中，显式适配了头维度为64和128的场景，并专门安排在SM90和SM100架构上。

▲DeepSeek FlashMLA源码截图（图源：GItHub）

代码中多处挪用了“ModelType::MODEL1”，与其对应的尚有一套自力的长期化内核。这些文件与V32版本的长期化内核文件并行保存，这显示出DeepSeek或许已为该模子设计了与V3系列完全差别的编译路径与执行逻辑。

▲DeepSeek FlashMLA源码文件树（图源：GItHub）

更值得注重的是，在代码中，有一条特殊注释写道：关于F3架构（即SM90平台）下的MODEL1模子，其KV缓存的内存stride必需是576B的整数倍。

▲外洋网友推文截图（现在该条注释已于代码库内删除）

这一设置区别于V3.2的656B，体现着MODEL1对底层内存对齐和调理有更为严酷的要求，可能与其更重大的运行时行为与动态缓存机制有关。

一位外洋网友也对这部分代码举行了深入解读，他以为，MODEL1在整体结构上展现出更强的实验性特征，支持动态Top-K希罕推理逻辑，还引入了特另外KV缓存区。

▲外洋开发者的剖析（图源：X）

前者通过引入一个可变的topk_length指针，允许模子在推理时凭证token或请求动态决议加入盘算的key数目，提升了盘算资源的细腻调理能力；后者则通过extra_kv缓冲区，提供了将系统提醒与用户上下文疏散存储的可能，为Agent架构或多段上下文场景提供支持。

据社区开发者剖析，MODEL1在同步逻辑与界线控制上可能比V3.2越发重大。其中RoPE与NoPE维度在双GEMM运算中耦合更紧，可能意味着其在位置编码与张量路径调理上做出了显著调解。

剖析还提到，MODEL1引入了运行时界线检查机制，旨在规避动态Top-K推理中潜在的不法内存会见。

别的，只管官方注释中标明MODEL1的stride应为576B，但据社区开发者基于代码结构估算，着实际内存分派逻辑可能靠近584B。这种细微差别被以为反应出该分支仍处于调试或快速迭代阶段。

在更早的1月9日，外媒援引知情人士称，DeepSeek将于2月中旬，也就是春节前后宣布其下一代模子，主打编程能力，并在内部测试中已经在多个基准上逾越了Claude与GPT系列。

连系现在模子文件结构已笼罩64和128两个头维度、FP8希罕解码路径已完成适配、内存规范已强制界说等迹象来看，MODEL1很可能已靠近训练完成或推理安排阶段，正期待最终的权重冻结和测试验证。

在外洋社交平台上，不少用户对MODEL1的曝光反应热烈。一位用户奚落道：“我已经能闻声‘新模子将带来99.97%本钱下降’了。”

而另一位开发者则以为，若是DeepSeek再次开放权重，势必将对闭源巨头形成压力，推动前沿模子进一步走向开放。

恰逢DeepSeek R1宣布一周年，Hugging Face官方博客也宣布了特殊文章《One Year Since the “DeepSeek Moment”》，系统回首了已往一年中国开源社区的整体爆发，明确提及DeepSeek的开源战略已从一次事务演化为生态战略。

▲Hugging Face官方博客：One Year Since the “DeepSeek Moment”

文章称，R1模子的开源不但降低了推理手艺、生产安排与心理三个门槛，更推动了海内公司在开源偏向上形成非协同但高度一致的战略走向。

从百度、字节跳动到月之暗面、智谱AI，各大机构在已往一年中陆续加入Hugging Face并宣布高质量模子，在社区下载、点赞与引用榜单上一再登顶。

与此同时，越来越多西方开源模子的底座也最先使用DeepSeek系列做微调，DeepSeek-V3更是成为Cogito v2.1等外洋模子的底层基座。

结语：一年之后，DeepSeek再次站在开源演进的起点

现在，距离R1宣布仅一年，DeepSeek的“MODEL1”很有可能在系统架构、执行路径与推理机制上展现出周全逾越V3.2的能力。

若是接下来如听说所述在春节前后正式宣布，DeepSeek或许将再次改写海内开源名堂，也可能为全球前沿开源模子树立新的标杆。

《极品教师在线观看免费版高清》，《Q8X2R7L1T4J5M9B6W3》

99精品碰碰视频精品碰碰视频

“免费成人美女3D”

好吊操国产精品

……

01月29日

“彪虎影视免费观看高清”维克托重做遭全网怒喷

↓↓↓

剑网3无界vs逆水寒手游哪个好玩，是日车企造假影响汽车零件材料出货量

01月29日，2024年“欢乐春节”新春庆典音乐会在柏林市政厅举行，欧美视频中文字幕区，acg糖漫画汉化组漫画库在线，yilimould.com，综合图片七区

01月29日，安徽绩溪：大美鄣山人间景峡谷秀水称绝色，97色伦第一综合网站，精品人妻少妇一级毛片免费，国产精品日韩欧美，国产片婬乱一级毛片886网站

01月29日，“摇一摇”广告式技术霸凌必须禁止，日韩裸体视频一区二区，91精品视频在线看福利，老太性交，成年午夜无码AV片在线观看

01月29日，国台办：航天器将飞得更高更远为两岸中国人带来更多荣耀，舌头👅进去里面吃视频，一級大片，又大又爽又粗还很猛的视频，亚洲人性爱xxxxx视频

01月29日，【这个城市有点潮】广西贵港非“荷”不可，久久99国产精品视频，www.色淫图片.com，爆喷水洗澡真人，黄色WWxx

01月29日，“五一”假期海南离岛免税购物金额5.47亿元，VR精品一区二区AV天堂，无码aⅴ精品一区二区三区浪潮，a级网站在线观看，丝袜脚精子18 禁止动漫

01月29日，美国俄勒冈州波特兰市中心因芬太尼泛滥进入紧急状态，曰本女人全视频免费毛片，好想被c秘好爽 n 视频，日本AA一级黄色视屏在线，男女免费做受A片

01月29日，报告显示中国中小企业景气指数实现年度“两连升”，AV漫画18禁，伊斯兰美女毛茸茸屄，老挝少妇白嫩BBBBBBBBB，我要看黄色大片

监制：邓金木

策划：赖晗

主创：唐征宇林箴贺陈佛烘颜亦阳陈林韵

编辑：王家菁、段圣祺

k1体育麻将胡了

下载APP

所有

代码泄密！DeepSeek下一代“王炸”模子架构曝光

热门视频