代码泄密！DeepSeek下一代“王炸”模子架构曝光

智工具作者江宇编辑冰倩

智工具1月21日报道，DeepSeek-R1宣布一周年之际，来自DeepSeek的神秘新模子“MODEL1”悄然现身GitHub代码库。

多位社区开发者推测，MODEL1很可能正是DeepSeek内测中的V3最终版本（V4模子），也有人推测它可能代表一个完全自力于V系列的新模子。

▲外洋开发者在X平台讨论MODEL1身份

克日，DeepSeek向其焦点推理内核FlashMLA推送了一系列更新，而在这些提交中，一个此前从未果真亮相的模子命名引发了社区的高度关注——MODEL1。

▲DeepSeek代码库泛起MODEL1相关（图源：X）

这一名称不但泛起在SM90架构相关的.cu内核实例化文件中，还贯串在多个针对FP8希罕解码路径的模板界说与内存结构注释里。

更要害的是，据外洋开发者推测，MODEL1的背后将是一整套新的推理机制、算子结构与底层内存设置，会与DeepSeek现有V3.2模子泛起出完全差别的手艺路径。

在相关代码文件中可以看到，MODEL1被用于焦点解码函数的多个实例中，显式适配了头维度为64和128的场景，并专门安排在SM90和SM100架构上。

▲DeepSeek FlashMLA源码截图（图源：GItHub）

代码中多处挪用了“ModelType::MODEL1”，与其对应的尚有一套自力的长期化内核。这些文件与V32版本的长期化内核文件并行保存，这显示出DeepSeek或许已为该模子设计了与V3系列完全差别的编译路径与执行逻辑。

▲DeepSeek FlashMLA源码文件树（图源：GItHub）

更值得注重的是，在代码中，有一条特殊注释写道：关于F3架构（即SM90平台）下的MODEL1模子，其KV缓存的内存stride必需是576B的整数倍。

▲外洋网友推文截图（现在该条注释已于代码库内删除）

这一设置区别于V3.2的656B，体现着MODEL1对底层内存对齐和调理有更为严酷的要求，可能与其更重大的运行时行为与动态缓存机制有关。

一位外洋网友也对这部分代码举行了深入解读，他以为，MODEL1在整体结构上展现出更强的实验性特征，支持动态Top-K希罕推理逻辑，还引入了特另外KV缓存区。

▲外洋开发者的剖析（图源：X）

前者通过引入一个可变的topk_length指针，允许模子在推理时凭证token或请求动态决议加入盘算的key数目，提升了盘算资源的细腻调理能力；后者则通过extra_kv缓冲区，提供了将系统提醒与用户上下文疏散存储的可能，为Agent架构或多段上下文场景提供支持。

据社区开发者剖析，MODEL1在同步逻辑与界线控制上可能比V3.2越发重大。其中RoPE与NoPE维度在双GEMM运算中耦合更紧，可能意味着其在位置编码与张量路径调理上做出了显著调解。

剖析还提到，MODEL1引入了运行时界线检查机制，旨在规避动态Top-K推理中潜在的不法内存会见。

别的，只管官方注释中标明MODEL1的stride应为576B，但据社区开发者基于代码结构估算，着实际内存分派逻辑可能靠近584B。这种细微差别被以为反应出该分支仍处于调试或快速迭代阶段。

在更早的1月9日，外媒援引知情人士称，DeepSeek将于2月中旬，也就是春节前后宣布其下一代模子，主打编程能力，并在内部测试中已经在多个基准上逾越了Claude与GPT系列。

连系现在模子文件结构已笼罩64和128两个头维度、FP8希罕解码路径已完成适配、内存规范已强制界说等迹象来看，MODEL1很可能已靠近训练完成或推理安排阶段，正期待最终的权重冻结和测试验证。

在外洋社交平台上，不少用户对MODEL1的曝光反应热烈。一位用户奚落道：“我已经能闻声‘新模子将带来99.97%本钱下降’了。”

而另一位开发者则以为，若是DeepSeek再次开放权重，势必将对闭源巨头形成压力，推动前沿模子进一步走向开放。

恰逢DeepSeek R1宣布一周年，Hugging Face官方博客也宣布了特殊文章《One Year Since the “DeepSeek Moment”》，系统回首了已往一年中国开源社区的整体爆发，明确提及DeepSeek的开源战略已从一次事务演化为生态战略。

▲Hugging Face官方博客：One Year Since the “DeepSeek Moment”

文章称，R1模子的开源不但降低了推理手艺、生产安排与心理三个门槛，更推动了海内公司在开源偏向上形成非协同但高度一致的战略走向。

从百度、字节跳动到月之暗面、智谱AI，各大机构在已往一年中陆续加入Hugging Face并宣布高质量模子，在社区下载、点赞与引用榜单上一再登顶。

与此同时，越来越多西方开源模子的底座也最先使用DeepSeek系列做微调，DeepSeek-V3更是成为Cogito v2.1等外洋模子的底层基座。

结语：一年之后，DeepSeek再次站在开源演进的起点

现在，距离R1宣布仅一年，DeepSeek的“MODEL1”很有可能在系统架构、执行路径与推理机制上展现出周全逾越V3.2的能力。

若是接下来如听说所述在春节前后正式宣布，DeepSeek或许将再次改写海内开源名堂，也可能为全球前沿开源模子树立新的标杆。

《亚洲搞黄》，《Q8X2R7L1T4J5M9B6W3》

午夜影片免费

“a电影免费观看”

黄色网站一级片中文字幕

……

01月29日

“国产成人精品视频A片免费网站”JDG官宣ALE加入大梦归离

↓↓↓

我国实现电视开机广告全面取消，是谁懂睡醒看见这一幕的含金量啊

01月29日，北京启动商品住房“以旧换新” 支持居民合理梯度置业需求，免费人成网站视频在钱，性生生活20分钟免费，在线免费免费观观看看的黄色视频，免费色情动漫

01月29日，马英九基金会执行长：两岸青年携手，共筑民族未来，朱竹清被到爽高潮，迪丽热巴自慰喷水好爽，纳西妲同人18 本子，w永久w75乳液真的不错

01月29日，康巴诺尔杯·2024 第八届康保马拉松鸣笛开跑，小樱让鸣人吃大雷怎么办，国语自产啪啪九色，欧美日本韩国A片三级片色哟哟，国外呦交网站

01月29日，乌鲁木齐：近70个国内引种甘薯品种迎专家“现场打分”，超碰欧美人人肏，又粗又长又大又爽又紧，麻豆气质人妻风吕盗撮骚逼，农民百百乡下妺BD国语

01月29日，专访“天工”团队：当人工智能有了身体后，它能干些啥？，男人插女人逼视频黄色大片，雷电将军打扑克网站，嗯啊嗯在线，东北美女性高潮视频

01月29日，四川康定：“8·03”山洪泥石流灾害抢险救援等工作有序推进，富婆性婬乱A片AAAA片，曰本真人一级A片免费视频，自慰夜香港麻豆涩漫，亚洲日韩码一区二区三区

01月29日，青海省供销合作社联合社原党组书记、理事会主任张晓军被查，女人被爽到呻吟的视频动态图，变态冷s西湖，jizz1000，福利电影网理论

01月29日，五问今年来北方最强高温过程：为何高温如此凶猛未来还要热多久？，激情日下部加奈AV无码，欧美牲交黄色视频，流萤被困列车本子，免费观看huangse视频

监制：邓金木

策划：赖晗

主创：唐征宇林箴贺陈佛烘颜亦阳陈林韵

编辑：王家菁、段圣祺

k1体育麻将胡了

下载APP

所有

代码泄密！DeepSeek下一代“王炸”模子架构曝光

热门视频