猫眼影戏
 |
|
猫眼影戏
唐国安
手机审查
猫眼影戏记者 谢云挺 报道Q8X2R7L1T4J5M9B6W3
几个小时前 ，NVIDIA CUDA Toolkit 13.1 正式宣布 ，英伟达官方体现：「这是 20 年来最大的一次更新 。」
英伟达社媒
这个自 2006 年 CUDA 平台降生以来规模最大、最周全的更新包括：
NVIDIA CUDA Tile 的宣布 ，这是英伟达基于 tile 的编程模子 ，可用于笼统化专用硬件 ，包括张量焦点 。
Runtime API exposure of green contexts（是指把所谓的 Green Context「指轻量级的、可并发调理的上下文或执行情形」袒露给外部挪用者使用 。）
NVIDIA cuBLAS 中的双精度和单精度仿真 。
一本完全重写的 CUDA 编程指南 ，专为 CUDA 新手和高级程序员设计 。
下面我们就来详细看看 。
CUDA Tile
CUDA Tile 是 NVIDIA CUDA Toolkit 13.1 最焦点的更新 。它是一种基于 tile 的编程模子 ，能够以更高的条理编写算法 ，并笼统化专用硬件（例如张量焦点）的细节 。
英伟达社媒
解读 CUDA Tile 的焦点看法
英伟达博客诠释说：CUDA Tile 可闪开发者在高于 SIMT（单指令多线程）的层级编写 GPU 核函数 。
在现在的 SIMT 编程中 ，开发者通常通过划分数据并界说每个线程的执行路径来指定核函数 。
而借助 CUDA Tile ，开发者可以提升代码的笼统层级 ，直接指定被称为「Tile」的数据块 。只需指定要在这些 Tile 上执行的数学运算 ，编译器和运行时情形会自动决议将事情负载分发到各个线程的最佳方法 。
这种 Tile 模子屏障了挪用 Tensor Core 等专用硬件的底层细节 ，并且 Tile 代码将能够兼容未来的 GPU 架构 。
CUDA 13.1 包括两个用于 Tile 编程的组件：
CUDA Tile IR：一种用于 NVIDIA GPU 编程的全新虚拟指令集架构（ISA） 。
cuTile Python：一种新的领域特定语言（DSL） ，用于在 Python 中编写基于数组和 Tile 的核函数 。
底层细节
编译的 Tile 路径可以融入完整的软件栈 ，与 SIMT 路径对应 。
这是该软件的首个版本 ，其包括以下注重事项：
CUDA Tile 仅支持 NVIDIA Blackwell（盘算能力 10.x 和 12.x）系列产品 。未来的 CUDA 版本将扩展对更多架构的支持 。
现在的开发重点聚焦于 AI 算法的 Tile 编程 。英伟达体现在未来的 CUDA 版本中将一连增添更多特征、功效并提升性能 。
英伟达妄想在即将宣布的 CUDA 版本中引入 C++ 实现 。
为什么要为 GPU 引入 Tile 编程？
CUDA 向开发者提供了单指令多线程（SIMT）硬件和编程模子 。这种模式要求（同时也允许）开发者以最大的无邪性和针对性 ，对代码的执行方法举行细粒度控制 。然而 ，编写高性能代码往往需要支付重大的心力 ，尤其是在需要适配多种 GPU 架构的情形下 。
只管已有许多库（如 NVIDIA CUDA-X 和 NVIDIA CUTLASS）旨在资助开发者挖掘性能 ，但CUDA Tile 引入了一种比 SIMT 层级更高的新型 GPU 编程方法 。
随着盘算事情负载的演进 ，特殊是在 AI 领域 ，张量已成为一种基础数据类型 。NVIDIA 开发了专门用于处置惩罚张量的硬件 ，例如 NVIDIA Tensor Core（TC）和 NVIDIA Tensor Memory Accelerator（TMA） ，它们现已成为每个新 GPU 架构中不可或缺的组成部分 。
硬件越重大 ，就越需要软件来资助驾驭这些能力 。CUDA Tile 对 Tensor Core 及其编程模子举行了笼统 ，使得使用 CUDA Tile 编写的代码能够兼容目今及未来的 Tensor Core 架构 。
基于 Tile 的编程方法允许开发者通过指定命据块（即 Tile） ，然后界说在这些 Tile 上执行的盘算来编写算法 ？⒄呶扌柙谥鹪氐牟忝嫔仙瓒ㄋ惴ǖ闹葱邢附冢罕嘁肫骱驮诵惺苯χ贸头Ｕ庑┦虑 。
下图展示了随 CUDA Tile 推出的 Tile 模子与 CUDA SIMT 模子之间的看法差别 。
Tile 模子与 CUDA SIMT 模子之间的看法差别
Tile 模子（左）将数据划分为多个块 ，编译器将其映射到线程 。单指令多线程（SIMT）模子（右）将数据同时映射到块和线程
这种编程范式在 Python 等语言中很常见 ，在这些语言中 ，像 NumPy 这样的库可以闪开发者指定矩阵等数据类型 ，然后用简朴的代码指定并执行批量操作 。
CUDA 软件更新
以下是本次 CUDA 版本更新中包括的其他主要软件刷新：
运行时对 Green Context（绿色上下文）的支持
CUDA 中的 Green Context 是一种轻量级的上下文形式 ，可作为古板 CUDA 上下文的替换计划 ，为开发者提供更细粒度的 GPU 空间划分与资源分派能力 。
自 CUDA 12.4 起 ，它们已在驱动 API 中提供；而从本版本最先 ，Green Context 也正式在运行时 API 中开放使用 。
Green Context 使用户能够界说和治理 GPU 资源的自力分区 ，主要是 Streaming Multiprocessors（SM） 。你可以将特定命目的 SM 分派给某个特定的 Green Context ，然后在该 context 所拥有的资源规模内启动 CUDA kernel 并治理只在此 context 内运行的 stream 。
一个典范的应用场景是：你的程序中有部分代码对延迟极为敏感 ，并且需要优先于其他所有 GPU 事情执行 。通过为这段代码单独建设一个 Green Context 并分派 SM 资源 ，而将剩余的 SM 分派给另一个 Green Context 处置惩罚其他使命 ，你就能确保始终有可用的 SM 供高优先级盘算使用 。
CUDA 13.1 还引入了越发可定制的 split () API ？⒄呖梢酝ü庖唤涌诠菇ù饲靶枰啻 API 挪用才华完成的 SM 分区 ，并且可以设置事情行列 ，从而镌汰差别 Green Context 之间提交使命时爆发的伪依赖（false dependencies） 。
有关这些功效及 Green Context 的更多信息 ，请拜见 CUDA Programming Guide 。
CUDA 编程指南地点：https://docs.nvidia.com/cuda/cuda-programming-guide/04-special-topics/green-contexts.html
CUDA 多历程效劳（MPS）更新
CUDA 13.1 为多历程效劳带来了多项新特征和功效 。有关这些新功效的完整信息 ，请参阅 MPS 文档 。以下是部分亮点内容：
内存局部性优化分区
内存局部性优化分区（Memory locality optimization partition ，MLOPart）是 NVIDIA Blackwell 系列（盘算能力 10.0 和 10.3 ，为架构版本号）及更新 GPU 上提供的一项特征 。
该功效允许用户建设专门优化内存局部性的 CUDA 装备 。MLOPart 装备基于统一块物理 GPU 派生而来 ，但泛起为多个自力装备 ，每个装备拥有更少的盘算资源和更小的可用内存 。
在盘算能力 10.0 和 10.3 的 GPU 上 ，每块 GPU 都包括两个分区 。
当在 GPU 上启用 MLOPart 时 ，每个分区都会作为一个自力的 CUDA 装备泛起 ，并具有其对应的盘算与内存资源 。
现在 ，MLOPart 仅支持 NVIDIA B200 与 NVIDIA B300 系列产品 。未来的 CUDA 宣布版本将加入对 NVIDIA GB200 与 NVIDIA GB300 系列的支持 。
静态流式多处置惩罚器（SM）分区
作为 MPS 中现有的动态执行资源供应（provisioning）的一种替换计划 ，静态流式多处置惩罚器（SM）分区是针对 NVIDIA Ampere 架构（盘算能力 8.0）及更新 GPU 的一项特征 ，它为 MPS 客户端提供了一种建设独吞 SM 分区的要领 。
该模式通过使用 -S 或 --static-partitioning 标记启动 MPS 控制守护历程来启用 ，其主要目的是提供确定性的资源分派 ，并改善 MPS 客户端之间的隔离性 。分区的基本单位是一个「Chunk」（块） ，其巨细凭证 GPU 架构而异 —— 例如 ，在 Hopper（盘算能力 9.0）及更新的自力 GPU 上 ，一个 Chunk 包括 8 个 SM 。
cuBLAS 中的双精度和单精度模拟
虽然严酷来说这不属于 CUDA 13.1 的更新 ，但 NVIDIA CUDA Toolkit 13.0 中的 cuBLAS 更新引入了新的 API 和实现 ，旨在提升双精度（FP64）矩阵乘法（matmul）的性能 。
这是通过在 NVIDIA GB200 NVL72 和 NVIDIA RTX PRO 6000 Blackwell Server Edition 等 GPU 架构的 Tensor Core 上举行浮点（FP）模拟来实现的 。
开发者工具
开发者工具是 CUDA 平台的主要组成部分 。此次宣布带来了多项立异和功效增强 ，包括：
CUDA Tile 核函数性能剖析工具
在摘要页新增「Result Type」（效果类型）列 ，用于区分 Tile 核函数与 SIMT 核函数 。
详情页新增「Tile Statistics」（Tile 统计）部分 ，总结 Tile 维度和主要管线（pipeline）的使用率 。
源码页支持将指标映射到高层级的 cuTile 核函数源码 。
源码页
Nsight Compute 剖析 ，重点展示了剖析输出中的 Tile Statistics 部分
此次宣布的 Nsight Compute 还增添了对装备端启动的图（device-launched graphs）中 CUDA 图节点的剖析支持 ，并刷新了源码页导航 ，为编译器天生和用户天生的标签提供了可点击的链接 。
编译时修补
NVIDIA Compute Sanitizer 2025.4 通过 -fdevice-sanitize=memcheck 编译器标记 ，增添了对 NVIDIA CUDA 编译器（NVCC）编译时修补（patching）的支持 。这种修补增强了内存过失检测能力 ，并提升了 Compute Sanitizer 的性能 。
编译时插桩（instrumentation）可将过失检测直接集成到 NVCC 中 ，从而实现更快的运行速率 ，并通过高级的基址 - 界线剖析（base-and-bounds analysis）捕获更隐藏的内存问题（如相邻分派间的不法会见） 。这意味着开发者可以在不牺牲速率的情形下调试内存问题 ，运行更多测试并坚持生产力 。现在 ，该功效仅支持 memcheck 工具 。
要使用此新功效 ，请使用如下 NVCC 标记编译代码：
nvcc -fdevice-sanitize=memcheck -o myapp myapp.cu
然后使用 memcheck 工具运行你的应用：
compute-sanitizer --tool memcheck myapp
NVIDIA Nsight Systems
NVIDIA Nsight Systems 2025.6.1 与 CUDA Toolkit 13.1 同步宣布 ，带来了多项新的追踪功效：
系统级 CUDA 追踪：--cuda-trace-scope 可开启跨历程树或整个系统的追踪 。
CUDA 主机函数追踪：增添了对 CUDA Graph 主机函数节点和 cudaLaunchHostFunc () 的追踪支持 ，这些函数在主机上执行并会壅闭流（stream） 。
CUDA 硬件追踪：在支持的情形下 ，基于硬件的追踪现在成为默认模式；使用 --trace=cuda-sw 可恢复为软件模式 。
Green Context 时间轴行现在会在工具提醒中显示 SM 分派情形 ，资助用户明确 GPU 资源使用率 。
数学库
焦点 CUDA 工具包数学库的新功效包括：
NVIDIA cuBLAS：一项全新的实验性 API ，支持 Blackwell GPU 的分组 GEMM 功效 ，并兼容 FP8 和 BF16/FP16 数据类型 。针对上述数据类型 ，支持 CUDA 图的分组 GEMM 提供了一种无需主机同步的实现方法 ，其装备端形状可实现最高 4 倍的加速 ，优于 MoE 用例中的多流 GEMM 实现 。
NVIDIA cuSPARSE：一种新的希罕矩阵向量乘法 (SpMVOp) API ，与 CsrMV API 相比性能有所提升 。该 API 支持 CSR 名堂、32 位索引、双精度以及用户自界说的后缀 。
NVIDIA cuFFT：一套名为 cuFFT 装备 API 的全新 API ，提供主机函数 ，用于在 C++ 头文件中盘问或天生装备功效代码和数据库元数据 。该 API 专为 cuFFTDx 库设计 ，可通过盘问 cuFFT 来天生 cuFFTDx 代码块 ，这些代码块可以与 cuFFTDx 应用程序链接 ，从而提升性能 。
针对新的 Blackwell 架构 ，现已推出性能更新 。用户可选摘要害 API 举行更新 ，并审查性能更新详情 。
cuBLAS Blackwell 性能
CUDA Toolkit 12.9 在 NVIDIA Blackwell 平台上引入了块缩放的 FP4 和 FP8 矩阵乘法 。CUDA 13.1 增添了对这些数据类型和 BF16 的性能支持 。图 2 显示了在 NVIDIA Blackwell 和 Hopper 平台上的加速比 。
在 NVIDIA Blackwell 和 Hopper 平台上的加速比
cuSOLVER Blackwell 性能
CUDA 13.1 继续优化用于特征剖析的批处置惩罚 SYEVD 与 GEEV API ，并带来了显著的性能增强 。
其中 ，批处置惩罚 SYEV（cusolverDnXsyevBatched） 是 cuSOLVER 中 SYEV 例程的统一批处置惩罚版本 ，用于盘算对称／Hermitian 矩阵的特征值与特征向量 ，很是适合对大宗小矩阵举行并行求解的场景 。
图 3 展示了在批巨细为 5,000（矩阵行数 24–256）的测试效果 。与 NVIDIA L40S 相比 ，NVIDIA Blackwell RTX Pro 6000 Server Edition 实现了约 2 倍的加速 ，这与预期的内存带宽提升相吻合 。
在批巨细为 5000（矩阵行数 24–256）的测试效果
关于复数单精度和实数单精度两类矩阵 ，当行数N = 5时 ，加速比约为1.5× ，并随着行数增大逐渐提升 ，在N = 250 时抵达 2.0× 。
图 4 显示了 cusolverDnXgeev (GEEV) 的性能加速比 ，该函数用于盘算一样平常（非对称）浓密矩阵的特征值和特征向量 。GEEV 是一种混淆 CPU/GPU 算法 。单个 CPU 线程认真在 QR 算法中执行高效的早期降阶处置惩罚 ，而 GPU 则处置惩罚其余部分 。图中显示了矩阵巨细从 1,024 到 32,768 的相对性能加速比 。
cusolverDnXgeev (GEEV) 的性能加速比
当矩阵行数n = 5000时 ，加速比约为1.0 ，并随着矩阵规模增大逐渐提升 ，在n = 30000 时抵达约 1.7 。
NVIDIA CUDA 焦点盘算库
NVIDIA CUDA Core 盘算库 (CCCL) 为 CUB 带来了多项立异和增强功效 。
确定性浮点运算简化
由于浮点加法不具备连系律 ，cub::DeviceReduce 历史上只能包管在统一 GPU 上每次运行获得位上完全相同的效果 。这被实现为一个两遍算法 。
作为 CUDA 13.1 的一部分 ， NVIDIA CCCL 3.1 提供了两个特另外浮点确定性选项 ，您可以凭证这些选项在确定性和性能之间举行权衡 。
不包管：使用原子操作举行单次归约 。这不可包管提供位上完全相同的效果 。
GPU 间：基于 Kate Clark 在 NVIDIA GTC 2024 大会上演讲中可复现的降维效果 。效果始终逐位相同 。
可以通过标记位设置确定性选项 ，如下面的代码所示 。
演示代码
数据比照
更便捷的单相 CUB API
险些所有 CUB 算法都需要暂时存储空间作为中心暂存空间 。已往 ，用户必需通过两阶段挪用模式来盘问和分派须要的暂时存储空间 ，若是两次挪用之间转达的参数纷歧致 ，这种模式既繁琐又容易蜕化 。
CCCL 3.1 为一些接受内存资源的 CUB 算法添加了新的重载 ，从而用户可以跳过暂时存储盘问 / 分派 / 释放模式 。
演示代码
CUDA Tile 资源链接：https://developer.nvidia.com/cuda/tile
CUDA Toolkit 13.1 下载地点：https://developer.nvidia.com/cuda-downloads
https://developer.nvidia.com/blog/focus-on-your-algorithm-nvidia-cuda-tile-handles-the-hardware
https://developer.nvidia.com/blog/nvidia-cuda-13-1-powers-next-gen-gpu-programming-with-nvidia-cuda-tile-and-performance-gains
https://x.com/NVIDIAAIDev/status/1996976702732620271
https://developer.nvidia.com/blog/simplify-gpu-programming-with-nvidia-cuda-tile-in-python
? THE END
本文来自微信公众号“机械之心” ，36氪经授权宣布 。
??时势1：A片免费观看网址
??12月08日,外交部就美国批准向中国台湾地区出售19.88亿美元武器答问,
“我速率很快 ，我妄想逾越极境速率 。”小不点认真地说道 。
,亚洲性色XXXX 。??12月08日,广东官宣全省入秋 12月冷空气活跃,
新的学期又最先了 ，在我们每小我私家的眼前都摊开了一张新白纸 ，那么我们将怎样在这张白纸上画出人生的又一幅精彩的画卷呢?同砚们 ，选择了勤勉和斗争 ，也就选择了希望与收获;选择了纪律与约束 ，也就选择了理智与自由;选择了痛苦与艰难 ，也就选择了练达与成熟;选择了拼搏与逾越 ，也就选择了乐成与绚烂!那么就请用我们的勤劳和汗水 ，用我们的智慧和热情 ，捉住这名贵的今天 ，师生团结一心 ，起劲在现在 ，去创立优美的明天吧 。
,jiujiuriav在线,国产日韩a视频在线播放视频,https://igao16com 。??时势2：日本黄色影片免费看
??12月08日,专家学者共赴闽北绿色之约 探索生态资产转化,
凶禽颤抖 ，全身发光 ，彻底暴怒 ，接连亏损 ，让它凶气缭绕 ，最先追杀两头异兽 。
,天天高清免费A片视频在线播放,久久久久亚洲精品无码糸列,高清的无码的免费的毛片视频 。??12月08日,供需协同发力壮大竞争新优势,
二是在天下率先开展了水权制度建设及相关实践 。20xx年自治区水权收储转让中心注册建设以来 ，累计批复水权转让水量4.5亿立方米 ，解决了60多个大型项目的用水需求 ，可支持约1600亿元工业增添值的水资源需求 。全区累计为灌区筹措节水刷新资金50多亿元 ，通过水权转让 ，不但解决了国家重点项目的用水需求 ，还带来了重大的经济、社会和情形效益 ，实现了“多赢”的效果 。走出了一条干旱缺水地区经济社会生长用水的新路子 。
,萌白酱vip付费超短白旗袍,91空姐光胸洗澡被91看,五月花av 。??时势3：看黄片特级大黄片天天色
??12月08日,湖北文物赴美“出差” 向海外展现荆楚文化,
而生涯上、事情中总是会泛起种种转变或难题 ，只有学习才华使我们破釜沉舟 ，随心应对种种挑战 。
,亚洲图区激情小说,2020年99久久国产精品,免费欧美l级A片 。??12月08日,厦门实践｜五缘湾的“生态账”：昔日“烂潮滩”变身“会客厅”,
??时势4：欧美黑人激情一级A片
??12月08日,羽联最新世界排名国羽四项名列第一 奥运“五金店”有望再开张？,
谁都没有注重 ，就连火灵儿、九头狮子等都受骗过了 ，可以说毛球的七十二变很是惊人 ，可以假乱真 。
,国产A∨天天免费观看美女w,xnxx16,AV黄片免费观看 。??12月08日,湖南东安机械化播种油菜 让农闲田不再闲,
熊孩子熬唠一声 ，一群人响应 ，招呼力极大 ，天才营众人都追随在他的死后 ，杀向逐鹿书院的栖身的地方 。
,中日韩农村美女黄色免费网站在线视频,亚州人精品午夜,少年同性gayvideos 。责编：阿尔杰塔——
审核：陈沂
责编：王斑
Copyright (C) 2001- dzwww.com. All Rights Reserved
新闻信息效劳允许证 - 音像制品出书允许证 - 广播电视节目制作谋划允许证 - 网络视听允许证 - 网络文化谋划允许证
山东省互联网传媒集团主理 联系电话：0531-85193202 违法不良信息举报电话：0531-85196540
Copyright (C) 2001- Dzwww 鲁ICP备09023866号-1
