猫眼影戏
 |
|
猫眼影戏
石晓磊
手机审查
猫眼影戏记者 常川晓 报道Q8X2R7L1T4J5M9B6W3
梦晨 发自 凹非寺量子位 | 公众号 QbitAI
GPU编程变天了。
英伟达宣布最新版CUDA 13.1 ，官方直接定性：这是自2006年降生以来最大的前进。
焦点转变是推出全新的CUDA Tile编程模子 ，闪开发者可以用Python写GPU内核 ，15行代码就能抵达200行CUDA C++代码的性能。
新闻一出 ，芯片界传奇人物Jim Keller连忙发问：
英伟达是不是亲手终结了CUDA的“护城河”？若是英伟达也转向Tile模子 ，AI内核将更容易移植到其他硬件上。
Jim Keller加入设计过AMD Zen架构、苹果A系列芯片、特斯拉自动驾驶芯片的”硅仙人” ，他的判断在行业里相当有分量。
那么问题来了：CUDA这次究竟改了什么？为什么会被以为是”自毁长城”？
GPU编程范式从“线程”到“瓦片”
要明确这次更新的意义 ，得先回首一下古板CUDA编程有多折磨人。
已往20年 ，CUDA一直接纳SIMT（单指令多线程）模子 ，开发者写代码时 ，需要手动治理线程索引、线程块、共享内存结构、线程同步 ，每一个细节都要自己操心。
想要充分使用GPU性能 ，特殊是用上Tensor Core这类专用？ ，更是需要深挚的履历积累。
CUDA Tile彻底改变了这套玩法：
开发者不再需要逐线程地编写执行路径 ，而是把数据组织成Tile（瓦片） ，然后界说在这些Tile上执行什么运算。至于怎么把这些运算映射到GPU的线程、Warp和Tensor Core上 ，编译器和运行时会自动搞定。
就似乎NumPy之于Python。
英伟达为此构建了两个焦点组件：
CUDA Tile IR是一套全新的虚拟指令集 ，它在高级语言和硬件之间加了一层笼统 ，确保基于Tile编写的代码能在差别代际的GPU上运行 ，从目今的Blackwell到未来的架构都能兼容。
cuTile Python则是面向开发者的接口 ，直接用Python写GPU内核 ，门槛一下子从“HPC专家“降到了”会写Python的数据科学家都可以干。
另外 ，这次更新还带来了一系列面向Blackwell的性能优化：
cuBLAS引入了FP64和FP32精度在Tensor Core上的仿真功效新增的Grouped GEMM API在MoE（混淆专家模子）场景下能实现高达4倍加速cuSOLVER的批处置惩罚特征剖析在Blackwell RTX PRO 6000上相比L40S实现了约2倍的性能提升开发者工具Nsight Compute新增了对CUDA Tile内核的性能剖析支持 ，可以把性能指标直接映射回cuTile Python源代码。
现在CUDA Tile仅支持Blackwell架构（盘算能力10.x和12.x） ，开发重点集中在AI算法上。英伟达体现未来会扩展到更多架构 ，并推出C++实现。
硅仙人的质疑：降低门槛是一把双刃剑
那么Jim Keller为什么说英伟达可能”终结了自己的护城河”？
要害就在于Tile编程模子不是英伟达独吞的。AMD、Intel以及其他AI芯片厂商的硬件 ，在底层架构上同样可以支持基于Tile的编程笼统。
已往CUDA难以移植 ，很洪流平上是由于SIMT模子与英伟达硬件深度绑定 ，开发者要针对详细的GPU架构手写优化代码。这些代码换到别家硬件上 ，要么跑不了 ，要么性能大打折扣。
但Tile模子自然具有更高的笼统条理。当开发者习惯了“只管界说Tile运算 ，硬件细节交给编译器”这种头脑方法后 ，理论上统一套算法逻辑更容易适配到其他支持Tile编程的硬件上。
正如Jim Keller所说：”AI内核将更容易移植。”
不过英伟达也思量了后手 ，CUDA Tile IR提供了跨代兼容性 ，但这种兼容性是建设在CUDA平台之上的。
开发者写的代码确实更容易移植了 ，但移植的目的是英伟达自家的差别代GPU ，而非竞争敌手的硬件。
从这个角度看 ，CUDA代码可以从Blackwell无缝迁徙到下一代英伟达GPU ，但要迁徙到AMD或Intel的平台上 ，依然需要重写。
不管护城河是加深照旧削弱 ，有一点是确定的：GPU编程的门槛确着实大幅降低。
已往能熟练驾驭CUDA的开发者是稀缺资源 ，会写Python的人一抓一大把 ，但能把代码优化到跑满Tensor Core的专家寥若晨星。
CUDA Tile和cuTile Python买通了这个瓶颈。英伟达在开发者博客中提到 ，一个15行的Python内核性能可以媲美200行手动优化的CUDA C++代码。
大宗数据科学家和AI研究者以后可以直接上手写高性能GPU代码 ，不必再等HPC专家来资助优化。
参考链接：[1]https://developer.nvidia.com/blog/focus-on-your-algorithm-nvidia-cuda-tile-handles-the-hardware[2]https://x.com/jimkxa/status/1997732089480024498
??时势1：少萝吃狙免费观看全集剧情
??12月16日,【两会30秒】海关总署：2023年查获4.4万只“异宠” 智慧海关让不法分子无处遁形,
四是发明矛盾 ，实时化解。在村党支部书记与村委会主任关系处置惩罚不当爆发矛盾时 ，两者要实时调解心态、明确位置 ，分清是非 ，做好事情 ，化解矛盾 ，不要等问题成了堆 ，再行止置解决。
,国外网站欧美在线。??12月16日,长沙市“港产园”对接暨签约活动现场签约7545万元 助力加速产业出海,
??时势2：女人把腿张开给男人
??12月16日,台舆论关注大陆高校师生访台行：掀“马龙旋风”，彼此善意交融, 据国家统计局新闻 ，2024年5月份 ，天下住民消耗价钱同比上涨0.3%。其中 ，都会上涨0.3% ，农村上涨0.4%；食物价钱下降2.0% ，非食物价钱上涨0.8%；消耗品价钱持平 ，效劳价钱上涨0.8%。1??—5月平均 ，天下住民消耗价钱比上年同期上涨0.1%。,小 伸,七色猫影视,性鲍视。
??12月16日,基层女工成长记：做好“排头兵” 她在岗位上发光发热,
七八米长的躯体 ，双翅一展足有十五米 ，这样一个庞然大物俯冲过来 ，阵容惊人 ，让残枝败叶爆碎 ，还没有靠近呢 ，恐怖气流就已经刮的人脸生疼。
,国产高清乱码三级片,欧美性交一区二区免费看,男人女同学操哭后又把整只手钻进。??时势3：看黄片的视频
??12月16日,新疆旅游景区举行“世界湿地日”主题宣传活动,
林中多猛兽 ，可是这么多人一起出动 ，无论巨兽照旧凶禽都被惊的退避 ，由于出动的人太多了 ，如一股洪流。
,一级A片黄色录像A片,97碰久日韩视频在线观看,亚洲欧美日韩在线区。??12月16日,2024我们如何邂逅文学的繁花？,
做一个有社会责任感的协会 ，做一个有责任感的人 ，是我会的目的 ，也是我们对会员的要求。协会建设以来 ，先为组织会员为汶川地动灾区捐钱4000多元 ，为残疾人、低保工具子女举行免费婚礼 ，在支付爱心的同时 ，他们也收获了幸福和快乐。
,环肥燕瘦3D漫画免费下拉,涩导航,用力插,使劲,舒服视频。??时势4：巨乳美女抖胸吃奶头
??12月16日,水果不宜加热吃……是真是假？｜谣言终结站,
宛若地狱一样平常 ，若是一样平常人连忙就软倒在了地上。
,98精品视频在线观看,欧美一级性爱网站,蠢沫沫。??12月16日,郑州海关党委委员、副关长、一级巡视员孙晨明被查,
善待地球 ，作为学生 ，首先要从爱我校园做起。我们应尽我们最大的起劲去呵护校园 ，敬重校园里的一草一木。让飘扬在风中的纸屑和校园离别吧 ，让甜睡在地上的痰迹和马路离别吧 ，让摆设在墙上的涂痕和课堂离别吧 ，让我们用仔细的呵护唤起学校的整齐和漂亮吧!在掩护情形的同时 ，我们也应该珍惜资源。珍惜资源 ，就是要从节约一滴水 ，节约一度电 ，节约一粒米 ，节约一张纸做起。
,黄色一级高清网站,www.ahlzws.com,黄色精品在线。责编：汪日贵
审核：沃斯托克
责编：肖雁
Copyright (C) 2001- dzwww.com. All Rights Reserved
新闻信息效劳允许证 - 音像制品出书允许证 - 广播电视节目制作谋划允许证 - 网络视听允许证 - 网络文化谋划允许证
山东省互联网传媒集团主理 联系电话：0531-85193202 违法不良信息举报电话：0531-85196540
Copyright (C) 2001- Dzwww 鲁ICP备09023866号-1
