51job

英伟达为什么突然让CPU重新变得重要？_我的网站

A |     在新加坡我们经常会看到排队的人龙，大家都很遵守规则，一切井然有序。    过去几年，数据中心里的CPU多少有些失意。         一谈人工智能，大家想到的是英伟达GPU、HBM、先进封装、NVLink，以及一排排功耗越来越吓人的液冷机柜。但是如果正好有事没办法在现场排队，你会怎么做呢？8月23日，碧山东居民委员会举办了免费分发食物的活动，有不少人用石头和塑料袋等物品来占位排队，引发了网友的讨论。

B | 图源：Facebook 事情发生在碧山12街第112座组屋楼下，人们用物品代替自己排队等待免费发放的食物，其中有纸巾、石头和塑料袋等。当晚，粮食救援计划的组织者居民网络在Facebook上感谢居民的鼎力支持。图源：Facebook居民网络于2021年11月启动了“Harvest in Harmony”食物救援计划，这是“实现零食物浪费”可持续发展项目的一部分，这个项目将志愿者收集的不需要的食物重新分配给居民。CPU虽然仍然装在服务器里，却越来越像一位负责开门、递文件、安排会议的办公室主任——不可或缺，但发布会的聚光灯基本轮不到它。他们表示：“我们感谢早起的人们在保持秩序和睦相处的情况下排队等待补货。         现在，英伟达却突然宣布：CPU不但重要，而且要重新成为AI基础设施的竞争焦点。         英伟达最新披露的Vera CPU，采用88个自研Olympus核心，支持176个硬件线程；最高提供1.2TB/s的LPDDR5X内存带宽、1.5TB内存容量，以及1.8TB/s的CPU与GPU一致性连接带宽。与上一代Grace使用Arm Neoverse授权核心不同，Olympus是英伟达面向数据中心重新设计的CPU核心。”然而，组织者碧山东一区居民网络强调“只接受真人排队”，他们分享了一张照片，照片中队伍里排着一排物品，大部分是用石头压住的塑料袋。“严禁使用物品进行占位排队。”图源：Facebook 他们补充说，地板上的所有物品都被视为垃圾，将被清理或没收。(NVIDIA Developer)          一个靠GPU成为全球市值巨头的公司，为什么突然认真做起了CPU？答案当然不是黄仁勋忽然对通用处理器产生了怀旧情绪。英伟达真正关心的，是如何让那些价格昂贵、功耗惊人、每一分钟都在燃烧资本的GPU少等一会儿。         GPU越来越快，为什么CPU反而成了问题？          传统大模型推理大体上是一个相对集中的计算过程。“我们寻求您的理解和合作，以维持所有人都能享受愉快、和谐的领取食品的体验。”这样的占位方式，对于生活在新加坡的我们来说其实并不陌生了，但是每次看到还是会被大家的脑洞惊到……一起来看看新加坡人都会用哪些东西占位吧。

C |          输入数据送进GPU，GPU完成大量矩阵计算，随后输出结果。在这个阶段，CPU主要负责数据准备、系统管理和任务调度。只要CPU别拖后腿，主角自然还是GPU。

D | 01纸巾在新加坡，小包的纸巾是占座的首选物品，由于这种方法的有效性和纸巾的轻巧便携，以及易于识别的性质，被人们广泛应用。图源：Seedly 02雨伞在新加坡，雨伞的作用不仅仅是遮风挡雨，它们还能用来占座。这种方法有时比纸巾更奏效，因为雨伞更坚固，更不容易被风吹走或被别人拿走。

E | 图源：The Straits Times 03员工卡在新加坡，使用员工卡占座是一种常见的做法。因为新加坡很安全，不必担心个人物品被盗。04眼镜眼镜可以看做是餐桌上的“筷子”，这是一种奇特而有效的纸巾替代品。虽然你可能忘记带纸巾，但你不太可能忘记戴眼镜。不过话说回来，眼镜用来占座了，点餐的时候看得清吗？05包包使用包包来占座也是一个聪明的策略，因为它们更大，更不容易被无视。

F | 这种方法可能比纸巾更有效，因为包包不容易被转移，确保可以占住想要的座位。         但智能体AI的执行流程并不是这样。图源：Pinkoi 06名片如果你刚刚带着一叠名片从某个社交活动中离开，你可能会毫不犹豫地抽出一张来占座。虽然在流行的占座用品中不太常见，但有些人更喜欢使用这种一次性的物品。图源：Stomp 07水瓶这种方法不仅独特，而且比纸巾更有效。         一个智能体接到任务后，可能先在GPU上进行推理，随后调用搜索工具；再回到CPU执行Python脚本；然后访问数据库、解析网页、启动沙箱、调用API；完成之后再把结果送回GPU继续推理。         一次复杂任务可能在CPU和GPU之间往返几十次乃至数百次。这些动作包括：          编译模型生成的代码          启动和关闭容器或沙箱          执行Python、JavaScript和数据库查询          完成检索、数据预处理和结果校验          调度多个智能体之间的任务          管理KV Cache和其他系统数据               这里面很多工作都不是把核心数量堆上去就能解决的。         假设一个工作环节必须按照A、B、C、D的顺序执行，那么增加十倍CPU核心，也不能让C跑到A前面去。

G | 系统真正需要的是更快的单线程性能、更低的内存访问延迟，以及CPU在高负载状态下仍然能够稳定供给数据的能力。         换句话说，GPU擅长千军万马同时冲锋，智能体执行链里却包含大量需要一个一个过关的单兵作战。         英伟达把这套逻辑概括为：CPU评价标准正在从“每美元可以买到多少核心”，转向“每美元和每瓦电力能够生产多少Token”。其官方资料称，Vera面向代码编译、Python执行和代码分析等智能体负载，相比其选择的x86基准系统最高获得约1.8倍性能；但这些结果由英伟达提供，测试平台和基准选择仍需要独立机构验证。水瓶不太可能被意外移动，确保你的座位是安全的，就像包包在占位时的作用一样。         这句话翻译得接地气一点就是：          GPU本来正在努力干活，结果CPU拿着材料迟迟不来。图源：Explore08报纸不出意外的话，用报纸占位的，一定是一位新加坡安哥吧！大家还见过什么奇奇怪怪的占座方式呢？。老板买了一屋子昂贵GPU，最后却看着它们排队等Python脚本执行完。         这当然不能忍。         Vera并不追求“核心越多越好”          过去十多年，服务器CPU有一条很清晰的演进路线：不断增加核心数量。         云计算公司希望在一颗CPU上运行更多虚拟机，服务更多租户，于是“每插槽核心数量”和“每美元虚拟CPU数量”成为重要指标。         2014年前后的高端Xeon通常只有十几个核心；今天的AMD EPYC已经进入百核时代，下一代Venice还将进一步提高密度。AMD已经宣布，第六代EPYC Venice在台积电2nm工艺上进入量产爬坡，并将在Helios AI机架中与MI450系列GPU配套使用。         英伟达却没有跟随这条路线，它没有把Vera做成一颗两三百核的CPU，而是选择了88个相对宽大的核心。         Olympus采用10路解码前端、深度乱序执行、神经网络分支预测和面向图数据访问的预取机制，目标不是在芯片里塞进尽可能多的核心，而是让每个核心在复杂软件环境下跑得更快。         Vera还有一个值得关注的设计：计算核心集中在一块单片计算芯粒（Chiplet）上，而内存控制和I/O可以采用其他芯粒。         过去几年，Chiplet已经成为先进处理器的主流方向。它能降低大芯片的制造成本，也便于组合不同功能模块。

H | 但Chiplet并不是白吃的午餐，数据跨越不同芯粒时会增加延迟和互连负担。         英伟达选择把88个CPU核心放在同一块计算裸片上，再通过第二代Scalable Coherency Fabric连接164MB共享三级缓存、内存和I/O。官方给出的“片内双向剖分”带宽约为3.4TB/s。         其设计逻辑非常明确：宁可少塞一些核心，也要减少核心之间、核心与内存之间的数据堵车。

I | 这与AMD、Intel近年来通过多芯粒提高核心数量和产品灵活性的方向，构成了一次非常有意思的架构分叉。

J |          谁更正确？现在还远远没有答案。         如果工作负载可以高度并行，核心多当然有优势；如果大量任务依赖单线程速度、共享数据和低延迟，Vera的选择可能更有效。

K |          真正的问题不是单片好还是Chiplet好，而是客户究竟在运行什么东西。

L |          “智能体CPU”是真需求，还是营销部门的新包装？          看到“专为Agentic AI设计的CPU”，有经验的从业者难免会警觉。         半导体行业很擅长给旧需求换一个新名字。以前叫并行计算，后来叫AI计算；以前叫服务器，后来叫AI工厂；现在连CPU也开始穿上智能体的外套。         Ryan Shrout在其文章《NVIDIA Joins the Battle of Making the CPU Interesting Again》中提出了一个很好的问题：智能体AI所需要的，究竟是一种全新的CPU，还是一颗内存带宽更高、单线程性能更强的优秀服务器CPU？          英伟达给出的回答其实比较诚实：基础计算原理并没有改变，变化的是任务发生的频率和系统负载强度。         虚拟机和容器并不是智能体时代才出现的，数据库查询、脚本执行、数据检索也存在多年。区别在于，过去它们可能偶尔发生一次；智能体工作流却会持续创建环境、执行代码、访问数据、销毁环境，然后再来一遍。         强化学习同样需要同时运行大量CPU环境，对模型生成的行为进行评估和反馈。         因此，所谓“智能体CPU”并非凭空出现的新物种，更准确的说法应该是：智能体AI放大了服务器CPU中原本就存在的性能矛盾。         过去，CPU慢一点，用户可能多等几十毫秒。现在，CPU慢一点，后面的几十颗甚至几百颗GPU都可能一起等待。

M | 普通服务器里，CPU本身就是主要计算资产；AI机架里，CPU旁边站着的是一群价格远高于它的GPU。         于是CPU的经济价值发生了变化。英伟达并不是单纯出售一颗更昂贵的Arm CPU，而是试图告诉客户：不要只看CPU价格，应该看它能为整套GPU系统追回多少利用率。         这套说法非常聪明。

N | 因为一旦评价标准从“每颗CPU多少钱”变成“每个机架能多生产多少Token”，CPU成本可能真的会成为小数点后的数字。         Vera真正要挑战的，不只是Intel和AMD          表面上看，Vera进入的是服务器CPU市场，竞争对手自然是Intel Xeon和AMD EPYC。         但英伟达的真正目标可能更大。         亚马逊已经把Graviton推进到第五代，最新Graviton5实例相较上一代官方宣称可提高最多25%的计算性能；谷歌也通过Axion处理器为Google Cloud提供自研Arm CPU平台。(Amazon Web Services, Inc.)          这些云厂商做CPU，主要是为了控制云计算成本和产品差异化。它们关心的是同样一台服务器能够出租多少虚拟机？每个CPU的成本是多少？一度电能够服务多少云客户？          英伟达的思路不同。         Vera并不是首先作为一颗通用CPU，孤零零地插入普通服务器插槽，与Xeon、EPYC争夺每一台企业服务器。         Vera最重要的应用场景，是Vera Rubin NVL72等英伟达AI系统。在这套机架里，36颗Vera CPU与72颗Rubin GPU、NVLink交换系统、ConnectX网卡和BlueField DPU共同工作。         这意味着英伟达销售的并不是CPU。它销售的是一套由英伟达定义的计算系统，CPU只是其中一个控制点。以前，英伟达需要让自己的GPU适配Intel和AMD的服务器平台。现在，它希望从CPU、GPU、互连、网卡、DPU到系统软件全部掌握在自己手里。         这才是Vera最值得警惕的地方。

o |          英伟达已经不满足于占领加速卡插槽，它开始一点一点吃掉服务器主板、网络交换、数据处理和系统架构的价值。

p | 今天做CPU，明天做存储处理器，后天做机架，最后客户采购的可能不再是若干部件，而是一座完整的“英伟达AI工厂”。         到了那个时候，传统服务器厂商越来越像施工队，传统CPU厂商则可能从平台定义者退化为零部件供应商。         Intel与英伟达的关系，变得有些微妙          事情也并不是英伟达推出Vera之后，Xeon立即被扫地出门。

q |          Intel在2026年3月宣布，Xeon 6被用于英伟达DGX Rubin NVL8系统。这说明，在需要兼容传统软件、通用企业负载和标准服务器生态的产品中，英伟达仍然需要x86 CPU。         于是出现了一个颇有意思的局面：英伟达一边采购Intel CPU，一边推出自己的CPU与Intel竞争。         这看上去有些别扭，实际上非常符合平台公司的做法。在生态尚未完全成熟时，英伟达需要Xeon帮助其进入传统数据中心；在最先进、价值最高的机架级AI系统中，它又希望使用Vera，把系统的每一个关键环节握在自己手中。

r |          Intel真正面临的风险，不是Vera立刻抢走所有Xeon订单。而是服务器CPU的战略位置可能被重新定义。         过去，CPU是服务器的中心，GPU是挂在CPU旁边的加速器。

s | Vera Rubin时代，GPU开始成为系统中心，CPU则被重新设计为服务GPU利用率的调度和数据处理引擎。         这相当于原来坐在董事长位置上的CPU，虽然还没有被赶出会议室，却开始负责给新董事长准备会议材料。         AMD同样需要回答这个问题。         AMD拥有EPYC和Instinct两条产品线，理论上比Intel更容易构建CPU与GPU协同平台。Helios正是AMD给出的答案：用Venice CPU、MI455X GPU、Pensando网卡和ROCm软件组成开放机架。

t |          因此，未来的竞争不只是Vera对Xeon、Vera对EPYC。         真正的较量是：Vera Rubin与AMD Helios，谁能让整个机架生产更多Token？          现在谈Vera获胜，还为时太早          从英伟达提供的数据看，Vera相较现有x86系统，在代码编译、Python执行、数据分析、图计算和高负载内存访问等场景中表现亮眼。         此外，英伟达也公布了Perplexity、纽约证券交易所和美国国家实验室等早期测试案例。不过，这些结果目前仍主要来自英伟达及合作伙伴，部分基准采用预量产系统，一些比较对象也是已经上市一段时间的Intel和AMD产品。         而Vera真正大规模交付时，将面对的并不只是今天的Granite Rapids或者EPYC Turin。AMD Venice已经进入台积电2nm量产爬坡；Intel也在准备下一代Xeon产品。         此外，单线程性能高并不等于所有服务器工作负载都更快。         数据库、虚拟化、Web服务、高性能计算和智能体工作流之间的性能需求差异很大。部分场景更看重核心数量，部分需要大容量DDR内存，部分依赖软件认证，还有大量企业应用仍然建立在x86生态之上。         英伟达必须证明几件事：          第一，Vera的高单线程性能能够在满负载状态下持续保持，而不是只在选择性基准中领先。         第二，LPDDR5X虽然带宽高、功耗低，但容量、成本、可维护性和供应能力能够满足数据中心需求。

u |          第三，Arm软件生态能够支持复杂企业应用，而不只是英伟达自己控制的AI机架。         第四，Vera带来的GPU利用率提升，足以覆盖客户迁移平台和重构软件的成本。         英伟达把题目出得很好，但最终还要由客户的电费账单和采购合同判卷。         CPU市场不会被Vera统一，反而会进一步分裂          Vera出现后，服务器CPU市场可能不再是Intel与AMD之间简单的x86之争。         未来至少会形成四种路线。         第一种，是Intel和AMD继续提供的通用型x86处理器，强调软件兼容、企业生态和广泛的工作负载适应性。         第二种，是AWS Graviton和Google Axion等云厂商自研CPU，重点追求云服务的成本、能效和内部工作负载优化。         第三种，是Vera这种与GPU、网络和AI软件深度绑定的AI工厂CPU，评价标准是GPU利用率和每机架Token产量。         第四种，则可能是面向高性能计算、存储、数据库或特定行业的专用Arm处理器。         过去，服务器CPU试图成为无所不能的通用平台。未来，CPU很可能越来越围绕特定系统目标设计。         这其实是半导体产业非常熟悉的故事：当一个通用市场足够大之后，专用化迟早会发生。GPU已经从通用图形芯片变成AI专用计算平台；现在，AI反过来又推动CPU从通用处理器走向系统定制。         对中国处理器产业有什么启示？          国内服务器CPU讨论中，也经常陷入一种简单的参数竞赛：          核心有多少？          主频有多高？          工艺是多少纳米？          单项跑分追上谁？               这些问题重要，但Vera提醒我们，先进处理器的竞争越来越不是一张规格表能够说明的。

v | 真正决定AI系统表现的，是CPU核心、缓存、内存带宽、片内互连、CPU与GPU的一致性、编译器、操作系统、容器环境和任务调度之间的整体协同。         国内AI芯片企业往往非常重视加速器算力，却容易低估主机CPU和系统软件。结果可能是AI芯片的理论算力很漂亮，数据准备、任务调度、集合通信和软件执行却跟不上。芯片发布时威风八面，进了数据中心之后，大家一起排队等数据。         未来国产计算体系需要关注的，不只是再做一颗CPU或者GPU，而是建立：          CPU与AI加速器之间的高速一致性互连          高带宽、低功耗的内存系统          面向智能体和强化学习的运行环境          真实集群下的延迟、故障和利用率测量体系          从芯片到机架的软硬件协同设计能力               核心数是最容易印在海报上的数字。

w | 系统利用率却是最难伪装的结果。         结语：CPU没有复兴，它只是换了一个老板          Vera的出现并不意味着计算产业重新回到“CPU为王”的年代。         恰恰相反。CPU之所以重新受到重视，是因为GPU已经变得太昂贵、太重要，以至于所有可能让GPU等待的环节，都必须被重新设计。从这个角度看，Vera不是CPU对GPU的反攻。它更像是英伟达为了维护GPU统治地位，亲手打造的一名高级管家。         这名管家跑得足够快，就能让整座AI工厂少停顿、多生产Token；而谁控制了这名管家，谁就更有机会控制整个机架。因此，英伟达进入CPU市场真正带来的冲击，不是服务器市场又多了一个Arm处理器。而是数据中心竞争的基本单位，正在从单颗CPU、单颗GPU，升级为完整的计算系统。

x |          Intel和AMD过去争论的是每个插槽放多少核心。英伟达现在却把问题改成了：          一座AI工厂每兆瓦电力能够生产多少智能？          这才是Vera真正想重新定义的CPU战争。

Current article:http://9aip.ningshunsaotuiqiao.shop/list_5vz/4h6vd.html

Published on:13:49:15