英伟达的镰刀，不是AI芯片_英伟达刀法

图片来源@视觉中国

华为发布P60系列

文 | 硅基研究室，作者 | 白嘉嘉

又一次被推上了风口浪尖，这次不是因为它扶摇直上的业绩，而是过去将它捧在手心的、OpenAI、谷歌等人工智能排头兵起了异心。

据The Information报道，计划在下个月的年度开发者大会上推出首款为人工智能设计的芯片。这款芯片是为训练和运行大型语言模型（LLM）的数据中心服务器设计的。OpenAI也在探索制造自己的人工智能芯片。公开信息显示，OpenAI至少投资了3家芯片公司。

谷歌的自研芯片TPU更是迭代到了v5世代。此前有分析师爆料谷歌的算力资源比OpenAI、Meta、、和CoreWeave加起来还要多，它的优势正是来源于拥有庞大数量的TPU。

这些企业为什么要下场造芯，市场上已经有了许多分析，原因主要集中在的GPU价格过高、产能不足。通过自研芯片，有望削弱在人工智能芯片领域的定价权，同时比没有自研芯片的企业更具战略自主。

但是，自研芯片真的能迫使放缓手中的镰刀吗？

一个事实是，市面上H100 GPU已涨到了原价的两倍，依旧供不应求。即便是自研芯片已经上线的谷歌，仍在大量采购的芯片。

为什么？

由于的GPU销量过于亮眼，以至于常常被简单定义成一家硬件公司。但很多人不知道的是，的软件工程师数量比硬件工程师还要多。

这句话背后的意思是，英伟达真正的护城河从不来自于层出不穷的新芯片（当然这也很了不起），而来源于软硬件生态。

而CUDA，正是这条护城河的第一道河堤。

01 英伟达真正的王牌——CUDA

2019年，CEO黄仁勋在密尔沃基工学院介绍企业发展史时，说了这样一段话。

“一项接着一项的应用，一个接着一个的科学领域，从分子动力学、计算物理学，到天体物理学、粒子物理学、高能物理学，这些不同的科学领域开始采用我们的科技，因为这是向前发展的最佳解法。而我们深深地以这项贡献为荣。”

这项英伟达深以为荣的技术，正是CUDA。

CUDA是一种推出的并行计算架构，正是在它的加持下，GPU才得以打败CPU，成为今天运行大数据计算的基础。运行相同任务的情况下，支持CUDA系统的GPU比CPU的速度要快10到100倍。

为什么CUDA有这种魔力？

CPU和GPU都是计算机处理器，都能执行计算任务，其不同点在于，CPU更擅长线性计算，而GPU更擅长并行计算。业内常用的一个类比是，CPU就像一位大学教授，能独立解决各种复杂问题，但要按部就班进行，GPU像一群小学生，单核运算能力不如CPU，但胜在核的数量庞大，能同时计算。

而CUDA，则是调动这群小学生的指挥棒。在CUDA的中介下，研究员、编程人员得以实现通过编程语言与硬件设施对话，从而将复杂的数学问题转化为多个简单的小问题，分发给GPU的多个计算核。

如黄仁勋所说，CUDA问世后成为了“科学向前发展的最佳解法”，庞大的运算能力成为了搭建超级计算机的首选。

10月11日，部下属橡树岭国家实验室宣布，他们研发出的超级计算机“顶点”（Summit），浮点运算速度峰值可达每秒20亿亿次，接近“神威·太湖之光”超级计算机的两倍。

这台算力巨兽身上搭载了近28000块GPU。而橡树岭国家实验室，正是第一家大量采用CUDA+GPU套餐的研究所。

事实上，从2006年推出CUDA至今，涉及计算机计算的各个领域，几乎已经被塑造成了的形状。航空航天、生物科学研究、机械和流体模拟及能源探索等领域的研究，80%在CUDA的基础上进行。

并且，在大模型热的带动下，CUDA生态合作者规模仍在翻倍增长。

根据2023财年年报，目前有400万名开发者正在与CUDA合作。通过12年的时间达到200万名开发者，在过去的两年半里该数字翻了一番，目前CUDA的下载量已经超过了4000万次。

与此同时，仍在不断扩大CUDA生态，推出了软件加速库的集合CUDA-X AI。这些库建立在 CUDA之上，提供对于深度学习、机器学习和高性能计算必不可少的优化功能，是针对数据科学加速的端到端平台。

CUDA生态如日中天，与之相辅相成的GPU成为消费者的首选，因此赚得盆满钵满。不过，面对这么大一块蛋糕，竞争对手自然不可能只眼铮铮地看着。

比如，AMD推出了生态平台ROCm，同样兼容不少计算框架；OpenAI的Triton被认为是CUDA的最有力挑战者；由设计，后交由Khronos Group维护的开源构架OpenCL，借鉴了CUDA的成功经验，并尽可能的支持多核CPU、GPU或其他加速器；谷歌用TPU+TensorFlow+云的模式吸引开发者和拓展客户。

但这些理论上的竞争者，在实际工作中，却暴露出了各种各样的问题。

今年2月，半导体研究和咨询公司Semi Analysis首席分析师Dylan Patel曾写了一篇名为《Nvidia 在机器学习领域的 CUDA 垄断如何被打破（How Nvidia’s CUDA Monopoly In Machine Learning Is Breaking - OpenAI Triton And PyTorch 2.0）》的文章。

美团一日游

小米十二期免息

文章的留言中，一位程序员表示：

“我希望如此，但我非常非常怀疑。我使用的所有东西都是基于CUDA构建的。实际上，在非NVidia硬件上没有任何功能。‘实际上有效’与‘理论上有效’不同。我使用的很多东西理论上都支持 ROCm，但在实践中，当你尝试使用它时，你会遇到大大小小的错误，并且会崩溃或无法正常工作。”

一线研究人员的言论证明了，在软硬件均坐稳头把交椅，并且培育了市场近20年的英伟达面前，至少眼下这个阶段，没有企业能和它正面竞争。

02 英伟达帝国，诞生于再造世界

为什么恰好是捏住了CUDA这张王牌？从2006年CUDA面世起算，已经过去了接近18年时间，为什么在如此漫长的时间里，的护城河不但没有被攻破，反而越来越宽阔？

这些问题背后都有一个默认的前提——CUDA是那个正确的方向。而在英伟达孤注一掷的21世纪初，这句话黄仁勋对股东和市场重复了千百遍。

如果我们想要一个美好的世界，要做的第一件事，就是模拟它。某种程度上，这个想法就是GPU时代的原点，将那些复杂的物理定律模拟出来，并以画面的形式呈现。然而，那些模拟物理定律的应用不会从天上掉下来，它需要有人一个一个地去开发。

因此，即便GPU的运算能力已经被证明未来有可能超过CPU，应用程序匮乏，编程过程太过繁琐，缺少底层语言代表的现状，仍让程序员们对其敬而远之。

2003年，推出了4核CPU，为了与之竞争，开始着手发展统一计算设备架构技术，也就是CUDA。

英伟达刀法精湛

这个想法由首席科学家大卫·柯克博士提出，后来也是他说服黄仁勋，让英伟达未来所有的GPU都必须支持CUDA。因为柯克在计算机高性能计算领域所发挥的重要作用，他后来被誉为CUDA之父，还当选为美国国家工程院院士。

这些荣誉都是后话，当时黄仁勋需要解决的问题是，如何让股东接受产品成本需要上升一倍，去搏一个回报周期可能在10年以上的未来。

事实上，围绕着CUDA的质疑一直持续到了AI时代的前夜，的市值常年徘徊在10亿美元的水平，股价甚至一度因为CUDA附加成本对业绩的拖累跌至1.5美元。股东多次提出希望他们专注于提高盈利能力。

2010年，当时的CPU王者曾传出计划收购。《芯片战争》中描述到，“对来说，（收购）价格不是问题，问题是该给黄仁勋一个什么职位。然而双方一直没有达成一致意见，最后不了了之。”

在市场看空英伟达的这些年里，黄仁勋从未质疑过CUDA的价值。

为了吸引开发人员编写应用程序并展示GPU的优势，黄仁勋先是使用了当时已经拥有庞大游戏玩家市场的 GeForce GPU来作为安装CUDA的基础。然后又创建了一个名为GTC的会议，在全球范围内孜孜不倦地推广CUDA。

近年来最为市场称道的一个案例是，2016年，黄仁勋亲自去彼时刚成立的OpenAI交流，并赠送了一台搭载有8颗P100芯片的DGX-1，那是英伟达当时最强力的浮点运算GPU。

这件事往往被解读为黄仁勋的眼光老辣，但对他本人来说，这无非是确保CUDA成为前沿科学研究者最习惯的框架的又一次尝试而已。

与的笃定恰好能形成对比的，是。

作为CPU时代的王者，本该成为最具竞争力的对手。

然而，在2010年取消了CPU和GPU融合的独立显卡计划后，英特尔就失去了和英伟达硬碰硬的兴趣（当然也可以说是因为纳米制程陷入停滞而失去底气）。先是试图收购，然后又转身去和在移动基带市场上较劲，2015年第一波人工智能热潮席卷而来时，大梦初醒的一手收购人工智能方向的芯片公司，一手将AMD的芯片纳入到自己的系统芯片当中。

可惜的是，彼时的市场份额超过了60%，CUDA垄断已然初具雏形，在GPU领域，已经没有资格和坐在同一张牌桌上了。

03 DPU和DOCA，英伟达的新战场

2020年，创投圈曾流行过一个笑话。

“DPU是什么？”

“支付宝到账，一亿元。”

只要触发了DPU这个关键词，钱就会滚滚而来。

这轮DPU热，正是掀起的。

2020年上半年，以69亿美元对价收购以色列网络芯片公司Mellanox Technologies，并于同年推出BlueField-2 DPU，将其定义为继CPU、GPU之后的第三颗主力芯片。

那么到底什么是DPU？

DPU最核心的功能，是取代CPU，建立以数据为中心的计算架构。

众所周知，CPU的全称是中央处理器，它除了承担运行应用程序、执行计算的任务外，还扮演着数据流量控制器的角色，在GPU、存储、FPGA和其他设备之间移动数据。

你可以简单理解成，校长抛出一道难题后，老师（CPU）对其进行拆分，其中较为复杂的部分由自己解决，容易但繁琐的分发给学生（GPU）来做。过去题的数量比较少，老师还可以分得过来。但随着题目的数量增加，拆分、分发题目的时间反倒占用了老师的大量时间。