GPU从逛戏之友到职权之杖
作者 天狮注册登录-天狮官网登录-天狮平台登录网址 关键词 天狮用户中心 发布时间 2024-04-13 16:11
不日，AI算力新秀CoreWeave正在本人的推特上分享了一则信息：该公司刚才通过典质英伟达H100GPU的方法取得了23亿美元的融资，将用这笔钱来采办更众的H100GPU，以便正在年尾前再设立筑设10个新数据中央。
一位供职于邦内某互联网大厂的友人正在转发该信息后评论道：“以前只据说过地产公司通过典质屋子来拿贷款，然后用贷来的钱不绝盖屋子。这种典质GPU借钱，再拿借来的钱不绝买GPU的做法倒是第一次看到。”
通常来说，同样的一件电子产物，岁终时的价值会比年头低上一大截。以是简直不会有人采办电子产物来实行保值，金融机构也很少会允许继承电子产物动作典质品。然而，这些体味正在GPU眼前失灵了。今时今日，宛如一共墟市都正在争抢GPU，正在eBay平台上，英伟达H100GPU芯片的价值一经被炒到了每张4.5万美元，而正在两三个月前，它的价值仍然正在3.6万美元摆布。
GPU实情是什么？为什么正在AI时期，GPU会成为人们竞相争抢的硬通货？它的代价来自哪里？又能维持众长的韶华？正在GPU硬通货化的背后，又存正在着什么更深的隐喻？且让咱们逐一说来。
公共了然，GPU是英文“图形措置器”（graphicprocessingunit）的缩写。从这个名字就不难了然，GPU原来并不是用来推广AI联系的义务，而是用来措置图形的。
从上世纪80年代早先，跟着打算机辅助利用（CAD）、地舆讯息体系（GIS）等技巧的兴盛，用打算机措置图形的需求早先崭露伸长。特别是电子逛戏行业的异军突起，更是为打算机图形措置培植了雄伟的用户群体。然而，动作打算机措置焦点的元件CPU正在措置图形时效果并不高，这就导致了专业措置图形义务的打算元件的崭露。
1983年，《打算机宇宙》（ComputerWorld）杂志上刊载的一篇先容Tek－tronix的图形终端的著作里开始崭露了GPU一词。然则，此GPU非彼GPU，它的全称是graphicprocessorunit。这一类所谓的GPU固然可以措置2D图像，但因为当时还缺乏光影转换（trans－formandlighting，简称T&L）组件，因此它们还无法独立措置3D图形，必需搭配CPU行使。直到1990年代，图形措置元件列入了T&L组件，现正在人们所熟谙的GPU才正式崭露。
合于实情谁才是现正在旨趣上GPU的创造者，业界平素存正在着争议。一种看法以为，GPU的创造权应当归于美邦硅图公司（SiliconGraphics，简称SGI）。1996年，SGI推出了可能告终硬件T&L的图形措置器，一经具有了现正在人们以为的GPU的要紧效用。但是，因为它要紧是被用正在任天邦的主机上，以是许众人并不允许供认它是真正的GPU。另一种看法则以为，第一块GPU是由一家名为3Dlabs的英邦公司推出的。1997年时，它正在一块双芯片措置器中列入了带有T&L效用的引擎，并将这块措置器冠以了“几那里理器”（GeometryPro－cessorUnit，简称也是GPU）的名字。然而，因为3Dlabs一心于CAD的狭隘墟市，影响并不大，因此将其以为是GPU创造者的人也不众。
比拟于SGI和3Dlabs，一个认同度更高的GPU创造者是英伟达。正在上世纪90年代的半导体墟市上，英伟达原来算是一个其后者。当时，这个墟市上的根本形式是AMD和英特尔两大巨头周旋，而它们夺取的主题是CPU。正在那几年中，英特尔的奔驰系列CPU和AMD的Am386、Am486系列CPU可谓是你方唱罢我登场，战得不亦乐乎，其他企业只可坐看圣人打斗。
1993年，就正在一共墟市都以为很难正在巨头占领的墟市中抢到时机时，供职于LSILogic的黄仁勋却采取了褫职下海，创立了英伟达。但是，黄仁勋看好的并不是CPU，而是图形加快卡。正在当时看来，这宛如是一个相当冷门的生意。固然跟着PC和逛戏机的普及，不少人清楚到了图形措置的紧张性，但个中的大局限人以为这个义务应当由CPU而不是特意的图形措置硬件来完毕。
但黄仁勋并不这么以为，他周旋看好图形措置硬件的将来。正在很大水平上，他的这个占定来自于对当时逛戏行业的查看。1993年，一款名为《德军总部3D》（Wolfstein3D）的逛戏横空诞生，激励了墟市对3D逛戏的极大意思。但本相上，《德军总部3D》并不是线D成绩。正在黄仁勋看来，既然独立的CPU亏空以维持线D逛戏，那么要告终它们就只可采用辅助的加快硬件。当然，固然当时看好硬件加快墟市潜力的人不众，但也不仅黄仁勋一人。譬喻，英伟达早期最紧张的逐鹿者3dfx公司也很早押注了这个墟市，并一度仰仗着其率先推出的巫毒（Voodoo）加快卡雄霸环球墟市。
应当说，黄仁勋运气确实不错，正在创业初期就收到了日本逛戏机公司世嘉的芯片研发订单，并取得了700万美元资金维持。但这种运气并没有赓续众久，因为他正在3D图像技巧上采取的失误，没能兼容微软新拟订的DirectX尺度，导致了初代产物NV1出师倒霉，销量惨然。
正在历程一番调度后，英伟到达底步入了正规。靠着世嘉公司支拨的研发用度，英伟达开辟出了Riva128。率直讲，单论机能，Riva128并不如巫毒，但3dfx却犯了一个致命的纰谬周旋本人的开辟器械GlideAPI，拒绝行使DirectX。而英伟达则实时接收教训，采取了拥抱微软、拥抱DirectX。很明确，正在微软统治PC体系的时期，这个战略是至极明智的，Riva128也是以而大卖。
1998年，英伟达与台积电告终协作，早先行使“无工场”（Fabless）形式。之后，英伟达只担任芯片的安排和发售，分娩则一律交托给台积电来代工。通过这种形式，英伟达得以轻装上阵，将更众的元气心灵投放到研发和墟市钻研中，从而推出了一系列爆款产物。行使这些产物，英伟到达底正在图形加快墟市上站稳了脚跟。
但是，黄仁勋的野心当然不止于此。正在他看来，图形加快硬件不应当只是CPU的助手，应当有本人的独立脚色。正在这种理念的指引下，英伟达于1999年推出了它的GeForce256显卡。这款显卡不单将T&L效用整合到了个中，告终了独立于CPU的T&L措置，集成了立方处境材质贴图、极点混淆、纹理压缩和坎坷照射贴图、双重纹理四像素、256位烘托引擎等前辈技巧，还同时安排了可编程加快效用。正在这些技巧特质的加持之下，GeForce256对少许高端3D逛戏的维持本事要远胜于当时流通的3D图形加快卡，面世后一炮而红，疾速成为了渊博发热友溺爱的逛戏神器。英伟达也一气呵成，行使广告攻势，顺势将“具有集成T&L、三角形设备/裁剪和烘托引擎，可以每秒起码措置 1000万个众边形的单芯片措置器”界说为了GPU假设厉酷依照这个界说，那么英伟达就确实是GPU的创造者了。
英伟达疾速成为了这个墟市上的得胜者和引颈者。2000年，它更是将最要紧的逐鹿敌手3dfx直领受购，进一步坚实了本人的墟市霸主职位。所谓史籍是由得胜者书写的，时至今日，当咱们正在搜罗引擎上搜罗谁是GPU的创造者时，英伟达就成了默认的谜底。
那么，GPU又是奈何从一款逛戏神器造成AI神器的呢？正在对这个题目实行阐述前，咱们必要先对GPU的构造实行少许浅易的先容。
从总体上看，无论是CPU仍然GPU，都网罗运算器（ArithmeticandLogicUnit，简称ALU）、限度单位（ControlUnit，简称CL）、高速缓存器（Cache）和动态随机存取存储器（DRAM）。然则，这些因素正在两者中的组成比例是差异的。正在CPU当中，限度单位和存储单位占的比例很大，而动作打算单元的ALU比例则很小；而正在GPU当中则正好相反。
这种构造上的区别决心了CPU和GPU效用上的区别。因为CPU正在限度和存储的本事上对比强，是以就能实行对比庞大的打算，但是可能同时推广的线程很少。而GPU则相反，大宗的打算单元让它可能同时推广众线程的义务，但每一个义务都对比浅易。打个比喻，CPU是一个精晓数学的博士，微积分、线性代数样样都市，但只管云云，让他做一万道四则运算也很难；而GPU呢，则是一群只会四则运算的小学生，固然他们不会微积分和线性代数，但人众力气大，假设一齐开干，一万道四则运算分分钟就能搞定。
因为正在图形措置的经过中会涉及许众差异颜色单位的图形和颜色的变换，以是GPU的特质就让它禀赋地适合被动作图形措置的硬件行使。而当深度进修兴盛之后，人工智能专家们很疾就浮现，GPU也很适适用来熬炼神经和利用汇集模子。由于正在深度进修模子中，最要紧的运算即是矩阵运算和卷积，而这些运算从底子上都可能分析为浅易的加法和乘法。云云一来，GPU就找到了新的“就业”空间，早先被普及地利用于人工智能，摇身一变，从逛戏神器造成了AI神器。
关于英伟达这个GPU墟市的王者，AI范畴的上述动向的确是为它送来了一块天上掉下的馅饼。它也顺势捉住了这个时机。2007年，英伟达提出了GPGPU，即“通用目标GPU”（GeneralPurposeGPU）架构，将原来专用于图形措置的GPU厘革成了更适合AI运算的GPU。与此同时，英伟达还推出了GPGPU的打算同一架构（ComputeU－nifiedDeviceArchitecture，CUDA）平台，允诺顺序员行使类 C说话编写GPU的并行打算代码，而且供应了大宗的库函数和器械来助助优化 GPU打算。通过这些奋发，英伟告终功将GPU能措置的题目由图形扩展到了通用打算范畴，由此正在墟市上抢得了先机，率先从逛戏范畴的硬件霸主转型成了AI范畴的“军火商”。
各大AI巨头为抢占大模子墟市抢破头时，这位“军火商”却坐收渔人之利，成为了这场大战最大的赢家不单赚得盆满钵满，让本人的市值打破了万亿美元大合，还仰仗着其对GPU实行分派的职权，正在某种水平上成为了摆布AI大战最终走向的幕后之手。
现正在咱们回到本文开首的题目：为什么GPU并没有根据通常半导体产物的价值降低纪律，反而成为了一件硬通货？
正在墟市经济的要求下，可能让某种商品的价值维持慷慨且坚挺的理由唯有一个，那即是需求赶过了供应。要会意GPU为何可以成为硬通货，就必需对其供求景遇有所会意。
什么人正在采办GPU呢？合于这个题目，马斯克曾给出过一个回复：“正在现正在这个韶华点，宛如一共人和他们的狗都正在随地找GPU。”马斯克的这个回复当然是带有玩弄的，然则一共AI圈确实都正在为GPU而猖獗。
迩来正在社交讯息网站Raddit上热传的一篇著作曾对几个至公司的GPU需求量做过一个统计。遵照这篇著作，OpenAI正在熬炼GPT-4时曾行使了10000到25000张英伟达A100GPU；脸书正在熬炼AI时行使了大约21000张A100；特斯拉行使了约7000张A100；Midjourney的开辟者StabilityAI大约行使了5000张A100。其余，阿联酋阿布扎比技巧更始钻研所开辟的Falcon-40B用了384张A100实行熬炼；AI首创公司Inflection则正正在行使3500张H100GPU来熬炼机能足以抗拒GPT-3.5的大模子。而遵照马斯克的爆料，OpenAI正正在熬炼的GPT-5所行使的H100GPU或者到达了3万到5万张。除此除外，再有稠密首创企业也都必要GPU，需求量从几百张到几千张不等。一共这些需求加总正在一齐，就组成了至极雄伟的数字。
这里必要阐述的是，正在GPU墟市上，差异型号的GPU的需求不同相当大。目前，墟市上最受迎接的GPU即是英伟达的H100。遵照英伟达方面的先容，这款特意为人工智能安排的GPU芯片采用了新一代的Hopper架构，具有800亿个晶体管，无论是正在深度进修模子的熬炼仍然推理方面，都具有至极巨大的本事。正在各式第三方的测试当中，H100也博得了相当好的劳绩。比如，正在近期进行的一次MLPerfAI测试中，英伟达H100集群一举正在一共八个项目中都取得了第一，仅用11分钟就完毕了一遍GPT-3的熬炼，用8秒就完毕了一遍BERT模子的熬炼。
得益于H100的优秀机能，以是简直一共AI企业都对其虎视眈眈。遵照网上热传的一个揣度：OpenAI或者必要5万张H100；脸书或者必要2.5万张；Inflection必要2.2万张；微软的Azure云、谷歌云、亚马逊的AWS，以及Oracle这四大云任职商或者各必要3万张；Lambda、CoreWeave以及其他私有云或者总共必要10万张；Anthropic、Helsing、Mistral、Character等企业或者各必要1万张将上面这些需求加总正在一齐，H100的总需求量就赶过了43万张。必要指出的是，上述揣度数字还没有网罗中邦的大型科技企业，以及网罗JP摩根正在内的稠密金融企业的需求。假设将这些企业的需求量思虑正在内，H100的需求量将更是惊人。
大概有人会问，同样是GPU，为什么H100会要比其他型号的GPU，譬喻A100更受迎接呢？这原来既是一个技巧题目，也是一个经济题目。总体上讲，只管同为GPU，然则差异型号的GPU之间的要紧性能是差异的。大致上讲，正在AI范畴，GPU的用处要紧有两种：一是推理（inference），即用熬炼好的模子天生咱们必要的结果和实质；二是熬炼（training），即行使样本数据来熬炼AI模子。因为义务差异，以是正在安排经过中必需安插差异的架构来对它们实行维持。通常而言，推理经过凡是必要高效的打算本事和低延迟的呼应速率，是以推理芯片的安排珍视高效的打算单位和能耗限度；而熬炼经过则必要更高的打算本事和存储本事，是以熬炼芯片的安排珍视高度并行化和大范畴存储。
得益于更为卓越的架构安排，H100无论是正在推理本事仍然熬炼本事上都要比A100更优。测试结果阐明，它的16位推理速率大约是A100的3.5倍，16位熬炼速率则大约是A100的2.3倍。而从本钱上看，H100大约是A100的1.5到2倍。由此可睹，固然H100的价值要比A100更贵，但从性价比看，H100则具有更大的上风。
这里特别必要指出的是，当Chat－GPT的爆火之后，大量企业都参加了大模子的开辟。关于这些企业而言，可以更早地开辟出品格优秀的大模子就能为本人正在逐鹿中取得更为有利的地位，这就激勉了它们对可能以更疾捷率熬炼模子的器械的企望。
既然现正在价值一经被炒上了天，那么供应商就应当捉住这个时机卖卖卖吧。但蓄志思的是，各大GPU供应商迟迟不增添供应，逼得少许AI企业以至不得不到二手墟市去收购旧的GPU。非不肯也，实不行也。
关于网罗GPU正在内的半导体产物而言，一共供应链可能分为三段：上逛要紧是指EDA、IP授权以及GPU芯片安排，中逛要紧是指GPU的创筑和封装测试，下逛要紧是集成商和终端发售。个中，现正在GPU卡口最要紧的局限就出正在供应链的中逛。
一目了然，芯片的分娩关于工艺的央求相当高，是以切合分娩要求的创筑商很少。以英伟达的H100为例，正如咱们前面提到的，正在英伟达采用了“无工场”形式之后，其创筑就一共委托给了台积电。然则，尽管是对台积电而言，也唯有N5、N5P、N4和N4P四个制程节点（注：制程节点指的是电道锻制的制程工艺节点。凡是以纳米来权衡，比如N5指的即是5纳米制程节点。制程节点越小,正在一块晶圆上可能创筑的集成电道就越众。）可能用来实行H100的创筑。而因为台积电的制制工艺卓绝，以是苹果、高通等公司都正在委托其实行代工，因此英伟达就不得不必要和这些公司一齐共用以上制程节点。除此除外，正在封装合键，台积电也面对着产能的节制。这些身分加正在一齐，就导致了H100正在供应链的中逛面对着相当紧的瓶颈。
与此同时，还必要提防的一点是，GPU的组件供应也正在必定水平上限制着它的供应。仍以H100为例，其行使的合节组件高带宽存储器（HighBandwidthMemory，简称HBM）就面对着很要紧的供应节制。目前，英伟达正在H100上行使的HBM简直都来自于韩邦企业SK海力士半导体公司（SKHynix）。然而，SK海力士分娩HBM的本事是有限的，这就对H100的产量组成了直接的节制。有传说说英伟达或者从三星和美光采购一局限HBM，但这两家企业的产能照旧是有限的，是以增加采购规模实情可能正在众大水平上缓解HBM的紧缺照旧是一个题目。
归纳以上阐明，咱们可能看到，固然面对着GPU需求的暴涨，但因为供应链的限制，GPU的供应量很难正在短期内崭露宏大提拔。目前看来，由天生式AI所启发的算力需求伸长还会赓续较长的一段韶华，因此起码正在这段韶华内，GPU的求过于供还会不绝存正在。正在需求定律的影响之下，这就导致了GPU这种半导体产物崭露了至极失常的价值赓续上升。是以，正在融资当中，它也就得以饰演起了典质品的脚色。
当人们津津乐道于GPU果然可能成为硬通货，正在金融墟市上动作典质品的时分，很或者渺视了此外一层更深的隐喻，即跟着GPU正在AI时期影响的日益卓绝，它宛如正正在成为AI范畴的职权之源。
7月25日，微软公告了它2023财年第四序度的财报。得益于和OpenAI的协作，微软的云生意正在本财季崭露了大幅的伸长，启发了公司营收景遇的明显改良。与昨年比拟，其营收同比伸长了8%，净利润的同比涨幅更是到达了20%。正在闪现本人所博得的骄人劳绩的同时，微软也正在财报中提示了少许潜正在的危险，个中之一即是GPU危险。微软指出，GPU一经成为了支持其云生意疾速伸长的合节原原料，假设GPU的供应不行包管，则其任职质地或者会受到很大影响。
为了缓解对GPU的渴求，微软可谓是尽心尽力。一方面，它直接向英伟达方面示好，央求采购更众的GPU。另一方面，它也念了少许曲折的手腕。譬喻，正在不久之前，它就和CoreWeave也即是本文开首提到的那家典质H100来借钱买H100的算力供应商告终了条约，商定将正在将来几年内赓续向后者供应金额数十亿的投资，一齐配置云打算的根蒂方法。其理由正在于CoreWeave和英伟达相干甚密，正在不久前的B轮融资中，就取得了英伟达的投资。仰仗着这层相干，英伟达方面答应会优先对CoreWeave供应GPU的供应。是以，关于微软来说，投资CoreWeave即是和英伟达套了近乎，从而有时机让它取得更众的H100和A100的行使权。看看微软现正在这番良苦的一心，再联念英伟达创业之初为求保存不得不服从于微软创立的尺度，真不禁让人叹息三十年河东，三十年河西。
当然，咱们还可能举出更众的GPU供应商操控AI之战的案例。一个规范的例子是咱们前面起到过的Inflection。这家由DeepMind连合创始人穆斯塔法苏莱曼（MustafaSuleyman）开办并职掌CEO的公司迩来可谓风头正劲。和其他大模子公司差异，Inflection并不念创建无所不行的通用人工智能（AGI），而是将提防力凑集正在了局部智能（PI）范畴。它的要紧产物名为Pi的闲谈呆板人效用也很简单，目前唯有闲谈。很明确，正在目前林立的AI模子中，这款产物并一直伦。然而，即是如许一家看似平淡无奇的公司，其估值却到达了40亿美元。除了它具有的珍贵智力资源外，一个紧张的理由即是GPU。不久前，Inflection公然公布，它将打制一个具有2.2万块H100芯片的超等打算集群，以维持新一代AI大模子的熬炼和安插。这个集群的集成数目一经一律超越了脸书于5月公布的安插。
Inflection是奈何做到的呢？只须咱们看一下它的投资人，谜底就即刻揭晓了。是的，正在它的投资人中，就有英伟达。此外值得一提的是，Inflection正在打制这个集群的经过中，再有一个紧张的协作家CoreWeave。而正如咱们一经看到的，它也是英伟达的优点合伙体。由此可知，Inflection得以爆火的背后，英伟达以及它手中的GPU应当起了合节的影响。
记得本年3月，各大天生式AI公司酣战正酣的时分，曾有一位记者来采访我，她问：“依您看来，这场AI大战的最终赢家会是谁？微软，谷歌，仍然OpenAI？”我当时的回复是：“我不了然它们当中谁会赢，但最终的赢家里必定有英伟达！”现正在看来，这个回复是一律精确的。但是，假设现正在她再问我这个题目，我会正在谜底上再加一句：大概，它还能用GPU投票，决心谁会是赢家。GPU从逛戏之友到职权之杖