基石关注 | GB200超级芯片“难产”,英伟达股价“过山车”,尖端芯片制造有多难?

从去年开始,在基石创投的每周投研会上,AI芯片、大模型、生成式人工智能等内容经常会被作为投研讨论主题,从AI产业链上下游到软硬件技术层面等多维度进行深度研讨。同时,AI也是基石创投重点关注的方向,无论基础性的半导体产业,还是AI相关产业链,基石投资了许多企业,积累了大量投资经验,逐步打造完善AI生态图谱。
<a href="https://mp.weixin.qq.com/s/36GBYHb8KIOjWnXv61WdcA">基石关注 | GB200超级芯片“难产”,英伟达股价“过山车”,尖端芯片制造有多难?</a>
除了AI行业研究和企业相关内容,对于备受一二级市场关注的AI相关热点,基石也同样关注,以下enjoy: 
国外互联网上有一个流传甚广的梗:当下美国经济的两大支柱,是黄仁勋的英伟达和泰勒·斯威夫特的演唱会。
<a href="https://mp.weixin.qq.com/s/36GBYHb8KIOjWnXv61WdcA">基石关注 | GB200超级芯片“难产”,英伟达股价“过山车”,尖端芯片制造有多难?</a>
玩笑归玩笑,但英伟达的表现确实不仅关乎自身,更连带着全球科技乃至金融行业产业链。
英伟达靠着对AI“基建”近乎垄断的地位,收割着全球科技巨头。在AI浪潮中,“一骑绝尘”的英伟达被市场给予厚望,也被看作是AI产业的风向标。
随着英伟达第二财季的财报发布,英伟达股价经历了暴跌,资本抽离、芯片难产、反垄断调查等问题困扰着英伟达,也让“AI泡沫”“英伟达估值虚高”这类质疑声不断。

财报后暴跌的英伟达,又涨回来了?

八月末,英伟达财报交出了一份营收增长122%的超预期财报,但在无可指摘的业绩背后,股价却不买账。交出财报的当日,英伟达一度跌幅超8%,市值一夜之间蒸发1476亿美元。
9月3日,英伟达股价再次暴跌9.53%,蒸发了2790亿美元,甚至创下美股单日的最大跌幅。
这家价值2.5万亿美元的巨头,在过去两周内市值缩水了20%。
有分析称,股价暴跌与英伟达Blackwell架构GPU量产时间将推迟有关。
美国时间9月11日午盘时段,英伟达CEO黄仁勋在高盛会议上发表了讲话,他表示,最新一代芯片“Blackwell”的需求强烈,但供应增速有限,客户对有限的供应争相竞争,导致一些客户感到沮丧,不过,供应商们正在迎头赶上。
黄仁勋还表示,新一代芯片Blackwell正在积极准备发货,英伟达在生产芯片方面非常依赖台积电,因为后者在该领域内技术领先“我们选择台积电是因为他们表现卓越,但如果有必要,我们当然也可以启用其他供应商。”
伴随着黄仁勋的讲话,早盘一度小幅转跌的英伟达应声走高涨幅不断扩大,最高涨8.4%,一度升破117美元,当日振幅最高达9%,市值增加近2000亿美元。
除此芯片的量产问题,英伟达的还面临反垄断调查。据美国《华尔街日报》网站9月8日报道,美国反垄断执法人员正在提早介入,以检查英伟达等少数几家大型科技公司是否正在利用其影响力在迅速发展的人工智能(AI)市场占据支配地位。
股价震荡、资本抽离、芯片难产、反垄断调查,这一系列事件的发生,不仅让人怀疑英伟达的高增速恐无以为继,更是让AI泡沫论的声音甚嚣尘上。

AI泡沫?英伟达增速见顶了吗?

毫无疑问,英伟达的业绩大涨在所有人的意料之中,但关键问题是,业绩增长了,但增长也放缓了。
2025财年第二财季,英伟达营收300亿美元(约2138亿元人民币),同比大涨122%;每股收益(非GAAP)0.68美元(约4.8元人民币),同比增长152%;净利润166.0亿美元,同比增长168.3%;营业利润186.4亿美元,营业利润率62.1%。
<a href="https://mp.weixin.qq.com/s/36GBYHb8KIOjWnXv61WdcA">基石关注 | GB200超级芯片“难产”,英伟达股价“过山车”,尖端芯片制造有多难?</a>
具体来看,在全球AI需求的持续扩张下,核心业务数据中心实现营收263亿美元(约1874亿元人民币),同比增速达到154%,占整体营收的87.55%,游戏业务营收29亿美元(约206.6亿元人民币),同比增长16%。
总体来看,营收增长122%已经是很傲人的成绩了,但和过去的自己相比,增速放缓是不争的事实,毕竟在过去的三个季度里英伟达实现了同比增长超过200%的狂飙。更何况,英伟达预计,下季度营收增速将继续回调,根据英伟达给出的第三季度的营收指引,下季度营收增速甚至可能回落到80%左右。
除了增速放慢,第二财季英伟达毛利率75.1%,环比下降了3.3个百分点,低于前几个财季的表现,第三季度预计GAAP毛利率为 74.4%。
高预期未被满足,增速极大放缓,毛利率下跌,这很难不让投资人想起当年互联网泡沫时期思科的退潮,换句话说,投资者不是对英伟达失去信心,而是对未来超预期的增速产生了担忧,对AI的爆炸式增长和AI芯片的稳定需求产生了担忧。
那么,这种担忧是否有据可依?
从AI行业来看,这个问题显而易见,从chatGPT4的火爆到现在也仅2年左右,大模型的发展也还在初期,AI行业的商业化仍没有明确的方向,互联网巨头对AI还处在探索阶段,作为给AI淘金者生产“铲子”的英伟达仍然有大规模的市场。
况且,英伟达有着性能最强的ai芯片,上述提到的Blackwell芯片GB200,包括2个B200GPU+1个ARM Grace CPU,性能堪称地表最强。
除此之外,英伟达还有一个核心壁垒,也就是它的软件平台——CUDA,简单来说,CUDA作为软硬件桥梁,提供了强大接口,帮助开发者充分利用GPU硬件进行高性能计算加速。
同时,CUDA也是软件生态的基石,目前英伟达的软件生态特别是前沿技术都是基于CUDA构建。其次,CUDA也在推动第三方软件生态发展,例如深度学习领域,为深度学习框架提供加速支持。
在整个AI芯片市场,英伟达手握Blackwell和CUDA,软硬件的护城河让竞争对手很难短期内赶上。
这就意味着,在相当长一段时间内,绝大部分的AI需求都会一定程度上转化为英伟达的订单数据。

科技巨头会支撑英伟达的高增长吗?

根据财报来看,英伟达营收增速的核心动力是AI芯片,也就是数据中心业务,主要客户集中在大型科技公司、政府机构。当下英伟达的收入增长主要依靠大型科技公司,大型科技公司对AI算力的资本投入规模,以及资本投入周期直接决定了英伟达的营收增速。
以英伟达的大客户微软和谷歌为例,根据其财报来看,2024年前两财季,谷歌资本支出增速均高达91%,微软资本支出增速分别为79%、77%。同时,在财报电话会上,微软、谷歌等管理层表示,资本支出将维持高速增长,其中微软还披露,当前资本支出中,60%以上的支出与芯片等设备采购支出直接相关。
<a href="https://mp.weixin.qq.com/s/36GBYHb8KIOjWnXv61WdcA">基石关注 | GB200超级芯片“难产”,英伟达股价“过山车”,尖端芯片制造有多难?</a>
可见,目前科技巨头在AI方面正在进行大规模的资本支出,正处在资本支出的扩张周期,这支撑了英伟达的高速增长,但如果科技巨头的资本支出进入缩减周期,也将直接影响英伟达的增长速度。
虽然科技巨头以巨额的资本支出大规模采购英伟达的AI芯片,但他们也在积极开发自研AI芯片,例如亚马逊早在2018年就推出了自研推理芯片Inferentia,2022年推出了自研训练芯片Trainium;微软在2023年11月宣布了自研AI芯片Maia 100,性能参数接近英伟达H100芯片,微软管理层表示该芯片已经被投入使用;谷歌也在今年5月发布了第六代自研AI芯片Trillium。
不过,AI芯片的难度和英伟达的领先优势,都决定了科技巨头自研芯片更多是防御性和个性化需求,特别是高算力应用场景下,英伟达很难被替代。
对于科技公司来说,资本支出的周期波动和自研芯片对AI芯片的采购意愿影响不大,科技巨头最看重的是大模型的产业落地进展,也就是AI到底能用在哪些场景会对业务有本质提升,巨额的AI投资何时才能获得回报?
而对于卖铲人英伟达来说,能否保持高速增长,其关键点在于下一代产品Blackwell系列芯片的产能和良率问题的解决。

Blackwell推迟三个月

早在8月初,外媒体就曾报道,由于设计缺陷,英伟达下一代Blackwell架构系列AI旗舰芯片GB200的出货时间,将被推迟至少三个月。量产时间预计到第四季度,批量出货的时间预计要推迟到明年第一季度。
而在此次财报电话会议中英伟达也承认了这一问题,英伟达的首席财务官Colette Kress称Blackwell系列芯片如今遇到一些生产问题,所以不得不改变一个掩膜生产步骤,以提高产量。
Blackwell系列芯片是英伟达在今年3月发布的最新AI旗舰芯片系列,包括B100、B200、GB200超级芯片,其中,B200有2080亿颗晶体管,超过了前代H100晶体管数量的两倍,GB200采用Chiplet技术,进一步把B200和1颗72核Grace CPU拼在一起。
<a href="https://mp.weixin.qq.com/s/36GBYHb8KIOjWnXv61WdcA">基石关注 | GB200超级芯片“难产”,英伟达股价“过山车”,尖端芯片制造有多难?</a>
在意识到摩尔定律带动性能提升越来越捉襟见肘,Blackwell GPU没有过于依赖制程工艺技术的提升,而是利用更先进的内存、更快的片内互联速度等技术,将大量GPU连成一个更强大系统。
发布时,英伟达宣称,将通过NV-HBI高带宽接口,以10TB/s双向带宽将两个GPU die互联封装,能让B200能像单芯片一样运行,不会因为通信损耗而损失性能,没有内存局部性问题,也没有缓存问题,能支持更高的L2缓存带宽。
而根据外媒体报道,导致GB200良率下降的设计缺陷就在连接2个Blackwell GPU的关键电路上。
有媒体披露,瑞银分析师在一份报告中表示,英伟达在Blackwell上遇到的主要问题是采用台积电 CoWoS-L 新型封装方式过于复杂。

尖端芯片制造有多难

CoWoS(ChiponWaferonSubstrate)是台积电 2011 年推出的首个 2.5D 先进封装技术,包括 CoWoS-S、CoWoS-R 和 CoWoS-L 三类。
2.5D 封装是多芯片立体堆叠的封装技术,是在中介层(interposer)上打孔布线来展开水平互联,从制造结构来看,2.5D 封装的芯片倒扣在中介层(interposer)之上,通过一系列的微凸块和硅通孔实现不同功能裸片和基底之间的连接,具有高密度、低功耗和低延迟的特性。
《2024基石基金投研白皮书》
台积电这三类CoWoS先进封装,主要区别在中介层(interposer)的方案。中介层介于芯片晶圆和印刷电路板之间,实现芯片与封装基板之间的信息交换,同时提供机械支撑和散热能力。
其中CoWoS-L结构最复杂,CoWoS-L需要使用带有局部硅互连(LSI)和嵌入桥接芯片的RDL中介层,来桥接封装内各种计算和存储之间的通信。复杂结构可以使其实现更高布线密度,也可以做成更大尺寸。
<a href="https://mp.weixin.qq.com/s/36GBYHb8KIOjWnXv61WdcA">基石关注 | GB200超级芯片“难产”,英伟达股价“过山车”,尖端芯片制造有多难?</a>
据悉,台积电推出CoWoS-L,正是出于旧版技术在尺寸和性能继续增长上面临困难。
复杂工艺也直接导致了量产难度,根据semianalysis报道,Blackwell在中介层,特别是在有机中介层内部嵌入多个细间距凸块桥时,容易引发硅芯片、凸块桥、有机中介层和基板之间的热膨胀系数(CTE)不匹配,从而导致翘曲。
<a href="https://mp.weixin.qq.com/s/36GBYHb8KIOjWnXv61WdcA">基石关注 | GB200超级芯片“难产”,英伟达股价“过山车”,尖端芯片制造有多难?</a>
这些桥接芯片的放置需要非常高的精度,特别是涉及到2个主要计算芯片之间的桥接时,这些桥接对于支持10 TB/s的芯片间互连至关重要,这很大程度影响了良品率和利润。有传闻表示一个重大的设计问题与桥片有关,桥片需要重新设计。还有传闻称,Blackwell硅片的顶部几层全局布线金属层和凸点也需要重新设计。
值得一提的是,对于影响Blackwell量产的传闻,黄仁勋在电话会议上强调,Blackwell芯片不需要进行任何“功能性改变”,所有调整均是为了提升良率。
除了技术方面,产能也是问题,Blackwell的量产封装是台积电的CoWoS-L技术的第一次大规模应用,这意味着,台积电的CoWoS-L的产能也并不稳定。
事实上,为了满足英伟达过去几年大量的CoWoS-S产能需求,台积电主要以CoWoS-S封装工艺为主,而目前则要将需求转向CoWoS-L,为此台积电正在建设新的工厂和改造旧的CoWoS-S产能。在这样的产能调整期,台积电显然没有足够的CoWoS-L产能。
针对这一问题,有消息称,英伟达将临时增加B200A,先用于满足中低端AI系统的需求。指标缩水主要体现在内存带宽,将其降低到了4TB/s,性能阉割背后实际就是封装工艺由CoWoS-L退回了CoWoS-S。

为什么需要先进封装?

先进封装工艺一方面提高了尖端芯片的性能,另一方面也增加了尖端芯片的制造难度,那么半导体制造工艺为什么需要先进封装?
《2024基石基金投研白皮书》中提到,随着各行业应用中产生的数据量不断增长,对高带宽的需求与日俱增。尤其是机器学习和 AI 相关应用需要强大的处理能力,因此需要在芯片上高密度的集成晶体管。然而,根据摩尔定律,集成电路上可以容纳的晶体管数目在大约每经过 18 个月到 24 个月便会增加一倍,处理器性能大概每两年翻一倍,同时价格下降为之前的一半。集成电路产业主要沿着两条技术路线发展:一是延续摩尔定律,芯片向小型化发展。通过缩小 CMOS 器件的晶体管尺寸来增加芯片的晶体管数量,进而提升芯片性能。二是超越摩尔定律,采取先进封装技术将模拟、光电、传感等集成在一个系统内,实现系统的性能提升和功能融合。
随着多年以来摩尔定律的推进,SoC 方案的发展在设计和制造等方面都遇到了相当大的瓶颈,先进制程工艺逐渐逼近物理极限,先进制程的推进的成本越来越高,而先进封装能以更加具有性价比的方式提高芯片集成度,已成为行业发展重点。
特别是在AI领域,算力和功耗对AI芯片至关重要,同时需要大规模计算的能力和数据的快速访问,而先进封装将处理元件和内存元件就近配置,最大限度地减少了延迟,提高了吞吐量,为AI这类内存密集型任务带来前所未有的性能提升。
先进封装提高了芯片集成度、缩短了芯片距离,这也意味着先进封装要比传统封装更加复杂,需要更高的精度和更高的质量,这也对先进封装设备、封装材料、封装技术提出了更高的要求。

国产先进封装产业链和Chiplet

随着半导体产业的不断发展,我国的相关产业也在快速崛起,根据《2024基石基金投研白皮书》显示,随着我国集成电路产业规模的不断扩大以及全球产能向我国大陆地区转移的加快 , 集成电路各细分行业对测试设备的需求还将不断增长 , 国内集成电路测试设备市场需求上升空间较大。半导体封装设备国产化率整体偏低,国产替代空间广阔。
围绕先进封装工艺的设备、材料需求是半导体产业链的重要增长点,也是国产半导体设备与材料市场导入市场的更好窗口。
<a href="https://mp.weixin.qq.com/s/36GBYHb8KIOjWnXv61WdcA">基石关注 | GB200超级芯片“难产”,英伟达股价“过山车”,尖端芯片制造有多难?</a>
国内外先进封装涉及前道及后道设备厂商梳理 来源:《2024基石基金投研白皮书》
从国内来看,虽然半导体行业发展是滞后的,但封装产业链由于技术壁垒相对低、发展相对早,因此在全球竞争中并未掉队,根据数据统计,在全球前十大封测厂商中,中国大陆占到了3家分别为长电科技、通富微电和华天科技。值得一提的是,三家封测厂业务布局全球化,具备一定的国际竞争能力,但对于尖端先进封装,中国大陆封测厂的存在感仍然不高。
先进封装技术的不断发展,让Chiplet受到行业的追捧,随着摩尔定律走到极限,行业普遍认为Chiplet是未来提升算力的主要技术,同时,先进封装 /Chiplet 技术也被看作是中国半导体行业实现弯道超车的逆境突破口之一。
Chiplet 指小型模块化芯片,通过 die-to-die 内部互联技术将多个模块芯片与底层基础芯片,通过先进封装工艺,封装在一起形成一个整体的内部芯片,相比传统 SoC 芯片优势明显。Chiplet 能把大规模的 SoC 按照功能分解为模块化的芯粒,在保持较高性能的同时,大幅度降低了设计复杂程度,有效提高了芯片良率、集成度,降低芯片的设计和制造成本,加速了芯片迭代速度。
《2024基石基金投研白皮书》
对于半导体巨头来说,Chiplet已经成为各自产品中的必选,AMD最新的MI300系列芯片,英特尔的Sapphire Rapids,以及上面提及的英伟达GB200,均采用Chiplet技术。
国产半导体产业方面,Chiplet技术为国产半导体带来了巨大发展机遇,芯片IP设计厂商有望在Chiplet发展期迎来重大进步,同时,Chiplet的发展也给国内EDA企业发展带来了一个突破口,让国内具备先发优势的厂商有了技术追赶的机会。在基石投资的企业中,就有一家提供先进制程IP、高端SoC定制以及Chiplet&先进封装产品的企业——中茵微电子。
先进封装给半导体行业带来了更多的创新机会,引领后摩尔时代,重塑尖端芯片产业,这对国产半导体产业链而言,是实现弯道超车的重要机遇。
随着人工智能领域的进一步发展,对于芯片算力的要求将越来越高,一场尖端芯片制造的挑战才刚刚拉开序幕。
—     基石相关被投企业     — 
中茵微电子
中茵微电子(南京)有限公司专注于IC设计先进技术平台的深耕细作,长期投入于高端IP的自主研发、先进制造工艺的IC设计以及Chiplet架构的创新研发。主要面向高性能计算、网络通讯等领域,为客户提供先进制程IP、一站式高端SoC定制以及Chiplet&先进封装产品。
中茵微电子是基石创投早期投资项目,后续陆续获得包括洪泰基金、张江高科、尚颀(上汽产投)、联通创投、国投创业、金雨茂物等机构的投资。
(文中所有观点仅代表作者个人,不代表基石创投观点和立场。文中提及公司仅做分析,不做投资建议。市场有风险,投资需谨慎。)
– end –
参考资料:
金承天.先进封装—国产半导体产业链的新生机会.《2024基石基金投研白皮书》
英伟达、微软、谷歌等公司财报
https://www.nvidia.cn/events/computex/?ncid=so-wech-642406
https://3dfabric.tsmc.com/english/dedicatedFoundry/technology/cowos.htm
https://www.cankaoxiaoxi.com/#/detailsPage/%20/c1117e1904d94490a8c696faf4a303ae/1/2024-09-10%2016:29?childrenAlias=undefined
https://www.cls.cn/detail/1796649
https://www.theinformation.com/articles/nvidias-new-ai-chip-is-delayed-impacting-microsoft-google-meta?rc=epv9gi
https://www.semianalysis.com/p/nvidias-blackwell-reworked-shipment

 

©基石基金
京ICP备20016597号