(转自:君实财经)牛博士
北美ASIC调研:⼤客户forecast, TPU/MTIA等AI芯⽚出货量/价格展望
来自专家研报,不构成投资建议,以下为正文
要点
- 展望字节⾃研训练芯⽚⽬前进展如何?是否项⽬还在合作吗?
- 刚才提到芯⽚已经设计完成,能否展望下这颗芯⽚的主要规格?
- 如果假设项⽬可以继续推进,预计上量节奏和整个⽣命周期的出货量⼤致是多少?
- 展望下,TPU在2025年和2026年的出货量?
- 展望Meta在2025年和2026年的出货量如何?
- 展望下,MTIA 3作为下⼀代架构,是否仍采⽤rack形态?⼀个rack内有⼏颗芯⽚?
- 展望这颗芯⽚的ASP价格也⽐较⾼?
- 展望下OpenAI现在的项⽬进展是怎么样?
- 这样看下来,明年各家出货量都很⼤,那么明年还需要采购这么多英伟达芯⽚吗?会不会对英伟达的市场份额造成较⼤冲击?另外,⻩仁勋今天在会议中提到,ASIC项⽬最终都会失败,因为整体的扩展能⼒有限。您如何看待⻩仁勋对ASIC终局的否认,以及明年这些客户出货量很⼤的现实之间的关系?
- 展望下⾕歌TPU的价格如何?
- 展望今年Meta出货的芯⽚中四个季度的⼤致分布⽐例如何?
- 展望OpenAI的ASIC芯⽚价格是多少?
提问:展望字节⾃研训练芯⽚⽬前进展如何?是否项⽬还在合作吗?
专家:项⽬已经暂停。训练芯⽚的设计已经完成,但在量产前出现了⼀些不确定因素,因此字节决定暂时搁置该项⽬。主要原因在于当前存在许多未知⻛险,尤其是在投⼊量产前需要承担较⼤投⼊成本。在当前形势下,公司决定暂缓项⽬进展,等待后续政策环境的变化,尤其是美国⽅⾯政策是否会有所松动。主要考虑还是政治⻛险。
提问:现在只是存在不确定性,还是美国⽅⾯已经明确告知不能继续推进?
专家:美国⽅⾯并未明确告知不能推进,也没有直接发出相关通知。近期中美在科技领域,尤其是AI⽅向的监管趋严。公司此前也与美国商务部有过沟通,咨询过这款芯⽚后续的合规性,但对⽅并未给出明确答复。字节跳动及TikTok⽅⾯也与相关部⻔有过接触,整体来看,当前⻛险主要源于中美科技关系紧张。按照原有规则,这款芯⽚本不应存在⻛险,因为字节跳动作为美国公司,芯⽚也仅在美国本地使⽤,并未出⼝⾄中国,因此不受现有针对中国的出⼝限制。但律师团队建议项⽬暂缓。⽬前项⽬状态为暂停,预计在未来⼏周内会有更明确的⽅向。
提问:刚才提到芯⽚已经设计完成,能否展望下这颗芯⽚的主要规格?
专家:这颗芯⽚的整体规格较⾼,定位于训推⼀体。HBM内存为192GB,浮点运算能⼒超过3000 TFlops,定点整数运算能⼒约为7000 Tops,功耗约为200瓦。⽬前的设计规格是这样。
提问:芯⽚的尺⼨⼤概是多少?牛博士
专家:芯⽚尚未流⽚。
提问:刚才提到⼀到两周后会有结论,展望时间点⼤致是什么时候?
专家:预计在7⽉初,律师团队会给出更明确的意⻅。⽬前他们正在与商务部沟通,预计两周左右会有更清晰的⽅向。届时将明确芯⽚项⽬是否可以继续推进,或是否仍存在政策⻛险。具体细节由字节跳动法务团队主导。
提问:如果假设项⽬可以继续推进,预计上量节奏和整个⽣命周期的出货量⼤致是多少?
专家:根据字节跳动的规划,若按原计划流⽚,2025年出货量预计为20⾄30万颗,2026年预计为50⾄80万颗。未来两年规划逐步提升,到后年计划达到上百万颗。整个⽣命周期内,预计总出货量约为300万颗。
提问:展望这颗芯⽚的单价或成本结构如何?能否介绍⼀下成本、加价以及最终的平均售价(ASP)?
专家:这颗芯⽚的成本结构分为⼏部分,包括前期研发投⼊、量产成本以及需⽀付给第三⽅公司的IP费⽤。如果不计研发投⼊,单颗芯⽚的流⽚成本(包括掩膜、材料等)约为2000美元。
提问:成本包含HBM内存吗?
专家:HBM内存已包含在成本中。最终量产后,芯⽚的平均售价(ASP)预计接近7000美元。
提问:意思是成本为2000美元,最终公司向字节的售价为7000美元?
专家:是的,因为其中还包含研发、后端流⽚、与台积电的技术⽀持等多项费⽤。
提问:展望下,TPU在2025年和2026年的出货量?
专家:TPU⽅⾯,预计2025年出货量在150万⾄180万⽚,乐观情况下可达180万⽚,甚⾄接近200万⽚。以中性预估,2025年TPU整体出货量将超过150万⽚。
提问:2026年呢?
专家:2026年,⾕歌⽅⾯给出了初步预测,整体出货量将接近250万⽚。从2025年上半年的数据来看,250万⽚的预测甚⾄略显保守。最新的预测数据将在2025年第三季度与⾕歌进⼀步沟通后更新。⽬前预测,2026年芯⽚出货规模有望接近300万⽚。出货量⾮常可观。这⾥⾯有⼏个原因,第⼀个,整体上⼀季度和⼆季度看到的TPU出货量⾮常⼤。在⾕歌对26年的出货量预期中,上半年已经出货接近100万颗。下半年通常Q3、Q4的话是整个AI芯⽚的出货⾼峰期,所以下半年的出货量的会⾼于100万,接近150万到甚⾄到200万都有可能,因为⾕歌从⼀季度、⼆季度⼀直在调整,它从出货量⽐原计划出货量多了30%,原来预期只有80万颗。下半年这⼀增⻓势头预计将持续。⽬前AI训练和推理需求⼤幅扩张,越来越多公司投⼊到细分领域的深化训练,⽽⾮⼤模型训练。⼤模型训练⽬前仅有少数⼏家公司参与,因投⼊巨⼤。
提问:这⼀增⻓听起来较惊⼈。可能2026年整体资本开⽀强度可能还会继续提升。
专家:是的,⽬前⾕歌数据中⼼的新规划和部署正在加速推进,从其采购的交换机及相关芯⽚数量也能看出,整体需求在快速增⻓。
提问:展望Meta在2025年和2026年的出货量如何?
专家:2025年,Meta的出货量约为50万⽚,这是公司为其设定的产能需求。2026年,Meta的出货量预计接近100万⽚,区间为80万⾄100万⽚。具体数字需等到2025年三、四季度,或2026年⼀季度才能最终确定。⽬前这⼀预测⾮常合理,因为Meta对训推⼀体芯⽚的需求主要⽤于替代部分英伟达芯⽚,实现混合训练。从英伟达芯⽚的替代节奏来看,80万⾄100万⽚的出货量符合Meta当前的整体部署规划。
提问:展望下,MTIA 3作为下⼀代架构,是否仍采⽤rack形态?⼀个rack内有⼏颗芯⽚?
专家:是的,MTIA 3仍采⽤rack形态,并将使⽤HBM3E。每个rack内有四颗芯⽚。
提问:你的意思是⼀个板⼦上有4颗,那么⼀个rack中有多少个computetray?MTIA 3的拓扑架构如何实现scale up?AI芯⽚之间的互联⽅式是什么?
专家:当前主要采⽤以太⽹作为AI芯⽚之间的互联⽅式。
提问:展望Meta的芯⽚是⼀个板⼦上四颗芯⽚,那么⼀个机柜⾥有多少芯⽚互联?
专家:⼀个机柜内的芯⽚数量取决于卡槽数量。服务器通常有四卡或⼋卡槽配置,四卡则是16颗芯⽚,⼋卡则是32颗芯⽚。
提问:展望是否会采⽤液冷?
专家:会的。⽬前从⾕歌到其他主要客户,基本都采⽤液冷⽅案,否则将⾯临失效⻛险。
提问:展望这颗芯⽚的ASP价格也⽐较⾼?
专家:这颗芯⽚价格确实较⾼,预计最终售价接近1万美元,⼤约在8000多到9000美元之间。这颗芯⽚的尺⼨也⽐⾕歌的芯⽚⼤很多。⾕歌在设计时,⽬标是做⼀颗较⼩的芯⽚,⽤于组建集群,例如super pod。⽽Meta的这颗芯⽚则更多⽤于训练和推理,与英伟达芯⽚组合,形成混合训练架构。因此在算⼒、规划以及HBM的使⽤上,Meta的芯⽚都⽐⾕歌的芯⽚多很多。
提问:展望这颗芯⽚是不是和英伟达的Hopper的H100差不多⼤?
专家:接近,但没有H100那么⼤。Hopper⼤约有800多平⽅毫⽶,⽽Meta这颗芯⽚⼤概是725平⽅毫⽶。
提问:所以CoWoS那边切下来⼤约是30多颗?
专家:是的。
提问:现在看到CoWoS这边下单30K乘以30多,⼤致就是100万,所以对应明年⼤约100万的量?
专家:是的。
提问:展望下OpenAI现在的项⽬进展是怎么样?
专家:OpenAI这颗芯⽚预计今年年底到明年⼀季度可以开始量产。OpenAI的芯⽚已经设计了⼀年半左右,预计今年四季度能够按时推出。
提问:展望明年OpenAI有量的forecast吗?
专家:明年OpenAI的规划⼤约是50万颗左右。这颗芯⽚也是部分替代英伟达芯⽚,主要⽤于训练任务。Patrick:这样看下来,明年各家出货量都很⼤,那么明年还需要采购这么多英伟达芯⽚吗?会不会对英伟达的市场份额造成较⼤冲击?另外,⻩仁勋今天在会议中提到,ASIC项⽬最终都会失败,因为整体的扩展能⼒有限。您如何看待⻩仁勋对ASIC终局的否认,以及明年这些客户出货量很⼤的现实之间的关系?
专家:实际上,⻩仁勋的判断更多是基于⽬前⼏家⼤公司——Meta、微软、⾕歌、OpenAI、X.AI等在⼤模型训练上仍然离不开英伟达芯⽚。从开发环境到芯⽚算⼒,英伟达依然领先所有ASIC芯⽚,领先⾕歌芯⽚⾄少⼀代甚⾄⼀代半。即使看⾕歌最新的TPU V6,与英伟达相⽐仍有不⼩差距。他认为在⼤模型训练和⾼算⼒需求场景下,英伟达是唯⼀选择。
但从⾕歌的情况来看,虽然单颗芯⽚算⼒不及英伟达,去年⾕歌⽤10万⽚TPUV6组建集群,测试了Gemini 2.0的性能,发现整体运算成本和性能在很多⽅⾯已达到甚⾄超过英伟达GPU。当然,⾕歌的模型更多偏向于相对简单的深度学习模型,不像OpenAI那样参数极多,因此不具代表性。但随着Meta、微软等公司ASIC芯⽚设计能⼒提升,芯⽚逐步稳定,早期难以替代英伟达算⼒的现象会逐渐减少,性能也会越来越接近英伟达。这样⼀来,英伟达芯⽚的增⻓速度会放缓,预计到2027年英伟达芯⽚的出货量可能会下降,渗透率也不⼀定能保持⽬前的⾼速增⻓。这也是⻩仁勋在全球各地推⼴芯⽚、建设AI⼯⼚的原因。他也意识到英伟达芯⽚不会⼀直保持⾼速增⻓,必须通过⾃建⼯⼚或与各地政府合作来推动芯⽚销售。例如去年在⽇本、越南、迪拜等地建设AI⼯⼚,实际上是通过⾃⽤带动芯⽚销售。虽然这种变化不会很快发⽣,但公司预测到2027年以后,ASIC芯⽚的市场份额会持续提升,甚⾄有可能超过英伟达芯⽚在AI加速芯⽚领域的渗透率。
匿名投资者:展望下⾕歌TPU的价格如何?
专家:⾕歌TPU的价格⽅⾯,准确价格只有销售部⻔掌握,但公司了解到的平均价格会根据出货周期和产线成本动态调整。⽬前以TPU V5E为例,价格⼤约在3000到4000美元之间,平均约为3500美元。V5P的价格接近7000美元,6500到6800美元左右。
匿名投资者:展望今年Meta出货的芯⽚中四个季度的⼤致分布⽐例如何?
专家:Meta今年的芯⽚实际将在下个⽉底或下⽉初开始出货。预计今年整体出货量中,第三季度⼤约为10万⽚多,第四季度可能达到30⾄40万⽚。这是Meta今年的出货节奏。到明年,每个季度的出货量预计将保持在20万⽚,甚⾄有望达到30万⽚的规模。2025年上半年(Q1、Q2)出货量会相对较少,Q3、Q4则预计会达到30万⽚。
匿名投资者:展望OpenAI的ASIC芯⽚价格是多少?
专家:OpenAI的ASIC芯⽚是⼀款训练⽤芯⽚。最终出货价格需等芯⽚流⽚完成后才能确定,但预估价格约为8000美元
注意:以上内容来源于网络,仅为个人投资之学习记录用途。本报告中专家表达的观点不代表君实财经的看法或观点。君实财经对信息的准确性、可靠性或完整性不承担任何责任,对于因使用此信息或其中任何部分而引起的任何损失或损害,不承担直接或间接的责任。
如造成不便,请联系后台删除,联系方式见本公号菜单
]article_adlist-->倍悦网提示:文章来自网络,不代表本站观点。