马斯克释单美超微
本文由半导体产业纵横(ID:ICVIEWS)综合
梁见后晒出合影照,证实液冷技术将导入AI数据中心。特斯拉CEO马斯克启动AI服务器大建设,传出大买美超微(Supermicro)液冷AI服务器机柜,美超微CEO梁见后主动在社交平台X贴文,亮出他与马斯克相见欢合影,证实相关消息。美超微液冷AI服务器大单落袋,引爆对双鸿、尼得科超众等散热协力厂出货动能。
梁见后在X上贴文中,晒出自己头戴白色工程安全帽,与马斯克在服务器机房见面的场景,梁见后并说,“感谢马斯克将液冷技术导入大型AI资料中心,这或许能保护地球上的200亿棵树” 。
马斯克日前展开AI服务器采购大追单,大买AI服务器机柜,藉此驱动下一代聊天机器人Grok,xAI号称Grok是比ChatGPT更具竞争力的AI模型。
如今,马斯克与梁见后相见欢,透露要将液冷技术导入其AI数据中心,展现对美超微的直接液冷(DLC)技术深具信心。美超微除成为马斯克AI大战略的重要伙伴,未来也可望吸引更多AI公司,一同加入梁见后引领的 “绿色运算” 行列。
散热大厂双鸿与尼得科超众均为美超微主要供应链之一; 其中,双鸿与美超微合作密切,主要供应水冷板(Cold Plate),今年已开始出货相关产品,预料下半年出货动能将持续增强。
据悉,双鸿为因应AI水冷商机,今年资本支出扩大为12亿~15亿元新台币,目前已在泰国新建水冷板产线,预估第三季度前可完成,并在年底前做好量产准备,开始显著贡献营收,而墨西哥厂仍在筹备中,长期目标希望二间海外生产基地能占整体产能五成。
尼得科超众受惠母公司日本Nidec为美超微水冷模组第一供应商。
Nidec日前已宣布为满足美超微AI服务器水冷组件产能需求,预计将在泰国扩增十倍产能,从原先月产能200台,一举扩张至2000台,未来目标月产能来到3000台,而尼得科超众则搭着母公司,一同进入供应链。
马斯克怀抱远大的AI梦,由特斯拉开始执行,先前已通过英伟达H100为特斯拉打造超级计算机,瞄准各式AI应用,近来马斯克更大举为xAI采购AI服务器,积极启动AI大战略布局。
液冷技术为何成数据中心新宠?
目前,CPU服务器主流使用风冷。而进入AIGC时代,AI服务器功耗剧增。
对于液冷逐渐火热的原因,一名资深业内人士表示:“从我们自身的经验看,催生液冷落地的核心需求,就是AI以及GPU。因为液冷可以给(AI服务器)带来明显的投资收益,原来使用液冷更多是环保要求,并非投资收益。”
该人士进一步解释称:“一颗CPU大概多少瓦呢?高档一点的接近300瓦。一台服务器,配两颗CPU是比较常见的。正常的CPU服务器就两颗CPU,当然也有四路和单路服务器,常见的应用场景以两颗CPU为主。而GPU服务器(AI服务器)一般都是8颗GPU起。总体来看,CPU服务器超过1KW(千瓦)已经很高,而一台GPU服务器会达到6KW,英伟达最新一代服务器达到11KW(千瓦)。”
若以英伟达最新一代服务器功耗计算,一台GPU服务器的功耗约为CPU服务器的十倍。
开源证券研报认为,英特尔多款CPU TDP(热设计功耗)已达350W,英伟达的H100 SXM TDP甚至达到700W,B100(英伟达即将推出的GPU)TDP或将达到1000W左右,逼近风冷单点散热极限。
此外,单机柜功率不断增长,逼近风冷散热极限。英伟达DGX A100服务器单机最大功率约在6.5KW左右,在机柜上架率不变的情况下,服务器功率上升导致单机柜功率亦不断增长,逼近风冷12KW—15KW散热极限,继续采用风冷散热,将导致行间空调需求数量陡增,高密度散热场景下液冷方案成本和性能优势显著。
上述资深人士也表示:“目前GPU最大的是700W,下一代据说将达到1KW至1.4KW。这时候再用风冷散热,一是效果(不好),二是噪声(大),就会有各种问题需要解决。简而言之,算力密度的提升下,风冷已经满足不了,必须配液冷。”
值得一提的是,除了数据中心,终端PC或将在AIGC时代下,进入AI PC时代。那么,AI PC是否也将催生液冷需求?
对此,该人士认为:“现在很多电脑是跑不动本地端大模型、跑不动本地端推理的。能否跑得动,重点看电脑是否有GPU显卡。比如消费级英伟达4090、3090,或者说至少有这种(高端)独立显卡。”
关于终端PC散热,其表示:“端侧其实(应用液冷)更加积极,很多游戏玩家都用液冷散热。因为对游戏玩家而言,他的改造量很小。而数据中心涉及基础设施的改造。”
若未来AI PC逐渐普及,该人士判断:“我觉得液冷的使用率将越来越高。”
*声明:本文系原作者创作。文章内容系其个人观点,我方转载仅为分享与讨论,不代表我方赞成或认同,如有异议,请联系后台。
OpenAI背刺英伟达?大赢家会是它
一直有传闻指OpenAI的CEO奥特曼想在AI领域玩票儿大的,开设一家新公司开发和生产新的AI芯片。
近日调研机构The Information透露,OpenAI一直与包括博通(AVGO.US) 在内的半导体设计厂商就开发新芯片进行商讨,并暗示这家AI初创公司寻求脱离对英伟达(NVDA.US) 的依赖,培育自己的供应链。
据相关报道,OpenAI与博通之间的商讨聚焦于博通在OpenAI新芯片开发中的潜在角色,当前这一讨论尚处于初步阶段。对于此事,博通方面尚未发表任何评论。
除了OpenAI之外,微软(MSFT.US)及其主要竞争对手谷歌(GOOG.US)以及谷歌和亚马逊(AMZN.US)都参与投资的Anthropic等人工智能公司,目前均依赖于英伟达的AI芯片来训练和运行大模型。但是英伟达的AI芯片造价昂贵,而且供应短缺,这或激发了各路发展AI的科技公司寻找其他办法。
超微半导体(AMD.US)和英特尔(INTC.US)均陆续推出自己的AI芯片,以把握这个需求契机,但它们的量产时间表仍落后,难以满足这些科技巨企抢先发展的要求。
这正突显出当前AI芯片产业链供需缺口扩大的境况,那么在这样的情况下,谁最能得益?无疑是供应链上游,而这其中,晶圆代工厂台积电(TSM.US) 首当其冲。
台积电:很紧缺!真的很紧缺!
刚刚公布2024年第2季业绩的台积电,季度业绩表现高于其原来设定的指标。
第2季台积电收入(新台币)按季增长13.6%,按美元计增长10.3%,主要因为受到行业领先的3纳米和5纳米工艺强劲需求带动,部分抵消了智能手机季节性需求下降的影响;
第2季台积电毛利率按季提升了10个基点,至53.2%,稍微高于其业绩指引,主要因为整体产能使用率高于预期。
AI芯片,如H100的物料成本主要由三个部分构成:逻辑芯片、HBM存储芯片、CoWoS封装,此外还有PCB和其他辅助材料。由于AI芯片对先进制程的要求极高,从量产和技术能力来看,主要由台积电供应,此外,CoWos封装也由台积电独家提供。
台积电的管理层在业绩发布会上表示,在过去三个月,其发现AI和高端智能手机的需求十分强劲,从而带动其先进的3纳米和5纳米工艺在2024年上半年的产能使用率上升 ,存货周转天数减少7天,至83天,主要因为N3晶圆交付量增加。预计在2024年将会是台积电强劲增长的一年。管理层还向上修正了台积电的全年业绩指引,预计其2024年收入按美元计的增幅稍微高于25%。
在被问及CoWoS的供求状况的时候,魏哲家表示:“我也在尝试达到供求平衡,但办不到,因为需求太高了,台积电已经在努力生产以满足客户需求,并会继续提产,期望能在2025年或2026年能够达到平衡。目前的供应依然非常紧缺,这种紧张情况可能要到2026年才有望缓解 。”
鉴于AI投资热潮所带来的技术革新,台积电表示要在技术上全力追赶。
魏哲家在业绩发布会上透露2纳米的进展,同时表示会推出N16,作为其下一个纳米芯片技术。
魏哲家指出:“AI相关需求的持续飙升支持了节能算力的结构性需求,我们预计,2纳米技术在头两年的产量将高于3纳米和5纳米技术。”
与N3E相比,2纳米技术在相同功率下可实现10-15%的速度提升,或在相同速度下可实现25%-30%的功率提升,芯片密度提高15%以上的全节点性能和功耗优势。
管理层透露,N2技术的发展进展顺利,设备性能和成品率都在按计划或提前完成,并有可能在2025年实现量产,产量爬升状况或与N3相似。
另外,台积电还将推出N2P作为其N2家族的延伸,将增加两个功能,可在相同功率下进一步提高5%的性能,或者在相同速度下提高5%至10%的功率,同时支持智能手机和高性能计算应用,计划于2026年下半年量产。
台积电的SPR是业界首个采用背面触点方案以保持栅极密度和器件灵活性的电源传输解决方案。与N2P相比,N16在相同功率下的速度可提高8%至10%,在相同速度下的功率可提高15%至20%,芯片密度可提高7%至10%。N16最适合用于信号路由复杂、功率输送和工作密集的特定高性能计算产品。预计2024年下半年实现量产。
台积电相信N2、N2P、N16以及衍生产品将进一步巩固其技术领先优势,以把握未来的发展机遇。
对于紧缺的产能,台积电表示正在解决,包括将N5部分产能转为N2。另外,明年将有两个海外晶圆厂投产,分别是亚利桑那晶圆厂的一期和熊本晶圆厂的一期。只不过,海外晶圆厂或将对其明年及未来数年的毛利率带来2~3个百分点的负面影响。
总结
炽热的投资浪潮不断吸引资本投入,从而引发更多的新型AI公司涌现,它们依赖AI芯片的赋能。
与此同时,AI发展不断有技术突破的利好消息传出,例如英伟达将推出“地表最强AI芯”,以满足这些终端客户的需求。
但是,高昂的成本,让越来越多的AI公司思考如何通过建立自己的供应体系,来节省开支。例如,OpenAI拟通过自给自足缓解对英伟达的依赖。
在激烈的市场竞争中,英伟达及其同行在竞相推出新品以争夺市场份额的同时,以及终端客户为追求成本效益而自行构建供应链时,均不可避免地依赖于台积电作为关键的代工合作伙伴。
因此,不论这场AI竞争的最终胜负如何,台积电将作为全面获益的显著胜者,然而,亦需警惕盛名之下,招致的潜在不确定性风险。
本文源自财华网
相关问答
AMD是超微半导体,INTEL,NVIDIA呢?-ZOL问答
AMD全称advancedmicrodevices,叫先进超微半导体设备。Intel就是英特尔公司nvidia就是英伟达公司有用(0)回复相关问题超微X9DAi主板接线图2.2万浏...
股票AMD是什么意思?
股票AMD指的是美国超微半导体公司(AdvancedMicroDevices,Inc.)的股票。AMD是一家总部位于美国加利福尼亚州桑尼维尔的跨国公司,成立于1969年。该公司专门为...
直径0.01,长100,这样超微钻头你见过吗?
超微细加工时,最重要的两点因素,一个是速度,一个是精度。首先说速度。我们都知道,因为恒定线速度的话,刀具直径越小,要求转速越高。比如我们以0.03钻头为例...手...
芯片十大排名?
1.英特尔成立于1968年,一直都处于领先地位,是最著名的计算机和中央处理器创造商。2.三星成立于1938年,三星涉及了许多领域,比如手机、电脑和各种电子半导...
国产主机十大排名?
华硕电脑(上海)有限公司6、微星深圳微星科技股份有限公司7、技嘉宁波技嘉国际贸易有限公司8、雷蛇雷蛇电脑游戏技术(上海)有限公司9、AMD超微半导体有...
amd简称是什么?
超微半导体公司,英文是AdvanceMicroDevise,简称AMD。成立于1969年,总部位于加利福尼亚州桑尼维尔的AMD公司致力于为全球通信和计算机行业的客户提供微处理...
牛八体育官网(中国)官方网站IOS/通用版/APP下载
div以下这些牌子的笔记本主板质量都很好,是笔记本主板的十大品牌:br1.华擎笔记本主板(十大笔记本主板品牌,华擎);br2.映泰笔记本主板(十大笔记本主...
AMD公司中文全称是什么?
AMD的中文名是超微半导体公司。超微半导体公司(英语:AdvancedMicroDevices,Inc.;缩写:AMD、超威,或译“超微”),创立于1969年,是一家专注于微处理器...超....
显卡芯片一般是哪几家大公司生产?
主要由NVIDIA和AMD两家公司生产。这是因为显卡芯片需要强大的技术和资金支持,只有少数大公司具备这样的实力。此外,由于显卡市场不断变化,价格波动和技术更新...
AMD是什么?
AMD是一个全球性的半导体公司,主要生产处理器、显卡和其他计算机硬件产品。因为AMD是一家拥有多年生产制造处理器和显卡等计算机硬件的公司,其产品质量和性能...