您的位置:主页 > 市场信息 > 公司新闻 > 公司新闻

芯片巨头又大涨,背后推手是谁?-外盘期货

7月30日,英伟达股价下跌7%,这是该公司3个月来*跌幅,市值一夜蒸发1934亿美元,下滑至2.55万亿美元。

7月10日~30日,英伟达股价崩跌23%,从每股134.91美元跌至103.73美元。此前,该公司一直歇的上涨势头,似乎让投资人忽视了风险。

在已往两周,投资人从英伟达这类大型科技股撤出资金,由于他们越来越忧郁大企业的AI支出难以获得回报。

手艺剖析师指出,这样的转变让英伟达股价另有进一步下跌的空间。

01 苹果惹的祸?

英伟达股价大幅下跌或许与苹果公司有关。

7月29日,苹果在一份手艺论文中示意,其人工智能(AI)系统Apple Intelligence的两个模子是在谷歌设计的云端芯片上举行训练的,苹果详细先容了用于训练的张量处置器(TPU)。另外,苹果还宣布了适用于部门装备的Apple Intelligence预览版。

苹果在其47页的论文中没有提到谷歌或英伟达,但指出其苹果基金会模子 (AFM) 和 AFM 服务器是在云端TPU群集上训练的。该论文示意,该系统使苹果能够有用地、可扩展地训练AFM模子,包罗AFM-on-device、AFM-server和更大的模子。

苹果示意,AFM-on-device是在 2048个TPU v5p芯片的单一切片上举行训练的,这是*进的TPU,于2023年12月推出。AFM-server是在8192 TPU v4芯片上举行训练的,这些芯片被设置为通过数据中央网络作为8个切片一起事情。

谷歌很早就在数据中央内大量部署TPU了,用于加速AI模子训练和推理,而且,不仅自家使用,谷歌还把TPU看成云盘算服务提供应第三方使用,将它酿成产物销售。

谷歌最新的TPU每小时的成本不到2美元,芯片需要提前3年预订才气使用。谷歌于2015年首次推出了用于内部事情负载的TPU,并于2017年向民众开放。现在,它们是为人工智能设计的最成熟的定制化芯片。

不外,谷歌仍然是英伟达的*客户之一,并在其云平台上出售英伟达手艺的使用权。

苹果先前示意,推理,即接纳预先训练的人工智能模子并运行它来发生内容或做出展望,将部门在苹果自家数据中央的芯片上完成。

苹果在6月WWDC 2024时代宣布相关手艺文件显示,工程师除了在Apple Intelligence接纳苹果自有处置器等硬件,搭配自有软件框架之外,还用自家GPU连系谷歌 TPU举行人工智能模子加速训练。

英伟达面临的竞争压力越来越大,以谷歌为例,这家科技巨头通过自研AI芯片不停壮大其市场份额。来自TechInsights的数据显示,在2023年的数据中央加速器市场,谷歌 TPU的出货量到达200万台,虽然略逊于英伟达的380万台,但已稳居行业第三,且增进势头强劲,对英伟达组成了挑战。与此同时,微软等科技巨头也在逐步削减对英伟达的依赖,转而接纳其他竞争品牌的芯片。

02 GPU太贵了

除了单一依赖风险,英伟达GPU的高昂价钱也吓跑了不少厂家。

有讲述显示,配备英伟达下一代Blackwell GPU的AI服务器,每台要价高达200-300万美元。

英伟达推出了两套基于Blackwell架构的参考设计,其中,NVL36搭载了36块B200 GPU加速卡,预计要价200万美元,之前预计180万美元,现在又涨价了。NVL72规模翻番,搭载72块B200加速卡,预计起步价就要300万美元。

英伟达预计,2025年,B200服务器的出货量有望到达6-7万台,总价到达1200亿~2100亿美元。

现在,AWS、戴尔、谷歌、Meta、微软等都有意采购B200服务器,规模超预期。

AI服务器主要由CPU、GPU、FPGA等处置器组成,用于处置大量的盘算义务,相比传统服务器,AI服务器通常需要更高性能的硬件,以知足对于大规模数据处置和庞大盘算的需求。由于这些硬件的价钱较高,它们在AI服务器的成本中占比*。这其中,GPU是种种处置器中成本占比*的。

在AI训练和推理历程中,GPU通常是最昂贵的硬件,这是由于GPU具有较强的盘算能力和并行处置能力,可以加速AI模子的训练和推理历程。大多数AI服务器都配备了多个GPU,以知足高性能盘算的需求。

由于GPU具有壮大的盘算能力,其功耗也较高。为了知足AI模子的盘算需求,通常需要设置多个GPU,这将导致服务器的功耗进一步增添。高功耗意味着服务器在运行时需要更大的电力供应,并发生更高的电费支出。

与CPU相比,GPU具有更庞大的系统结构和更多的组件,这意味着GPU的维护事情更为繁琐和庞大,需要更专业的手艺职员举行维护和治理。而且,由于GPU的高功耗,其散热需求也更高,需要分外的散热装备和维护成本。

随着AI手艺的快速生长,GPU的性能也在不停提升。为了保持竞争力,许多公司需要频仍购置新版GPU,这将增添服务器的成本。

随着AI应用的推广,越来越多的企业最先使用AI服务器,这导致了对GPU的需求不停增添,求过于供的情形下,GPU的价钱也会上涨。

03 竞争对手施压

海底捞加码烤肉生意

英伟达的竞争对手们都在摩拳擦掌,其中,最引人关注的AMD近期显示优异。

7月30日,AMD宣布了2024年第二季度财报,净利润同比激增881%,数据中央营业收入翻番,抢了英伟达不少生意。

AMD本季度总营收到达58.35亿美元,不仅超出了此前预期的57.2亿美元,还实现了9%的同比增进和7%的环比增进。净利润到达了2.65亿美元,同比增进幅度高达881%,环比增进115%。

数据中央用GPU芯片MI300在单季度内的销售额跨越了10亿美元,推动数据中央部门收入大幅增进。

MI300系列是AMD于2023年底宣布的AI GPU,包罗MI300X,以及集成CPU内核和GPU加速器MI300A,其中,MI300X对标英伟达的H100。据AMD先容,MI300X用于AI训练时的性能与英伟达H100持平,推理方面,其性能超出竞品。以8个GPU组成的单台服务器为例,运行1760亿参数的BLOOM模子和700亿参数的Llama2模子时,MI300X平台性能是H100平台的1.4~1.6倍。

AMD首席执行官苏姿丰示意,公司AI芯片的销售额“高于预期”,微软对MI300芯片的使用量正在增添,以作为GPT-4 Turbo的算力支持,并支持微软的word、teams等多个Copilot服务。Hugging Face则是首批接纳新的微软云Azure的客户之一,使企业和AI客户能通过一次点击,便在MI300上部署数十万个模子。

今年6月,AMD宣布了迭代蹊径图,设计今年第四序度推出MI325X,并在明、后两年陆续推出MI350系列和MI400系列,其中,M1300X、MI325X将接纳CDNA3架构,M1350将接纳CDNA4结构,MI400将接纳下一代CDNA架构。AMD后续每年都市推出新的产物系列。在业内看来,这一速率与英伟达宣布的设计看齐。

此外,苏姿丰示意,AI推理的需求将比训练更大。AI PC是PC种别中很主要的一部门,PC市场对AMD营业来说是很好的收入增进时机。

今年,AMD在通过投资加速结构AI。7月,该公司出资6.65亿美元收购了欧洲*的人工智能实验室Silo AI,该公司提供端到端AI驱动的解决方案,此次收购被以为是AMD追赶英伟达的主要一步。

苏姿丰示意,除了收购Silo AI,AMD在已往12个月中还向十几家人工智能公司投资跨越1.25亿美元,以扩大AMD生态系统并维持AMD盘算平台的*职位。她示意,AMD将继续投资软件,这是投资Silo AI的缘故原由之一。

基于优质的GPU硬件,生长软件和生态系统,AMD正在以英伟达的乐成方式与之竞争。

04 英伟达也有弱点

要与英伟达竞争,扬长避短是上策,也就是说,施展自己的优势,去攻击英伟达的短板。

虽然GPU并行处置能力异常强,这也是其善于AI训练的基本缘故原由。然则,当数据往返移动时,GPU的处置速率就不快了。AI大模子运行时,往往需要大量GPU和大量内存芯片,它们相互毗邻在一起,数据在GPU和内存间移动越快,性能越好。当训练大型AI模子时,一些GPU内核会闲置,险些一半时间都在守候数据。

若是能将大量处置器内核和海量内存组合在一起,形成存内盘算,则可大大降低多芯片间的毗邻庞大性,可大幅提升数据的传输速率。大量处置器内核在芯片内毗邻在一起,其运行速率比自力GPU组合快上百倍。现在,有几家创业公司正在做这样的事情,生长情形值得关注。

另外,必须在软硬件生态方面有打持久战的准备,才气与英伟达周旋,在这方面,需要有壮大的资源靠山,才气有命去争。AMD和英特尔正在做这样的事。

再有,除了芯片自己,可以在芯片与芯片互联方面多下功夫,英伟达在这方面并不是老大,博通是。

博通解决的是芯片与芯片之间的互联问题,并非与英伟达GPU直接竞争。虽然英伟达也有自家的芯片间互联手艺,但从整个行业来看,博通的手艺和产物更胜一筹,在全球8大AI服务器系统当中,有7个都部署了由博通手艺支持的以太网基础设施,预计到2025年,所有超大规模AI服务器系统都将由以太网提供支持。

博通最善于解决通讯带宽问题,在全球50GB/s的SerDes市场中,博通占有了76%的份额,其SerDes接口通过将低速并行数据转换为高速串行数据,然后在吸收端转换回并行数据。通过这样的操作,数据可以从一个TPU高速转移到另一个TPU,大大提升了传输效率。

同样受益于AI增进,博通的网通产物营收正以40%的同比增速增进。该公司财报显示,住手今年5月的第二财季,AI营收同比增进280%,到达31亿美元,预计这一数字将在本财年竣事前突破110亿美元。

05 大落之后又大起

一众竞争对手都在给英伟达施压,是该公司股价下跌的主要缘故原由,然而,市场转变速率之快,让人反映不及。

7月31日晚间,英伟达股价突然大涨,涨幅一度跨越14%,单日市值增添3269亿美元。

英伟杀青为了首只单日市值增量跨越3000亿美元的股票。现在,在美股单日市值增量排行榜上,英伟达占有了前三位,今年2月22日、5月23日,英伟达单日市值划分增进了2766亿美元、2177亿美元。

摩根士丹利揭晓研究讲述指出,思量到英伟达近期遭到市场抛售,虽然详细缘故原由未明,但信托可为有兴趣的投资者带来优越的入市时机,因此,重新将其列为*股,盈利展望及目的价未变,评级为“增持”,目的价为144美元。

短短两天内,英伟达股价大落伍又大起,或许与Blackwell供应吃紧,难以所有准时交付有关。

大摩示意,Blackwell产物在市场上引起了强烈的兴趣,尤其是其推理性能的显著提升,进一步驱动了客户的购置欲望。

不外,业界传出新闻,Blackwell GPU芯片可能延迟,或者是搭配该芯片的服务器产物可能延迟。

虽然诸多竞争对手的手艺和产物显示越来越好,给英伟达带来了压力,但在现在和未来中短期内,该公司的GPU产物依然是AI服务器市场主力,总体求过于供。而在众多客户期待的Blackwell GPU即将出货之际,传出交付会延期的新闻,一定会吊足市场胃口,有利于股价上涨。