当前位置: 首页 > 资讯 > 科技 > 英伟达H100 AI GPU供货显著改善,交货周期再缩减一个月
  • 0
  • 0
  • 分享

英伟达H100 AI GPU供货显著改善,交货周期再缩减一个月

英伟达(NVIDIA) 2024-04-11 10:16:31 爱吃爆米花

4月11日消息,早前备受瞩目的英伟达H100人工智能图形处理器(GPU),在经历了一段长期的市场需求旺盛与供应紧张的时期后,如今其交货周期呈现显著收缩态势。

据台积电台湾地区业务负责人Terence Liao揭示,历经数月的努力,客户订购H100产品所需的等待时间已由原先的3到4个月区间内进一步紧缩至现今的2至3个月,即8至12周。

这一变化标志着供应链上的重大转折,对比2023年市场上近乎“一卡难求”的严峻局面,如今英伟达H100的供应困境正稳步得到破解。

尽管交货等待时间有所缩短,Terence Liao 表示,对于人工智能硬件的需求仍然非常旺盛。即使价格昂贵,用于人工智能的服务器采购也正在取代通用服务器的采购。但他认为,交付周期太长正是导致需求看起来居高不下的主要原因。

目前 2-3 个月的交货等待时间是英伟达 H100 GPU 史上最短的。仅仅 6 个月之前,等待时间还长达 11 个月,大多数英伟达的客户需要等待将近一年的时间才能拿到他们订购的人工智能 GPU。

自 2024 年初以来,H100 GPU 交货等待时间一直在显著缩短。今年年初,等待时间就已经从最初的数月降至 3-4 个月。现在又进一步缩短了一个月。依这样的速度,到今年年底甚至更早,或许将不再需要等待。

导致这种情况变化的部分原因可能是,一些公司持有过剩的 H100 GPU 库存,并且为了降低闲置库存的高额维护成本而进行转售。此外,亚马逊云科技 (AWS) 方便了用户通过云端租赁英伟达 H100 GPU,这也帮助缓解了部分对 H100 的需求压力。

目前唯一仍在承受供应限制的英伟达客户是一些大型企业,例如 OpenAI,这类公司正在研发自己的大型语言模型 (LLM)。训练大型语言模型需要成千上万颗 GPU 才能快速高效地完成,因此这些公司仍然面临着供应瓶颈的挑战。

来源:it之家
免责声明:本内容来自互联网,不代表本网站的观点和立场,如有侵犯你的权益请来信告知;如果你觉得好,欢迎分享给你的朋友,本文网址 https://wangzhidaquan.com/zixun/33896.html
文章标签
评论

文明上网,理性发言,共同做网络文明传播者

验证码
提交
热门游戏
换一换
热门软件
换一换