对基于生成人工智能的服务的需求以及对美国政府可能限制用于人工智能工作负载的 GPU 销售的担忧继续推高了中华人民共和国的价格。据 MyDrivers 报道,在某些情况下,Nvidia H800 计算 GPU 的价格可能高达 50 万日元,即每台约 7 万美元。 事实上,即使以这个价格,仍然很难获得 GPU。
上个月,在有传言称美国政府可以限制此类产品的出口后,用于人工智能 (AI) 和高性能计算 (HPC) 应用的 Nvidia A800 GPU 的价格几乎在一夜之间上涨了 20%,达到 110,000 日元(15,000 美元) 。产品销往中国的情况出现了。现在,Nvidia的A800和H800计算GPU可以达到120,000日元(16,800美元,大概是A800)、250,000日元(34,970美元)、300,000日元(41,970美元),甚至是500,000日元(69,950美元,大概是H800)。
但即使有钱购买面向中国的 A800 和 H800 GPU(Nvidia A100 和 H100 计算 GPU 的精简版,性能和可扩展性有所下降),也可能无法获得其中一款设备。报告称,人们可能需要直接与英伟达中国甚至英伟达公司总部联系,而不是从分销商或经销商处购买。
高得离谱的价格并不令人意外。绝大多数人工智能集群都基于 Nvidia 的计算 GPU,并运行专为 Nvidia CUDA 软件层设计的软件,该软件层专门支持这家绿色公司的处理器。如果 AI 服务和集群的所有者无法获得足够的计算 GPU 来支持对其产品不断增长的需求,他们的服务质量将会下降,并且随着时间的推移,他们可能会失去业务。