服务器厂商等待6个月以上才能获得英伟达最新GPU
据华尔街日报报道，用于AI的图形处理器（GPU）几乎全部由英伟达制造，但随着ChatGPT的爆发，对它们的需求激增远远超过了供应。 这种情况限制了亚马逊和微软等云服务提供商向ChatGPT等客户提供的处理能力，AI开发人员需要服务器能力来开发和操作日益复杂的模型，并帮助其他公司构建AI服务。 OpenAI首席执行官Sam Altman表示，由于处理器瓶颈，如果使用ChatGPT的人少一些会更好。 对于训练能够生成原始文本和分析的大型人工智能模型的公司来说，获得数万个先进的GPU至关重要。英伟达的高级GPU可以同时进行大量计算，这对于AI工作至关重要。 瑞银分析师估计，较早版本的ChatGPT需要大约10000个GPU，马斯克估计更新的版本需要的GPU是原来的的三到五倍。 英伟达最近表示，它正在扩大供应以满足不断增长的需求。英伟达CEO表示，该公司已经提高了H100的产量，这是其用于生成式AI的新型旗舰芯片。 芯片成本各不相同，但英伟达的高级人工智能芯片被一些零售商以大约33000美元的价格出售，尽管在高需求下，它们可以在二级市场上获得更高的价格。 根据人工智能投资者和初创公司的说法，初创公司正在缩小他们的人工智能模型，以提高效率，购买自己的带有相关GPU的服务器，或者转向甲骨文等不太热门的云提供商，直到短缺得到解决。 OpenAI的一位发言人表示：“业界对GPU的需求非常强劲。”许多AI创始人预计短缺至少会持续到明年。 创始人和投资者表示，能够获得计算能力的公司仍需等待数周才能使用英伟达的GPU。“即使你已经预先支付了费用，这并不意味着GPU会在接下来的一天或一周内到达你的手中，你只需要等着。”Perplexity AI的CEO阿拉文德·斯里尼瓦斯（Aravind Srinivas）如是说，该公司开发了一款人工智能驱动的对话式搜索工具。 服务器制造商及其直接客户表示，他们需要等待六个月以上才能获得英伟达最新的GPU。 最大的服务器制造商之一AMD的CEO表示，该公司GPU的延期交货达到了有史以来的最高水平，该公司正在急于增加生产能力。
