环球今亮点!AI的“iPhone 时刻”之后,英伟达新“核弹”为ChatGPT提速10倍

时间:2023-03-22 12:07:47       来源:动点科技


【资料图】

3月21日晚11点,英伟达首席执行官黄仁勋将OpenAI的ChatGPT称为人工智能的“iPhone时刻”,并在该公司的春季GTC大会上宣布了专为其设计的推理GPU(图形处理器)。

除此之外,英伟达还发布了AI超级计算服务DGX Cloud、突破性的光刻计算库cuLitho、加速企业创建大模型和生成式AI的云服务NVIDIA AI Foundations等,以及与Quantum Machines合作推出了全球首个GPU加速量子计算系统。

其中最主要的是H100 NVL,它将英伟达的两个H100 GPU拼接在一起,以部署像 ChatGPT这样的大型语言模型(LLM)。“当前唯一可以实际处理ChatGPT的GPU是英伟达HGX A100。与前者相比,现在一台搭载四对H100和双NVLINK的标准服务器速度能快10倍,可以将大语言模型的处理成本降低一个数量级。”黄仁勋说。

来源:澎湃新闻

关键词:

新闻热点
奇闻趣事
频道推荐