英伟达发布ChatGPT专用GPU,性能提升10倍,还推出云 ...(1/6)

更多
2023-3-25 19:46 223人参与 0条评论 自动播放 开灯

英伟达发布ChatGPT专用GPU,性能提升10倍,还推出云 ...

其中, H100 NVL GPU是英伟达这次推出的 ChatGPT的专用GPU,它是基于去年曾经发布的H100的改进版本:配备双GPU NVLink,将两张具有94GB HBM3显存的PCIe H100 GPU拼接在一同。 性能的话,老黄形象地做了个对比:相较于目前独一能够实时处置ChatGPT的HGX A100,一台搭载四对H100和双NVLINK的规范效劳器能将速度提升10倍,并且还能够将大言语模型的处置成本降低一个数量级。期间,老黄还展示 ... [查看原文]

上传图片 点击发表评论 (223人参与 0条评论)