英伟达又放出两颗「GPU」核弹！！！AI又要再度起飞了
本帖最后由 不二如是 于 2023-11-17 11:25 编辑近日，英伟达再次震撼世界，推出了两颗核弹级别的新品。
https://www.bilibili.com/video/BV1JC4y1m7zP
第一颗核弹就是他们最新的GPU「H200」，相较于前代「H100」，最大的提升在于内存容量，达到了惊人的1.1 TB。
这种内存采用了最新的技术，被称为「HBM3E」，即高带宽内存。
它通过将低功耗内存以3D封装的方式堆叠在一起，并与GPU芯片放置在同一块GPU底板上，通过晶圆直接通信。
这样一来，内存容量大幅提升，与GPU的通信速度也显著增长，达到每秒4.8 TB的惊人速度。
此外，英伟达还对所有软件进行了优化，大大提升了GPT等大型模型的推理速度，与「A100」相比提高了18倍。
而英伟达的第二颗核弹则是他们的CPU和GPU的合体产品「Grace Hopper GH200」。
这款产品将ARM的CPU和GPU封装在同一块晶圆板上，使得它们之间的传输速度非常快，并且可以共享内存。
其内存容量也达到了令人惊叹的624 GB，并搭载了72个ARM计算盒。与X86芯片相比，这款产品的算力提高了100倍，而功耗仅为原来的一半。
不得不说，这次的新品再次引领了人工智能的浪潮。对于这波AI的起飞，大家有什么看法呢？
页:
[1]