跑个题,这篇文章就是外行写的,显存带宽不说,NVLINK 一笔带过。通篇不提 Mellanox 和 infiniband,感情作者以为 DGX 就是一堆机器插满 GPU 连上万兆网卡吧。这年头单个 GPU 的算力和带宽都是浮云[1],虽然也没几家公司能搞出跟 H100NVL 匹敌的怪物。
这是一个从 https://www.zhihu.com/question/601451868/answer/3033148142 下的原始话题分离的讨论话题
跑个题,这篇文章就是外行写的,显存带宽不说,NVLINK 一笔带过。通篇不提 Mellanox 和 infiniband,感情作者以为 DGX 就是一堆机器插满 GPU 连上万兆网卡吧。这年头单个 GPU 的算力和带宽都是浮云[1],虽然也没几家公司能搞出跟 H100NVL 匹敌的怪物。