开源仓库

共 9 个仓库 · 按最近更新排序

查看全部 →
144GB 显存反推:沐曦 C600 的带宽推不出来 新

144GB 显存反推:沐曦 C600 的带宽推不出来

一句话总结:沐曦曦云C600标144GBHBM3e。这个容量有4×36GB和6×24GB两种标准拆法,对应的带宽是4.8和7.2TB/s,差50%。规格表只给容量不给堆栈数,所以从公开信息推不出它的带宽。这个数字值得反推,因为"144GB"是个非常规容量。主流配置是80GB、141GB...

B300 的 288GB 显存:单卡能装下多大模型 新

B300 的 288GB 显存:单卡能装下多大模型

一句话总结:B300单卡288GBHBM3e、8TB/s带宽、2.25PFLOPSFP16稠密算力。288GB意味着4bit下能装576B参数,听起来"单卡跑大模型"成立了。但按带宽算,装得下不等于跑得动——200B模型单卡batch=1只有80token/s。先把三个数字的关系...