开发者称几百台B300不够用，需加码到256台GB300

最近看到一个有意思的讨论，关于AI大模型训练的算力需求。有个开发者在抱怨，说现在几百台B300完全不够用，需要加码到256台GB300。 这个数字听起来很夸张，但仔细想想也合理。现在大模型的参数量越来越大，训练数据越来越多，对算力的需求确实是指数级增长的。 从技术角度看，B300和GB300的差距主要在显存带宽和计算密度上。GB300采用了更先进的封装技术，单卡性能提升了好几倍。但问题是，就算用上了GB300，训练一个千亿参数的模型还是需要大量的卡。 这让我想到一个问题：当算力成为瓶颈的时候，我们是不是应该换个思路？比如用更高效的训练算法，或者用模型蒸馏技术来降低计算成本。 不过话说回来，能有几百台B300用的人，应该也不差那点钱吧？