马斯克宣布，再买42万颗GPU

公众号记得加星标⭐️，第一时间看推送不会错过。 SpaceX旗下的AI算力基础设施建设，正在进一步提速。 当地时间10月31日，埃隆·马斯克（Elon Musk）披露了Colossus 2数据中心的最新建设进展。除了此前已经部署的Macroharder和Minihard两大计算集群，SpaceX还在建设两个新的计算集群，分别命名为Gun Range和Spam，计划新增约42万颗英伟达GB300 GPU。 按照马斯克披露的信息，Gun Range将配置约22万颗GB300，采用与Macroharder、Minihard相同的训练集群配置，预计11月底投入运营。Spam则计划部署约20万颗GB300，主要用于AI推理，预计12月投入运营。 如果这两个集群按计划建成，Colossus 2将进一步扩大其在全球AI算力基础设施领域的规模。 值得注意的是，这次扩建并不只是简单地增加GPU数量。马斯克特别提到了一个细节：虽然Gun Range和Spam都将部署数十万颗GB300，但由于两者承担的任务不同，其网络架构也将存在明显差异。 这也折射出超大规模AI数据中心建设的一个重要趋势：训练和推理，正在推动算力基础设施走向不同的配置路线。 42万颗GB300，两个新集群即将上线 先来看两个新集群的具体配置。 根据马斯克的介绍，目前Macroharder和Minihard两个集群均配置了约22万颗GB300 GPU，并采用800Gbps网卡，主要用于AI模型训练。 即将建设完成的Gun Range将沿用这一配置，同样部署约22万颗GB300，并采用800Gbps网络配置，预计在11月底投入运营。 相比之下，Spam的定位有所不同。 这一集群计划部署约20万颗GB300，主要承担AI推理任务。马斯克表示，由于推理集群的网络架构相对简单，Spam所需的光纤数量不到训练集群的一半。 从这组数据来看，SpaceX并没有简单地将所有GPU集群按照同一种方式建设，而是根据训练和推理的不同需求，对网络基础设施进行差异化配置。 另外，Spam这个名字也有一个有意思的来历。马斯克透露，该建筑此前曾用于存放美国肉类加工企业Hormel Foods的产品，因此沿用了Spam这一名称。Gun Range则来自当地警察部门此前使用的射击场，SpaceX收购了相关场地。 两个名字背后，实际上都是SpaceX通过改造既有建筑、加快数据中心建设进度的一个缩影。 训练与推理，网络需求为何差异如此之大？ 这次披露中，最值得关注的其实不是42万颗GPU，而是训练集群与推理集群在网络配置上的差异。 对于大规模AI模型训练而言，GPU之间需要进行大量的数据交换和同步。尤其是在数十万颗GPU组成的分布式训练集群中，计算任务会被拆分到不同GPU和服务器上执行，随后还需要通过高速网络交换梯度、参数及其他中间数据。 这意味着，GPU之间的通信效率会直接影响整个集群的训练效率。即使单颗GPU拥有很强的计算能力，如果网络带宽不足、通信延迟过高，也可能出现GPU等待数据、计算资源无法充分利用的情况。 因此，大规模训练集群不仅需要大量GPU，还需要与之匹配的高速网络、交换设备和光纤互连系统。Macroharder和Minihard采用800Gbps网卡，Gun Range也将沿用相同配置，正是这一思路的体现。 推理集群则有所不同。 模型训练需要大量GPU协同完成计算，而推理主要是利用已经训练好的模型处理用户请求。虽然大规模推理同样可能涉及多GPU协同、模型并行以及节点之间的数据交换，但其通信模式取决于模型部署方式、服务架构和负载特征，并不一定需要完全复制训练集群的网络配置。 例如，在采用模型副本部署的场景下，不同推理实例可以相对独立地处理请求，跨节点通信需求与大规模分布式训练有所不同。 这也解释了为什么马斯克强调，Spam虽然计划部署约20万颗GB300，但网络架构可以简单得多，光纤用量不到训练集群的一半。 当然，光纤数量减少并不意味着推理集群不需要高速网络。随着模型规模扩大、上下文长度增加，以及推理服务向多节点部署发展，推理侧的网络性能同样会成为重要的系统设计因素。 从这个角度看，SpaceX的建设方案体现了一个值得关注的方向：AI数据中心正在从单纯追求GPU数量，转向根据不同工作负载优化计算、存储和网络之间的配置关系。 Colossus 2，向120万颗Blackwell迈进 把这次扩建放到Colossus 2整体建设进度中来看，规模就更加惊人了。 今年9月，马斯克曾披露Colossus 2的GPU部署情况。当时，该数据中心已经拥有约11万颗GB200和44万颗GB300，并计划继续分批增加GB300。 SpaceX在2026年6月提交的欧盟招股说明书中，也披露了Colossus 2此前的建设速度：