但在 AI 时代,计算的原子单元发生了变化。训练(大规模一致性集群)和推理(代理式工作负载)——需要一种根本不同的资源配置。这些新工作负载需要大幅更多的加速计算,将设计目标从多租户利用率(云时代)转向绝对工作负载性能(AI 时代)。数据中心的经济模型发生了倒转。一支巨大的、冗余的 Amazon Basics CPU 和存储舰队,在同步训练任务中不起作用,因为一个落后的节点就会拖垮整个集群。对于推理,瓦特每令牌和首令牌时间主导了经济性,而不是你能在盒子里塞进多少虚拟机。而且在电力有限的世界里(至少在西方是这样。也许在中国不是),这一切都行不通。