Clockwork.io 获 3100 万美元融资，让 AI 推理和训练工作负载像钟表般运行

融资与背景

Clockwork Systems Inc. 是一家数据中心基础设施初创公司，致力于提升 AI 芯片集群效率。该公司宣布获得 3100 万美元新融资，并推出新功能 TorchSnap，以减少被浪费的算力。本轮融资由 Seligman Ventures、Wing Ventures 和 Premji Invest 共同领投，现有投资方 New Enterprise Associates（NEA）和 e& Capital 继续参投。这使得公司累计融资额达到 7300 万美元。

在 AI 算力成本迅速上涨的背景下，Clockwork 指出，许多组织已不再只关注获取原始 GPU 资源，而更关心如何最大化利用现有集群。在由数千块 GPU 组成的集群中运行大规模分布式 AI 工作负载时，硬件故障几乎每天都会发生。文章以 Meta Platforms Inc. 为例：其 Llama 3 模型在 16,384 块 GPU 集群上进行了 54 天训练，平均每 三小时就报告一次硬件问题。面对故障，团队通常要从快照重新加载已保存进度，而这一恢复过程最多需要 90 分钟。在此期间，数千块健康 GPU 只能闲置，恢复后集群还常重复已经完成的工作。因此，容错已成为数据中心运营商和 AI 团队的重要问题。

技术方案与新产品

Clockwork 开发了一种可编程软件层，位于 GPU 与运行中的 AI 工作负载之间，可同步 GPU 集群，并提供 纳秒级精确遥测，在故障导致整个集群重启之前识别问题。Clockwork 首席执行官 Suresh Vasudevan 表示，运行如此巨大的集群时，GPU 故障无法避免，但团队不应忍受芯片已完成的工作数小时丢失。他说，容错是 有效算力（goodput）的倍增器，能让 GPU 做有用工作，而不是等待恢复或重复已完成的工作。他还表示，公司与运营部分最大 GPU 集群的企业和云提供商共同构建该软件，因此能够处理它们实际遇到的故障。

新推出的 TorchSnap 进一步增强了集群韧性，在现有 LinkPass 网络故障转移工具和 TorchPass GPU 迁移软件之外，增加第三层保护。它无需开发者修改代码，就能捕获集群内每个节点上分布式 AI 推理工作负载的 多节点快照，使运行中的作业能从中断处快速重启。团队还可以在应用层加入 检查点逻辑，从而在故障后减少进度损失和重复计算。

客户采用与行业观点

SemiAnalysis 分析师 Dylan Patel 表示，AI 推理工作负载迫切需要更强的容错能力。他认为，集群容错过去是训练问题，如今也成了推理问题。Clockwork.io 能让副本在链路抖动和网络故障期间继续服务，其极快的检查点可加速把权重传回 rollout 集群，使两个方向都不至于停滞。

自上一轮融资一年多以来，Clockwork 的 AI 集群效率提升软件已在公共云基础设施提供商、neoclouds 和企业集群中快速采用。例如，Microsoft Corp. 旗下的 LinkedIn 已在其全部 GPU 集群部署 LinkPass，每月消除数千 GPU 小时的停机；LinkPass 能绕开任何光链路和交换机故障重新路由 AI 流量，在硬件问题发生时保持作业运行。另一客户 Together AI Inc. 在其 GPU 集群上以服务形式提供 Clockwork 的 TorchPass 能力。neocloud 提供商 WhiteFiber Corp. 则利用 Clockwork 技术，在新 AI 工作负载进入生产前审计和验证集群可靠性。

NEA 风险合伙人 Greg Papadopoulos 表示，GPU 最可靠的一点就是其不可靠性。他说，一台机器里放入足够多 GPU，就总会有东西故障，但行业的答案仍是停止整个作业并重新加载检查点；这在 30 年前对超级计算机或许合理，但在当前规模下并不合理。NEA 早期投资了该团队，并再次投资，因为这一层正在成为 AI 集群的一部分。