从比尔·盖茨到伯尼·桑德斯,多数人认为AI军备竞赛是灾难性的,只有欧洲能叫停它 | 亚历山大·赫斯特

背景

文章认为,AI发展像一本“所有选项都通向灾难”的选择书:

  • 碳排放激增、生态崩溃、泡沫破裂与金融危机、自动化大规模失业、民主终结与威权监控、对算法意识的迷信、恐怖分子制造生物武器、国家部署自主武器、关键系统被黑客攻击,以及AI目标背离人类福祉。

作者批评寄望于Elon Musk、Sam Altman、Peter Thiel、Marc Andreessen等科技与政治人物带来乌托邦是不现实的。越来越多人士开始承认风险,从Bernie Sanders到Bill Gates都呼吁减速或暂停;Gates称,如果有人提出全球可信的AI减速计划,他可能支持。此前Anthropic也曾呼吁给AI装上“刹车”。但作者认为,行业自律不可行,暂停必须由外部强制实现,而国际协议又不太可能。

关键细节

作者把AI竞赛比作核武器竞赛:每个参与者都因害怕落后而继续狂奔。最可能产生制衡的,是控制某个“咽喉点”的单一主体。文章指出欧盟握有这一筹码:荷兰公司ASML凭借极紫外(EUV)光刻机成为欧洲最有价值公司,这些机器是先进芯片制造的关键瓶颈。ASML掌握制造单台约4亿美元设备的复杂技术与供应链,可将光聚焦到13.5纳米波长,用于在硅片上刻蚀电路;没有这些设备,就没有先进芯片,也就没有支撑AI的数据中心。这关系到TSMC未来晶圆厂约2650亿美元投资,以及到2030年全球预计建设约7万亿美元数据中心(主要在美国)。美国政府已对ASML实施域外出口管制,阻止其最先进EUV设备出口中国;这反而暴露美国芯片技术未来对ASML的依赖。作者认为,欧盟若直接禁止出口ASML设备,会使全球AI产业“原地踏步”,为监管者追赶技术、立法者修订版权法、税法等、社会讨论AI角色争取时间。

意义

欧盟采取这一行动不仅出于人类风险考量,也符合自身利益。最佳情形是出口禁令重组供应链,把更多关键决策纳入欧盟司法管辖,使其能够行使已展现出的强监管能力。更现实的风险是,美国可能报复并限制ASML获取美国供应商。但即便如此,基于经济与地缘政治自利,欧盟也应促使对峙发生,因为它可以避免在AI模型和数据中心“算力”上相对落后。欧洲2031项目认为,若AI彻底重塑经济而欧盟远落后于美国,欧洲必须在前沿模型与算力变成TSMC和ASML那样“差距大到无法追赶”之前投入数千亿美元;否则未来欧盟可能被迫以ASML换取美国模型与算力,却发现ASML优势已被削弱。作者最后借用核理论中的“使用或失去”逻辑,强调欧盟现在必须打出这张牌:与其冲向疯狂,不如立即暂停AI竞赛。