2026-09-22 · 来源:虎嗅·中继

Anthropic前研究员警告AI末日风险,美国公开论战,中国以法规回应。当安全路线之争延伸至监管与供应链,采购决策的逻辑正在被改写。
2026年9月,Anthropic前研究员Jacob Coxon在离职后发表长文,指责公司以前沿大模型拿全人类的生命下赌注,并警告AI可能在本世纪末毁灭人类。对齐科学负责人Evan Hubinger随即公开声援,称内部确有人相信AI可能杀死全人类,未来十年出现这一风险的概率超过10%。一名研究员的告别信,迅速演变为关于AI安全路线的全球公共论战,也为算力产业投下一枚深水炸弹。
这并非孤例。2月,Mrinank Sharma辞职时称“世界正处于险境”;7至9月,Google DeepMind的Bilal Chughtai与Josh Engels相继离职,并公开表达对前沿模型的担忧。争议经社交平台与主流媒体放大后涌向国会山,有议员主张设立紧急关闭机制,Greg Casar与Bernie Sanders更提出暂停超级智能研发。对立面同样强硬:特朗普把AI领先中国列为战略目标,将减速主张斥为“破坏行为”;英伟达CEO黄仁勋则称末日论是“捏造出来的、彻头彻尾的胡说”。
9月15日旧金山Dreamforce大会上,Salesforce CEO Marc Benioff把Dario Amodei、Sam Altman与黄仁勋请上同一舞台,三人给出三套刹车方案。Amodei主张独立第三方常驻实验室持续评估、核心实验室协调共同安全守则、推进国际治理合作,其担忧在于模型自主能力的增速可能超过人类的对齐与控制技术。值得注意的是,三人分歧的表面是安全哲学,底层却是算力投入节奏与商业利益:一旦暂停研发或强制评估,直接冲击的是GPU采购计划、数据中心扩建时间表与模型训练预算。对算力买家而言,这场论战意味着美国市场存在政策突变的尾部风险——紧急关闭机制若落地,已签的长期算力合约可能面临合规重估。
中国的路径不同。4月,五部门发布《人工智能拟人化互动服务管理暂行办法》并于7月施行,将身份混淆、情感依赖、行为操纵与未成年人保护写成平台责任与产品要求;同月,29国参与的世界人工智能合作组织WAICO在上海成立。规则、备案、评估与技术标准快速增加,企业端却少有Coxon式离职爆料,也罕见团队主动向公众说明模型的潜在严重后果——同一问题,美国演成公共冲突,中国纳入行政程序,这一分野仍待解释。
从算力采购视角看,两种治理路径带来的成本结构截然不同。美国路径的不确定性在于政策黑天鹅:研发暂停提案虽未通过,但立法博弈将持续占据议程,买家需要评估供应商在合规审查、第三方常驻评估情形下的交付弹性。中国路径的不确定性在于合规前置成本:备案、评估与技术标准意味着模型上线周期拉长,但对已合规的平台而言,规则透明反而降低了政策突变概率,算力合约的执行可预期性更高。对于跨市场采购的企业,分散配置算力供给、在合约中加入政策变更条款,正成为主流做法。
监管节奏还影响算力需求的行业分布。拟人化互动服务管理办法直接约束情感陪伴、数字人客服等应用,这部分场景的推理算力增速可能被重新校准;而企业级生产力、科学计算等场景受影响较小,需求依然坚挺。买家在制定预算时,应将合规风险纳入应用层需求预测,避免为高监管敞口的场景预置过量推理资源。美国国会关于紧急关闭机制的讨论,则提醒买家关注供应商的安全事件披露能力——一次被监管叫停的训练,可能让数十亿级的GPU投入闲置。
值得注意的是,安全论战本身并未冷却算力需求。无论是Amodei倡导的第三方常驻评估,还是中国的备案评估体系,本质上都要求更强的安全测试算力:对抗性测试、红队演练、可解释性分析,全部依赖大规模推理与训练资源。换言之,无论哪一方在路线之争中胜出,算力的总需求曲线大概率向上,只是需求的构成会从“纯粹堆参数”转向“训练加评估并重”。
【真实行情数据】与本次论战直接相关的该型号当前无在售挂价数据,这从侧面印证了前沿算力市场的紧张状态:安全评估型需求叠加训练需求,令高端资源长期处于无货可挂、有价无市的格局。对买家而言,眼下的采购窗口比以往任何时候都更依赖提前锁定:与其等待政策明朗后追高,不如在合约中嵌入安全合规联动条款,以时间换价格空间。
展望未来几个季度,美国国会关于关闭机制与暂停超级智能的辩论将持续发酵,中国监管细则也将随《人工智能拟人化互动服务管理暂行办法》的实施不断细化。算力买家的最优策略,是在两条监管曲线之间保持对冲:一侧关注立法进展,一侧跟踪备案标准,把安全合规成本显性化,纳入总拥有成本模型。AI的未来之争,正在从实验室的离职信,演变为算力合约里的一条条风险条款。
Q: Hubinger所称的AI灭绝人类风险概率是多少?
A: Evan Hubinger称内部确有人相信AI可能杀死全人类,未来十年出现这一风险的概率超过10%。
Q: 中国相关监管文件何时施行,核心约束是什么?
A: 五部门于4月发布《人工智能拟人化互动服务管理暂行办法》,7月施行,将身份混淆、情感依赖、行为操纵与未成年人保护写成平台责任与产品要求。
主题标签: Anthropic · NVIDIA · Dario Amodei · Sam Altman · Jensen Huang · AI Safety
萬安算交所 AIXX · 萬安算交所 AIXX · 算力硬件实名会员制交易平台 · 进入货源大厅