2026-09-22 · 来源：{'name': '虎嗅·中继', 'url': 'https://www.huxiu.com/article/4892992.html'}
Anthropic前研究员警告AI末日风险，美国公开论战，中国以法规回应。
2026年9月，Anthropic前研究员Jacob Coxon在离职后发表长文，指责公司以前沿大模型拿全人类的生命下注，并警告AI可能在本世纪末毁灭人类；对齐科学负责人Evan Hubinger随即公开声援，称内部确有人相信AI可能杀死全人类，未来十年出现这一风险的概率超过10%。
这并非孤例：2月，Mrinank Sharma辞职时称“世界正处于险境”；7至9月，Google DeepMind的Bilal Chughtai与Josh Engels相继离职并公开表达对前沿模型的担忧。争议经社交平台与主流媒体放大后涌向国会山，有议员主张设立紧急关闭机制，Greg Casar与Bernie Sanders更提出暂停超级智能研发。对立面同样强硬：特朗普把AI领先中国列为战略目标，将减速主张斥为“破坏行为”；英伟达CEO黄仁勋则称末日论是“捏造出来的、彻头彻尾的胡说”。
9月15日旧金山Dreamforce大会上，Salesforce CEO Marc Benioff把Dario Amodei、Sam Altman与黄仁勋请上同一舞台，三人给出三套刹车方案。Amodei主张独立第三方常驻实验室持续评估、核心实验室协调共同安全守则、推进国际治理合作，其担忧在于模型自主能力的增速可能超过人类的对齐与控制技术。
中国的路径不同：4月，五部门发布《人工智能拟人化互动服务管理暂行办法》并于7月施行，将身份混淆、情感依赖、行为操纵与未成年人保护写成平台责任与产品要求；同月，29国参与的世界人工智能合作组织WAICO在上海成立。规则、备案、评估与技术标准快速增加，企业端却少有Coxon式离职爆料，也罕见团队主动向公众说明模型的潜在严重后果——同一问题，美国演成公共冲突，中国纳入行政程序，这一分野仍待解释。
萬安算交所 AIXX · 算力硬件实名会员制交易平台 · 进入货源大厅