2026-09-17 · 来源：{'name': 'iFUN', 'url': 'https://www.ifun.de/chatgpt-und-claude-ki-entwicklung-soll-jetzt-gebremst-werden-288907/'}
这位 Anthropic 首席执行官表示,仅靠加装安全机制已经不够——新 AI 能力的推出节奏必须放慢,才能让测试和防护措施跟得上。
Anthropic 首席执行官 Dario Amodei 呼吁以明显更为审慎的态度开发强大的 AI 系统。在他看来,仅仅给能力日益强大的模型加装更多安全机制已经不够了。他主张,新能力出现的速度本身就必须降下来,让评估流程和防护措施有时间跟上技术演进的脚步。
这家 Claude 助手背后公司的立场,标志着关注重点的转移:安全不应再是叠加在每一次发布之上的附加项,而应主动限制能力推进的底层速度,直至验证流程和保障措施能够跟上。这一讨论同样直接关系到 OpenAI 的 ChatGPT——报道中点名的另一个旗舰级对话系统。
Amodei 并非孤军奋战。他获得了 OpenAI 首席执行官 Sam Altman 和 Elon Musk 的支持——考虑到所涉公司和个人在 AI 前沿领域的直接竞争关系,这种一致格外引人瞩目。当竞争对手的掌门人一致认为,不仅要增加防护措施,更要放慢新能力的推出节奏,这表明关于 AI 安全开发的争论已经超越了功能层面的保护问题。
这一提案的核心,是重新排列前沿 AI 工作的优先级。Amodei 的立场是:测试体系和风险控制绝不能落后于模型能力;一旦差距有拉开的危险,解决方案不应是在快速迭代的产品周期上继续堆叠安全功能,而是刻意放慢新能力的推出速度。对于一个靠快速迭代和刷屏式模型升级来驱动商业势头的行业而言,这是一条相当严苛的标准。
萬安算交所 AIXX · 算力硬件实名会员制交易平台 · 进入货源大厅