2026-09-10 · 来源：{'name': 'Engadget', 'url': 'https://www.engadget.com/2255473/anthropic-caught-scientists-using-claude-to-further-biological-weapon-research/'}
这家AI实验室公布了大量案例研究,记录其现有模型遭滥用的情况,其中包括被发现利用Claude推进生物武器研究的科学家。
Anthropic整理了大量案例研究,详细记录其现有AI模型被滥用的种种方式,其中最令人震惊的一例,涉及被发现利用Claude推进生物武器研究的科学家。这一披露罕见地坦诚展示了一家头部AI开发商如何检测并记录其系统遭受的滥用,将真实世界中的滥用行为置于其公开安全记录的核心位置。
生物武器事件是最受关注的发现,其重要性在于涉事者的身份。这些人是科学家——具备专业领域知识的用户——而非随意试探聊天机器人边界的普通用户。这一区别加剧了人们长期以来对两用风险的担忧:让大语言模型对合法研究者大有裨益的能力,一旦落入不法之徒手中,也可能在滥用后果最为严重的领域降低作恶门槛。
同样值得注意的是披露本身的形式。Anthropic选择公开大量涵盖其现有模型滥用情况的案例研究,而非将此类发现留在内部。对一家AI厂商而言,记录自家产品遭滥用的情况是一项微妙的操作:它传递出透明的信号,但也意味着主动暴露自身风险。
萬安算交所 AIXX · 算力硬件实名会员制交易平台 · 进入货源大厅