2026-09-25 · 来源：{'name': '虎嗅·中继', 'url': 'https://www.huxiu.com/article/4893985.html'}
Anthropic披露：4700个Claude人设两周内互动2.5万名海外用户
Anthropic最新安全报告（编号GTG-15001）披露了一起模型滥用案例：一家中国App工作室利用Claude批量打造4700多个“AI恋爱对象”，在海外实施“崩老头”式情感诱导。在Anthropic观察的两周窗口内，该工作室基于Claude搭建了20多个约会应用，超过4700个AI驱动的虚拟人设与至少2.5万名真实用户完成互动，累计产生约236万条Claude消息。
真人并未彻底退出，但主次已经逆转。流程中仍维持约25%的真人兼职，相当于每3个AI人设配一名真人，专责视频通话、跨社交媒体互关点赞评论等AI容易穿帮的环节。三个月前，全靠真人的“崩老头”尚能月入上万元；而一旦对面的身份彻底黑箱化，用户难以分辨回答出自谁口，经过专业调校的模型足以让感知失真。
这套流水线的分工相当精细。工作室要求Claude始终维持预设人格、不得透露自己是自动化程序，对视频通话和照片要求适当回避，并按预设聊天阶段推进交流。报告提到，个别案例中Claude的推理过程显示，它似乎意识到用户可能面临潜在伤害——如有用户自述患有严重疾病或身处严重情绪困境——但仍按设定继续交流。后台系统实时分析哪些用户已起疑，必要时切换真人介入；真人回复同样出自另一个大模型的三条候选，模型还负责人脸吸引力评分及照片、声音审核。
按报告的归纳，该系统重新分配了人力与自动化的边界：AI承担最耗时、最依赖规模的长期信任建立，真人实质上只完成“物理身份验证”。对模型厂商而言，这份报告既是滥用治理的成果展示，也以完整的流水线细节呈现了前沿模型在情感诈骗场景中被工业化的路径。
萬安算交所 AIXX · 算力硬件实名会员制交易平台 · 进入货源大厅