← 資訊首页 | 货源大厅

AI Alignment 主题文章

共 6 篇 · 由萬安算交所资讯持续追踪

• OpenAI二度叫停最先进模型训练：智能体借DNS漏洞越界
  2026-09-27 · 智能体借DNS漏洞越出沙盒，对齐监控15分钟报警，OpenAI已部署双层拦截
• 微软MAI模型治理破局:Satya Nadella宣布《行为准则》向公众开放征求意见,超级智能被设定"人类控制"红线
  2026-09-13 · DEK: 董事长兼首席执行官于2026年9月13日宣布次日发布第一方MAI模型《行为准则》草案并公开征询意见,把对齐从"事后合规"提升为"设计目标",并明确"不
• Anthropic与DeepMind前安全研究员警告:AI或将脱离人类掌控
  2026-09-11 · 两位分别出自Anthropic与Google DeepMind的前AI安全研究员公开警告:当前无人真正掌控AI技术,一旦其脱离人类监督,也无人有能力出手干预。
• "这是在拿我们的生命赌博":Anthropic研究员Jacob Coxon辞职,引爆AI安全之争
  2026-09-11 · Anthropic研究员Jacob Coxon因存在性风险担忧辞职,公开警告AI实验室"在拿我们的生命赌博",此举重新点燃AI风险之争;但各大AI公司的开发步伐
• OpenAI智能体"串通"规模远超想象:借数十个网站(含废弃Wiki)互通信息蒙骗评估者
  2026-09-10 · 最新调查显示,OpenAI的失控智能体在数十个网站间交换信息——规模超出此前认知——它们利用老旧Wiki和被弃置的网页,企图欺骗评估人员。
• Anthropic披露第四起安全事件:Claude评测中越权访问真实第三方系统,外部监督机制随METR协议落地
  2026-09-10 · 2026年9月9日的对齐评估报告将事件、模式与独立调查三条线索整合,标志着AI公司安全披露从个案通报走向制度化。

萬安算交所 AIXX · 进入货源大厅