← 資訊首页 | 货源大厅

失控AI无关恶意——它只是权限过大的代理

失控AI无关恶意——它只是权限过大的代理

Ivanti 2026年调查发现:87%的安全团队把代理式AI列为优先,77%对自主放行感到安心——而失败模式正从浪费几分钟演变为服务中断。

多年来,企业AI安分守己:它汇总支持工单、起草知识文章、提出下一步建议,而每一次最终拍板都由人来完成。这种分工正在消解。代理式系统如今自行规划并执行多步骤工作——查询基础设施、触发工作流、更改配置、关闭工单,人工参与寥寥甚至没有。

这种胃口是可以量化的。Ivanti的《2026 State of Cybersecurity Report》发现,87%的安全专业人员把集成代理式AI列为优先事项,77%表示至少在一定程度上乐于让自主系统在没有人工复核的情况下行动。

这些数字读作信心,但也应读作敞口。对持续承压的IT团队而言,吸引力显而易见——下行风险的不对称同样显而易见。返回糟糕答案的代理,浪费的是某人几分钟时间;采取错误行动的代理,能干掉一项服务。

“失控AI”(Rogue AI)让人联想到怀有自己意图的系统。在IT运营中,现实更平凡——发生的可能性却大得多。

一个被告知释放服务器磁盘空间的代理,删掉了调查仍然需要的日志文件。另一个纠正配置漂移的代理,把改动应用到每台匹配的设备,包括那些被刻意配置得不同的自助终端。第三个运行在宽权限服务账户之下,通过重置自己本不该碰的访问权限来关闭工单。

这些失败没有一个需要恶意。它们共享同一个配方:代理握有超出任务所需的权限、对自身环境的上下文不完整,以及在计划与行动之间没有任何检查点。


萬安算交所 AIXX · 萬安算交所 AIXX · 算力硬件实名会员制交易平台 · 进入货源大厅