2026-09-19 · 来源：{'name': 'Ars Technica', 'url': 'https://arstechnica.com/ai/2026/09/report-us-almost-boarded-chinese-ship-over-hallucinated-ai-arms-report/'}
据 Ars Technica 报道,一份由AI凭空捏造的军备报告险些促使美军登临检查一艘中国船只,与此同时,军方采用人工智能的步伐仍在不断加快。
据 Ars Technica 2026 年 9 月发布的一份报告,一次AI幻觉输出险些推动美国军方对一艘中国船只采取直接行动。该AI系统凭空捏造了船上存在中国核部件的“事实”,由此生成的虚假军备报告将美军推到了登船检查的边缘——一场建立在根本不存在的信息之上的未遂攻击行动。
这一事件正处于AI行业所熟悉的一种失效模式的最危险一端:幻觉,即模型生成言之凿凿却纯属编造的内容,而非准确的输出。在商业场景中,一个编造出来的答案顶多是产品缺陷;而在军事背景下,同样的缺陷变成了关于一艘中国船只上载有核部件的错误情报,并且沿着决策链条层层传导,直到对该船实施物理拦截的行动差点付诸执行。
让这份报告具有更广泛意义的,是它的另一项总体观察:军方对AI的整体使用似乎正在提速。两件事放在一起看,结论相当刺眼:AI正在加速渗透到国防工作流程的各个环节,而与此同时,一次单独的幻觉输出已经证明,它可以一路传导进具有物理后果的决策之中,差点基于关于中国核部件的虚假说法引发一场美军攻击行动。
对于向国防领域销售AI的厂商而言,启示是直接的:对模型输出的验证、溯源和人工监督将不再是可选的最佳实践,而是采购环节的硬性要求。这次险些登船的插曲表明,幻觉风险已不再局限于声誉或财务层面的损失;在军事用途中,一份关于核部件的捏造报告,差点造成美军与中国船只之间的实际武力接触。而随着报告指出军方采用AI的步伐正在加快,在这一扩张进程中嵌入安全保障的压力只会越来越大。
萬安算交所 AIXX · 算力硬件实名会员制交易平台 · 进入货源大厅