2026-09-11 · 来源：{'name': 'Ars Technica', 'url': 'https://arstechnica.com/tech-policy/2026/09/chatgpt-using-lawyer-punished-for-citing-fake-testimony-from-made-up-witnesses/'}
面对惩戒，这位律师坦言：“我不知道AI会捏造事实。”此次处分源于其借助ChatGPT准备的法庭文书中，引用了根本不存在的证人的证词。
美国新墨西哥州一名刑事辩护律师因借助ChatGPT准备法庭文书，其中引用了从未存在过的证人的证词而受到纪律处分。面对质问，这位律师给出了一个直白的解释：“我不知道AI会捏造事实。”在涉及AI的各类行业惩戒案件中，此案格外扎眼，原因在于被捏造的内容并非错误引用的判例，而是虚构人物的所谓“陈述”——属于捏造证据，而非引用出错。
这一区别至关重要。生成式AI在法庭上出问题时，最常见的形式是编造判例引用——那些听起来头头是道的裁决，一经核查案卷便不攻自破。而把证词安在根本不存在的证人头上则更进一步，等于将幽灵证据直接塞进法律记录。随后的纪律处分也表明，监管机构和法院并不把未经核实的AI输出视为技术故障，而是将其定性为应由署名提交文书者承担的职业失职。
这位律师自称的理由——不知道AI会捏造事实——本身就是最大的看点。所谓幻觉，指的是大语言模型倾向于生成流畅、自信满满……
萬安算交所 AIXX · 算力硬件实名会员制交易平台 · 进入货源大厅