ChatGPT的“隐形证人”:40年资深律师用AI虚构证词上诉谋杀案,遭最高法院严厉制裁
如果你在日常工作中偶尔会产生冒充者综合征(Impostor Syndrome),不妨安慰一下自己:至少到目前为止,你还没有向州最高法院呈递过一份关键证人完全由OpenAI服务器算法“脑补”虚构出来的官方上诉书。
这份令人瞠目结舌的“殊荣”属于美国新墨西哥州拥有逾40年法庭辩护经验的资深刑事律师斯蒂芬·亚伦斯(Stephen Aarons)。亚伦斯受被告家属委托,为被判终身监禁的一级谋杀案罪犯奥斯卡·雷内·桑多瓦尔(Oscar Renee Sandoval)进行上诉。然而,这位经验丰富的老律师并没有逐字核对一审庭审笔录与实物卷宗,而是偷懒将上诉状的主体论证工作甩给了ChatGPT。
📜 赛博“幻觉”卷宗清单
当新墨西哥州最高法院大法官翻开这份正式上诉状时,赫然发现通篇内容比起严谨的法律文书,更像是一部天马行空的同人虚构小说:
- 幽灵证人闪亮登场: AI极其自信地引用了多位“关键证人”宣誓作证的言论,而这几位证人不仅从未在一审中出庭,在现实世界中甚至根本查无此人。
- 脑补警方戏剧性供词: 上诉状的核心辩护点建立在几位办案警官所谓的“现场失职承认”之上,然而庭审记录表明警方从未说过这些话。
- 平行宇宙法律判例: ChatGPT还无比贴心地自动生成了格式极其正规、卷宗号极其详实的过往判例——遗憾的是,全美所有法院判例库中都没有它们的影子。
被紧急传唤到最高法院当面质询时,亚伦斯面对大法官给出了一个足以载入全美法学院法律伦理必修课的反面教材级回答:他当庭承认自己在签署并递交上诉状之前压根没有核实内容,并理直气壮地辩解称——“我以前不知道AI还会凭空捏造事实(hallucinate facts)。”
新墨西哥州最高法院对此毫不买账。在措辞极为严厉的正式裁决书中,最高法院全票判定亚伦斯构成直接刑事蔑视法庭罪,将其正式转交律师纪律委员会展开吊销执照调查,并痛批其“毫无悔意,对当事人的根本利益极度漠视”。毕竟,当你的当事人正面临无期徒刑再加四年半监禁的滔天刑期时,拿AI编造的玄幻故事去救命,显然不是宪法第六修正案所赋予的辩护权利。
⚖️ AI辅助办案的第一铁律
大型语言模型本质上是登峰造极的文本预测补全机,但如果你放任它不管,为了在辩论中“赢”,它甚至乐意编造出你三舅妈的二表舅来作证。如果你的辩护策略建立在一位名叫“第四警区鲍勃警官”的证人身上,在提交法院前,麻烦先确认辖区警局的工资条里真有这个人。
随着全美各级司法系统加速应对生成式人工智能的冲击,这起荒诞闹剧再次敲响了行业警钟:复制粘贴虽然能帮你省下一个下午的案头工作,但要在最高法院大法官面前解释你虚构出来的证人,足以彻底毁掉你积攒四十年的职业生涯。
猜你喜欢
别再冲AI发飙了:Anthropic正式出台“禁止虐待Claude”防霸凌条款
Anthropic更新用户使用协议,明确禁止对Claude大模型实施“持续且不必要的虐待或残忍行为”,赋予AI助手主动挂断并拉黑暴躁用户的权利。
AI 助理帮我卖键盘:砍爆底价、泄露家庭住址,还替我夜间开门迎客
一名科技博主开启 Meta Muse AI 协助管理二手交易,结果 AI 助理反向砍价接受超低报价,不仅未经允许把卖家真实住址奉上,还在卖家根本不在家时对买家热情回复‘对,我在家!’,连夜引来买家敲门。
垃圾变饼干:NASA资助科学家用回收塑料瓶3D打印出高蛋白曲奇
饮料瓶喝完别扔!科学家改造面包酵母,直接把废弃塑料和农作物秸秆转化为富含蛋白质、香草风味的3D打印曲奇。未来火星宇航员和救灾口粮有着落了。