法外狂徒ChatGPT！30年老律师用它旁征博引，结果被骗得

　　ChatGPT，把从业30年的老律师给坑惨了！
　　老哥撰写案件文案的时候，尝鲜让ChatGPT帮忙准备材料。然而提交后，不管是法官、对方律师还是老哥自己，都溯源不到引用的判决文书。
　　结果就是，10页文书被法官定义为“充满虚假”，老哥还被暂停执业许可，面临被制裁的可能。
　　这位姓施的老哥欲哭无泪，因为秉承着一贯的严谨态度，他明明认真询问过ChatGPT，它提供“南方航空公司被诉案”等材料时，有没有撒谎？
　　ChatGPT响应得很快：“当然没有啦～～”
　　事件一出，引发铺天盖地的谈论。
　　不过这一次大多数网友站在ChatGPT这边，站队后的发言都有些愤愤：
　　一份杜撰6个相关案件的文书
　　如果没有ChatGPT的介入，施老哥接手的案件本身其实平平无奇：
　　一位乘客起诉航空公司A，称他乘坐航司A的航班时，被空乘用金属服务车给砸到膝盖受了伤。
　　作为代理律师，施老哥提交了一份10页的文书，里面洋洋洒洒，引用了6起类似案件的法院判决，包括Varghese诉中国南方航空公司案、Zicherman诉大韩航空公司案等。
　　从业30年，这等案件对老哥来说就是小case。
　　然而戏剧性的一幕发生了
　　被告律师向法庭提交书面文字，称他们在核实文书中提到的Varghese与南航案时，“无法通过标题或引用找到此案”，也没有任何与此相似的案件。
　　而文书中引用了的另一个案件，即Zicherman诉大韩航空公司一案，施老哥称这是美国第11巡回上诉法院在2008年发表的意见，但被告律师也找不到该案的源头文件。
　　此外美国达美航空的公司正式名称也存在错误，应该是DeltaAirLines，而不是文书中提到的DeltaAirlines。
　　核实情况后，法官们发现确有其事，这简直是“前所未有的情况”！
　　最终，他们判定这份文书充满“虚假司法判决，虚假引用和虚假内部引用”。
　　这下好了，施老哥被禁止在纽约南区执业，法官们还将在6月8日将举行听证会，讨论是否制裁施老哥。
　　这件荒唐事儿到底是怎么发生的？
　　施老哥在周四的宣誓书中解开了谜底，原来，在准备文书材料时，他让ChatGPT来给自己打下手，以“补充”自己所做的工作。
　　“我不是故意欺骗法院或航空公司的”，施老哥说自己之前从来没用过ChatGPT，“我不知道它的内容可能有假。”
　　施老哥还向法院提供了一份“证据”，证明他确实向ChatGPT寻求过材料的真实性。
　　他在对话框中输入了以下文字：
　　ChatGPT迅速给出响应：
　　但事实是这些案例都是ChatGPT一本正经胡说八道的。
　　事已至此，施老哥追悔莫及，表示自己“非常遗憾”依赖ChatGPT来寻找类似案件的判决材料。
　　他还表达了自己的决心，称以后如果没有验证真实性，再也不会随意相信ChatGPT的“一面之词”了。
　　法律从业者，是否该拥抱AI
　　这个案件引起了法律界的广泛关注，对此，纽约大学法学院法律伦理学教授斯蒂芬吉勒斯（StephenGillers）表示，施老哥的事儿虽然只是个例，但背后问题在法律界尤为尖锐。
　　ChatGPT对法律工作带来的最大危险，就是它拥有“胡说八道还不脸红”的本领。
　　ChatGPT问世半年后，仍然没有良好的规避和解决办法。防不胜防，连多家AI巨头也因此栽在AI手里，譬如Bard编造关于詹姆斯韦伯太空望远镜的新闻、Bing谎称Bard被关闭什么的。
　　目前最为行之有效的办法就是依靠用户手动doublecheck这也是施老哥上当的一重原因，只是询问ChatGPT真假，没有自己二次确认。
　　除此之外的另一重威胁，ChatGPT引发了从业者对“AI替代律师”的担忧和激烈争辩。
　　不过发生了施老哥这件事，加上ChatGPT类产品目前确实无法尽善尽美，国内外法律界的普遍声音是，至少在机器人接管之前，律师、法官离“被替代”还有很长一段时间。
　　现实情况中，施老哥不是唯一一个让ChatGPT成为自己助手的法律从业者。
　　今年年初，哥伦比亚一名法官在审理一名自闭症儿童的保险理赔官司时，采纳了ChatGPT的答案。
　　2月，上海政法学院教授曹阳面对《上海法治报》谈论了ChatGPT在司法领域的应用，表示道：
　　ChatGPT可以演化成“智能律师助手”，帮助律师分析大量的法律文件和案例，提供智能化的法律建议和指导；
　　可以变成“法律问答机器人”，回答法律问题，并提供相关的法律信息和建议。
　　可以进行合同审核、辅助诉讼、分析法律数据等等，提高法律工作者的效率和准确性。
　　个人从业者拥抱ChatGPT带来的便利（即便背后隐藏着危险），市场也对法律和AI结合的赛道寄予厚望。
　　OpenAI自己就在去年11月投资了专为律所打造LLM的公司Harvey，该公司上个月又获得了红杉领投的2100万美金A轮融资。
　　就在前天，法律AI初创公司Spellbook宣布获得1090万美元（约7700万元人民币）融资。Spellbook主要通过GPT4和数十亿份法律文件打造，还接入了一些其他大模型。它为专业律师提供服务，通过自然语言就能自动起草、审核法律合同等。
　　不过现在发生了施老哥身上的这件离谱事，算是给大伙儿敲响了警钟。
　　大概整个法律界都会对ChatGPT及同类产品抱以更冷静、更谨慎的态度了。
　　OneMoreThing
　　施老哥因为ChatGPT深陷泥潭的事情是真的，绝非通过AI瞎编。
　　但是，这篇文章也是在ChatGPT的帮助下写的（虽然参与部分很少很少，还进行了事实确认）。
　　人类的本质就是套娃。
　　参考链接：
　　〔1〕https：www。nytimes。com20230527nyregionaviancaairlinelawsuitchatgpt。html
　　〔2〕https：www。theverge。com202352723739913chatgptailawsuitaviancaairlineschatbotresearch
　　（举报）