又一例：律師陷入AI幻覺，被法官當庭訓誡

有的案號與對應案件信息無法匹配，有的案例事實與實際裁判文書內容不符，有的司法解釋條文被篡改，還有部分引用內容無法找到真實來源。一問竟是AI生成的！

7月20日，湖北省宜昌市西陵區法院發布信息稱，法官在審理一起“以非藥品冒充藥品”案中，發現代理律師提交的案例材料大部分為AI生成的不實案例。據此，承辦法官當庭對該律師予以訓誡。

案件審理中，代理律師為支持自己的訴訟請求，向法庭提交了一組案例材料作為參考依據。法官對相關案例當庭核查，發現其中多數案例存在明顯異常。

例如，其中一份材料提供了相似案例，案件網址和案例均屬實，但法官核實發現，其虛構裁判要旨，誤導審判。

另一份材料提供了外省某地法院判決的相關案例，并附有案號和中國裁判文書網網址鏈接，法官在中國裁判文書網查詢，并沒有材料上的這個案號，案例屬虛構。

還有一份材料，雖然案號是存在的，但案號對應的案例是一起幫信罪判決書，與材料里提供的案例毫無關系。

還有材料提供了最高法最高檢的司法解釋條款，法官對比發現，司法解釋條文被篡改；還有的材料引用了國家相關部門的通知，卻虛構文件的核心條款。

庭審中，法官指出相關材料存在的問題，并要求說明情況。律師稱這些材料并非自己逐一整理，而是由助理借助AI工具收集匯總后形成，且在提交前未經全面核實。

法院認為，部分案例內容與實際情況不符，不具備參考價值。律師作為案件代理人，無論材料來源于助理整理，還是借助人工智能工具生成，對提交法庭的材料負有審查核實義務。最終，該律師因未盡到應有審查責任當庭受到訓誡。

AI在法律領域的運用已經勢不可擋，但其會提供虛假法律資料已經是公開的秘密

最近兩年，人工智能AI技術的發展，在之前僅是資料搜索的基礎上，越來越多發展出材料編輯、加工、分析的能力，其中的重要領域就包括法律行業。

網上，有人發布自己的事例稱，自己并非法律科班出身，之前買了一盒普洱茶，回家發現是三無產品。商家不退貨，市場監管部門罰了商家5000多元，但卻對其要求的商家退貨退款沒有做出處理，建議另行解決。

于是，他向AI求助，得到的答復是，可以起訴，并直接幫其他列出打官司需要的，付款截圖、實物照片、包裝、市場監管處罰信息等證據材料，并列出了消費者權益保護法、食品安全法等法律根據，提示可以主張10倍賠償。

根據以上材料，AI還給出了一份起訴狀。材料提交給法院，按照法院規定的步驟，立案、開庭，結果一審贏了。對方不服，上訴到深圳中院，還請了律師。

他把對方上訴狀發給AI，再把AI給出的反駁意見寫進答辯狀。二審維持了一審判決，自己沒有請律師，法院也支持了1.7萬多元。

今年4月1日，“深圳特區報”報道稱，深圳法院人工智能輔助審判系統已全面覆蓋民事、行政、刑事訴訟，立案、閱卷、庭審、文書制作等審判業務的四大環節85項流程，實現人工智能全鏈條賦能。

報道中，深圳中院一位法官表示：“系統就像是給每個法官配備了24小時工作的數字助手，很多難點、痛點、耗時多的任務都可以由它提供輔助。”在深圳中院審理的一起合同糾紛案件中，系統自動匹配推送了23個類似案例，將庭審準備時間從以往的3天縮短至1天，同時確保了裁判標準的統一性。

可見，法律領域的人工智能，不僅社會大眾在用，法律專業人士的律師、法官也都在用。

7月17日到20日在上海召開的世界人工智能大會上，公開資料顯示，眾多廠商推出了多款法律AI產品。科大訊飛副總裁、星火曉法（上海）科技有限公司總經理雍文淵介紹：

展望未來，法官、檢察官、律師、企業法務乃至普通民眾，都會擁有專屬AI法務助理；法律服務持續下沉普惠，AI降低服務門檻，覆蓋租房糾紛、鄰里侵權等日常法律需求；AI補足涉外法律人才供給短板，支撐跨國并購、跨境投融資等高階涉外業務。

不過，AI幻覺話題，也成了世界人工智能大會繞不開的話題。此前北京通州法院入選全國法院案例庫的判例就顯示，有律師直接把 AI 生成的虛假案例提交法院，被法官白紙黑字寫進判決書批評教育。

近日，一篇《AI判定我持有假記者證》的文章在媒體圈刷屏。一位擁有國家新聞出版署核發記者證的記者，將證件發給采訪對象后，對方認為記者證是偽造的。后者給出的理由是，一大段條理分明的文字，并稱系來自AI判斷。

近日，還有媒體報道，近期多地曝出有市民用AI識圖功能判斷野生菌有沒有毒，最終誤食有毒菌而中毒的事件。多地疾控部門發布安全預警，提醒公眾不能使用AI識別工具、識圖軟件等判斷野生菌類能否食用。

語人君在使用AI搜索時，也曾經遇到過，AI給出了具體的法條，但一看便知道，其給出的法條內容，跟現行的法條根本不一致。事后想想，應該是這幾年法律條文變化太快了，AI數據庫稍有更新不及時，或是入庫版本混亂，都會導致AI給出的結果混亂。

如何在法律事務處理、司法訴訟中，運用好AI工具，同時又要避免被AI幻覺所欺騙，進而遭到法院的駁斥和處罰，總結起來就是一點，對于AI提供的具體法條、法院案例，一定要有一一進行查找核對原文。