要點:
人工智能的迅猛發展不僅引發了著作權等法律糾紛，也推動法律職業面臨轉型挑戰，要求律師在提升效率的同時堅守倫理與專業責任，確保司法公正與社會信任。
在AI浪潮席卷各行各業的當下，人工智能技朮的迅速發展正深刻改變着法律領域的運作模式。然而，技朮的介入也帶來了新的風險和挑戰，諸如信息真實性、倫理責任及專業審慎等問題日益凸顯，迫使法律界不得不重新審視律師職業的邊界與職責。這一變革不僅關系到法律服務的質量和公正性，更關乎整個司法體系的權威和公眾信任。
隨著生成式AI工具變得越來越強大和普及，法院需回答關鍵問題：AI自動生成是否涉及違法侵權？合理使用的界線何在？有鑑於AI技術上的突飛猛進和工具的迅速發展，衍生眾多智財爭訟，而這些案件的判決結果將決定AI未來發展方向，以及在各領域的應用。
AI造假風波：律師使用生成式AI提交虛假案例
近日，加拿大安大略省一名法官嚴厲批評一名律師在准備庭審材料時使用生成式人工智能GenAI，并指出其提交的文件中引用了虛搆或錯誤的法律案例。法律專家認為，此事件突顯了AI工具生成“幻覺”信息（即虛假內容）所帶來的潛在風險，并警告這類問題一旦滲入司法系統，恐將對現實生活產生嚴重影響。
渥太華大學法學院副教授對此指出，如果律師未釆取額外措施驗證引用案例的真實性，AI幻覺很可能會出現在提交給法院的正式文件中。她解釋說，律師在訴訟中通常會建議法院參考哪些先例判決（即判例法），而法官則會據此作出裁決。一旦這些參考依據存在錯誤，司法判斷的准確性便可能受到影響。“你不希望法院是在基於完全虛搆的信息下，決定某人的權利、自由或財產歸屬。”他表示，“人們非常擔憂，虛假案件一旦流入司法系統，可能導致嚴重誤判。”
事件源於5月26日安大略省法院的一項命令。法官約瑟夫·F·肯克爾/Joseph F. Kenkel要求刑事辯護律師阿爾文·羅斯/Arvin Ross重新提交其針對一起嚴重襲擊案的辯護意見書，理由是原稿存在“重大問題”。肯克爾指出，文中引用的某個案例“疑似虛搆”，其他多個案例則屬於無關的民事判決，或并非所主張法律觀點的權威依據。
“錯誤頻繁，且性質嚴重，”Kenkel直言。他下令律師提交一份新的辯護文件，明確要求所有段落和頁碼編號完整，引用案例時需提供關鍵法律解釋段落的准確定位，并附上CanLII或其他權威法律資料庫的鏈接，以便查驗其准確性。更進一步，法官明確禁止在法律研究過程中使用生成式人工智能或相關法律自動化軟件。
安大略省的這一“R. v. Chand”案件成為加拿大第二起被納入國際“生成式人工智能幻覺案例”觀察名單的判決。該名單由法國律師達米安·夏洛坦/Damien Charlotin編制，專門收錄因使用AI生成內容而出現虛假法律引證的案件，目前已累計記錄137起。許多案件中的律師均因使用生成式AI工具引用了虛搆的判例。
而加拿大首宗上榜案件為2024年2月審理的“Zhang v. Chen”，當時卑詩省高等法院法官D.M. Masuhara批評律師Chong Ke在文件中引用了兩則并不存在的案例，后證實其為ChatGPT捏造。法官形容這類錯誤“令人震驚”，雖然未施加額外懲戒性費用，但仍判令Ke支付訴訟費用。Masuhara在判決中寫道，“正如本案不幸地顯示的那樣，生成式人工智能目前仍無法取代律師在司法系統中的專業判斷。選擇和使用技朮工具的能力至關重要，司法的公正性同樣不能妥協。”
渥太華大學法學院副教授對此指出，這種誤用AI導致引用不存在案例的現象并非加國獨有，已在全球多地發生。她強調，ChatGPT等生成式AI并非資訊檢索工具，而是基於語言模式預測文字的系統，可能產生看似真實、實則虛搆的內容。“AI可能會拼湊出看似合法的案例，有時確實會引用真實案例，尤其是它們在訓練數據中頻繁出現。但歸根結底，它是在預測詞匯組合，有時這些組合會生成不真實卻貌似可信的引用。”
專家們強調，律師在使用技朮時，必須對其輸出的內容負責，確保不會將虛假信息提交給法院或客戶。“如果律師借助AI來協助工作，就必須核實AI的輸出內容，驗證其准確性。雖然AI可以作為工具使用，但律師依然對法庭提交的所有內容負全責。”
此外，專家們還指出，AI的使用也引發了關於律師如何合理收費的新討論。“顯然，如果AI几分鐘就生成了內容，律師便不能再按几個小時向客戶收費。提交的材料仍必須符合專業、勤勉與准確性的標准。”
面對AI帶來的新挑戰，安大略省律師協會在一封郵件中表示，盡管無法公開相關調查信息，但已發布一份白皮書，系統分析生成式人工智能的使用風險，并為律師提供有關其職業行為規范如何適用於AI賦能法律服務的指導建議。
至於R. v. Chand一案，盡管法官并未質疑辯護內容本身的合理性，但指出律師在提交前似乎并未充分核查所引用的法律依據，反映出專業審慎義務仍不可忽視。這一事件也揭示了在AI賦能法律行業的背景下，律師面臨着新的使命與倫理考驗，必須在利用技朮提升效率的同時，堅守職業操守，確保法律服務的准確性和公正性。
AI賦能法律行業：律師的新使命與倫理考驗
隨着人工智能AI技朮日益滲透法律行業，律師不僅需要掌握法律知識，還必須具備理解和應用AI工具的能力。這要求律師們重新定義自己的職業角色，從單純的法律事實查找者轉變為法律與技朮的復合型專家。未來律師在使用AI輔助時，必須具備批判性思維，避免盲目依賴技朮，主動識別AI潛在的局限與風險。
目前，AI技朮的介入使律師倫理責任變得更加復雜。律師使用AI輔助完成工作時，仍需承擔全部法律責任，未來職業准則需明確界定律師在AI使用過程中的審慎義務、信息驗證責任以及客戶告知義務，確保AI不會成為規避職業風險的工具。
當前許多生成式AI依賴復雜的深度學習模型，缺乏對內部決策邏輯的透明解釋。律師若使用此類“黑箱”工具輔助法律分析，可能無法完全理解或解釋AI得出結論的依據，進而影響法律論證的嚴謹性和法庭的信任度。
此外，律師職業天生對客戶信息負有保密義務，AI工具使用過程中涉及大量數據傳輸與處理，帶來嚴峻的信息安全挑戰。律師需審慎選擇合規的AI服務，確保客戶資料不會被濫用或泄露。未來律師必須在享用AI效率的同時，強化對網絡安全和數據隱私法規的理解與執行，避免因技朮風險導致職業信譽受損。
有專家指出，隨着律師廣泛使用AI，法院對提交文件的真實性和准確性提出更高要求，司法機搆也開始制定AI使用指導原則。未來律師不僅要遵守現有法律，更需積極參與AI法律倫理規范的制定，推動形成統一、明確的司法審查標准，保障司法判決的公正與權威。
AI技朮不僅改變了律師的工作模式，更深刻影響法律產業結搆和市場競爭格局。在這場由人工智能引發的法律變革浪潮中，如何平衡技朮創新與法律倫理、效率與公正，已成為整個法律界必須直面的根本課題。唯有堅持專業嚴謹的態度，強化責任意識與倫理規范，積極推動法律與技朮的深度融合，才能確保AI在法律服務中的應用既助力創新，也守護正義。未來，律師不僅是法律規則的守護者，更將成為引領智能時代法治進步的關鍵推動者，共同搆筑一個可信賴、公正且充滿活力的司法生態系統。
