用戶 5 天破百萬、2 個月月活破億、App 上架 6 天下載量突破 50 萬次……ChatGPT 用這些數據證明，它在全球范圍內是怎樣的“實火”，各行各業也出現了許多有關 ChatGPT 的“美談”：

用了 ChatGPT，程序員能將軟件開發周期從 8-10 周縮短至不到一周；用了 ChatGPT，投資模型能預測股市的走勢，回報率還高達 500%；用了 ChatGPT，科幻作家 9 個月就能創作 97 本書，凈賺 2000 美元；用了 ChatGPT，大學生成功創業，6 個月即實現月收入 45 萬元……

(資料圖片)

久而久之，這把名為“ChatGPT”的火，也逐漸“燒”到了素來以嚴謹著稱的律師圈子，然而畫風卻迥然不同：近來，一名律師在撰寫辯護詞時用了 ChatGPT——結果，本來身為原告律師的他，突然就要被制裁了。

為什么呢？因為 ChatGPT 給這位律師提供的 6 個 用來“佐證”的案例，從頭到尾都是假的。

找不到來源的法院判決？

先來簡單了解一下案件背景：原告是一位名為 Roberto Mata 的男子，被告則是拉美航空巨頭 Avianca 航空公司。

據悉，2019 年 8 月 27 日，Roberto Mata 在乘坐飛往紐約肯尼迪國際機場的航班上，被一名推著服務車的空乘撞傷了膝蓋。因此 Roberto Mata 認為，該空乘所屬的 Avianca 航空公司應對其負責，并向法院申請起訴。

在 Roberto Mata 提起訴訟后，近期 Avianca 航空公司方面提交了相關文件，要求法院撤銷此案，聲稱“訴訟時效已過”。

對此，來自 Levidow，Levidow&Oberman 律師事務所、執業超過 30 年，也是此次 Roberto Mata 代理律師的 Steven Schwartz，也很快提交了一份長達 10 頁的辯護詞，作為佐證還引用了一些法院判決，要求該案應繼續進行。

事實上，案件進行到這一步時，整體而言還算合理，至少還在常規范圍內——直到 Avianca 的律師、甚至法官在內的所有人，都找不到這 10 頁辯護詞中所引用的 6 個法院判決的來源和相關 資料。

全部都是 ChatGPT 捏造出來的

首先察覺到不對勁的是 Avianca 公司的律師。

舉個例子，在 Steven Schwartz 提交的 10 頁辯護詞中，引用了一個名叫 Varghese 的人起訴中國南方航空公司的裁決案例，但 Avianca 的律師向法官表示：“我們無法找到這段引文，也沒有在任何案件中找到類似的內容。”

得此消息后，法官要求 Roberto Mata 的律師提供其辯護詞中引用案例的相關資料，Steven Schwartz 方面也很快給出了案例的法院和法官、案件編號和日期。

其中，對于 Avianca 的律師例舉的 Varghese 案件，Steven Schwartz 就給出了長達 6 頁的判決書，并說它是由第 11 巡回法院的一名法官寫的。

盡管如此，Avianca 方面依舊找不到這些法庭記錄，在法律數據庫中也毫無蹤影。對此，Avianca 的律師 Bart Banino 表示：他所在的 Condon & Forsyth 公司長期專研航空法，可以看出對方辯護詞中引用的案例都是假的。甚至他還補充道：“可能有聊天機器人參與其中。”

事實證明，Bart Banino 的猜測是對的。

上周三，Steven Schwartz 在一份宣誓書中承認：“隨著生成式 AI 在法律領域的不斷發展，為補充所進行的法律研究，我咨詢了 AI 網站 ChatGPT。”

至此，總算“破案”了——為什么 Steven Schwartz 引用的案例找不到來源？因為它們全部都是 ChatGPT 捏造出來的，不論是案件本身、司法判決還是內部引用，全部都是假的！

“法院面臨著前所未有的情況”

在宣誓書中，Steven Schwartz 強調他無意欺騙欺騙法院或航空公司：只因此前從未用過 ChatGPT，因此不知道其生成的內容可能是假的。

身為一名從業 30+ 年的律師，Steven Schwa rtz 當時有嘗試驗證 ChatGPT 所提供的案例真實性，只不過方法有些“離譜”：讓 ChatGPT 自己 去 驗證它的回答。

由此，這些由 ChatGPT 生成的虛假案例 ，才被 Steven Schwartz 寫入了辯護詞中。

面對這個意外的情況，負責該案的法官 Castel 都“懵”了。他在一份文件中寫道：“法院面臨著前所未有的情況”，原告律師提交的法律文件“充滿了不存在的案件”，“引用了假的司法判決和內部引文”。

同時，法官 Castel 還下令將于 6 月 8 日舉行聽證會，討論關于此次 Steven Schwartz 在辯護詞中引用虛假案例的制裁。

對于可能到來的制裁，Steven Schwartz 在宣誓書中表示：“我非常后悔利用生成式 AI 來補充法律研究，將來在沒有絕對驗證其真實性的情況下，我絕對不會這樣做。”

驗證 AI 提供內容的真實性

這個案件的發展，吸引了許多來自律師界的關注和討論。紐約大學法學院法律倫理學教授 Stephen Gillers 表示，自 ChatGPT 問世以來，律師們就一直在爭論 AI 軟件的價值和危險。

據悉早在今年 1 月，就有人嘗試讓 ChatGPT 去考美國的司法考試題（UBE），結果發現無需微調，在證據類題型中它就能達到人類水平。

更值得一提的是，隨后 OpenAI 推出的 GPT-4，更是各類基礎考試都高分通過：在模擬律師資格考試中，成績排前 10%；在 SAT 閱讀考試中，成績排 7%；在 GRE verbal 考試中，成績排前 1%。

可盡管如此，這也并不意味著 AI 所生成的內容 100% 真實，因此核實其提供信息的必要性是不可缺少的一步，尤其是在醫學、法學等向來嚴謹的領域。Stephen Gillers 指出：“現在律師界討論的焦點是，如何避免本案所發生的情況，你不能只是把 AI 輸出的內容復制粘貼到你的法庭文件中。”

對于這個案件，你又是否有什么看法？

參考鏈接：

https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html

https://www.engadget.com/chatgpt-now-has-an-official-iphone-app-181454446.html

https://storage.courtlistener.com/recap/gov.uscourts.nysd.575368/gov.uscourts.nysd.575368.32.1_1.pdf

關鍵詞