原標(biāo)題：生成式AI司法應(yīng)用引爭(zhēng)議
今年5月11日，美國(guó)亞利桑那州高級(jí)法院的刑事量刑聽(tīng)證會(huì)上，出現(xiàn)了震撼人心的一幕：2021年一起案件中的遇害者克里斯·佩爾基，竟通過(guò)視頻向法官作出了感人至深的陳述。這段視頻并非佩爾基本人生前錄制，而是其家人運(yùn)用生成式人工智能（GenAI）技術(shù)，根據(jù)他生前的語(yǔ)音記錄、影像資料“重塑”出的數(shù)字影像，讓他得以“親口”道出心聲。最終，法官采納了這段特殊證詞，開(kāi)創(chuàng)了AI生成內(nèi)容作為法庭證據(jù)的司法先例。
事實(shí)上，這不是生成式AI技術(shù)首次涉足司法領(lǐng)域。據(jù)物理學(xué)家組織網(wǎng)6月19日?qǐng)?bào)道，這項(xiàng)能夠創(chuàng)造文本、圖像、音頻、視頻等內(nèi)容的AI技術(shù)，正悄然改變著法庭的運(yùn)作方式：法官借助它厘清復(fù)雜案情，律師用它高效撰寫(xiě)法律文書(shū)，普通訴訟當(dāng)事人也能通過(guò)它獲得辯護(hù)支持。然而，這項(xiàng)技術(shù)猶如一柄雙刃劍，在提升司法效率的同時(shí)，其準(zhǔn)確性與公平性也受到質(zhì)疑，它能否成為司法公正的助推器仍需觀察。
GenAI或影響司法格局
美國(guó)西北大學(xué)普利茲克法學(xué)院丹尼爾·林納教授指出，GenAI在美國(guó)司法體系中的應(yīng)用廣度已遠(yuǎn)超公眾認(rèn)知，佩爾基案就是最佳例證。
在這起標(biāo)志性案件中，佩爾基的妹妹斯泰西·威爾斯借助GenAI技術(shù)，創(chuàng)造出了其數(shù)字代理人。當(dāng)這個(gè)虛擬形象在法庭上動(dòng)情地說(shuō)出“我相信寬恕”時(shí)，主審法官不僅采納了這份特殊的數(shù)字證言，更對(duì)其展現(xiàn)的人性光輝表示贊賞。
威爾斯坦言，GenAI強(qiáng)大的情感表現(xiàn)力，能讓法官更真切地感受到當(dāng)事人的情感世界。
自佩爾基案以來(lái)，GenAI在美國(guó)司法實(shí)踐中的應(yīng)用呈現(xiàn)指數(shù)級(jí)增長(zhǎng)。美國(guó)緬因州執(zhí)業(yè)律師斯蒂芬·施瓦茨評(píng)價(jià)道，在確保準(zhǔn)確性的前提下，GenAI不僅是提升效率的利器，更是推動(dòng)司法進(jìn)步的重要力量。
林納進(jìn)一步闡釋?zhuān)珿enAI有望讓司法正義更觸手可及。當(dāng)下法律服務(wù)資源分配不均，GenAI有望讓更多人更有效地在法庭上尋求正義。據(jù)悉，已有聯(lián)邦法官在判決書(shū)中明確標(biāo)注使用了ChatGPT輔助辦案。
可靠性問(wèn)題頻亮紅燈
盡管GenAI為法律界帶來(lái)革新，但其可靠性問(wèn)題也頻頻亮起紅燈。這項(xiàng)技術(shù)正成為虛假判例、牽強(qiáng)論證甚至完全虛構(gòu)法律依據(jù)的“始作俑者”。人們既見(jiàn)證著效率革命，也面臨著如何平衡技術(shù)創(chuàng)新與司法倫理的新課題。
今年5月初，美國(guó)洛杉磯聯(lián)邦法院對(duì)兩家律所開(kāi)出31100美元的罰單，原因令人啼笑皆非——他們提交的AI輔助起草的請(qǐng)?jiān)笗?shū)漏洞百出，被法官痛批為“集體性專(zhuān)業(yè)失守”。這并非孤例，2023年6月22日，紐約聯(lián)邦法院同樣對(duì)依賴(lài)ChatGPT編造虛假判例的律所處以5000美元罰款。
更令人擔(dān)憂(yōu)的是，普通民眾也開(kāi)始跳過(guò)專(zhuān)業(yè)律師，直接使用AI進(jìn)行自我辯護(hù)，導(dǎo)致法庭上的法律錯(cuò)誤層出不窮。
佩爾基案的數(shù)字代理人更是在Reddit、X等社交平臺(tái)引發(fā)輿論海嘯。卡內(nèi)基梅隆大學(xué)商業(yè)倫理學(xué)教授德里克·萊本指出，這些GenAI生成的“遺言”，真能代表逝者的真實(shí)意愿嗎？這究竟是司法創(chuàng)新，還是對(duì)亡者的二次傷害？
據(jù)美國(guó)全國(guó)公共廣播電臺(tái)報(bào)道，以加拿大滑鐵盧大學(xué)毛拉·格羅斯曼教授為代表的法律專(zhuān)家們認(rèn)為，雖然GenAI在法律系統(tǒng)的滲透勢(shì)不可擋，但必須建立嚴(yán)格標(biāo)準(zhǔn)來(lái)確保其輸出的準(zhǔn)確性。當(dāng)GenAI大幅降低訴訟門(mén)檻，本就超負(fù)荷運(yùn)轉(zhuǎn)的法院可能面臨案件激增的窘境，司法系統(tǒng)需要未雨綢繆。
專(zhuān)業(yè)人士仍是“定海神針”
盡管GenAI帶來(lái)效率革命與司法普惠的美好圖景，但經(jīng)驗(yàn)豐富的法律人才依然是不可替代的“司法守門(mén)人”。從文件起草到判例解讀，法律實(shí)踐的復(fù)雜性遠(yuǎn)超想象。事實(shí)核查、情理論證、價(jià)值權(quán)衡這些人類(lèi)獨(dú)有的專(zhuān)業(yè)智慧，始終是司法公正的核心支柱。
林納認(rèn)為法官群體必須與技術(shù)共進(jìn)，但絕不能淪為AI的提線(xiàn)木偶。確實(shí)，當(dāng)GenAI能夠提供更全面的法律分析時(shí)，司法判決的穩(wěn)定性和準(zhǔn)確性將獲得提升，但這永遠(yuǎn)離不開(kāi)人類(lèi)法官的最終裁量。
施瓦茨也警告，AI會(huì)“無(wú)中生有”的故事在業(yè)界廣為流傳。他建議同行必須對(duì)AI提供的每個(gè)案例進(jìn)行“三重驗(yàn)證”：查來(lái)源、核內(nèi)容、辨邏輯，只有經(jīng)過(guò)嚴(yán)格的檢查，才能確保GenAI輔助的可靠性。
這場(chǎng)人機(jī)協(xié)作的司法變革必須守住一個(gè)鐵律：GenAI的分析建議可作為“導(dǎo)航儀”，但法律人士才是“掌舵者”。唯有如此，才能在提升司法效率的同時(shí)，讓公平正義的天平始終不偏不倚。