2026 年 1 月 3 日,NBC News 刊出阿拉斯加法院系統(Alaska Court System)的 AI 部署實錄:為了協助民眾自行處理遺產認證(probate),法院打造了聊天機器人 AVA(Alaska Virtual Assistant)。這個原定三個月的專案,實際做了十五個月,功能範圍一路縮減,目前排定 2026 年 1 月底上線——如果一切順利。
這條新聞的價值不在於「AI 專案失敗」,而在於細節。一個把回答 grounding 在官方文件上的問答機器人,看起來是生成式 AI 最安全的應用形態;但在「必須 100% 正確」的要求下,工程量完全不是表面那回事。對想在法律、醫療、政務做 AI 產品的團隊,AVA 幾乎是教科書個案。
從三個月到十五個月
AVA 由律師 Tom Martin 創辦的法律科技公司 LawDroid 打造,美國州法院國家中心(NCSC)提供初期經費並派顧問 Aubrie Souza 協助。它要解決的問題很具體:親人過世後的遺產移轉程序繁瑣,多數家屬沒有律師,只能仰賴法院的自助資源與專線。
技術路線並不前衛:以強化版 RAG 為基礎,把回答錨定在法院既有的自助網頁文件上,附上可驗證的出處與後續問題建議。開發團隊反覆比較 OpenAI 與 Anthropic 的模型在「正確率與語氣」上的表現,並建立知識庫阻擋模型引用外部來源。湯姆森路透研究院早在 2025 年 2 月的報導中,就把 AVA 描述為「上線前最終測試階段」——距離 NBC 這篇報導,又過了將近一年。
幻覺在遺產法裡長什麼樣
實際踩到的雷,值得每個做垂直領域機器人的人細讀。AVA 曾經生成不存在的資源——例如指引使用者去找一個根本不存在的阿拉斯加法學院校友網絡求助。法院系統行政主任 Stacey Marz 的總結很直白:「像這樣的專案,我們需要 100% 正確,而這對這項技術來說非常困難。」NCSC 顧問 Souza 也說,不管換哪個模型,「都躲不開幻覺」。
語氣是另一個意外難關。早期版本太有同理心,對每位剛喪親的使用者頻頻致哀,結果收到使用者回饋:「我受夠了生活裡每個人都對我說節哀。」團隊最後把安慰語句整個移除。開發者 Martin 對模型行為的觀察也很傳神:有些模型不善於守規則,「有點想證明自己是房間裡最聰明的人」——這在法律場景正是最不需要的特質。
測試與成本的現實
為了評估正確率,團隊設計了 91 題的遺產法測試集,但完整跑一輪太耗人力,最後縮減為 16 題。Marz 坦言整個過程「非常耗人力」。成本結構因此很清楚:推論本身便宜——某種配置下 20 次查詢只要約 11 美分——貴的是人工審核、內容整理與反覆迭代。
上線版本的設計處處看見退讓:官方 FAQ 明確聲明 AVA「使用人工智慧回答問題,可能出錯」;每個回答都附上法院自助網頁的連結,讓使用者能夠自行查證;而服務範圍也不再複製真人服務人員的完整職能,Marz 說:「我們沒有把握機器人能以那種方式運作。」
對高風險部署的三個啟示
AVA 的十五個月,可以濃縮成三條給產品團隊的建議。
第一,把「縮小範圍」當成正式的工程手段。AVA 從「虛擬服務人員」退到「文件導航器」,才換到上線門票;範圍縮減不是失敗,是對正確率門檻的誠實回應。第二,評測是持續的勞力成本。91 題縮成 16 題不是偷懶,是資源現實;它同時意味著上線後的回歸測試需要固定編制,而不是一次性的驗收工作。第三,別低估「看起來很簡單」的 grounding 專案。Deloitte 調查顯示,只有不到 6% 的地方政府從業人員把 AI 列為服務交付優先——AVA 解釋了原因:不是不想用,而是正確率門檻加上審核成本,把多數專案擋在門外。
參考來源
- Alaska’s court system built an AI chatbot. It didn’t go smoothly. — NBC News
- Chatbots for pro se litigants — Thomson Reuters Institute
- AVA FAQ — Alaska Court System
本文由 AI 協助自上述來源整理，經人工審核後發布。