科技創業週報 #547:AI 可以幫你做事,但責任不能一起交出去

| |

本期觀點|
上週 2026 年 8 月 20 日,路透社報導一則很值得企業重新思考 AI 治理的案例。美國加州第一區上訴法院第四庭在 7 月公佈的 Del Biaggio v. Bansen 判決中,認定律師 Carlton Floyd 提交的法律文件含有錯誤引用與虛構引文。Floyd 也承認曾使用生成式 AI 補充部分內容,卻沒有在提交前完成必要查證。法院最後對他處以 1,500 美元制裁,並要求將判決副本送交加州律師公會。
這個事件值得我們注意的是,Floyd 原本打算把 AI 產生的法律引用交由助理檢查,而不是由自己或其他律師重新審閱。法院認為,即使這套安排最後沒有真的出錯,也不足以履行律師本人應負的專業責任。
這正好碰到企業談 AI 治理時最常出現的問題:「AI 可以先做,最後還是要有人確認。」,但我們真正要問是,到底那個人確認了什麼?
繼續閱讀⋯⋯
Your AI research is your responsibility — California court sanctions attorney for delegating AI citation verification to paralegal
這篇報導說明事件的原委。一名律師使用 AI 補充法律資料,文件中卻出現不存在的判例,而原本安排的查核方式也被法院認為不足。
How Lawyers and Law Firms Can Use AI Wisely to Build Checks and Balances into Litigation Workflows
文章討論律師使用 AI 寫文件時,哪些地方不能因為 AI 通常表現不錯就直接放行。它也提醒,AI 愈可靠,人愈容易從「認真查證」變成「看起來沒問題就算了」。
AI Risk Management and Human-AI Interaction
這份資料回答一個很實際的問題:AI 做到哪裡應該停下來交給人?有些 AI 可以自行運作,有些則必須由專業人士做最後判斷;企業必須先說清楚人和 AI 各自負責什麼,而不是只安排一個「人工確認」就認為風險已經解決。
The oversight paradox: Why human control over AI may be eroding the very competence it requires
這篇文章提出一個容易被忽略的矛盾:企業希望人監督 AI,但如果 AI 長期把工作全部做掉,人可能因為缺少實際練習而逐漸失去判斷能力。最後雖然流程上仍有人簽核,那個人卻未必還看得出 AI 哪裡出錯。


.

Cover image created with AI


.

Previous

AI可以幫你做事,但責任不能一起交出去

發佈留言

Share via
Copy link
Powered by Social Snap