科技創業週報 #547:AI 可以幫你做事,但責任不能一起交出去
生成式 AI 正快速進入法律、財務、人資與合約等專業工作流程,但 AI 產出的內容若未經有效查證,仍可能帶來責任風險。美國律師因提交含有錯誤引用與虛構引文的法律文件遭法院制裁,凸顯企業導入 AI 時,不能只把 Human-in-the-loop 理解為最後有人按下確認。真正有意義的人工覆核,必須由具備專業知識與經驗的人執行,並且擁有改變結果或說不的權限。
生成式 AI 正快速進入法律、財務、人資與合約等專業工作流程,但 AI 產出的內容若未經有效查證,仍可能帶來責任風險。美國律師因提交含有錯誤引用與虛構引文的法律文件遭法院制裁,凸顯企業導入 AI 時,不能只把 Human-in-the-loop 理解為最後有人按下確認。真正有意義的人工覆核,必須由具備專業知識與經驗的人執行,並且擁有改變結果或說不的權限。
AI 可以協助企業完成工作,但責任不能一起交出去。從律師因使用生成式 AI 產生錯誤法律引用而遭制裁的案例可以看到,企業 AI 治理不能只設計人工確認流程,更要確保覆核者具備專業能力與否決權。
ChatGPT Work 發佈後,企業 AI 部署不再只是帳號與席次管理,而是進入工作治理階段。當 AI 能讀取資料、操作工具並交付成果,企業必須重新定義工作範圍、資料權限、人工核准與責任歸屬。
OpenAI 推出 ChatGPT Work,代表企業 AI 應用正從內容生成工具,走向實際工作流程中的執行能力。當 AI 可以跨應用程式與檔案進行研究、分析、工具操作,並產出文件、試算表、簡報與報告,企業面臨的問題也從「誰可以使用 AI」轉向「哪些工作能交給 AI、AI 可取得哪些資料與工具、哪些行動需要人工核准,以及出錯時由誰負責」。這也使企業 AI 治理必須從帳號管理,升級為工作、權限與責任治理。