AI governance

科技創業週報 #547:AI 可以幫你做事,但責任不能一起交出去

生成式 AI 正快速進入法律、財務、人資與合約等專業工作流程,但 AI 產出的內容若未經有效查證,仍可能帶來責任風險。美國律師因提交含有錯誤引用與虛構引文的法律文件遭法院制裁,凸顯企業導入 AI 時,不能只把 Human-in-the-loop 理解為最後有人按下確認。真正有意義的人工覆核,必須由具備專業知識與經驗的人執行,並且擁有改變結果或說不的權限。

AI可以幫你做事,但責任不能一起交出去

AI 可以協助企業完成工作,但責任不能一起交出去。從律師因使用生成式 AI 產生錯誤法律引用而遭制裁的案例可以看到,企業 AI 治理不能只設計人工確認流程,更要確保覆核者具備專業能力與否決權。

ChatGPT Work 發佈後,企業 AI 部署為何必須從帳號管理轉向工作、權限與責任治理?

OpenAI 推出 ChatGPT Work,代表企業 AI 應用正從內容生成工具,走向實際工作流程中的執行能力。當 AI 可以跨應用程式與檔案進行研究、分析、工具操作,並產出文件、試算表、簡報與報告,企業面臨的問題也從「誰可以使用 AI」轉向「哪些工作能交給 AI、AI 可取得哪些資料與工具、哪些行動需要人工核准,以及出錯時由誰負責」。這也使企業 AI 治理必須從帳號管理,升級為工作、權限與責任治理。

企業導入 AI Agent 前,必須先把隱性知識變成組織資產

隨著 AI Agent 成為企業數位轉型的重要工具,許多企業開始期待 AI 能協助執行客服、採購、報價與跨系統流程。然而,Agent 真正落地的關鍵並不只是技術,而是企業是否已整理好自身知識體系。許多重要決策其實來自資深員工累積的隱性知識,而非正式文件與 SOP。當企業希望 Agent 參與工作流程時,必須先將這些經驗、規則與判斷標準轉化為可管理、可維護的知識資產,才能真正發揮 AI 自動化的價值。

Anthropic 拒簽、OpenAI 接手:AI 的最終解釋權究竟在誰手中?

2026 年初,美國國防部 AI 合約引發產業震盪。Anthropic 因拒絕移除模型在監控與自動武器上的安全限制而退出合作,隨後 OpenAI 接手相關軍事項目並簽署密級協議。事件迅速引發市場與社群討論,部分用戶發起「QuitGPT」行動,ChatGPT 下載與訂閱出現短期波動,而 Claude 則一度登上美國 App Store 免費榜首。這場事件不只關於軍事 AI,更揭示 AI 公司在國家安全、商業利益與使用者信任之間的複雜平衡。

科技創業週報 #519:Moltbot 爆紅的背後:當 AI 開始替你動手,誰來管權限與風險?

如果說 ChatGPT 是會說話的助理,
那 Moltbot,已經是會「動手做事」的同事。

你只要交代一句話,它就幫你開 App、填表單、串 API、甚至完成付款。
聽起來很方便,但也意味著——
未來替你點擊滑鼠的,不再是你自己。

當 AI 成為你的「數位分身」,
問題不再是它聰不聰明,而是:
它擁有多少權限?誰能監督它?出了錯誰負責?

效率革命的下一步,將不是更強模型,
而是更成熟的治理與風險設計。

Moltbot 爆紅的背後:當 AI 開始替你動手,誰來管權限與風險?

當 AI 不再只回答問題,而是直接替你操作 App、付款、安裝工具與完成任務,像 Moltbot 這樣的 AI Agent 正快速走入日常。效率看似大幅提升,但同時也帶來新的隱憂:權限誰掌握?資料如何流動?資安邊界在哪裡?當 AI 成為你的「數位分身」,真正的挑戰已不再是技術能力,而是治理與風險控管。