Oracle說AI能"主動運營企業"，但搞砸后誰背鍋？

Oracle剛給自家AI Agent Studio加了新功能，說這東西能"主動運營企業"。

不是輔助，是運營。HR、財務、供應鏈，全交給它。

但有個數字很扎眼：全球企業軟件市場往AI里砸的錢，正在沖向萬億美元。而責任歸屬的條款，至今沒人寫清楚。

「你不能怪那個盒子」

英國財務報告委員會（FRC）這周發了份AI采用指南，執行總監Mark Babington對《金融時報》說得很直白：「你不能怪那個盒子。」

技術會變，監管框架的核心不會變——是人，是公司和責任個體，對審計質量負責。

這話聽著像常識，但在AI代理（AI agent，指能自主決策、跨系統執行任務的智能體）開始"替人干活"的節點上，它成了一記警鐘。

當AI代理被視作"代表組織行事"，決策風險就變得模糊且不可預測。FRC的措辭更冷：這標志著AI風險的重新分配，參數未知。

翻譯一下：以前軟件出bug，找供應商；現在AI"自主決策"搞砸了，法律上該找誰，沒答案。

供應商的算盤：這鍋我不背

Pinsent Masons律所高級技術律師Malcolm Dowden點破了行業的潛規則：「歷史上有個默認假設——供應商會為故障承擔賠償責任。幾乎所有討論都是從這里開始的。」

但AI不一樣。

Dowden打了個比方：普通工具的行為是可預測的，所以提供質保的一方能清楚估算自己要擔多少責。AI，尤其是所謂的"非確定性AI"——現在叫代理型AI——意外行為的范圍大得多。

「如果你要對某種行為提供質保，但它本質上不可預測，那這會是一個非常不舒服的合同承諾?！?/p>

不舒服，但生意要做。

Oracle的AI Agent Studio for Fusion Applications，官方描述是"具備推理能力，能跨業務系統采取行動，持續執行流程"。關鍵詞是"持續執行"——不是一次性任務，是長期、鏈式、自主的決策流。

供應商想賣的是"治理能力、信任和安全性"，合同里想寫的可能是"按現狀提供，不承擔間接損失"。

用戶的困境：被夾在中間

企業用戶的處境最尷尬。

一方面，供應商的PPT里全是"主動運營""智能決策"；另一方面，真出了事——LLM幻覺生成的錯誤績效評估、搞錯的監管申報文件、沒按時到貨的關鍵物料——法務部門翻遍合同可能找不到追責條款。

更麻煩的是，AI代理的決策鏈條太長。

一次供應鏈中斷，可能是數據輸入問題、模型推理偏差、系統接口故障、或者某個"持續執行"環節的自我強化錯誤。每個節點都能甩鍋，最終停在"算法黑箱"四個字上。

FRC的指南試圖劃一條底線：不管技術多先進，簽字的那個"責任個體"跑不掉。但指南沒說清楚的是，當AI的"自主決策"和人的"專業判斷"發生沖突時，聽誰的算合規？

Mark Babington那句「你不能怪那個盒子」，后半句他沒說：但你可以試試找賣盒子的人——祝你好運。

一位全球科技分析師的回應，被原文放在了開頭。

萬億市場的狂歡里，責任條款的空白，是留給誰的陷阱？