PANews 10月11日消息，微軟CEO Satya Nadella發文表示，隨著超級智能（Super Intelligence）系統能力快速提升，行業需要重新構建AI信任架構，不能將AI執行行為帶來的責任交由模型提供方承擔。

過去幾十年傳統軟件系統被廣泛部署時，人們能夠追蹤程序行為對應的具體代碼路徑。但如今的前沿AI模型雖然能力已超過傳統軟件系統，卻無法明確將模型輸出歸因於特定訓練數據或模型權重配置。當前企業正在讓複雜的AI智能體接觸敏感數據，並賦予其執行關鍵任務的能力，因此不能將超級智能系統視為無法理解的「嵌套黑箱」，僅簡單接受或拒絕其建議，而需要構建能夠觀察行為、測試邊界並隨時限制行動的可控系統。

在治理原則方面，納德拉提出超級智能系統需要具備：

- 模型多樣性：避免單一模型成為關鍵決策的唯一依賴；

- 全面可觀察性：所有重要AI行為都應留下不可篡改且人類可讀的記錄；

- 持續驗證能力：持續測試系統面對故障、攻擊和異常情況的表現；

- 獨立控制與審計：模型不應同時掌控系統行為和驗證自身行為的證據；

- 風險隔離機制：默認假設模型可能失效，並提供隨時暫停或關閉的能力；

- 事件披露機制：發生故障或安全事件時及時披露原因和改進措施。

納德拉還強調，思維鏈（CoT）透明度是AI治理的重要基礎，但僅依靠CoT透明並不足夠，因為目前仍無法保證模型輸出始終具備可靠的解釋性。未來最值得信任的超級智能系統，並不是「最值得信任的模型」，而是即使無法完全信任模型，也依然能夠安全運行的系統。