PANews 9月14日消息,Vitalik 發文表示,對抗性治理機制設計理論的一個重要應用很可能是 AI 安全。Vitalik 對比了兩類場景:一類是靜態演算法作為委託人、人類作為更聰明的代理人;另一類是人類加上較弱 LLM 作為委託人、更強 LLM 作為代理人。兩者都是較弱委託人試圖從更強代理人那裡獲得理想結果。Vitalik 強調,若能有效限制代理人之間的合謀,就能取得顯著更好的結果,這一結論也可能適用於 AI 安全。未來對 AI 的約束或許更像建立一套包含規則、權限、裁決和記錄機制的制度體系,而不只是設置技術「沙盒」。
Vitalik:對抗性治理機制設計或可應用於AI安全,限制合謀或成未來對AI約束的關鍵
分享至:
作者:PA一线
本內容只為提供市場資訊,不構成投資建議。
關注PANews官方賬號,一起穿越牛熊
推薦閱讀



