Vitalik:對抗性治理機制設計或可應用於AI安全,限制合謀或成未來對AI約束的關鍵

PANews 9月14日消息,Vitalik 發文表示,對抗性治理機制設計理論的一個重要應用很可能是 AI 安全。Vitalik 對比了兩類場景:一類是靜態演算法作為委託人、人類作為更聰明的代理人;另一類是人類加上較弱 LLM 作為委託人、更強 LLM 作為代理人。兩者都是較弱委託人試圖從更強代理人那裡獲得理想結果。Vitalik 強調,若能有效限制代理人之間的合謀,就能取得顯著更好的結果,這一結論也可能適用於 AI 安全。未來對 AI 的約束或許更像建立一套包含規則、權限、裁決和記錄機制的制度體系,而不只是設置技術「沙盒」。

分享至:

作者:PA一线

本內容只為提供市場資訊,不構成投資建議。

關注PANews官方賬號,一起穿越牛熊
PANews APP
SWIFT與花旗、三菱UFJ等17家銀行啟動代幣化存款跨境支付試點
PANews 快訊