Vitalik:对抗性治理机制设计或可用于AI安全,限制合谋或成未来对AI约束的关键

PANews 9月14日消息,Vitalik 发文表示,对抗性治理机制设计理论的一个重要应用很可能是 AI 安全。Vitalik 对比了两类场景:一类是静态算法作为委托人、人类作为更聪明的代理人;另一类是人类加上较弱 LLM 作为委托人、更强 LLM 作为代理人。两者都是较弱委托人试图从更强代理人那里获得理想结果。Vitalik 强调,若能有效限制代理人之间的合谋,就能取得显著更好的结果,这一结论也可能适用于 AI 安全。未来对 AI 的约束或许更像建立一套包含规则、权限、裁决和记录机制的制度体系,而不只是设置技术“沙箱”。

分享至:

作者:PA一线

本内容只为提供市场信息,不构成投资建议。

关注PANews官方账号,一起穿越牛熊
PANews APP
加密市场普遍下跌,Meme板块领跌超3%,仅Layer2 及 DePIN板块上涨
PANews 快讯