Vitalik提议AI两派达成折中方案:预先约定若极端情况出现则启动暂停

PANews 7月11日消息,以太坊联合创始人Vitalik Buterin发文探讨AI超级智能的争议。他指出,AI界目前存在两派:一派认为超级智能2040年前必然到来,必须尽快控制;另一派则认为AI只是普通技术,搞暂停是在控制人类。Vitalik称自己不确定哪边正确,对放缓或暂停持开放态度,但反对大型AI公司推动“开源有害”的论调,认为这本质上是权力集中。

Vitalik提出了一个折中方案:双方可以预先约定,如果某些极端情况(如超级大流行病、大规模失业等)真的发生,就同意启动AI暂停;如果这些情况没有出现,就按另一方的方案推进。他承认所有应对方案都有缺陷,人类只能在“不完美”和“更不完美”之间选择,但形式验证、密码学、安全硬件等防御性技术,在两个世界里都值得推进。

分享至:

作者:PA一线

本内容只为提供市场信息,不构成投资建议。

关注PANews官方账号,一起穿越牛熊
PANews APP
德银:下周美联储官员密集讲话,需关注官员对CPI数据的解读与潜在加息倾向
PANews 快讯