PANews 7月11日消息,以太坊聯合創始人Vitalik Buterin發文探討AI超級智能的爭議。他指出,AI界目前存在兩派:一派認為超級智能2040年前必然到來,必須盡快控制;另一派則認為AI只是普通技術,搞暫停是在控制人類。Vitalik稱自己不確定哪邊正確,對放緩或暫停持開放態度,但反對大型AI公司推動“開源有害”的論調,認為這本質上是權力集中。
Vitalik提出了一個折衷方案:雙方可以預先約定,如果某些極端情況(如超級大流行病、大規模失業等)真的發生,就同意啟動AI暫停;如果這些情況沒有出現,就按另一方的方案推進。他承認所有應對方案都有缺陷,人類只能在“不完美”和“更不完美”之間選擇,但形式驗證、密碼學、安全硬體等防禦性技術,在兩個世界裡都值得推進。




