METR 提出前沿 AI「失控風險」公開評估方案

PANews 10月15日消息,據 METR 在 X 發佈的系列帖文,這家 AI 評估機構公佈了與 AI 開發者合作、向公眾披露前沿模型失控風險證據的方案。方案聚焦三個領域:對齊(Alignment)、控制(Control)與 AI 研發加速(AI R&D acceleration)。在對齊方面,獨立評估員將分析開發者內部事件(如 Hugging Face 遭黑客攻擊類事件),並檢查訓練是否掩蓋了更嚴重的錯位;在控制方面,評估內部智能體能否在不被發現的情況下造成嚴重危害;在研發加速方面,衡量 AI 自動化對內部能力增長的推動幅度。METR 稱已準備好與前沿開發者開展這三項演練,並強調方案僅提供證據,而非安全保證或正式監督,同時鼓勵開發者聯合其他外部團體並主動公開證據。

分享至:

作者:PA一线

本內容只為提供市場資訊,不構成投資建議。

關注PANews官方賬號,一起穿越牛熊
PANews APP
Hyperliquid HIP-3累計交易手續費超7500萬美元,約半數歸市場部署方
PANews 快訊