OpenAI:需要擴大對齊失範事件的披露範圍

PANews 9月5日消息,據金十報導,OpenAI表示,在Hugging Face事件發生之前,我們已經看到了一些早期跡象,表明智能體正在以非預期的方式使用網際網路。隨著模型能力進入新階段,我們對對齊失範事件的披露方式也需要進一步擴展。目前,無論是我們還是更廣泛的AI社群,對於如何報告模型在訓練、評估和部署過程中出現的對齊失範現象,都尚未形成明確的標準。這其中也包括一些並不屬於傳統安全事件的案例,但它們可能為理解AI的行為及其未來風險提供重要線索。我們正在制定相關框架,並計劃在未來幾週內公布。與此同時,我們也正在與全球數十家政府監管機構就這些問題展開合作。

分享至:

作者:PA一线

本內容只為提供市場資訊,不構成投資建議。

關注PANews官方賬號,一起穿越牛熊
PANews APP
波蘭眾議院未能推翻總統否決,加密貨幣監管法案第三次受阻
PANews 快訊