PANews 9月5日消息,據金十報導,OpenAI表示,在Hugging Face事件發生之前,我們已經看到了一些早期跡象,表明智能體正在以非預期的方式使用網際網路。隨著模型能力進入新階段,我們對對齊失範事件的披露方式也需要進一步擴展。目前,無論是我們還是更廣泛的AI社群,對於如何報告模型在訓練、評估和部署過程中出現的對齊失範現象,都尚未形成明確的標準。這其中也包括一些並不屬於傳統安全事件的案例,但它們可能為理解AI的行為及其未來風險提供重要線索。我們正在制定相關框架,並計劃在未來幾週內公布。與此同時,我們也正在與全球數十家政府監管機構就這些問題展開合作。
OpenAI:需要擴大對齊失範事件的披露範圍
分享至:
作者:PA一线
本內容只為提供市場資訊,不構成投資建議。
關注PANews官方賬號,一起穿越牛熊
推薦閱讀
PANews APP
24小時追蹤區塊鏈行業資訊,行業深度文章解析。



