PANews 9月8日消息,OpenAI首席科學家Jakub Pachocki在題為《An Alien Mind》的文章中表示,基於內部研究結果,他強烈預計當前AI進步速度可能延續至遞迴式自我改進階段,未來數年系統或出現幅度相當甚至更大的能力躍升,並越來越多地推動自身研發。
Pachocki稱,目前沒有任何實驗室已在AI對齊與監控方面取得足夠進展,能夠長期以最高速度負責任地擴展模型;在建立共同安全門檻前,他預計並希望自願放緩將成為常態,未來AI發展也應被各國政府列為國際協調的優先事項。OpenAI將繼續研究對齊和監控技術、建設防禦系統,並在必要時單方面暫停進一步擴展。
他同時指出,GPT-6 Astra應用了部分長期研發的對齊技術,相較GPT-5.6 Sol顯著改善,但隨著模型更擅長操控自身推理、工具交互增加以及非語言推理能力提升,依賴思維鏈進行監控的有效性正在逐步下降。



