Anthropic招股書：AI加速研發或即將觸及其安全政策閾值

PANews 11月3日消息，根據Anthropic向美國SEC提交的S-1/A文件顯示，其在風險因素中稱，公司日益使用AI加速自身研發，模型能力進步可能快於安全、對齊措施的開發；基於內部估算及對未來模型的預期，公司可能即將達到其《負責任擴展政策》（RSP）中「AI導致進展大幅加速」的定義。Anthropic表示，目前尚未認定任何現有模型超過該閾值，仍在評估相關數據，並稱過去曾在研發顯著加速發生後才察覺。公司計劃在研發中保留人類參與，並考慮更新RSP。據TechCrunch報導，這一表述被視為Anthropic接近遞歸自我改進（RSI）能力的警告。