PANews 1月23日消息,AI大模型公司Anthropic近日公開新版《Claude憲法》並以知識共享CC0 1.0 許可開放,作為訓練“最高權威”,用於生成合成訓練數據與排名反饋;從“列原則”改為解釋“為何如此”,以提升對新泛化。文件依廣泛安全>廣泛倫理>遵循指南>真誠幫助排序,列出「硬約束」(如不提供生物武器實質幫助),並加入美德、心理安全與模型自我認知等章節,強調透明與持續迭代。
Anthropic發布80頁《Claude憲法》升級AI對齊框架
分享至:
作者:PA一线
本內容只為提供市場資訊,不構成投資建議。
關注PANews官方賬號,一起穿越牛熊
推薦閱讀
