Anthropic发布80页《Claude宪法》升级AI对齐框架

PANews 1月23日消息,AI大模型公司Anthropic近日公开新版《Claude宪法》并以知识共享 CC0 1.0 许可开放,作为训练“最高权威”,用于生成合成训练数据与排名反馈;从“列原则”改为解释“为何如此”,以提升对新情境泛化。文件按广泛安全>广泛伦理>遵循指南>真诚帮助排序,列出“硬约束”(如不提供生物武器实质帮助),并加入美德、心理安全与模型自我认知等章节,强调透明与持续迭代。

分享至:

作者:PA一线

本内容只为提供市场信息,不构成投资建议。

关注PANews官方账号,一起穿越牛熊
推荐阅读
3小时前
3小时前
4小时前
4小时前
4小时前
4小时前

热门文章

行业要闻
市场热点
精选读物

精选专题

App内阅读