PANewsは1月23日、AI大規模モデル開発企業であるAnthropicが、クリエイティブ・コモンズ CC0 1.0ライセンスの下で「クロード憲法」の新バージョンを最近リリースしたと報じました。この新憲法は、訓練における「最高権威」として機能し、合成訓練データとランキングフィードバックの生成に使用されます。単に原則を列挙するのではなく、「なぜそうなるのか」を説明することで、新しいシナリオへの一般化を向上させることを目指しています。この文書は、広範な安全性 > 広範な倫理 > ガイドラインの遵守 > 真の支援の順に構成され、「厳格な制約」(生物兵器開発への実質的な支援を行わないなど)が列挙されているほか、美徳、心理的安全性、モデルの自己認識に関する章が追加され、透明性と継続的な反復が強調されています。
Anthropic は 80 ページの「Claude Constitution」をリリースし、AI アライメント フレームワークをアップグレードしました。
共有先:
著者:PA一线
この内容は市場情報の提供のみを目的としており、投資助言を構成しません。
PANews公式アカウントをフォローして、一緒に強気相場と弱気相場を乗り越えましょう
おすすめ記事
