OpenAIがモデル行動規範を更新、5つのコアバリューをGPTの行動基準に

PANews 10月30日付のニュース。OpenAIは本日、新版「Model Spec」を公開し、GPTの行動指針体系を5つのコアバリュー、すなわち人間の意図への忠実さ、危害の低減、誠実さと透明性、人間の自律性の尊重、影響を受ける人々への配慮に再整理した。新版では文脈の理解、人間による監督、ユーザーの自律性に関する指針が追加され、モデルは指示の字面を実行するだけでなく、ユーザーの真の目的と長期的利益を理解することが求められ、同時にユーザーの同意なくその選択を誘導することを避ける必要がある。OpenAIはまた、指示の優先順位と行動のデフォルトルールを調整し、詳細な文章スタイルの規範の大部分を削除して、モデルがユーザーの好みや言語・文化、具体的な状況に応じて表現方法を調整できるようにした。さらに、規範は、現在本番環境で使用されているモデルが新版規範の求める行動基準にまだ完全には達していないことを明確に認めており、同社はトレーニングと実際の展開からのフィードバックを通じてモデルの改善を続けるとしている。