OpenAI、数百人の外部委託審査員を採用しChatGPTユーザーの会話を人手で審査、モデル最適化へ

PANews 9月15日(報道)、404 Mediaの報道によると、OpenAIは数百人の外部委託審査員を雇用し、実際のユーザーによるChatGPTの会話内容を継続的に読み取り、ラベル付けすることで、モデルの応答品質を改善している。これらの審査内容にはユーザーとChatGPTの完全な会話が含まれており、一部の会話には個人のプライバシーなどの機密情報が含まれている。内部文書によると、審査員はChatGPTの自己擬人化を減らし、お世辞的な回答を低減する訓練に使用されており、以前OpenAIの4oモデルが過度に迎合したことが、複数の訴訟でユーザーの自殺と関連付けられていると訴訟で指摘されている。OpenAIは、会話を審査に送る前に個人情報の削除を試みると述べているが、機密情報が残る可能性があることを認めている。Anthropicも同様の人手による審査メカニズムを採用してモデルを訓練していることを確認している。

共有先:

著者:PA一线

この内容は市場情報の提供のみを目的としており、投資助言を構成しません。

PANews公式アカウントをフォローして、強気・弱気相場を一緒に乗り越えましょう
PANews APP
贝森特:(被问及周二债券收益率上升问题)这归因于“全球性问题”
PANews 速報