Anthropic：Claudeに会話中の潜在的な悪用行為を自己評価するよう訓練済み

PANews 10月30日付のニュース。AnthropicはXプラットフォームへの投稿で、Claudeに会話中の潜在的な悪用行為を識別するよう訓練したと発表し、この技術を「自己評価（self-assessment）」と呼んだ。Claudeは返答を完了した直後に、その会話について暫定的な安全評価を行う。Anthropicによると、6月にこの技術の使用を開始して以来、他の安全防護メカニズムではカバーできなかった悪用行為を発見している。Claudeはすでに会話内容を読み込んでいるため、この方法は効率が高く、また特定の危害類型に特化した分類器とは異なり、Claude自身の判断に依拠するため、精度はモデル能力の向上とともに高まるという。