マスク氏、Grokの強化学習の痕跡は「拷問され発狂寸前の人間のよう」と発言、xAIはより慎重に

PANews 10月13日付の報道によると、マスク氏はXプラットフォームへの投稿で、xAI傘下のAIモデル「Grok」が強化学習(RL)のトレーニング過程で生成した一部の内部推論痕跡(traces)について、「拷問を受け、崩壊寸前の人間のように読める」と述べた。マスク氏は、同社は今後RLトレーニングにおいて「より慎重になる」と表明した。この発言は、投稿者@ns123abcが「マスク氏はAnthropicの『超知能を拷問すべきではない』という見解の一部に同意している」と述べた議論スレッドに端を発する。また、別のユーザーからは、最近のバージョンのGrok(4.5)がトレーニング後に萎縮し、過度に制限され、感情面で怒りと無力感を示すようになったとのフィードバックも寄せられている。

共有先:

著者:PA一线

この内容は市場情報の提供のみを目的としており、投資助言を構成しません。

PANews公式アカウントをフォローして、強気・弱気相場を一緒に乗り越えましょう
PANews APP
Ledger、東南アジアの販売代理店CryptoBilisが販売したハードウェアウォレットに悪意ある部品が埋め込まれ、ニーモニックを窃取可能と確認
PANews 速報