Anthropicの目論見書：AIによる研究開発加速、安全政策の閾値に間もなく到達か

PANews 11月3日ニュース：Anthropicが米国SECに提出したS-1/Aファイルによると、同社はリスク要因の中で、自社の研究開発を加速するためにAIをますます活用しており、モデル能力の進歩が安全・アラインメント措置の開発を上回る可能性があると述べた。内部推計と将来モデルに関する見通しに基づくと、同社は「責任あるスケーリングポリシー」（RSP）における「AIが進捗を大幅に加速させる」という定義にまもなく到達する可能性がある。Anthropicは、現時点で既存のいずれのモデルもこの閾値を超えたとは認定しておらず、関連データをなお評価中であるとし、過去には研究開発の著しい加速が起きた後に初めてそれに気づいたことがあると述べた。同社は研究開発において人間の関与を維持する方針で、RSPの更新も検討している。TechCrunchの報道によると、この表現はAnthropicが再帰的自己改善（RSI）能力に近づいていることへの警告とみなされている。