METR、最先端AIの「制御不能リスク」に関する公開評価スキームを提案

PANews 10月15日付の報道によると、METRがXに投稿した一連のポストで、このAI評価機関はAI開発者と協力し、最先端モデルの制御不能リスクの証拠を一般に開示するスキームを発表した。スキームは「アラインメント(Alignment)」「コントロール(Control)」「AI研究開発の加速(AI R&D acceleration)」の3分野に焦点を当てる。アラインメントについては、独立評価者が開発者内部のインシデント(Hugging Faceへのハッキング攻撃のような事象)を分析し、トレーニングがより深刻なミスアラインメントを覆い隠していないかを確認する。コントロールについては、内部エージェントが検知されずに深刻な危害を引き起こせるかを評価する。研究開発の加速については、AIの自動化が内部能力の成長をどの程度押し上げるかを測定する。METRは、最先端の開発者とこれら3つの演習を実施する準備ができていると述べ、このスキームは安全保証や正式な監督ではなく証拠の提供にすぎないと強調した。また、開発者に対し、他の外部団体と連携し、証拠を自発的に公開するよう促している。

共有先:

著者:PA一线

この内容は市場情報の提供のみを目的としており、投資助言を構成しません。

PANews公式アカウントをフォローして、強気・弱気相場を一緒に乗り越えましょう
関連トピック
PANews APP
香港株のストレージ関連が下落、南方2倍ロングSKハイニックスは22%超安
PANews 速報