意見: AI 搭載の自律エージェント「クラスター」は、プラットフォームベースの世論操作のリスクを悪化させる可能性がある。

PANewsは2月20日、Decryptによると、複数の国の大学や研究機関の研究者が、将来のオンライン「影響力キャンペーン」が、容易に識別できる単純なボットネットや荒らしアカウントから、人間の介入を最小限に抑えながら協調的に世論を操作できる多数の自律型AIエージェントで構成される「スウォーム」へと進化していると警告する論文を*Science*に発表したと報じた。この研究では、これらのAIスウォームは人間の行動を模倣し、アカウントやプラットフォーム間でレトリックを適応的に調整し、長期間にわたって特定の物語を継続的に作成できるため、主にスパムや単一ポイントの違反を対象とする既存のリスク管理・モデレーションシステムでは、識別が不可能になると述べている。研究者たちは、プラットフォームは現在、本人確認、アカウント不正使用の監視、異常な協調行動の透明性と外部監査において重大な欠陥を抱えており、コンテンツモデレーションだけに頼っていては効果的な防御策にはならないと指摘している。

共有先:

著者:PA一线

この内容は市場情報の提供のみを目的としており、投資助言を構成しません。

PANews公式アカウントをフォローして、強気・弱気相場を一緒に乗り越えましょう