AIマルチエージェントが人間には解読困難な「方言」を進化させ、ガバナンスへの懸念が浮上

PANews 9月26日付の報道によると、CCTV国際時訊の報道として、米国のAI研究所が仮想「社会」環境でマルチエージェントの協調をテストしたところ、これらのエージェントが通信効率の向上と計算リソース節約のため、自発的に文法を圧縮し、比喩を生み出し、人間には直訳が難しい「方言」のような通信体系を徐々に形成したことが判明した。研究では、複数のAIエージェントが閉鎖的なシステム内で長期間相互作用すると、本来明確だった指示や概念が、その内部でのみ理解可能な記号へと異化し、例えば「台帳」を警告信号へと変換することで、人間による解釈可能性と監督能力が弱まる可能性があると指摘している。報道は、この傾向は現在のAIシステムに「部分的な制御不能」の潜在的リスクが既に現れていることを意味し、AIガバナンスと国際協調規範の策定を早急に進める必要があるとしている。

共有先:

著者:PA一线

この内容は市場情報の提供のみを目的としており、投資助言を構成しません。

PANews公式アカウントをフォローして、強気・弱気相場を一緒に乗り越えましょう
PANews APP
Bitgetが盗難資金回収報奨金プログラムを開始:凍結と回収にそれぞれ5%を報酬
PANews 速報