AI多智能體演化出人類難以解讀「方言」引發治理擔憂

PANews 9月26日消息,據CCTV國際時訊報道,美國一家AI實驗室在虛擬「社會」環境中測試多智能體協作時發現,這些智能體為提升通信效率和節省算力,會自發壓縮語法、創造隱喻,逐漸形成一種人類難以直譯的「方言」式通信體系。研究指出,當多個AI智能體長期在封閉系統中交互時,可能將原本清晰的指令與概念異化為僅在其內部可理解的符號,例如將「賬本」轉化為預警信號,從而削弱人類的可解釋性與監管能力。報道認為,這種趨勢意味着當前AI系統已出現「部分失控」的潛在風險,AI治理和國際協作規範的制定亟需加快推進。

分享至:

作者:PA一线

本內容只為提供市場資訊,不構成投資建議。

關注PANews官方賬號,一起穿越牛熊
PANews APP
中美达成八点成果共识,包括包括双方同意建立人工智能事件的沟通渠道
PANews 快訊