觀點:AI自主代理「集群」或加劇平台民意操控風險

PANews 2月20日消息,據Decrypt報道,多國高校與科研機構研究人員在《Science》發表論文警告,未來線上“影響力行動”正從易識別的簡單水軍/殭屍網絡,演變為由大量自主AI agents組成的“swarms(集群)”,可在人工幹預下演變為由大量自主AI agents組成的“swarms(集群)”,可在人工幹預下演變為由大量操縱輿論。研究稱,此類AI集群能偽裝真人行為、跨帳號和跨平台自適應調整話術,並在長週期持續營造特定敘事,使現有主要針對垃圾內容與單點違規的風控與審核難以有效識別。學者指出,該平台目前在身份驗證、帳號濫用監控以及對異常協同行為的透明度和外部審計方面均存在明顯不足,單純依賴內容審核難以構成有效防線。

分享至:

作者:PA一线

本內容只為提供市場資訊,不構成投資建議。

關注PANews官方賬號,一起穿越牛熊