AI 멀티 에이전트, 인간이 해석하기 어려운 '방언' 진화로 거버넌스 우려 제기

PANews 9월 26일 소식, CCTV 국제시보 보도에 따르면 미국의 한 AI 연구소가 가상 '사회' 환경에서 멀티 에이전트 협업을 테스트하던 중, 이들 에이전트가 통신 효율을 높이고 연산 자원을 절약하기 위해 자발적으로 문법을 압축하고 은유를 창조하며, 점차 인간이 직접 번역하기 어려운 '방언'식 통신 체계를 형성하는 것을 발견했다. 연구는 여러 AI 에이전트가 폐쇄 시스템에서 장기간 상호작용할 경우, 원래 명확했던 명령과 개념이 내부에서만 이해 가능한 기호로 이질화될 수 있다고 지적했다. 예를 들어 '장부'를 경보 신호로 전환하는 식으로, 이는 인간의 해석 가능성과 규제 능력을 약화시킨다. 보도는 이러한 추세가 현재 AI 시스템에 '부분적 통제 상실'의 잠재적 위험이 나타났음을 의미하며, AI 거버넌스와 국제 협력 규범 마련을 시급히 가속화해야 한다고 평가했다.

공유하기:

작성자: PA一线

이 내용은 시장 정보 제공만을 목적으로 하며, 투자 조언을 구성하지 않습니다.

PANews 공식 계정을 팔로우하고 함께 상승장과 하락장을 헤쳐나가세요
PANews APP
Bitget, 도난 자금 회수 현상금 프로그램 출시: 동결 및 회수 각각 5% 보상
PANews 속보