2026년 7월 3일, 국가인터넷정보판공실은 《인터넷 정보 서비스 관리 방법(개정 초안 의견 수렴안)》을 발표하며 처음으로 '지능형 정보 서비스' 전용 장을 신설했습니다. 2023년의 《생성형 인공지능 서비스 관리 잠정 방법》과 비교해, 이번 개정 초안은 AI 서비스 제공자에게 기술 기본 원리와 학습 데이터 출처를 공개하도록 요구하고, 사용자에게 지능형 정보 서비스 사용을 강제하는 행위를 명확히 금지했습니다.

대형 모델들이 사전 학습 데이터가 20조 토큰을 넘는다고 흔히 주장하면서도 그 출처에 대해서는 함구하고, 각종 앱에서 '무엇이든 AI 덧붙이기'가 만연하며 기본 활성화 상태에서 끄기도 어려운 혼란이 지속되는 가운데, 새 규정의 시행은 중국의 AI 규제 논리가 '포용적이고 신중한' 접근에서 '투명성과 조작 방지의 동시 중시'로 전면 전환되었음을 의미합니다. AI 창업자와 개발자에게 이는 더 이상 거시적인 문서가 아닌, 제품 설계, 규정 준수 비용 및 비즈니스 모델에 직접적으로 직결되는 생존 시험 과제입니다.

규제 세분화 수준 도약: 데이터 출처 및 작동 메커니즘 공개 의무화

중국의 AI 규제 세분화 수준이 도약하고 있습니다. 2023년 7월 시행된 《생성형 인공지능 서비스 관리 잠정 방법》은 데이터 수준에서 "법에 따라 사전 학습, 최적화 학습 등 학습 데이터 처리 활동을 수행할 것"만을 요구하여 최소 기준 규범에 해당했습니다. 그러나 이번 《개정 초안》 제56조는 지능형 정보 서비스 제공자가 관련 기술의 기본 원리, 목적과 의의, 주요 작동 메커니즘, 학습 데이터 출처 등의 정보를 공개해야 한다고 명확히 요구합니다.

이는 투명성이 권고 수준의 장려 사항에서 강제적 진입 장벽으로 바뀌었음을 의미하며, 관련 정보를 공개하지 않은 AI 제품은 출시 불가 또는 퇴출 위험에 직면하게 됩니다.

20조 토큰의 출처 추적 방법: 창업 팀의 규정 준수 회계 장부

학습 데이터 출처 공개 의무화는 AI 창업 팀에게 계산하기 어려운 난제입니다. 현재 중국 주요 대형 모델들의 데이터 공개는 전반적으로 '규모는 강조하고 출처는 소홀히' 하는 경향이 있습니다. 통의천문 Qwen2.5-Max의 경우 즈위안 커뮤니티 등 기관의 공개에 따르면 사전 학습 데이터가 20조 토큰을 넘으며, Kimi 등 모델의 기술 보고서도 웹페이지, 코드 등을 포함한 데이터를 다루고 있다고 언급합니다. 그러나 이러한 정보는 대부분 기술 보고서의 거시적 설명 수준에 머물러 있으며, C端 사용자에게 구체적인 데이터 출처 목록과 저작권 필터링 상황을 상세히 공개한 사례는 거의 없습니다. 펑파이뉴스는 2025년 초 7개의 주요 대형 모델을 실측하며 개인정보 노출이 일반적인 문제이며 정보 공개 투명성이 심각하게 부족하다고 지적한 바 있습니다.

오픈소스 데이터셋이나 웹 크롤러에 의존하는 중소 창업자에게 새 규정이 시행되면 완전한 '데이터 계보' 장부를 구축해야 합니다. 수십조 토큰에 달하는 데이터의 출처 추적 및 저작권 필터링 메커니즘은 막대한 법률 및 컴퓨팅 비용을 필요로 합니다. 만약 정보를 공개할 수 없거나 공개 내용에 결함이 있으면 제품은 직접적인 퇴출 위험에 처하게 됩니다. 이는 사실상 업계 진입 장벽을 높여 규정 준수 인프라 구축 능력이 부족한 팀을 출발점에서 탈락시키는 결과를 낳습니다.

AI 사용 강제 금지: 앱에 기능을 끼워 넣는 트래픽 논리 무효화

초안은 사용자에게 지능형 정보 서비스 사용을 강제하는 행위와 알고리즘을 이용해 인터넷 여론 질서에 개입하는 행위를 명확히 금지합니다. 이 조항은 현재 인터넷 제품에서 만연한 '무엇이든 AI 덧붙이기' 트래픽 병폐를 직접 겨냥합니다.

2026년 4월, 국내 18개 대형 모델 업체들은 《차세대 인공지능 산업 기능 규범 관리 이니셔티브》를 공동 발표하여 '끌 수 있는 AI 원칙'을 제안하며 숨겨진 스위치 및 자동 재시작 등의 편법을 강하게 비판했습니다. 이는 다양한 앱에서 기본적으로 AI 어시스턴트를 활성화하고 여러 단계의 숨겨진 끄기 스위치를 설정하며, 조용히 데이터를 수집하여 모델에 재투입하는 혼란상을 방증합니다.

새 규정의 시행은 대기업들이 '끌 수 없는 플로팅 창'으로 AI 인터랙션 데이터를 획득하던 트래픽 플라이휠을 직접적으로 차단할 것입니다. AI 창업자와 개발자에게 제품 설계 논리는 근본적으로 변화해야 합니다. AI 기능은 더 이상 사용자에게 강제로 떠넘기는 부담이 아닌, 진정한 사용자 가치로 돌아가야 합니다. 제품 인터페이스에는 명확한 한 번 클릭 종료 옵션을 제공하고 백그라운드 실행을 완전히 종료해야 합니다. 트래픽 획득 논리가 '강제 노출'에서 '가치 유도'로 전환됨에 따라, 이는 AI 제품의 사용자 유지 능력과 핵심 경험에 대한 더 높은 요구 사항을 제시합니다.

눈에 띄는 식별 표시와 사이버 폭력 방지: 생성 인터페이스에 심사 로직 추가 필수

콘텐츠 거버넌스 수준에서 초안은 생성 합성 콘텐츠에 눈에 띄는 식별 표시를 하고, 플랫폼이 사이버 폭력 정보 특성 데이터베이스를 구축하여 사용자에게 차단, 전재 금지 등의 보호 기능을 제공하도록 규정합니다.

2025년 9월 정식 시행된 《인공지능 생성 합성 콘텐츠 식별 방법》 및 강제적 국가 표준과 결합하여, AIGC 콘텐츠의 명시적 및 암시적 식별은 강제적 요구 사항이 되었습니다. 이는 AI 생성 체인에 대한 심층적인 기술 개조가 필요함을 의미합니다. API를 제공하는 개발자의 경우 인터페이스 단에서 콘텐츠 안전 심사 로직을 추가하고 디지털 워터마크 또는 메타데이터 등 암시적 식별자를 주입해야 합니다. 동시에 생성된 콘텐츠는 사이버 폭력 정보 특성 데이터베이스에 연동되어 사전 차단되어야 하며, 콘텐츠 거버넌스는 더 이상 사후 대책이 아닌 제품 인프라의 일부가 됩니다.

규정 준수 요구 사항이 높아짐에 따라 AI 콘텐츠 탐지 도구의 응용 시나리오도 확장될 것입니다. 이들은 괴짜 플레이어의 테스트 장난감에서 플랫폼 심사 및 기업 규정 준수를 지원하는 인프라로 변모하여, 규정에 따라 식별 표시되지 않은 AI 생성 콘텐츠를 식별하는 데 도움을 주고 콘텐츠 거버넌스 생태계를 개선할 것입니다.

점검 결과를 종합해 볼 때, 선두 대형 모델 제품조차도 데이터 출처의 상세한 공개에 있어 여전히 모호한 처리 상태에 머물러 있으며 투명성이 부족합니다. 콘텐츠 식별 측면에서는 기본적인 AIGC 식별 표시가 보편화되었지만 암시적 워터마크 등 기술은 아직 전면적으로 적용되지 않았습니다. AI 기능 종료 가능성에 있어서 업계 전반에는 완전히 종료하기 어려운 문제점이 있으며, 일부 통합 시나리오에서의 AI 어시스턴트가 여전히 기본 활성화 상태입니다. 현재 업계 전체는 새 규정의 요구 사항과 상당한 격차가 있으며, 특히 데이터 출처 공개와 AI 기능 종료 가능성 측면에서 규정 준수 공백이 존재합니다.

규정 준수 심사는 제품 출시 후 법무 부서가 사후 보완하는 방식이 아닌 제품 개발 단계로 전진 배치되어야 합니다. 창업자는 외부 AI 도구를 선택하거나 자체 모델을 연구 개발할 때 데이터 투명성과 조작 방지 능력을 핵심 평가지표에 포함시켜야 합니다. 투명성과 조작 방지라는 새로운 규정 준수 프레임워크 하에서, 규정 준수 비용을 연구 개발의 기반에 반영해야만 AI 제품이 시장에 진출할 자격을 갖추게 됩니다.