글쓴이: 낸시, PANews

소셜 미디어는 여전히 활기 넘치는 것처럼 보이지만, '진짜 사람들'이라는 느낌은 점차 사라지고 있습니다. 인공지능이 만들어낸 허접한 콘텐츠가 주요 플랫폼에 넘쳐나고, 가짜 뉴스와 클릭 유도성 콘텐츠가 만연하면서, 실제 사용자들은 공유하고 싶은 마음을 잃어가고 심지어 떠나기까지 하고 있습니다.

인공지능(AI) 생성 콘텐츠가 급증하는 상황에서 단순한 알고리즘 검열만으로는 충분하지 않다는 것이 드러나고 있다. 최근 유명 벤처캐피탈 회사인 a16z는 실제 자금을 투입하여 AI가 만들어낸 잡음을 걸러내는 '스테이크드 미디어(Stacked Media)'라는 개념을 제시하며 시장의 주목을 받고 있다.

인공지능이 스스로 복제하기 시작하면서 인터넷은 "미리 만들어진 콘텐츠"로 넘쳐나고 있습니다.

"인공지능이 인공지능을 모방하기 시작했다."

최근 '미국의 온라인 포럼'으로 불리는 레딧의 운영진들은 인공지능(AI)이 생성한 콘텐츠의 엄청난 양에 압도당하고 있습니다. 2400만 명의 사용자를 보유한 r/AmItheAsshole 서브레딧에서는 콘텐츠의 절반 이상이 AI 생성물이라고 운영진들이 불만을 토로하고 있습니다.

2025년 상반기에만 레딧은 4천만 건 이상의 스팸 및 허위 정보를 삭제했습니다. 이러한 현상은 페이스북, 인스타그램, X, 유튜브, 샤오홍슈, 틱톡과 같은 플랫폼으로 바이러스처럼 확산되었습니다.

정보 과잉 시대에 진정한 목소리가 점점 더 희박해지는 가운데, AI가 생성한 쓰레기 콘텐츠가 인터넷 전체에 만연하여 사람들의 정신을 은밀하게 훼손하고 있습니다. 실제로 ChatGPT나 Gemini와 같은 생성형 도구가 널리 사용되면서 수작업으로 이루어지는 콘텐츠 제작은 AI로 대체되어 마치 "생산 라인 공장"처럼 변모하고 있습니다.

검색 엔진 최적화 회사인 Graphite의 최신 연구에 따르면, ChatGPT가 2022년 말에 출시된 이후 AI가 생성한 기사의 비율이 급격히 증가하여, 그해 약 10%에서 2024년에는 40% 이상으로 치솟았습니다. 올해 5월 현재, 이 비율은 52%까지 상승했습니다.

하지만 이러한 AI 생성 콘텐츠 대부분은 마치 정해진 레시피와 표준화된 제작 과정을 거친 "미리 만들어진 음식"과 같아서, 영혼도 없고 맛도 없습니다. 더욱이 오늘날의 AI는 더 이상 어설프지 않습니다. 인간의 목소리 톤을 흉내낼 뿐만 아니라 감정까지 모방할 수 있습니다. 여행 가이드부터 감정적인 논쟁, 심지어 클릭 수를 늘리기 위해 의도적으로 조장하는 사회적 갈등까지, AI는 모든 것을 손쉽게 처리할 수 있습니다.

더욱 치명적인 것은 인공지능이 환각을 경험할 때, 아무렇지도 않은 듯 횡설수설할 수 있다는 점입니다. 이는 정보 쓰레기를 만들어낼 뿐만 아니라 신뢰 위기를 초래할 수 있습니다.

인공지능이 만연한 시대에, 진정한 투자를 통해 미디어의 신뢰를 구축하라.

온라인상에서 인공지능(AI)이 생성한 스팸이 만연함에 따라, 주요 플랫폼들은 검토 메커니즘을 업데이트하고 AI 지원을 도입했음에도 불구하고 문제 해결에 제한적인 성과만을 거두고 있습니다. 암호화폐 전문 기업 a16z crypto에서 발표한 주요 연례 보고서에서 로버트 해킷은 "스테이킹 미디어"라는 개념을 소개했습니다. (관련 기사: a16z: 2026년을 위한 17가지 흥미로운 암호화폐 트렌드 )

보고서는 전통적인 미디어 모델이 객관성을 내세우지만, 그 단점은 오래전부터 명백했다고 지적합니다. 인터넷은 모든 사람에게 발언권을 주었고, 오늘날 점점 더 많은 실무자, 이해관계자, 그리고 개발자들이 자신의 견해를 대중에게 직접 전달하고 있으며, 그들의 관점은 세상에 대한 그들의 이해관계를 반영합니다. 아이러니하게도, 청중은 그들을 "이해관계가 있음에도 불구하고"가 아니라 "바로 이해관계가 있기 때문에" 존중합니다.

이러한 추세의 새로운 발전은 소셜 미디어의 등장 때문이 아니라, 사람들이 공개적으로 검증 가능한 약속을 할 수 있도록 하는 "암호화 도구"의 출현 때문입니다. 인공지능(AI)이 대량의 콘텐츠 생성 비용을 획기적으로 절감하고 과정을 간소화함에 따라(어떤 관점이나 정체성을 기반으로 하든, 진위 여부와 관계없이 콘텐츠 생성 가능), 인간(또는 로봇)의 진술에만 의존하는 것은 더 이상 설득력이 없습니다. 토큰화된 자산, 프로그래밍 가능한 락업 기간, 예측 시장, 온체인 기록은 신뢰를 위한 더욱 견고한 기반을 제공합니다. 논평가는 자신의 말과 행동의 일관성을 입증할 수 있고(자금으로 의견을 뒷받침), 팟캐스터는 토큰을 락업하여 시장이나 가격을 조작하지 않을 것임을 증명할 수 있으며, 분석가는 자신의 예측을 공개적으로 결제되는 시장과 연결하여 감사 가능한 기록을 생성할 수 있습니다.

이것이 바로 "약속 미디어"라고 불리는 것의 초기 형태입니다. 약속 미디어란 이해관계자의 신념을 지지할 뿐만 아니라 검증 가능한 증거를 제공하는 구체적인 형태의 미디어를 말합니다. 이 모델에서 신뢰성은 가장된 중립성이나 근거 없는 주장이 아니라, 투명하고 검증 가능한 이익 약속에서 비롯됩니다. 약속 미디어는 다른 미디어 형태를 대체하는 것이 아니라 기존 미디어 생태계를 보완할 것입니다. 이는 "믿으세요, 저는 중립적입니다"라는 메시지가 아니라 "이것은 제가 감수할 수 있는 위험이며, 제 말이 사실인지 이렇게 확인할 수 있습니다"라는 새로운 메시지를 전달합니다.

로버트 해킷은 이 분야가 계속해서 성장할 것이라고 예측합니다. 마치 20세기 대중 매체가 당시의 기술과 시장 상황(대중과 광고주를 끌어들이기 위해)에 맞춰 표면적으로는 "객관성"과 "중립성"을 추구했던 것과 유사하다는 것입니다. 오늘날 인공지능은 어떤 콘텐츠든 손쉽게 만들어내거나 조작할 수 있게 되었고, 진정으로 부족한 것은 바로 증거입니다. 따라서 검증 가능한 약속을 하고 자신의 주장을 진정성 있게 뒷받침할 수 있는 콘텐츠 제작자들이 더 큰 이점을 얻게 될 것입니다.

위조 비용을 높이기 위해 스테이킹 메커니즘을 사용하는 대신, 이중 콘텐츠 검증 메커니즘을 도입하는 것이 좋습니다.

이 혁신적인 아이디어는 암호화폐 전문가들로부터도 인정을 받았으며, 여러 제안이 나왔습니다.

암호화폐 분석가 천젠은 주류 언론부터 독립 언론에 이르기까지 가짜 뉴스가 만연하고 있으며, 하나의 사건이 수없이 왜곡되어 보도된다고 지적했습니다. 근본적인 이유는 정보 조작에 드는 비용이 적고 수익성이 높기 때문입니다. 만약 각 정보 유포자를 노드로 간주한다면, 블록체인의 지분증명(PoS) 방식의 경제 게임 메커니즘을 활용하여 이 문제를 해결할 수 있지 않을까요? 그는 예를 들어, 각 노드가 의견을 발표하기 전에 자금을 예치하도록 하고, 예치된 자금이 많을수록 신뢰도가 높아지도록 하는 방안을 제안했습니다. 다른 참여자들은 증거를 수집하여 해당 노드의 주장에 이의를 제기할 수 있으며, 이의 제기가 성공하면 시스템은 예치된 자금을 몰수하고 이의 제기자에게 보상을 지급하는 방식입니다. 물론 이 과정에는 개인정보 보호 및 효율성 문제도 수반됩니다. 현재 스웜 네트워크(Swarm Network)와 같은 솔루션은 ZK와 AI를 결합하여 참여자의 개인정보를 보호하는 동시에 트위터의 그록(Grok)이 제공하는 진실 검증 기능과 유사하게 다중 모델 데이터 분석을 통해 검증을 지원합니다.

크립토 KOL인 블루 폭스 는 영지식 증명(ZK) 및 기타 암호화 기술을 통해 미디어 매체나 개인이 온라인에서 신뢰성을 입증할 수 있으며, 이는 마치 온라인에서 "서면 계약서에 서명하는 것"과 유사하고 블록체인 상에서 계약 내용을 변경할 수 없다고 주장합니다. 그러나 서면 계약만으로는 충분하지 않으며, 이더리움(ETH), USDC 또는 기타 암호화 토큰과 같은 특정 자산을 "담보"해야 합니다.

스테이킹 메커니즘의 논리는 매우 간단합니다. 게시된 콘텐츠가 가짜 뉴스로 판명되면 스테이킹된 자산은 몰수됩니다. 반대로 콘텐츠가 진실되고 신뢰할 만하다면 일정 기간 후 스테이킹된 자산이 반환되며, 추가 보상(예: 언론사가 발행하는 스테이킹 토큰 또는 가짜 뉴스 유포자가 몰수한 자금의 일부)을 받을 수도 있습니다. 이 메커니즘은 진실을 말하도록 장려하는 환경을 조성합니다. 언론사 입장에서는 스테이킹으로 인해 자금 조달 비용이 증가하지만, 그 대가로 진정한 독자층의 신뢰를 얻을 수 있습니다. 이는 가짜 뉴스가 만연한 시대에 특히 중요합니다.

예를 들어, 유튜버가 제품을 추천하는 영상을 올릴 때 이더리움 블록체인에 "계약"을 체결하고 ETH 또는 USDC를 스테이킹해야 합니다. 영상 내용이 거짓일 경우 스테이킹된 자금은 몰수되므로 시청자는 영상 콘텐츠의 신뢰성을 높일 수 있습니다. 만약 유튜버가 휴대폰을 추천한다면, 100달러 상당의 ETH를 스테이킹하고 "휴대폰의 뷰티 기능이 제대로 작동하지 않으면 보상해 드리겠습니다"라고 선언해야 합니다. 스테이킹된 자금을 보면 시청자는 자연스럽게 더 큰 신뢰를 갖게 됩니다. 만약 콘텐츠가 AI에 의해 생성된 것이라면, 유튜버는 스테이킹된 자금을 잃게 됩니다.

콘텐츠의 진위 여부를 판단하기 위해 Blue Fox는 "커뮤니티 + 알고리즘"이라는 이중 검증 메커니즘을 제안합니다. 커뮤니티 측면에서는 투표권(스테이킹된 암호화 자산 필요)을 가진 사용자가 온체인에서 투표합니다. 특정 비율(예: 60%) 이상의 찬성표를 얻으면 해당 콘텐츠는 가짜로 간주됩니다. 알고리즘 측면에서는 데이터 분석을 통해 투표 결과를 검증합니다. 중재 메커니즘의 경우, 콘텐츠 제작자가 결정에 동의하지 않을 경우 전문가 위원회에 중재를 요청할 수 있습니다. 투표자의 악의적인 조작이 밝혀지면 해당 투표자의 자산은 몰수됩니다. 투표와 전문가 위원회 모두 몰수된 자산과 미디어 토큰을 포함한 보상을 제공합니다. 또한 콘텐츠 제작자는 영지식 증명 기술을 사용하여 동영상의 실제 출처를 확인하는 등 콘텐츠의 진위 여부를 입증하는 증거를 생성할 수 있습니다.

담보대출 플랫폼을 이용해 콘텐츠를 조작하려는 자금력이 충분한 사람들에게 블루 폭스는 금전적 투자뿐 아니라 시간 투자, 기록 손실, 평판 손상, 법적 책임 등 장기적인 사기 행위의 비용을 증가시키는 방안을 제안합니다. 예를 들어, 계정이 압수되면 추가 자금을 예치해야 하고, 반복적인 압수는 콘텐츠의 신뢰도를 크게 떨어뜨리며, 심각한 경우에는 법적 처벌까지 받을 수 있습니다.