MIT 경제학자와의 인터뷰: "AI 종말론"에 대해 패닉에 빠질 필요는 없다. 검증 능력은 희소한 자원이다.

작성: 펠릭스, PANews

MIT 경제학자 크리스티안 카탈리니가 라이언과 데이비드의 쇼에 출연해 자신의 신간 "인공 일반 인공지능의 간단한 경제학"에 대해 자세히 설명했습니다. 이 논문은 인공지능 경제에서 희소 자원은 더 이상 지능이 아니라 검증, 즉 인간이 인공지능 결과물의 정확성을 확인하고 판단하며 검증할 수 있는 능력이라고 주장합니다.

크리스티안은 산업을 재편하는 두 가지 비용 곡선(자동화 비용과 검증 비용)에 대해 자세히 설명하며, 왜 초급 일자리가 먼저 사라지는지, 그리고 왜 최고 전문가조차 자신도 모르게 후계자를 양성하는지("코더의 저주")를 설명합니다. 또한 그는 이러한 변화 속에서도 유지되는 세 가지 역할, 즉 경영진, 의미 창조자, 그리고 책임 보증인에 대해서도 제시합니다.

PANews는 대화의 주요 내용을 정리했습니다.

진행자: 저를 비롯한 많은 청취자분들이 인공지능에 대한 두려움을 가지고 계신 것 같습니다. 사람들이 인공지능을 걱정하는 이유는 무엇이라고 생각하시나요? 그들의 우려는 타당한 것일까요?

크리스찬: 우리 모두 같은 생각입니다. 지금은 급격하고 혁신적인 변화의 시기이며, 코드에 가까울수록 이러한 변화의 가속화를 더 빨리 목격하게 될 것입니다. 이러한 기하급수적인 성장은 지난 몇 달 동안 매우 현실적으로 다가왔습니다. 이 기술은 많은 사람들이 훨씬 더 오랜 시간이 걸릴 것이라고 생각했던 일들을 해냈고, 우리 모두는 이러한 변화에 적응하기 위해 애쓰고 있습니다. 하지만 저는 "종말론"이라는 이야기는 틀렸다고 생각합니다. 사람들은 이러한 도구들의 잠재력을 과소평가하는 경향이 있습니다. 물론 매우 어려운 전환기가 있을 것입니다. 직업 변화의 속도는 역사상 유례가 없습니다. 하지만 그럼에도 불구하고 기술의 가장 큰 장점을 활용하고 투자한다면, 비록 험난한 여정이 될지라도 장기적으로는 대체로 긍정적일 것입니다. 경제학에서는 일을 일련의 작업으로 보는데, 그중 일부는 자동화될 것이고 이는 좋은 소식입니다. 하지만 핵심은 어떻게 스스로를 재교육하고 변화에 앞서 나가는가입니다.

진행자: 누가 가장 먼저 영향을 받을 거라고 생각하세요?

크리스티안: 정말 좋은 질문입니다. 여러 가지 생각이 드는데요. 우선, 코드에 가장 가까이 있는 사람들이 가장 먼저 영향을 받는다는 말은, 그들이 기술의 강력함을 가장 먼저 경험한다는 뜻입니다. "제븐스 역설"에서 알 수 있듯이, 무언가가 효율적이 되면 우리는 더 많이 소비하는 경향이 있습니다. 예를 들어, 소프트웨어를 더 많이 작성하게 되죠. 프로그래밍은 다른 많은 전문직처럼, 논문에서 "사라지는 기본 루프"라고 부르는 것처럼 차별화될 것이라고 생각합니다. 만약 당신이 초보 프로그래머이고 훌륭한 제품과 평범한 제품을 구별하는 "암묵적 지식"을 아직 습득하지 못했다면, AI가 여러 분야에서 당신을 쉽게 대체할 수 있을 겁니다.

이제 누구나 대부분의 상황을 처리할 수 있는 유능한 마케터, 주니어 프로그래머, 변호사를 쉽게 구할 수 있습니다. 다만, 마지막 단계에서 최고 수준의 변호사가 최종 검증을 담당해야 할 뿐입니다. 반면, 최고 전문가들조차 AI를 도입하는 과정에서 의도적이든 아니든 자신의 업무를 자동화할 수 있는 라벨, 정보, 디지털 흔적을 만들어내고 있습니다. 최고의 연구소들은 금융 분야와 같은 특정 분야의 최고 인재들을 채용하여 평가 기준을 개발하고 이러한 전문 지식을 대규모 모델에 통합하고 있습니다. 따라서 저는 어떤 직업도 100% 안전하지 않으며, 로봇의 능력에 의해 제한되는 수작업조차도 향후 몇 년 안에 보상 모델에서 큰 도약을 이룰 것이라고 생각합니다. 화면 앞에서 일어나는 모든 일은 추적, 복제, 학습될 수 있습니다. 모든 직종에서 중요한 것은 "가능한 한 많은 업무를 AI에 위임한다면, 나는 어디에서 가치를 창출할 수 있을까?"를 생각해 보는 것입니다.

실제로 사람들은 '취향'과 '판단력'에 대해 많은 '자기 위안'적인 생각을 가지고 있습니다. 이러한 개념들은 매우 모호합니다. 그래서 논문에서는 취향이나 좋고 나쁜 판단력이라는 것은 존재하지 않고, 단지 '측정 가능한 것'과 '측정 불가능한 것'의 구분만 있을 뿐이라고 주장합니다. 이미 측정된 것은 기계가 복제할 수 있습니다. 하지만 최고의 디자이너가 수만 시간의 경험을 축적하여 무엇을 출시하고 무엇을 출시하지 말아야 할지 결정하는 것처럼, 아직은 사람의 머릿속에만 존재하는 것이 있다면, 그것을 '검증'이라고 부릅니다. 모든 검증은 이 마지막 단계에 해당합니다. AI 에이전트가 제품을 만들면, 의사 결정권자인 당신이 그것이 시장 출시 기준을 충족하는지 판단하는 것입니다. 기계가 더 나은 데이터를 축적할수록 많은 것들이 자동화될 것입니다. 하지만 미지의 영역이나 데이터가 전혀 없는 곳에서는 앞으로 몇 년 동안은 여전히 인간의 몫이 될 것입니다.

진행자: 정말 통찰력 있는 지적입니다. 그런데 엔지니어들이 자신의 업무를 자동화하는 것은 자연스러운 일인데, 모든 산업이 똑같은 영향을 받고 있는지 궁금합니다.

크리스천: 변화가 불균등하게 일어날 것이라는 증거는 충분합니다. 생각해 보세요. 이 직업이 사회가 실제로 필요로 하지 않는 무언가를 단순히 "재포장"하는 것에 불과한 것은 아닐까요? 예를 들어, 일반적인 컨설팅 업무가 주로 널리 알려진 정보를 재포장하고, 다듬고, 요약하는 일이라면 분명히 위험합니다. 하지만 희소한 전문 지식을 제공하거나 정치적인 이유로 컨설턴트가 필요하다면 살아남을 것입니다. 스스로에게 질문해 보세요. 이 직업이 수익성이 있는 이유는 복잡한 문제를 해결하기 때문일까요, 아니면 단순히 인간이 만들어낸 병목 현상 때문일까요?

진행자: 검증이라는 게 정확히 무슨 뜻인가요? 저는 하루 일과를 인지 작업과 검증 작업으로 나누기가 어렵습니다.

크리스티안: 에이전트들은 인터넷과 책을 통해 모든 것을 배우고 측정해 왔습니다. 왜냐하면 그것들이 더 저렴하고 확장성이 뛰어나기 때문입니다. 따라서 측정 가능한 부분들을 대체해 버린 것이죠. 하지만 에이전트들이 모르는 것은 바로 당신 두뇌 속의 고유한 신경망 가중치입니다. 이는 당신 자신의 경험과 고난을 통해 얻어지는 것이며, 바로 그 경험들이 당신을 최고의 전문가로 만들어 줍니다. 예를 들어, 초기 암호화폐 참여자들 중 상당수는 아르헨티나나 베네수엘라처럼 초인플레이션을 직접 경험한 곳 출신이었습니다. 그들의 자산에 대한 반응은 완전히 달랐죠. 이러한 내재적이고 독특한 측정 방식은 여전히 엄청난 이점으로 작용합니다.

검증이란 무엇일까요? 그것은 당신이 세상을 평가하는 기준과 에이전트가 가진 기준 사이의 차이입니다. 마치 어떤 기사가 독자들의 공감을 얻을지 정확히 아는 최고의 편집자나, AI가 생성한 방대한 코드베이스를 다루면서도 기계가 아직 측정할 수 없는, 중요하지만 사소한 부분까지 사람이 직접 검토해야 한다는 것을 정확히 아는 최고의 CTO와 같습니다.

진행자: 예를 들어 보겠습니다. 만약 제가 X라는 사이트에서 이스라엘이 미사일 공격을 받았다는 영상을 봤는데, 그 영상이 인공지능이 생성한 것이라는 걸 알게 됐습니다. 그리고 제가 제 두뇌를 이용해 문제점을 파악하고, 추가적인 정보를 바탕으로 더 나은 영상을 만들었다면, 그것이 제 "검증 능력"에 해당할까요?

크리스찬: 좋은 예시입니다. 더 나아가면, 머지않아 대부분의 사람들이 영상과 현실을 구별할 수 없는 세상에 도달할지도 모릅니다. 다음 단계는 군사 전문가들이 화염의 움직임에서 이상한 점을 발견하는 것일 수 있습니다. 그다음 단계는 군사 전문가조차도 한눈에 구별할 수 없어 AI가 물리 법칙을 분석하고 시뮬레이션을 수행해야 하는 시점일 수 있습니다. 결국에는 완전히 구별할 수 없게 될 것이고, 그때는 암호화 인프라를 통해 진위 여부를 검증해야 할 것입니다. 의학 분야도 마찬가지입니다. 애매한 사례의 경우, 최고의 영상의학과 전문의가 20년 경력과 환자의 특정 배경에 대한 지식을 활용하여 AI의 진단을 거부해야 할 것입니다. 이것이 우리가 집중하고 있는 마지막 단계의 얇은 "필터"입니다. 이렇게 하면 상당한 시간을 절약할 수 있습니다. 이것이 바로 긍정적인 측면입니다. 더 적은 자원으로 더 많은 일을 할 수 있게 됩니다. 고가의 제품 가격은 하락할 것입니다. 사회 전체적으로 이러한 제품들을 더 많이 소비하게 될 것입니다. 저는 이것이 좋은 소식이라고 생각합니다.

진행자: 하지만 당신의 예시에서, 그는 현재 검증 작업을 수행하고 있지만, 곧 군 지휘관의 개입이 필요하게 되어 직접 검증할 수 없게 될 것이고, 결국 지휘관조차 검증할 수 없게 되어 인공지능에 의존하게 될 것입니다. 이는 '검증'이 처음에는 가치 있는 행위이지만, 곧 인공지능에 의해 자동화될 것이라는 점을 완벽하게 보여주는 것 아닌가요? 결국 '검증' 자체도 안전하지 않다는 결론에 이르게 되는 것 아닌가요?

크리스티안: 맞습니다. 저희 논문에서는 이를 '프로그래머의 저주'라고 부릅니다. 검증이라는 매우 합리적인 행위 자체가 최첨단 기술을 발전시키고 경험을 정량화합니다. 모든 변호사와 실무자들이 AI를 사용하려고 하기 때문에 우리는 멈출 수 없습니다. 검증은 실제로 점점 더 축소되는 영역입니다.

진행자: 최종 검증 작업 영역조차 점점 더 축소되고 있습니다. 언제쯤 이 불안감을 떨쳐낼 수 있을까요?

크리스천: 우선, 소위 '지위 게임'이나 인간이 의미를 부여하는 것들처럼 본질적으로 측정 불가능한 것들이 있습니다. 이러한 영역은 인간의 합의와 협력이 특징이기 때문에 기계가 침범하지 않을 것입니다. 암호화폐도 어떤 면에서는 비슷합니다. 핵심은 무엇이 가치 있는지에 대한 인간의 합의입니다. 측정 가능한 작업이 줄어들수록, 우리는 측정 불가능한 작업에 의미를 부여하는 많은 방법을 발명할 것입니다.

진행자: AI는 10초 만에 웹사이트를 만들 수 있지만, 사람의 관심을 끄는 트윗을 작성할 수는 없을 겁니다. 이것이 AI의 능력을 검증할 마지막 남은 과제 중 하나일까요?

크리스티안: 사람들의 관심을 사로잡고 진정으로 독창적인 농담을 하는 것은 매우 어려운 창작 활동입니다. 이전에는 측정된 적이 없는 것들을 깨뜨리려는 시도죠. 우리는 오랜 생존 기간을 통해 미지의 것에 대처하는 놀라운 능력을 진화시켜 왔습니다. 이런 일을 하는 사람들을 '의미 창조자'라고 부릅니다. 예를 들어 예술이나 문화에서 무엇이 좋은지는 인간의 합의에 달려 있습니다. 인공지능 에이전트를 사용할 때조차도 '의도'를 설정해야 합니다.

진행자: 자동화 비용은 기하급수적으로 감소하고 있지만, "검증 비용"은 어떻습니까? 인간의 생물학적 특성에 의해 영원히 제약을 받을까요?

크리스티안: 현재로서는 생물학적 제약이 있습니다. 따라서 많은 기업들이 AI가 생성한 코드를 대량으로 공개하지만, 이를 읽고 검증할 사람이 충분하지 않아 필연적으로 위험이 숨겨지게 됩니다.

진행자: 인공지능을 이용해서 인공지능을 검증할 수는 없을까요?

크리스티안: AI가 정확하게 검증할 수 있다면, 그 부분은 본질적으로 자동화가 가능합니다. 모든 AI 검증 방법을 다 사용한 후에도 여전히 남아 있는 것은 AI로는 도저히 검증할 수 없는 부분인데, 바로 그 부분이 인간의 개입이 필요한 병목 현상입니다.

진행자: 만약 새로운 희소 자원이 개발되고 있지만 그 양이 계속 줄어든다는 것이 확인된다면, 이러한 경제에서 어떻게 일하고 투자해야 할까요?

크리스티안: 저희는 "자동화 비용"과 "검증 비용"을 기준으로 2x2 매트릭스를 만들었습니다. 왼쪽 아래 사분면은 대체되는 작업자를 나타냅니다. 자동화가 쉽고 검증도 쉽기 때문에 여기에 머무르고 싶지 않을 겁니다. 나머지 세 사분면은 다음과 같습니다.

의미 창조자: 자동화는 어렵고 검증도 어렵습니다. 그들은 사회적 합의, 지위 확보, 그리고 인간관계에 전념합니다. 예를 들어, 패션 업계의 트렌드 창조자나 트위터의 암호화폐 관련 KOL(핵심 오피니언 리더)은 이야기를 만들어내고 관심을 집중시킵니다.

책임보험 인수 담당자: 자동화는 쉽지만 검증은 어렵습니다. 이들은 해당 분야의 최고 전문가로, 저명한 변호사, 의사 또는 벤처 투자자 등이 있습니다. 이들은 인공지능을 광범위하게 활용하지만, 최종적인 예외 사례에 대해서는 책임 인수 및 검증 서비스를 제공합니다.

감독: 자동화는 어렵지만 검증은 쉽습니다. 핵심은 "의도"입니다. 그들은 "알 수 없는 미지의 것들"을 다루며, 기업가처럼 에이전트들을 지휘하고, 방향을 설정하고, 편차를 감지하고, 끊임없이 방향을 수정합니다.

진행자: 최근 졸업생들이 취업 시장에 진출할 때 무엇을 해야 할까요? 한편으로는 가치가 낮은 초급 일자리가 있고, 다른 한편으로는 업계 경력 10년이 필요한 최고 수준의 전문가 직종이 있습니다. 이 둘 사이에는 엄청난 격차가 존재합니다. AI는 이미 기본적인 작업을 수행할 수 있는데, 젊은이들은 어떻게 성장하여 그 반대편에 도달할 수 있을까요?

크리스티안: 격차는 분명히 존재합니다. 하지만 좋은 소식은 학습 시간을 단축할 수 있다는 것입니다. 전통적인 교육 과정을 건너뛸 수 있죠. 요즘 신입 엔지니어들은 사용하는 도구 덕분에 팀 전체의 업무를 혼자서 처리할 수 있습니다. 처음에는 실수를 하겠지만, 신입으로서 완전히 새로운 관점에서 기존 방식에 도전할 수 있다는 점이 장점입니다. 우리가 젊었을 때는 생각지도 못했던 방식으로 아이디어를 실현할 수 있죠. 장단점이 분명히 있습니다.

"학위 취득, 인턴십, 승진을 위한 노력"이라는 옛 경로는 완전히 사라졌고, 이는 엄청난 문화적 충격을 가져옵니다. 특히 최근 졸업생들에게는 매우 어려운 변화입니다. 만약 아직 대학생이라면 진로를 찾을 시간이 충분합니다. 하지만 어려운 상황에 처해 있다면, 제가 드리는 조언은 이러한 도구들을 활용하여 무언가를 만들어내라는 것입니다. 여러분의 야망은 우리가 그 나이였을 때보다 100배는 더 커야 합니다.

진행자: 버튼만 누르는 업무가 대거 사라지면 단기적으로 사회적 혼란이 초래될까요?

크리스천: 사회는 안정성을 유지하기 위해 필요할 때마다 '버튼만 누르면 되는' 단순 반복적인 업무를 끊임없이 만들어낼 것입니다. 하지만 그런 업무에 종사하는 많은 사람들은 사실 훨씬 더 많은 일을 해낼 능력이 있습니다. 과거에는 단지 환경적인 제약 때문에 그 능력을 발휘하지 못했을 뿐입니다. 육체노동이 더 이상 필요하지 않게 되자 우리는 헬스장을 만들었고, 이제 정신노동이 해방되면서 사람들은 도전 의식을 충족하기 위해 다양한 부업이나 크리에이터 경제를 발전시키고 있습니다. 이것이 바로 제가 '무조건적 기본소득(UBI)'이 완전히 잘못되었다고 생각하는 이유입니다. 사람들은 삶의 의미와 자아실현을 위한 동기가 필요합니다. 더욱이, 비록 업무의 상당 부분이 자동화로 대체된다 하더라도, 인공지능을 잘 활용한다면 신입 직원이 팀 전체의 몫을 해낼 수도 있습니다.

진행자: 기업과 투자자들에게 해주고 싶은 조언이 있으신가요?

크리스티안: 기업에게 있어 검증 인프라에 투자하고 "서비스형 책임(Responsibility as a Service, 즉 단순히 대리인 역할을 하는 것뿐만 아니라 결과에 대한 보험까지 제공하는 것)"을 제공하는 것은 매우 중요합니다. 또한, AI는 쉽게 속기 때문에 "독점적인 사실 정보원"을 확보하는 것이 매우 중요하며, 블룸버그처럼 독점적이고 신뢰할 수 있는 데이터나 심층적인 분석을 제공하는 기업은 매우 귀중한 존재입니다. 투자자들은 이러한 분야에 투자하는 것 외에도 "측정 불가능한" 핵심 연구 개발에 집중해야 합니다. 전통적인 네트워크 효과는 실패할 수 있습니다. 새로운 네트워크 효과는 더 나은, 더 진정성 있는 피드백을 통해 다른 기업보다 더 신뢰할 수 있는 대리인을 만드는 방식에 기반하여 구축될 것입니다. 사람들이 진정으로 원하는 것은 검증된 정보이기 때문입니다.

진행자: 암호화 기술은 이러한 검증 과정에서 유용한가요?

크리스찬: 지난 10년간 암호화폐 분야에 구축된 기반 인프라는 매우 중요합니다. "신원 증명"과 같은 온체인 기술은 신원 확인이 필요할 때 강력한 검증 기능을 제공하고 계정 탈취를 방지합니다. 또한 데이터 출처 및 암호화 감독 체인 문제도 있습니다. 정보 생성 및 모델의 규정 준수를 보장하기 위해 강력한 암호화 보안 장치가 필요합니다.

진행자: 사람들은 내년에 무엇을 해야 할까요? 인류의 미래에 대해 낙관적이신가요?

크리스티안: 우선, 당황하지 마세요. 다양한 시도를 해보고, 도구를 활용하여 현재의 자신을 최대한 "제거"하고 자동화하세요. 여러 취미를 탐구하는 것이 가장 의미 있는 진로가 될 수 있습니다. 최소한 현재 모델의 한계와 단점을 파악할 수 있을 겁니다. 많은 온라인 크리에이터들에게 취미는 직업이 되었고, 이것이 미래의 주류가 될 것입니다. 자녀가 있다면, 아이들의 재능을 발견하고 열정에 몰두할 수 있도록 도와주는 것이 가장 중요합니다. 정해진 직업의 틀은 없습니다. 새로운 AI 도구들이 여러분만의 독특한 길을 찾는 데 더 큰 도움을 줄 수 있을 겁니다.

MIT 경제학자와의 인터뷰: "AI 종말론"에 대해 패닉에 빠질 필요는 없다. 검증 능력은 희소한 자원이다.

인기 기사