a16z, AI 컴퓨팅 파워 분석: 매출 두 배, 주가 압박, 놀라운 자본 지출

원문 제목: Charts of the Week: Head In The Neoclouds

편집자 노트: 생성형 AI가 새로운 컴퓨팅 투자 흐름을 이끄는 가운데, AI 인프라에 대한 시장 논의는 ‘GPU가 충분한가’에서 ‘누가 지속 가능한 방식으로 컴퓨팅을 공급할 수 있는가’로 옮겨가고 있다. 모델 훈련·추론 수요와 데이터센터 확장이 공감대가 된 지금, 더 근본적인 질문이 떠오른다. 컴퓨팅 수요의 고속 성장이 실제로 안정적인 이익과 현금흐름으로 이어질 수 있을까?

a16z New Media가 발표한 『Charts of the Week』에서 저자 Moses Sternstein은 CoreWeave, Nebius, Applied Digital 등 네오클라우드 기업을 출발점으로 삼아 AI 컴퓨팅 시장의 성장, 밸류에이션과 수익성 간 모순을 논하고, 이를 수평형 SaaS, 모델 라우팅, 프런티어 연구소 인재 경쟁으로까지 확장한다.

이 글에서 저자는 AI 수요가 강한지를 단순히 판단하기보다, 현재 AI 거래를 더 근본적인 구조적 문제들로 분해한다. 기존 인프라는 어떻게 재평가되는지, 매출 성장은 왜 시장 기대를 동시에 개선하지 못하는지, AI 산업의 경쟁 초점은 왜 단순한 확장에서 효율성과 수익으로 이동하고 있는지가 그것이다.

첫째, 인프라 가치의 재발견이다. 과거에는 철도 연선 토지, 천연가스 파이프라인, 케이블 TV 네트워크가 특정 산업을 위해 쓰이다가 이후 통신·인터넷 인프라로 탈바꿈했다. 오늘날 유사한 자산 재평가가 다시 일어나고 있다. 일부 네오클라우드 기업은 원래 암호화폐 채굴에 종사하면서 이미 전력, 전산실, 냉각 시스템, 고밀도 컴퓨팅 운영 경험을 갖췄다. AI 수요가 폭발하자 이런 능력은 빠르게 희소한 컴퓨팅 공급으로 전환됐다. 여기서 중요한 점은 AI 인프라 경쟁이 완전히 제로에서 시작되지는 않는다는 것이다. 초기 우위는 흔히 기존 자산, 에너지 자원, 엔지니어링 역량의 재조합에서 나온다.

둘째, 매출 고성장과 수익 불확실성의 공존이다. CoreWeave 등 네오클라우드 기업의 초기 매출 성장률은 한때 AWS 등 클라우드 거대 기업들의 초기 단계를 웃돌았지만, 자본시장은 같은 수준으로 인정하지 않았다. 그 이유는 네오클라우드가 전형적인 자산경량 소프트웨어 사업이 아니기 때문이다. GPU 구매, 전력 연결, 데이터센터 구축, 칩 감가상각, 부채 이자는 규모와 함께 늘어나며, 때로는 매출보다 빠르게 증가한다. 이는 매출 확장이 AI 컴퓨팅 수요가 강하다는 것만 증명할 뿐, 비즈니스 모델의 자본수익률이 충분히 높다는 것을 자동으로 증명하지는 못한다는 뜻이다. 시장이 실제로 기다리는 것은 이들 기업이 수주와 매출을 지속 가능한 잉여현금흐름으로 전환할 수 있는지다.

셋째, 소프트웨어 가치는 AI 영향에 따라 다시 갈리고 있다. 과거 시장은 생성형 AI가 SaaS 기업의 해자를 전반적으로 약화시킬 것을 우려했지만, Atlassian의 성과는 AI가 고객 지출과 제품 고착도를 높이는 도구가 될 수도 있음을 보여준다. 동시에 사이버보안 및 옵저버빌리티 소프트웨어는 AI가 잠재 위험을 키우고 검증된 솔루션에 대한 기업의 의존도를 높이기 때문에 계속 밸류에이션 프리미엄을 받는다. 이는 이른바 ‘SaaS 종말’이 균일하게 닥치지는 않는다는 뜻이다. AI가 제품을 대체할지, 가격을 낮출지, 아니면 수요를 확대할지가 소프트웨어 밸류에이션을 가르는 새로운 기준이 되고 있다.

넷째, AI 애플리케이션은 ‘토큰 쌓기’에서 토큰 최적화로 이동하고 있다. 과거 기업들은 가장 성능이 좋은 모델을 직접 호출하거나, 엔지니어링 팀에 예산을 주고 직접 실험하게 하는 경향이 있었다. 오늘날 Databricks 등 회사는 지능형 라우팅을 통해 작업 난이도에 따라 가격과 성능이 다른 모델을 매칭해 효과는 유지하면서 비용을 낮춘다. 토큰 단가 하락이 반드시 AI 총지출 축소를 의미하지는 않는다. 단위 비용이 내려가고 응용 시나리오가 늘어나면 토큰 소비 총량과 전체 시장 규모는 계속 커질 수 있다. 효율성과 수요는 서로 배타적이지 않으며, 서로를 강화하는 순환을 형성할 수 있다.

이 글을 한 가지 판단으로 압축하면, AI 인프라는 이미 높은 성장을 만들어낼 수 있음을 입증했지만, 다음 국면의 승부는 기업이 성장을 더 높은 자본 효율성으로 전환할 수 있는지에 달려 있다는 것이다. 그런 의미에서 이 글이 다루는 대상은 CoreWeave 같은 기업들이 차세대 클라우드 거인이 될 수 있는지에 그치지 않고, AI 산업 전체가 컴퓨팅 확장에서 지속 가능한 사업적 수익으로 나아갈 수 있는지다.

이하 원문 내용:

머리 위의 ‘네오클라우드’

20세기 초, 서던퍼시픽 철도는 미국의 여러 도시와 마을을 연결하도록 정리된 부지 위에 막대한 유휴 건설권을 보유하고 있었다. 철도 통행권의 폭은 선로 자체보다 훨씬 넓었기 때문에, 선로를 따라 개발 가능한 회랑이 많이 남아 있었다.

그래서 이 철도 회사는 선로를 따라 통신 네트워크를 구축했고, 이를 ‘서던퍼시픽 철도 내부 네트워킹 텔레포니(Southern Pacific Railroad Internal Networking Telephony)’라고 명명했다. 1970년대에 이르러 회사는 이 네트워크를 상용화해 더 넓은 사용자에게 개방하기 시작했다.

이후 두 가지 일이 동시에 일어났다. 한편으로는 장거리 전화 시장의 독점 구도가 끝났고, 다른 한편으로는 광섬유 케이블이 상업적으로 실현 가능해지기 시작했다. 기존 통신 회랑은 광섬유 회선으로 탈바꿈했고, 이 네트워크는 나중에 영어 약어인 ‘Sprint’로 알려지게 됐다. 한때 철도에 쓰이던 자산은 그렇게 통신 혁명의 인프라 백본이 됐다.

기존의 물리적 네트워크를 더 큰 규모의 상업용 기술 인프라로 탈바꿈한 것은 철도 회사만이 아니었다.

1980년대 윌리엄스 컴퍼니(Williams Company)는 유휴 천연가스 파이프라인을 광섬유 통로로 개조해 WilTel을 설립했다. 이 회사는 나중에 매각됐고, 최종적으로 WorldCom으로 사명이 바뀌었다. 1990년대에는 케이블 TV 사업을 위해 포설된 단방향 동축 케이블도 대규모의 값비싼 업그레이드를 거치면서 마침내 Comcast와 Charter가 소비자에게 광대역 인터넷 서비스를 제공하기 위한 인프라가 됐다.

이것은 또 다른 부류의 기업으로 이어진다. 이들도 이미 갖춰진 인프라를 보유하고 있으며, 이 자산은 이제 신흥 기술의 수요를 충족하기 위해 대대적으로 개조·재평가되고 있다. 이들이 바로 ‘네오클라우드(neocloud)’ 기업이다.

간단히 요약하면, 네오클라우드 기업들은 대부분 원래 에너지·컴퓨팅 집약적인 암호화폐 채굴 사업을 하다가 AI 물결을 맞았다. 갑자기 전력 사용권, 인프라, 고강도 컴퓨팅 부하를 구축·관리한 경험을 가진 곳이, 그리고 CoreWeave의 경우 대량의 GPU까지 보유한 곳이, 지금 가장 뜨거운 분야 중 하나에 서게 됐다.

물론 이는 엄밀히 말해 같은 기준의 비교는 아니다. 하지만 규모가 가장 큰 세 곳의 상장 네오클라우드 기업의 매출 성장률을 보면, 그 속도는 확실히 눈에 띈다.

하이퍼스케일 클라우드 사업자의 초창기 클라우드 사업 매출은 추정할 수밖에 없지만, 대략적인 추세는 분명하다. 네오클라우드 기업들의 성장 속도는 매우 빠르고, 3대 클라우드 사업자의 초기 성장 속도보다 확연히 빠르다.

다만, 전체 컴퓨팅 판매 시장에서 네오클라우드 기업은 현재도 상대적으로 작은 참여자에 불과하다.

이들은 하이퍼스케일 클라우드 사업자의 몸집과는 여전히 거리가 멀다.

하이퍼스케일 클라우드 사업자들이 분기마다 창출하는 매출은 네오클라우드 기업보다 몇 자릿수나 많다. 그러나 동시에 CoreWeave는 약 25개 분기 만에 AWS가 출시 후 40번째 분기에 도달한 26억 달러 매출을 달성했다. 다시 강조하지만, 이들 기업의 성장 속도는 정말 매우 빠르다.

이렇게 높은 성장세에 AI 업종의 순풍까지 더해졌으니 투자자들이 상당히 흥분하는 게 당연해 보인다. 어느 정도는 사실이지만, 실제 상황은 더 복잡하다.

이들 기업의 최근 분기 실적은 대체로 좋았지만, 지난 1년 동안 CoreWeave의 주가는 누적 약 16% 하락했다. Nebius만이 이전 고점에 비교적 가까운 수준이다.

그래서 이 이야기는 전반적으로 여전히 괜찮지만, 그중 규모가 가장 큰 네오클라우드 기업에게는 매력이 확실히 다소 떨어진다.

최근 시장 흐름이 상대적으로 밋밋한 이유 중 하나는 많은 성장 기대가 이미 밸류에이션에 반영됐을 가능성이 있기 때문이다.

네오클라우드와 같은 자본 집약적 기업에는 주가매출비율(PSR)이 가장 적합한 밸류에이션 지표는 아니지만, 문제를 설명하는 데는 여전히 직관적이다. 규모가 더 작고 성장 속도가 더 빠른 Nebius와 Applied Digital은 규모가 훨씬 큰 CoreWeave보다 밸류에이션 프리미엄이 훨씬 높다. CoreWeave의 매출은 여전히 두 배로 증가하고 있지만, 선두 기업들의 400%~450% 성장률에는 이미 못 미친다.

네오클라우드 기업에 진정한 문제가 있다면 그것은 성장이 아니라 장기 수익성이다. 네오클라우드 기업은 규모를 확장하기 위해 칩, 전력, 물리적 인프라에 지속적으로 투자해야 하며, 이 비용은 결코 낮지 않다.

CoreWeave를 예로 들면, 매출 성장은 확실히 상당하지만 자본 지출은 더욱 놀랍다. 다른 대규모 비용으로는 칩 감가상각—감가상각 금액이 이미 매출의 절반을 넘어섰다—그리고 고가의 인프라를 미리 구축하기 위해 조달한 부채에서 발생해 계속 증가하는 이자 비용이 있다.

이 글은 네오클라우드 기업이 궁극적으로 성공할 수 있을지, 또는 현재 주가가 합리적인지에 대해 판단하려는 것이 아니다. 화제 자체의 열기를 제외하고 여기서 정말 말하고자 하는 것은, 네오클라우드 기업이야말로 AI 트레이드 전반에서 벌어지는 강세·약세 간 줄다리기의 축소판을 이룬다는 점이다.

한편으로 이들은 모든 사람의 기존 예상을 훨씬 뛰어넘는 규모이자 계속 확장 중인 버티컬 시장, 즉 컴퓨팅 파워 시장에 속해 있으며 역사적으로 드문 성장 속도를 만들어냈다. 다른 한편으로 이런 기업을 구축하는 비용도 역사적 고점 수준이며, 방대하고 지속적으로 감가상각되는 고정 인프라에 투자해야 한다.

수평형 SaaS의 귀환?

아래에서 “SaaS 종말”이라는 변화하는 시장 지형을 간략히 업데이트한다. 앞선 소프트웨어 주식 급락장에서 가장 큰 타격을 입은 기업 중 하나가 최근 한 달 동안 상당히 좋은 성과를 냈다.

지난 30거래일 동안 수평형 소프트웨어 기업들은 IGV 소프트웨어 ETF 구성 종목 가운데 상위권 성과를 기록했다. 다만 이 데이터가 집계된 시점 이후로는 상승폭의 일부를 반납했다.

전반적으로 이들 기업의 펀더멘털은 여전히 견조하다. 특히 Atlassian은 시장이 앞서 우려했던 것처럼 AI 충격 속에 쇠퇴하지 않았다.

이 생산성 소프트웨어 기업은 실적과 가이던스가 모두 예상치를 웃도는 ‘동반 서프라이즈’를 기록했다. 클라우드 사업 매출은 전년 대비 31% 증가했고, 매출 백로그 증가율은 더욱 높았다. 하지만 더 중요한 신호는 AI가 사업 성장의 걸림돌이 아니라 촉진제 역할을 하고 있다는 점일 것이다. Atlassian은 자사의 AI 어시스턴트 Rovo가 이미 폭넓게 도입됐으며, Rovo를 사용하는 고객의 지출 증가율이 Rovo를 사용하지 않는 고객의 약 두 배에 달한다고 밝혔다.

이는 Atlassian에도, Rovo에도, 수평형 SaaS에도 좋은 소식이다.

다만 수평형 SaaS의 전반적인 밸류에이션은 여전히 다른 소프트웨어 카테고리보다 다소 낮다.

소수의 예외를 제외하면 Atlassian을 포함한 수평형 SaaS 기업들의 예상 주가매출비율(PSR)은 대체로 ‘성장률-밸류에이션 배수’ 추세선이 시사하는 수준보다 낮다.

다시 강조하지만, 수평형 SaaS는 비교적 괜찮은 ‘한 달’을 보냈을 뿐이다. 시장이 “SaaS 종말”이 취소됐다고 믿게 만들기에는 한 달 성과로는 턱없이 부족하다.

물론 소프트웨어 사업이 사이버 보안이나 옵저버빌리티 분야에 속한다면 이야기는 다르다. 이들 기업에게는 이른바 “SaaS 종말”이 애초에 존재한 적이 없다.

사이버 보안 섹터는 IGV 소프트웨어 ETF 내 다른 카테고리를 계속해서 큰 폭으로 아웃퍼폼하고 있다. 이 분야에서는 AI가 오히려 순풍 요인으로 작용한다. 시장은 전반적으로 AI가 사이버 보안 위협에 대한 위험 인식을 높였으며, 어떤 기업 고객도 ‘바이브 코딩(vibe coding)’으로 자체 보안 솔루션을 급조하지는 않을 것이라고 본다.

이 논리가 결국 성립할지는 물론 시간이 검증해줄 것이다. 다만 적어도 현재까지 보면 전통 소프트웨어 기업들의 상황이 결코 일률적이지는 않다.

투자자들은 AI가 각 기업에 이익을 가져다줄지, 아니면 잠식할지를 매우 주의 깊게 지켜보고 있으며, 새로운 데이터가 나올 때마다 기존 판단을 계속 수정하고 있다. 이는 당연한 일이다.

토큰 투입의 효율성 프런티어를 향해

모델 사용, 토큰 소비, 토큰 지출 관리를 둘러싼 시장 구도는 여전히 다양한 흥미로운 방식으로 진화하고 있다.

Databricks를 예로 들어보자.

‘어떤 모델을 사용해야 하는가’, ‘어떤 모델이 가장 좋은가’ 하는 질문에 대해 Databricks는 승자독식 방식을 취하지도 않았고, 엔지니어에게 예산만 주고 알아서 쓰게 하지도 않았다. 이 회사는 다른 질문을 던졌다. “적합한 작업을 적합한 모델에 자동으로 배정하는 시스템을 개발하면 어떨까?”

물론 Databricks만 이런 방식을 쓰는 것은 아니지만, 이 회사는 ‘스마트 라우터(Smart Router)’를 개발했고 실제 효과에 상당히 만족하고 있다.

알려진 바에 따르면 Databricks의 라우터는 필요할 때 더 강력하고 비싼 모델을 호출하고, 여건이 허락하면 성능이 낮고 저렴한 모델을 사용함으로써 ‘평균 작업 비용을 지속적으로 30% 이상 낮춘다’고 한다.

전반적으로 토큰 지출의 ‘효율성 프런티어’를 추구하는 것은 좋은 일이 아닐 수 없다. 이는 수요가 계속 성장하고 있으며, 애플리케이션 시나리오가 성능 최전선에서만 진화하는 것이 아니라 최고 수준은 아닌 모델로도 확산되고 있음을 의미한다. 초기의 비관적 내러티브에서는 이러한 차선 모델이 빠르게 도태될 것으로 여겨졌다.

앞서 언급했듯이 효율성 향상은 수요의 적용 범위를 넓히며, 이는 시장이 기대하는 제번스의 역설과 유사한 흐름이다.

Silicon Data의 토큰 가격 강도 지수에 따르면, 특히 더 저렴한 오픈 모델이 계속 확장되는 시장에서 더 높은 점유율을 차지함에 따라 전반적인 가격 강도가 낮아지고 있다.

여기서 자주 오해되는 개념을 다시 한번 짚을 필요가 있다. 이 지수는 토큰 지출의 절대 달러 금액이 아니라 비용 강도를 측정한다. 이는 토큰 소비량과 토큰의 종합 비용에 동시에 달려 있다. 즉, 토큰당 가격이 하락하더라도 총 토큰 소비량과 총지출 금액은 계속 증가할 수 있다는 뜻이다.

정말 중요한 것은 전반적 수요가 여전히 증가하고 있으며, 가격 책정과 모델 선택이 점차 효율성 프런티어로 이동하는 것이 이러한 성장을 더욱 촉진할 뿐이라는 점이다. 특히 주목할 점은 ‘AI 수요’ 또는 ‘AI 도입’이 하나의 단일하고 동질적인 개념이 아니라는 사실이다. 헤비 유저와 그 외 사용자 사이에는 여전히 큰 격차가 존재한다. 이는 ‘항상 최고의 모델을 사용하는 것’이 일부 기업에는 적합할지 모르지만 모든 기업에는 확실히 적합하지 않음을 분명히 보여준다.

현재 시장에서는 선택 가능한 대안이 빠르게 늘어나고 있다. 전반적으로 이는 좋은 일이다.

기업 지출 관리 플랫폼 Ramp의 데이터에 따르면 모든 기업이 AI 지출을 늘리고 있지만, 지출 중위값과 상위 10% 기업 간, 그리고 상위 10%와 상위 1% 기업 간 격차는 모두 극도로 크다.

Ramp의 데이터는 일반적으로 기술 기업에 더 치우쳐 있으므로 해석할 때 이를 감안해야 한다. 다만 데이터에 따르면 지출 상위 10% 기업의 1인당 AI 지출은 중위 기업의 약 50배에 달한다.

이러한 분포는 우연히 형성된 것이 아닐 가능성이 크다. AI 지출에서 더 많은 가치를 끌어내는 기업은 대체로 가장 많이 투자하는 기업이기도 하다. 모든 기업에 해당하지는 않더라도 상당수 기업은 이 패턴에 부합한다.

보스턴컨설팅그룹(BCG)이 107개 상장기업을 분석한 결과, 토큰 사용량 기준 상위 두 개 5분위 그룹에 속한 기업들의 매출 성장률이 다른 기업들보다 뚜렷하게 높았다.

여기서 전하고자 하는 핵심은 토큰 수요와 사용 효율이 서로를 강화하고 있다는 점이다. 기업이 더 많은 가치를 얻을수록 더 많은 토큰을 소비하게 된다.

이 과정에는 물론 투입과 수익 사이의 반복적인 상충관계가 존재하며, 연구개발에는 항상 일정한 선행 비용이 포함된다. 하지만 대다수 기업에게 무절제하게 ‘토큰을 쏟아붓는’ 방식은 결코 효과적인 전략이 아니다.

따라서 기업이 앞으로 이런 방식을 점점 더 취하지 않아도 된다는 것은 분명히 좋은 일이다.

프런티어 랩 인재 쟁탈전

최근 New Media의 뛰어난 팀원 두 명이 OpenAI에 합류했습니다. 그래서 마지막으로 몇 장의 흥미로운 차트를 통해 프런티어 AI 랩의 인재 채용 상황을 살펴보겠습니다.

다리오 아모데이는 최근 직원들이 사명보다 돈을 우선시하고 있다고 우려했습니다. Levels.fyi 데이터를 보면 이런 우려가 전혀 근거 없는 것은 아닐 수 있습니다.

데이터를 액면 그대로 해석하면 Anthropic이 엔지니어에게 지급하는 보수가 매우 높고, 구글이나 테슬라 등 회사의 비슷한 경력의 엔지니어보다 훨씬 높습니다.

역시 기술 팀의 일원이 되는 것은 확실히 좋은 일인 것 같습니다.

또한, 흥미로운 데이터가 하나 더 있습니다.

Live Data Technologies의 데이터(Truist Securities가 정리·제시)에 따르면 각 랩의 인재 출처에는 상당한 중복도 있고 뚜렷한 차이도 있습니다.

두 회사 모두 초대형 시가총액 기술 기업에서 적지 않은 인재를 채용했습니다. 다만 엔비디아와 테슬라에서 인재를 뽑은 곳은 OpenAI뿐이며, 그것도 모두 2026년에 이뤄졌습니다.

Databricks, Snowflake(최근), Palantir, DeepMind 역시 두 회사가 공통으로 활용하는 인재 출처입니다.

두 랩 모두 Salesforce와 Stripe에서도 상당한 수의 직원을 채용했습니다.

하지만 양측의 겹치는 부분은 여기까지인 것으로 보입니다. Anthropic은 SaaS 기업에서 적지 않은 인재를 채용했지만 OpenAI는 거의 채용하지 않았습니다. OpenAI는 소비자 인터넷, 플랫폼 마켓플레이스, 애드테크 기업에서 대규모로 인재를 채용한 반면, Anthropic은 Airbnb, Netflix, Uber를 제외하면 이 분야에서의 채용이 상대적으로 적었습니다.

이러한 차이가 무엇을 의미하는지에 대한 해석은 독자 여러분에게 맡기겠습니다.