IOSG: 점수 향상에서 비용 지불까지, Model Fusion의 수요 착시

저자: Yiping & David @ IOSG

본 글은 학습과 교류 목적으로만 제공되며 투자 조언을 구성하지 않습니다. 전재 시 출처를 밝히고, IOSG 팀에 연락해 허가 및 전재 요건을 확인하시기 바랍니다. 글에서 언급된 모든 프로젝트는 추천이나 투자 조언이 아닙니다.

Model Fusion은 무엇인가?

2026년 6월, AI 시장은 3주가 채 안 되는 기간 동안 ‘Fusion’이라는 이름의 두 제품을 보았다.

6월 12일, OpenRouter는 Fusion Router를 출시했다. 제목은 Surpassing Frontier Performance with Fusion이었다. DRACO 심층 리서치 평가에서 Fable 5와 GPT-5.5로 구성된 모델 그룹은 69.0점을 받아 Fable 5 단일 모델의 65.3점을 넘어섰다. OpenRouter가 내세운 판매 포인트는 단순하다. 단일 모델이 충분히 좋지 않으면 여러 모델이 같은 문제에 답하게 하고, 심사 모델이 비교·종합하게 하는 것이다.

6월 29일, Cognition은 Devin Fusion을 출시했다. 제목은 Frontier Performance at 35% Lower Cost였다. 이 제품은 여러 모델이 전체 작업을 반복 수행하게 하지 않고, 프런티어 모델이 계획과 판단을 담당하게 하며, 테스트와 기계적 수정 같은 작업은 더 저렴한 sidekick에 맡기고 실행 과정에서 모델을 동적으로 전환한다.

같은 단어가 서로 반대되는 두 가지 경제적 논리를 가리킨다. OpenRouter는 더 많은 컴퓨팅으로 더 높은 상한을 구매하고, Cognition은 비싼 컴퓨팅을 줄이면서 기존 품질을 지키려 한다. 이 대비는 어떤 모델 리더보드보다 문제를 더 잘 보여준다. 모델 융합의 기술적 명제는 분명 성립한다. 여러 번 시도하면 한 번의 시도를 넘어설 가능성이 있다. 하지만 시장이 실제로 보상하는 것은 ‘모델 호출을 늘리는 것’이 아니라, 품질 기준을 충족한 뒤 누가 더 적은 비용으로 더 빠르게 제공하는가이다.

▲ 그림 1: 같은 달에 등장한 두 가지 Fusion

이 글에서는 Model Fusion을 여러 모델이 동일한 작업에 병렬로 답하고, 심사 모델이 결과를 비교한 뒤, 마지막에 하나의 모델이 답을 출력하는 좁은 아키텍처로 한정한다. Devin Fusion은 이 정의에 해당하지 않으며, 동적 라우팅과 작업 위임에 더 가깝다. 이를 서두에 배치한 이유는 시장이 ‘Fusion’을 모든 멀티모델 오케스트레이션의 통칭으로 쓰고 있지만, 실제로 효과적인 제품은 좁은 의미의 모델 융합에서 점점 멀어지고 있기 때문이다.

우리의 판단은 다소 비관적이다. Model Fusion은 비싼 품질 보험이다. 특정 작업의 절대 성능은 높일 수 있지만, 비용—품질—지연의 효율적 프런티어를 실제로 바깥으로 밀어내는 경우는 드물다. 이 보험을 구매할 가치가 있는 작업은 매우 적다. 이 기능은 남겠지만 기본 아키텍처가 아니라 낮은 빈도로 작동하는 기능이 될 가능성이 크고, 독립된 카테고리가 되기는 더욱 어렵다.

현재 모델에는 어떤 선택지가 있는가?

Fusion을 논하다 보면 정확도 리더보드로 빠지기 쉽지만, 기업은 리더보드 순위를 사는 것이 아니다. 기업이 구매하는 것은 작업의 합격 결과이며, 동시에 가격, 지연, 프라이버시, 안정성을 계산한다. 저렴한 모델이 이미 비즈니스 합격선을 넘었다면, ‘더 똑똑한’ 모델에 계속 비용을 지불하는 것은 경제적 의미가 없을 수 있다. 비용 효율이야말로 모델 시장의 진짜 핵심 축이다.

▲ 그림 2: 모델 지능과 작업당 비용, 가로축은 로그 스케일

그래프에서 가장 주목할 것은 가장 오른쪽 위의 최고 점수가 아니라 가격—능력 추세에서 벗어난 점들이다. 이들은 더 낮은 가격에 충분한 능력을 제공하며, 특정 워크로드에서 효율성 outlier이다. 종합 지수는 어떤 모델이 코드 리뷰, 중국어 리서치, 규제 대상 배포에 가장 적합한지 직접 답하지 못하지만, 모델 공급이 상품화되고 있으며 ‘최강 모델’과 ‘최적 선택’이 분리되고 있다는 방향을 보여준다.

동일한 품질 격차를 메우기 위해 시장에는 현재 네 가지 주요 구매 방식이 있다.

첫째는 더 강한 단일 모델로 직접 업그레이드하는 것이다. 가장 단순하고 감사하기도 쉽다. 고급 모델의 한계 가격 인상이 오류나 재작업 비용보다 낮다면 보통 여전히 우선 선택지다. 둘째는 같은 모델에서 테스트타임 컴퓨팅을 늘리는 것으로, 추론 연장, self-consistency, 다중 샘플링 등이 있다. 셋째는 라우팅, 캐스케이딩, 작업 위임이다. 먼저 저렴한 모델로 검증 가능하거나 기계적인 부분을 처리하고, 어려운 경우에만 상위 모델로 올린다. 넷째가 좁은 의미의 Model Fusion이다. 여러 모델이 같은 문제에 반복해서 답하고, 심사 및 종합 모델이 최종 답을 만든다.

이 네 가지 방식은 모두 ‘더 많은 컴퓨팅으로 품질을 사는’ 방법이지만, 컴퓨팅이 어디에 쓰이는지가 다르다. 단일 모델 확장은 더 깊은 추론을 구매하고, 라우팅은 더 정확한 자원 배분을 구매하며, Fusion은 더 많은 후보 답안을 구매한다. 앞의 세 가지 방법은 결과를 바꿀 가능성이 가장 큰 단계에 예산을 집중한다. 반면 Fusion은 반복된 의견에 먼저 비용을 지불한 뒤, 심사 모델이 그 안에서 유효한 차이를 찾아낼 수 있기를 기대한다. 후보 모델이 충분히 많은 독립적 정보를 제공하고 심사 모델이 그 정보를 식별할 수 있을 때만 Fusion이 앞의 세 가지 방안을 이길 수 있다.

라우팅은 이미 모델 간 능력 차이가 우선 하나의 스케줄링 기회임을 증명했다. RouteLLM은 일부 평가에서 품질 손실 없이 비용을 2배 이상 낮췄고, Switchcraft는 82.9%의 정확도로 84%의 비용 절감을 달성했으며, 논문 계산에 따르면 요청 100만 건당 3,600달러 이상을 절약할 수 있다. 결과는 기업 자체 트래픽에서 재현해야 하지만, 경제적 논리는 단순하다. 여러 모델을 한자리에 모을 필요 없이 각 작업을 가장 저렴한 합격 모델에 맡기면 된다.

이는 시장이 먼저 업그레이드, 라우팅, 검증으로 품질 격차를 해결하고, 이런 방법으로도 부족할 때에만 Fusion으로 더 많은 후보 답안을 구매할 이유가 생긴다는 뜻이다.

점수 상승이 왜 가치와 같지 않은가?

Fusion은 세 가지 문턱을 동시에 넘어야 하기 때문이다. 추가된 품질이 새로 발생한 비용과 지연을 상쇄해야 하고, 후보 모델이 독립적인 정보를 제공해야 하며, 심사 모델이 더 나은 답을 안정적으로 식별해야 한다. 셋 중 하나라도 성립하지 않으면 점수 상승은 생산 가치로 전환될 수 없다.

컴퓨팅 비용: 예산과 지연이 얼마나 늘어나는가?

Fusion의 점수 상승은 우선 확정적인 컴퓨팅 지출이다. OpenRouter는 여러 패널 모델을 병렬로 호출한 뒤 심사 및 종합 모델이 답을 생성한다. DRACO의 세 가지 대조군은 모두 점수가 올랐다. Fable 5 + GPT-5.5는 65.3에서 69.0으로, Opus 4.8 자체 Fusion은 58.8에서 65.5로, 저비용 3개 모델 그룹은 60.3에서 64.7로 상승했다.

하지만 Opus 자체 Fusion의 상승 폭이 더 크다는 점은 이득이 모델 간 지식 보완이 아니라 추가 탐색과 샘플링에서 나왔을 수 있음을 시사한다. 공정한 비교는 같은 토큰 예산에서 self-consistency, 더 긴 추론, 강한 단일 모델을 비교해야 한다. 기존 연구에서도 멀티 에이전트는 약 20배의 컴퓨팅에서 최대 7.1%포인트 상승에 그쳤고, 예산이 같을 때 debate와 Mixture-of-Agents는 self-consistency보다 각각 1.3%포인트와 2.7%포인트만 높았다. 또 다른 reasoning-token 동등 연구에서는 단일 에이전트가 비슷하거나 더 나았다. 적지 않은 ‘협업 이득’은 컴퓨팅 회계를 맞춘 뒤 사라진다.

▲ 그림 3: OpenRouter의 벤치마크 상승과 제품 비용

OpenRouter의 기본 3개 모델 패널 비용은 일반 생성의 약 4~5배이고 속도는 2~3배 느리지만, 각 DRACO 구성의 전체 토큰, 비용, 지연은 공개되지 않아 3.7점 상승이 가치 있는지 판단할 수 없다. 평가도 순수 텍스트 영어 작업 100개뿐이고, Fable 관련 구성은 93개만 완료했다. 심사 모델을 바꾸면 절대 점수가 10~25%포인트 움직일 수 있다. 이는 Fusion이 점수를 올릴 수 있다는 것을 증명했지만, Fusion이 생산 ROI를 개선했다는 것을 증명하지는 못했다.

선별적 호출은 비용을 분산할 수 있을 뿐이다. OpenRouter가 공개한 구간으로 추정하면 트리거율이 1%일 때 전체 비용은 약 1.03~1.04배, 10%일 때 1.30~1.40배, 25%일 때는 1.75~2.00배에 이른다.

▲ 그림 4: 선별적으로 Fusion을 호출할 때의 전체 경제성

가장 어려운 요청일수록 Fusion을 트리거할 가능성이 크지만, 시스템은 가장 느린 패널 구성원을 기다린 뒤 평가와 생성을 직렬로 완료해야 하므로 테일 레이턴시가 가장 가치 있는 작업에 집중됩니다. 다중 공급업체 호출은 장애 표면, 감사 복잡도, 개인정보 노출도 확대합니다. Fusion의 비용은 API 가격뿐 아니라 대기 시간과 새로 추가된 시스템 리스크도 포함합니다.

정보 상호보완: 여러 모델이 실제로 서로 다른 정보를 제공할까?

Fusion의 가치는 후보 모델이 독립적인 정보를 가져오는지에 달려 있지만, 여러 모델은 훈련 말뭉치, 웹 출처, 잘못된 전제를 공유하는 경우가 많다. 연구 과제에서는 이것이 '인용 세탁'으로 이어진다. 여러 모델이 같은 출처를 추적했는데도 여러 건의 독립적 증거로 포장되는 것이다. 시스템이 클레임 수준 출처(claim-level provenance)와 검색 경로(search path)를 보존하지 않으면, 모델 수가 늘어날수록 API 비용은 거의 선형으로 증가하지만 증거 다양성은 늘어나지 않을 수 있다.

KAIKAKU.AI 공동 창립자 겸 CEO Josef Chen은 2026년 논문 When DoesCombining Language Models Help?에서 21개 서비스 제공업체의 67개 모델을 연구했다. 개방형 수학 과제에서 모든 모델이 동시에 오답을 낼 예측 확률은 2.3%였지만 실제 측정치는 5.2%로 예측치의 약 2.3배였다. 코드 실행 채점 과제와 자유 응답형 GPQA-Diamond의 공동 실패율은 각각 7.9%와 12.7%로 더 높아졌다.

GPQA-Diamond 100문항으로 바꾸면 약 13문항은 모든 후보 모델이 함께 오답을 내서 투표, 검토, 종합 어느 쪽도 정답을 고를 수 없게 된다. 모델은 쉬운 문제에서 의견이 갈리면 결합 가치를 키우지만, 보험이 가장 필요한 꼬리(tail) 문제에서는 오히려 함께 실패할 수 있다.

판단 신뢰성: 시스템이 더 나은 답을 식별하고 종합할 수 있을까?

후보 답변이 상호보완적이더라도 가치는 검토 모델에 달려 있다. 후보가 일치할 때 검토 모델은 관련된 오류를 높은 신뢰도로 오인할 수 있고, 후보가 갈릴 때는 올바른 선택을 위해 충분한 전문 지식을 갖춰야 한다. 종합 모델은 핵심 소수 의견을 지워버리거나 실제 이견을 확정적 결론으로 바꿀 수도 있다.

코드 과제에서는 컴파일러, 테스트, 정적 분석이 보통 또 다른 모델 의견보다 더 신뢰할 수 있다. 창의적 과제에서는 검토와 종합이 차이를 평균적인 답으로 눌러버리기 쉽다. LitBench에서 가장 강한 기성 검토 모델과 인간의 창의적 글쓰기 선호도 일치율도 73%에 불과하다. 과제에 값싼 외부 검증기가 이미 있거나 '좋다'는 판단 자체가 주관적 기준에 의존할 때 Fusion의 점수 향상은 유료 가치로 전환되기 어렵다.

누가 Fusion에 비용을 지불할까?

Fusion 수요는 두 가지 관문에 달려 있다. 과제가 여러 모델에서 이득을 얻을 수 있는지, 그리고 그 이득이 지속적인 지불로 이어질 만큼 충분한지다. 전자는 기술 문제이고 후자는 시장 문제다.

기술적 적용 가능성에서 경제적 성립까지

Fusion이 오류를 정답으로 바꿀 확률 × 오류 한 건으로 피할 수 있는 손실이 추가 API 비용, 지연 시간, 운영 복잡성, 개인정보 위험보다 커야 한다.

벤치마크 점수는 이 손익 문제에 답하지 못한다. Fusion은 오류 비용이 높고, 후보 모델이 상호보완적인 검색 경로를 제공하며, 더 저렴한 외부 검증기가 없고, 비즈니스가 추가 지연과 공급업체 위험을 수용할 수 있을 때만 성립할 수 있다. 최종 결과는 여전히 사람이나 외부 증거로 확인해야 한다.

▲ 그림 5: 기술적 적용 가능성에서 지속 가능한 수요까지

이 조건에 부합하는 경우는 주로 고부가가치 리서치와 실사, 아키텍처·보안 검토, 되돌릴 수 없는 결정 전 '제2의 의견'이다. 이들의 공통점은 제약이 불완전하고 누락 비용이 높으며, 독립적인 다른 사고 경로 자체가 가치를 지닌다는 점이다. 반대로 일반 코드, 실시간 소비자 애플리케이션, 고처리량·저마진 워크플로, 테스트나 규칙으로 직접 검증할 수 있는 과제에는 대개 Fusion이 필요하지 않다. 규제 대상 기관도 데이터 경계와 감사 요구사항 때문에 다중 공급업체 패널을 거부할 수 있다.

지불 의향에서 지속 가능한 수요로

기술적으로 유용하면 높은 지불 의향을 만들 수 있지만, 규모화 가능한 수요와 같지는 않다. 지속적인 수요가 형성되려면 오류 손실을 정량화할 수 있어야 하고, 과제가 반복적으로 발생해야 하며, 조직 내에 명확한 예산 책임자가 있어야 하고, Fusion이 인간 전문가, 강한 단일 모델, 외부 검증을 지속적으로 앞서야 한다. 그러나 실사 예산은 애널리스트와 신뢰할 수 있는 출처로 흘러가고, 보안 예산은 전문 감사로 흘러가며, 되돌릴 수 없는 결정은 너무 드물게 발생한다.

따라서 우리는 멀티모델 래퍼(wrapper)만 만들거나, 패널(panel)을 기본으로 돌리거나, 정적 모델 선택 알고리즘을 해자로 삼는 회사에 대해 낙관적으로 보지 않는다. API 연결은 복제하기 쉽고, 고정 전략도 모델 능력과 가격 변화에 따라 빠르게 효력을 잃는다. 오류가 얼마의 비용인지, Fusion이 실제로 몇 번 오류를 바로잡았는지 모르면 이 보험의 가격을 매길 수 없다. 가치를 포착할 가능성이 더 큰 쪽은 실제 결과를 알고 있는 주체다: 게이트웨이·에이전트 플랫폼, 버티컬 애플리케이션, 워크플로 소유자, 평가·옵저버빌리티 제품. 이들은 오류 비용을 알고, 결과를 관찰할 수 있으며, 트리거 전략도 최적화할 수 있다. 정말 복제하기 어려운 것은 패널 명단이 아니라 언제 Fusion을 호출하지 않을지 판단하는 능력이다.

시장 검증

공개 시장만으로는 Fusion의 수요 규모를 판단하기에 아직 충분하지 않지만, 그것이 어떻게 사용되고 있는지는 이미 드러나고 있다. Perplexity Model Council은 월 200달러 Max 사용자와 Enterprise Max 사용자에게만 개방된다. 사용자는 웹에서 세 모델을 수동으로 선택해 투자 리서치, 복잡한 의사 결정, 정보 검증에 사용한다. 공개된 사용자 사례에는 browser automation을 통해 Model Council을 주식 리서치 워크플로에 연결하는 사례도 포함된다. Hermes Mixture of Agents는 Fusion을 에이전트 안에서 선택 가능한 가상 모델로 만들었다. 사용자는 /moa로 어려운 문제 하나만 업그레이드할 수도 있고, 복잡한 세션에서 계속 활성화해 여러 reference model이 분석을 제공하고 aggregator가 도구를 호출해 작업을 완료하게 할 수도 있다. Hermes는 나중에 기본 fan-out 빈도를 낮추고 이전 라운드의 모델 의견을 재사용해 비용을 통제했다. 이 사례들은 Fusion의 실제 수요가 research, debugging, review, 중요한 의사 결정처럼 빈도가 낮고 어려운 과제에 집중된다는 점을 보여준다. 전형적인 사용 방식은 단일 모델이 한계에 부딪힌 뒤 능동적으로 업그레이드하는 것이지, 기본으로 켜진 고빈도 자동화 프로세스가 아니다. 기존 증거는 이런 수요가 존재함을 보여주지만, 공개 정보만으로는 그것이 독립적이고 규모화된 유료 시장을 형성할 수 있을지 판단하기에는 아직 부족하다.

Fusion의 미래

추론 가격 하락은 표면적으로 Fusion에 유리하지만, 강한 단일 모델, 라우팅, 외부 검증의 비용도 동시에 낮춘다. Fusion이 경쟁하는 것은 어제의 단일 모델 호출이 아니라 계속 개선되는 차세대 단일 모델과 오케스트레이션 베이스라인이다.

Cognition의 Devin Fusion은 이 경쟁의 방향을 보여준다. 비싼 모델은 판단 단계에 남겨두고, 검증 가능하고 기계적인 작업은 더 저렴한 모델에 맡기는 것이다. 공급업체 자체 테스트에서 Fusion + Fable 5의 총점은 57.0에서 57.6으로 소폭 올랐고 평균 비용은 5.12달러에서 3.00달러로 낮아졌다. 그러나 공개된 5개 사례에서는 비용이 모두 25%~62% 줄었지만, 과제 점수는 +12에서 -27 사이에서 움직였다. 경계가 분명하고 테스트가 충분한 ES6 리팩터링은 98점에서 100점으로 올랐다. 반면 상호작용 이해와 암묵적 요구사항에 의존하는 React/Redux 기능은 잘못 위임된 뒤 54점에서 27점으로 떨어졌다.

▲ 그림 6: Devin Fusion의 과제 점수와 비용

이 사례들은 공급업체가 고른 사례로 전체 분포를 대표하지는 않지만 방향은 분명하다. 미래 멀티모델 시스템의 핵심 역량은 더 많은 모델을 호출하는 것이 아니라 올바른 다운그레이드 경계를 설정하는 것이다. 검증 가능하고 기계적인 과제는 저렴한 모델에 맡기고, 판단 집약적 과제는 프런티어 모델에 남겨야 한다. OpenRouter는 '더 많은 지능'을 팔고, Cognition은 '같은 지능, 더 낮은 비용'을 판다. 두 번째 명제가 장기적인 방향에 더 가깝다. 시스템이 생산 경제학에 가까워질수록 좁은 의미의 Model Fusion보다 라우팅, 위임, 검증에 더 가까워진다.

7월 하순, 언론 보도에 따르면 Stripe는 약 100억 달러에 OpenRouter 인수를 논의 중이며, 거래는 아직 확정되지 않았다. 이 신호를 Fusion이 이미 시장 검증을 받았다고 해석해서는 안 된다. OpenRouter의 핵심 가치는 특정 패널이 아니라 500만 명 이상의 개발자와 400개 이상의 모델을 연결하는 중립적 호출 계층이다. Stripe는 이미 OpenRouter에 청구, 세금, 리스크 관리를 제공하고 있으며, 개발자가 Stripe Projects를 통해 직접 계정을 만들고 API key를 받아 결제를 연결할 수 있게 했다. Stripe가 실제로 사려는 것은 AI 추론의 거래 진입점일 수 있다. OpenRouter는 모델 선택, 토큰 사용량, 비용을 파악하고, Stripe는 가격 책정, 청구, 결제를 처리한다. 이는 앞선 가치 판단에 대한 시장 신호를 제공한다. 멀티모델 시대의 가치는 과제를 관찰하고 호출을 분배하며 결제를 완료할 수 있는 orchestration layer에 남을 가능성이 크고, Fusion은 그 위에 얹힌 고비용 업그레이드 전략일 뿐이다.

미래의 멀티모델 시스템은 기본적으로 패널을 소집하지 않는다. 먼저 과제 난이도, 검증 비용, 오류 손실을 추정하고, 더 강한 단일 모델, 추론 연장, 외부 도구로도 여전히 부족할 때만 멀티모델 분기 탐색에 들어간다. 트리거율, 증분 성공률, 검증된 단위 결과당 비용이야말로 의미 있는 제품 지표다. Fusion은 저빈도 기능으로 남되, 기본 아키텍처나 독립 카테고리가 되지는 않을 것이다.