OpenAI 스케일링 법칙에 치명적 버그 발견, 수조의 연산력 헛되이 소모

OpenAI가 AI 업계 전체를 몇 년 동안 오도했다!

지난 5년간 AI 업계 전체가 스케일링 법칙(Scaling Law)에 떠밀려 질주해왔다.

샘 알트만이 AGI를 굳게 믿는 근거도 바로 이 곡선에서 나온다.

이제 누군가가 나서서 말한다: 이 곡선, 애초에 틀렸다고.

사후 약방문이 아니다. 이 말을 한 사람은 바로 당시 OpenAI에서 대형 모델 최적화를 담당했던 연구원 Diogo Almeida이다.

방금 그는 블로그 글을 올렸다. 제목은 서늘할 정도로 직설적인 《Scaling Laws, Honestly》(스케일링 법칙, 솔직히 말해서).

첫 문장은 단칼에 못 박는다: 최초 버전의 스케일링 법칙은 틀렸으며, 버그가 하나 존재했기 때문이라고.

바로 가기: https://www.completeskeptic.com/p/scaling-laws-honestly

딥마인드에서 확산 모델로 신격화된 Sander Dieleman은 곧바로 트위터에 이 글을 상단 고정하며, 흥미로운 LLM 과거 이야기라며 이렇게 말했다:

원래의 스케일링 법칙이 버그 하나 때문에 틀려서, 업계가 '몸집만 크고 훈련은 부족한' 모델들에 천문학적 연산 자원을 헛되이 불태우게 만들었을 가능성이 크다.

버그 하나, 2년을 불태웠다.

버그가 드러나자 우리가 보게 된 것은 연산 자원의 블랙홀뿐 아니라, 언어 자체가 재정립하는 상상보다 훨씬 더 심오한 지능의 경계선이다.

스케일링 법칙이 LLM판 '천동설'이었다니

2020년, OpenAI는 결론을 내렸다: 고정된 연산 예산 하에서는 더 많은 데이터를 먹이기보다 모델을 키우는 데 우선 투자해야 한다는 것이다.

공식으로 말하면, 최적 파라미터 수는 연산량의 0.73제곱에 비례한다. 파라미터야말로 더욱 치고 나가야 할 변수였던 것이다.

이 한 문장이 GPT-3 세대의 생김새를 곧바로 규정했다. 파라미터 쌓기. 끝까지 쌓아 올리기. 1,750억 개.

전 세계 개발자들에게 이렇게 말한 셈이다: 묻지도 말고 파라미터를 쌓아라. 모델을 충분히 크게 만들기만 하면 기적이 일어난다.

2년 후, 딥마인드는 Chinchilla를 내놓으며 이 결론을 뒤집어엎었다: 모델과 데이터는 거의 동등한 비중으로 함께 키워야 하며, 파라미터 하나당 약 20토큰을 배분해야 효율적이라는 것이다.

그들은 700억 파라미터의 Chinchilla를 학습시키며 1.4조 토큰을 먹였다. 몸집은 GPT-3의 절반도 안 되고, 데이터는 네 배 이상이다.

그 결과, 동일한 연산 예산으로 2,800억 파라미터에 3,000억 토큰만 먹인 Gopher를 전면적으로 능가했다.

쉽게 말하면, 같은 돈으로 하나는 '허약 비만' 거한으로 키웠고, 다른 하나는 군살 없는 파이터로 단련한 셈이다.

3년의 지연 끝에, 베이징대 동문인 Weng Li는 후속 연구에서 두 모델 차이의 주된 설명, 즉 파라미터 총합 계산 방식의 차이에 대해 깊이 탐구했다.

그런데 여기서 끝이 아니다. '옳다'고 여겨진 그 Chinchilla조차도 깔끔하지 못했다.

2024년, Besiroglu 등은 Chinchilla 원 논문의 데이터 포인트들을 꺼내 다시 실행해본 결과, 그 자체 피팅 안에도 버그가 숨어 있음을 발견했다:

옵티마이저에서 손실(loss) 스케일이 너무 높게 설정되었고, Huber 손실을 합계가 아니라 샘플별 평균으로 계산하여 피팅이 너무 일찍 종료되도록 만들었다.

버그를 바로잡은 논문이, 스스로 또 다른 버그를 달고 있었다.

여기까지 오면, 수많은 사람들이 입에 달고 살던 '제1원리'가 갑자기 근거를 잃기 시작한다.

소위 스케일링 법칙이란 애초에 뉴턴의 운동 3법칙 같은 확고한 물리 법칙이 아니다. 그저 경험적으로 피팅된 하나의 곡선일 뿐이다.

Diogo Almeida가 보기에 진실은 이와 다르다. 방법론이 다른 것이 아니라, '최초 버전의 스케일링 법칙 자체에 버그가 있었다'는 것이다.

OpenAI가 세 가지 수법으로 전 세계 AI 동료들을 속였나?

전 세계 AI 업계가 집단으로 믿는 거짓말을 만들어내는 데는 세 단계면 충분하다.

첫 번째 단계: 데이터 감금.

OpenAI 논문은 모든 모델에게 – 걷기를 배우는 아이(소형 모델)든 이미 거인이 된 모델이든 – 완전히 동일한 '밥의 양'을 줬다. 약 1,300억 개의 토큰 데이터다.

그래서 소형 모델은 '배불리 먹거나' 심지어 '과식'한 반면, 정말로 방대한 데이터를 채워 넣어야 할 대형 모델은 동일한 토큰 예산 아래 심각한 영양실조에 걸렸다.

Chinchilla 논문은 나중에 정확히 꼬집었다: 그들은 모든 모델에 대해 '고정된 훈련 토큰 수와 학습률 스케줄(fixed number of training tokens and learning rate schedule)'을 사용했다.

이는 마치 유치원생과 박사 과정 학생에게 똑같은 시험지와 똑같은 시간을 주고서 '성적은 오직 재능에만 달렸다'고 주장하는 것과 같다.

두 번째 단계: 귀 막고 방울 도둑질하는 LR 감쇠.

그들은 코사인 감쇠(Cosine Decay)를 사용하여 학습률이 훈련 종료 지점에 가까워질수록 매끄럽게 0에 수렴하도록 만들었다.

훈련이 미리 정해진 종착점에 다다를 때쯤, 학습률은 인위적으로 조금씩 0으로 짓눌리며, 모델의 진보는 자연스럽게 '주춤'해진다.

곡선이 평탄해지면 마치 이런 모양새다: 이 모델은 더 배울 수 있는 한계에 도달했고, 데이터를 더 줘도 소용없다.

그래서 연구자들은 '데이터 추가가 무의미하다, 모델이 포화됐다'는 결론을 내렸다.

이것은 모델의 한계가 아니라, 학습률이 모델의 성장 경로를 인위적으로 끊어버린 것이다. 마치 성능이 천장에 도달해 더 이상 데이터를 줘도 소용없다는 완벽한 허상을 만든 것이다.

하지만 이제 우리는 안다. 그 대형 모델들은 결코 한계에 도달하지 않았다는 사실을.

세 번째 단계: 권위의 오만.

세 번째 단계, 이는 가장 교묘한 부분이기도 하다: 논문에는 결과가 '학습률 스케줄에 거의 영향을 받지 않는다(largely independent of learning rate schedule)'라고 적혀 있었다.

당시 OpenAI에 있던 Diogo Almeida를 비롯한 적지 않은 사람들이 은근히 이상함을 느꼈지만, 고정된 토큰 상한선 아래에서는 이 결론이 기술적으로 맞았다.

그러나 바로 이 결론이, 스케일링 법칙이 진정으로 묘사하려던 '데이터가 무한한' 이상 세계에는 적용되지 않았다.

그들은 유한한 조건에서의 국소적 진리를 보편적인 우주 법칙으로 둔갑시켰다.

이 세 단계가 겹쳐지면, 틀렸을뿐더러 디버깅하기가 극도로 어려운 법칙이 탄생한다.

Diogo 자신도 인정한다: 그때 그도 OpenAI에서 최적화를 하고 있었지만 이 버그를 발견하지 못했다고. 그 학습률 곡선은 너무나 '정교하게 설계된' 것처럼 보였기에 누가 의심이나 하겠느냐는 것이다.

GPU는 허망하게 낭비되고 연산 자원은 심각하게 오배분되다

OpenAI의 잘못된 공식에 이끌려 AI 업계는 '힘으로 기적을 만드는' 시대로 진입했다.

이는 지난 몇 년간 전 세계 가장 뛰어난 두뇌와 가장 희소한 연산 자원이 무의미한 규모 확장에 낭비되었다는 뜻이다.

이것은 단순한 돈 문제가 아니다. AGI(범용 인공지능)를 향한 생사를 건 속도전에서, 인류는 학습률 설정 하나 때문에 수천 킬로미터를 잘못된 트랙 위에서 집단으로 질주했다.

버그의 발견이 가슴 아프게 느껴진다면, 그 뒤 이어진 깊은 반성은 오싹함을 안긴다.

연구자 Adam Zachary Wasserman은 모두가 간과한 맹점을 지적했다: 공식이 수정된다 해도, 현재의 스케일링 법칙은 그저 '영어 스케일링 법칙'일 뿐이라는 점이다.

그는 반직관적인 실험을 하나 진행했습니다. 완전히 같은 아키텍처와 같은 연산 자원으로 모델을 훈련한 것입니다.

결과적으로, 프랑스어 모델이 특정 문법 능력에 도달하는 효율이 영어 모델보다 무려 50~100배나 높았습니다.

왜일까요? 영어는 ‘형태가 빈약한’ 언어이기 때문입니다.

분포 규칙에 지나치게 의존하기 때문에 모델이 방대한 데이터 속에서 단어 의미를 추측해야 합니다. 반면 프랑스어나 중국어처럼 형태가 풍부하거나 구조가 치밀한 언어는 어휘 자체에 명확한 정보가 많이 담겨 있습니다.

이 말은 지금 우리가 사용하는 모든 연산 자원 배분 방식이 가장 ‘데이터를 많이 먹고’ 가장 비효율적인 언어 하나를 기준으로 설계되어 있다는 뜻입니다.

여러분이 ‘범용 지능’의 물리 법칙을 탐구하고 있다고 생각할 때, 실제로는 ‘영어라는 언어가 연산 자원을 얼마나 낭비하는지’를 측정하고 있을 뿐인 셈입니다.

이는 마치 돼지 한 마리의 식성을 연구해서 전 우주 생명체의 영양 기준을 정하려는 것과 같습니다. 단순한 편견이 아니라 인식의 한계인 셈이죠.

우리는 더 작은 모델과 더 많은 양질의 데이터로도 더 강력한 성능을 실현할 수 있었습니다.

수만 대의 H100이 가동되며 소비하는 전력과 열을 아낄 수 있었습니다.

우리는 ‘고효율 AI’ 시대로 2년 더 일찍 진입할 수 있었습니다.