로컬 대용량 모델은 표준화된 비디오 저장 위치를 ​​중심으로 설계되어야 하며, 비탈릭은 최대 96GB를 권장합니다.

PANews는 5월 28일, 이더리움 공동 창립자 비탈릭 부테린이 한 토론에서 대규모 모델을 로컬에서 실행할 때는 메모리와 VRAM 구성 측면에서 몇 가지 표준화된 "티어"를 기반으로 설계해야 하며, 현재 로컬 배포에 적합한 최대 용량 중 하나로 96GB를 제시했다고 보도했습니다. 그는 RTX 6000 시리즈의 VRAM이 96GB이고, 고급형 맥북과 일부 AMD 노트북은 128GB의 RAM을 탑재하고 있어 다른 작업에 약 32GB를 할당해야 한다고 언급했습니다. 부테린은 전체 로컬 LLM(Long-Term Modeling) 및 GPU 생태계를 2GB, 8GB, 24GB, 96GB, 256GB, 1TB와 같은 몇 가지 용량 표준을 기반으로 설계하여 하드웨어 및 모델 설계를 통합하고 배포 효율성과 호환성을 향상시켜야 한다고 제안했습니다.