PANews는 5월 28일, 이더리움 공동 창립자 비탈릭 부테린이 한 토론에서 대규모 모델을 로컬에서 실행할 때는 메모리와 VRAM 구성 측면에서 몇 가지 표준화된 "티어"를 기반으로 설계해야 하며, 현재 로컬 배포에 적합한 최대 용량 중 하나로 96GB를 제시했다고 보도했습니다. 그는 RTX 6000 시리즈의 VRAM이 96GB이고, 고급형 맥북과 일부 AMD 노트북은 128GB의 RAM을 탑재하고 있어 다른 작업에 약 32GB를 할당해야 한다고 언급했습니다. 부테린은 전체 로컬 LLM(Long-Term Modeling) 및 GPU 생태계를 2GB, 8GB, 24GB, 96GB, 256GB, 1TB와 같은 몇 가지 용량 표준을 기반으로 설계하여 하드웨어 및 모델 설계를 통합하고 배포 효율성과 호환성을 향상시켜야 한다고 제안했습니다.
로컬 대용량 모델은 표준화된 비디오 저장 위치를 중심으로 설계되어야 하며, 비탈릭은 최대 96GB를 권장합니다.
공유하기:
작성자: PA一线
이 내용은 시장 정보 제공만을 목적으로 하며, 투자 조언을 구성하지 않습니다.
PANews 공식 계정을 팔로우하고 함께 상승장과 하락장을 헤쳐나가세요
추천 읽기
관련 특집
PANews 앱
24시간 블록체인 업계 소식을 추적하고 심층 기사를 분석합니다.




