ローカルの大型モデルは、標準化されたビデオ保存場所を基準に設計されるべきであり、ヴィタリック氏は最大96GBを推奨している。

PANewsは5月28日、イーサリアムの共同創設者であるヴィタリック・ブテリン氏が、議論の中で、大規模モデルをローカルで実行するには、メモリとVRAM構成に関していくつかの標準化された「階層」を中心に設計する必要があり、96GBがローカル展開の現在の実現可能な上限の1つであると述べたと報じた。同氏は、RTX 6000には96GBのVRAMがあり、ハイエンドのMacBookや一部のAMDノートパソコンには統一された128GBのRAMが搭載されており、他のタスク用に約32GBを確保する必要があると述べた。ヴィタリック氏は、ハードウェアとモデル設計を統一し、展開効率と互換性を向上させるために、ローカルLLMとGPUのエコシステム全体を2GB、8GB、24GB、96GB、256GB、1TBなどのいくつかの容量標準を中心に設計すべきだと提案した。

共有先:

著者:PA一线

この内容は市場情報の提供のみを目的としており、投資助言を構成しません。

PANews公式アカウントをフォローして、強気・弱気相場を一緒に乗り越えましょう
関連トピック
PANews APP
Sequans社、ビットコイン・トレジャリーの償還を完了し、IoTチップ事業に注力へ
PANews 速報