ローカルAIにシステムメモリはどれくらい必要?VRAMとの役割分担

執筆者:

カテゴリ:

本記事にはアフィリエイト広告を含みます。掲載している数値はモデルの配布ページと公式ドキュメントの実測値に基づいており、広告の有無によって内容を変えることはありません。

結論:VRAMに収まるかどうかで変わります

モデルがすべてVRAMに載るなら、システムメモリはそれほど要りません。必要になるのは、VRAMに収まらない分をシステムメモリへ逃がす場合です。その差の分だけ空きが要ります。

すべてVRAMに載る場合

モデルがすべてVRAMに載る場合、システムメモリはそれほど要りません。読み込みのときに使われるだけで、動作中はGPU側で完結するためです。

収まらない分をシステムメモリに置く場合

VRAMに収まらない分をシステムメモリに置く場合は、その分の空きが必要になります。たとえば20GBのモデルを8GBのVRAMで動かすなら、差の12GB前後がシステムメモリ側に載ります。

VRAM容量ごとに、システムメモリ側へ載る量

Q4_K_Mの実ファイルサイズから計算しています。「—」はすべてVRAMに載るという意味で、その場合はシステムメモリの増設は要りません。

モデル ファイルサイズ VRAM 8GB VRAM 12GB VRAM 16GB VRAM 24GB
Qwen2.5 7B Instruct 4.68 GB
Qwen2.5 14B Instruct 8.99 GB 1.0 GB
Qwen2.5 32B Instruct 19.85 GB 11.9 GB 7.9 GB 3.9 GB
Llama 3.3 70B Instruct 42.52 GB 34.5 GB 30.5 GB 26.5 GB 18.5 GB

GPUを使わずCPUだけで動かす場合

GPUを使わずCPUだけで動かす場合は、モデル全体がシステムメモリに載ります。この場合はVRAMではなくシステムメモリの容量が上限になります。動作しますが、GPUに載せた場合より大幅に遅くなります。

CPUの性能はどこで効くのか

CPUの性能は、すべてVRAMに載っている状態ではあまり効きません。効いてくるのは、システムメモリ側に置いた部分を計算するときです。つまりCPUに投資するより、VRAMに収めるほうが先になります。

OSやブラウザも使っている

OSやブラウザも同時にメモリを使います。モデルのために使える量は、搭載量から日常的に使っている分を引いた残りです。いま何GB使われているかはタスクマネージャーで確認できます。

間違えるとどうなるか

システムメモリが足りないと、Windowsがディスクへの退避を始めます。動作は続きますが、ディスクを経由するぶん極端に遅くなります。VRAM不足のときの遅さより、さらに一段遅い状態です。逆に、すべてVRAMに載っているのにメモリを増設しても、生成の速さは変わりません。

必要な量を見積もる手順

  1. 使いたいモデルのファイルサイズを、配布ページで確認します。
  2. そのサイズから、GPUのVRAM容量を引きます。残りがシステムメモリ側に載る量です。ゼロ以下なら増設は要りません。
  3. タスクマネージャーの「パフォーマンス」→「メモリ」で、普段どれくらい使われているかを見ます。
  4. 普段の使用量に、2で出した量と実行環境の分を足した値が、必要な搭載量の目安になります。
  5. 足りない場合は、まず量子化を下げてVRAMに収める方向を試します。そのほうが速度も上がります。

システムメモリを増やすのは、VRAMに収める道が無い場合の次善策です。速度を優先するなら、VRAMに収めるほうが先になります。

買い替えなくてよい場合

  • 使いたいモデルがすべてVRAMに載るなら、メモリの増設は要りません。上の表で「—」になっている組み合わせが該当します。
  • 量子化を一段下げてVRAMに収められるなら、そちらのほうが安く速くなります。メモリを増やすより先に試してください。
  • 普段の使用量に余裕があるなら、多少のオフロードは今のままで賄えます。タスクマネージャーで実際の使用量を確認してから判断してください。

関連する判定

出典と確認方法

このページの数値は、以下の一次情報に基づいています。同じ手順でご自身でも確認できます。

  • Hugging Face のファイル一覧:モデルの配布ページで「Files and versions」を開くと、ファイルごとのサイズが表示されます。使いたい量子化のファイルサイズが、重みを載せるのに必要な容量です。大きいモデルは複数ファイルに分割されていることがあり、その場合は合計が必要な容量になります。
  • いま空いているVRAMの確認方法:タスクマネージャーを開き、「パフォーマンス」タブでGPUを選びます。「専用GPUメモリ」の欄に、搭載量と使用中の量が出ます。モデルを載せられるのは、この差の分だけです。
  • マザーボードの製品ページ(メモリの仕様):メーカーサイトで型番の仕様欄を開き、「メモリー」の項を確認します。対応世代のほか、1枚あたりの最大容量と合計の最大容量が書かれています。サポート欄には「メモリー対応リスト(QVL)」があり、そのマザーボードで動作確認された型番が載っています。

BTO・メーカー製PCをお使いの場合、マザーボードの型番は、Windowsの「システム情報」の「ベースボード製品」、または CPU-Z の Mainboard タブで確認できます。そこに出た型番でメーカーサイトが見つからないときは、基板メーカーではなくPCを買った店の製品ページ(構成表)と、その機種のサポートページを見てください。それでも分からない項目は、購入元に問い合わせるのが確実です。

当サイトは配布ページから取得した実ファイルサイズと、パラメータ数からの計算値を自動で突き合わせ、大きく食い違う値は公開せずに除外しています。モデルは入れ替わるため、判断の前には配布ページの現在のファイルサイズもあわせてご確認ください。

判定の作り方・自動で行っている検算・運営者の立ち位置は判定の方法にまとめています。

よくある質問

メモリを64GBにすれば大きいモデルが動きますか。

動きます。ただしシステムメモリ側に置いた分はGPUの外で計算されるため、すべてVRAMに載せた場合より大幅に遅くなります。「動く」ことと「実用になる」ことは別に考えてください。

すべてVRAMに載っている場合、メモリを増やすと速くなりますか。

変わりません。動作中はGPU側で完結しているためです。

CPUは何を選べばよいですか。

すべてVRAMに載る使い方であれば、CPUの性能はあまり効きません。システムメモリ側に置いた部分を計算するときに効いてくるので、まずVRAMに収まるかを先に考えてください。

メモリの速度(DDR4とDDR5など)は効きますか。

システムメモリ側で計算する部分がある場合には効いてきます。すべてVRAMに載っている場合はほとんど関係ありません。

システムメモリを増やす場合

上の表で「—」になる組み合わせなら、増設は要りません。下記は、VRAMに収まらない分をシステムメモリへ逃がす前提で容量を増やす場合の候補です。対応を確認しやすいメーカーの製品から機械的に選んだもので、当サイトが実際に使用して比較したものではありません。購入前には、必ずメーカーの仕様欄で対応状況をご確認ください。

シリコンパワー DDR5 32GB(16GB×2) デスクトップ用 PCメモリ DDR5-5600 ゲーミング 5600

シリコンパワー DDR5 32GB(16GB×2) デスクトップ用 PCメモリ DDR5-5600 ゲーミング 5600MHz(PC5-44800)288ピン CL40 1.1V UDIMM Non-ECC RAM コンピューター メモリ SP032GBLVU560F22

シリコンパワーダイレクト/レビュー 5件

楽天市場で価格を見る

【30個限定価格】DDR4 デスクトップ用メモリ 32GB (16GB×2枚セット) 3200MHz TPD432G32

【30個限定価格】DDR4 デスクトップ用メモリ 32GB (16GB×2枚セット) 3200MHz TPD432G3200HC22DC01-EC 国内永久保証 TEAM ELITE PLUS DDR4 放熱ヒートシンク付き ゴールド ブラック PCメモリ 2枚組 U-DIMM PC4-25600 CL22

ストレージメディア/レビュー 190件

楽天市場で価格を見る

あなたの構成で確認する

モデルの大きさと量子化、お使いのGPUのVRAM容量を選ぶと、その組み合わせで動くかを判定します。

互換チェッカーを開く