本記事にはアフィリエイト広告を含みます。掲載している数値はモデルの配布ページと公式ドキュメントの実測値に基づいており、広告の有無によって内容を変えることはありません。
結論:足りていないのはVRAMです
足りていないのは、たいていVRAMのほうです。VRAMはGPUに載っている専用のメモリで、システムメモリ(いわゆるPCのメモリ)とは別物です。メモリを32GBに増やしても、GPUのVRAMは増えません。
2つのメモリの違い
| 種類 | どこにあるか | 増やせるか | どこで見るか |
|---|---|---|---|
| システムメモリ | マザーボードのスロットに挿すメモリ | 増設できます(スロットの空きと上限まで) | タスクマネージャーの「メモリ」 |
| VRAM | グラフィックボードに載っている専用メモリ | 増設できません。カードごと替えることになります | タスクマネージャーの「GPU」→「専用GPUメモリ」 |
なぜ混同されるのか
どちらも「メモリ」と呼ばれ、どちらもGBで表されるためです。実行環境が出すエラーも「メモリが足りない」としか言わないことが多く、どちらのメモリの話なのかが書かれていません。解説動画や記事で「20Bを動かすには16GB必要」と言われたとき、それがVRAMを指しているのか、PCのメモリを指しているのかは文面から判別できないことがあります。
両者は増やし方も別です。 システムメモリを32GBに増やしても、GPUのVRAMは8GBのままです。VRAMはカードに固定されていて、あとから足すことができません。
ローカルでモデルを動かす文脈では、断りがなければVRAMを指していると考えて、まず間違いありません。モデルの重みはGPUに載せるものだからです。
あふれた分はシステムメモリに置かれる
VRAMに収まらない分は、システムメモリに置いて動かすこともできます(オフロード)。動作はしますが、GPUの外へ出た分だけ大幅に遅くなります。全部をVRAMに載せられるかどうかが、実用になるかの分かれ目です。
Apple SiliconのMacは事情が違う
Apple SiliconのMacはシステムメモリとVRAMを共有します(ユニファイドメモリ)。この記事の計算はGPUに専用VRAMがある構成を前提にしています。
表示されたエラーから原因を逆引きする
実行環境によって文言は変わりますが、よく出るものは次のとおりです。
| 表示されるもの | 意味 | 対処 |
|---|---|---|
| out of memory / CUDA out of memory | GPUのVRAMが足りていません。システムメモリではありません。 | 量子化を一段下げるか、扱う文を短くします。実行環境に一部をシステムメモリへ逃がす設定があれば、それでも動きます。 |
| メモリ不足 / not enough memory | 表示だけではVRAMとシステムメモリのどちらか判別できません。 | タスクマネージャーでGPUの「専用GPUメモリ」とメモリの両方を見て、どちらが上限に達しているかを確かめます。 |
| モデルの読み込みが途中で止まる | 読み込みの段階で容量が足りていない可能性があります。 | ファイルサイズと空きVRAMを比べます。ファイルサイズのほうが大きければ、そのままでは載りません。 |
| 生成は始まるが極端に遅い | VRAMに収まらず、あふれた分がシステムメモリ側で計算されています。 | エラーではないので気づきにくい状態です。量子化を下げてVRAMに収めると速度が戻ります。 |
間違えるとどうなるか
原因を取り違えると、効かない対策に費用をかけることになります。VRAM不足なのにシステムメモリを増設しても、モデルが載る量は変わりません。先にどちらが足りていないのかを確認してください。
どちらが足りていないか確かめる手順
- タスクマネージャーを開き、「パフォーマンス」タブを選びます。
- 「GPU」を選び、「専用GPUメモリ」の使用量を見ます。モデルを読み込んだ瞬間にここが上限に張り付くなら、VRAM不足です。
- 「メモリ」を選び、こちらの使用量も見ます。VRAMは余っているのにメモリが上限に達しているなら、システムメモリ側の問題です。
- どちらも余っている場合は、容量ではなく実行環境の設定や対応していない機能が原因の可能性があります。
買い替えなくてよい場合
- VRAM不足であっても、量子化を一段下げれば収まることがあります。買う前に試してください。
- システムメモリが足りていない場合は、メモリの増設で済みます。グラフィックボードを買う必要はありません。
- どちらも足りているのに動かない場合は、容量の問題ではありません。実行環境の設定を先に見直してください。
関連する判定
- 必要VRAMの計算のしかた
- 主要モデルの必要VRAM一覧(実ファイルサイズ)
- VRAM容量ごとに動かせるモデル
- システムメモリはどれくらい必要か
- 画像生成に必要なVRAM
- ローカルと月額はどちらが安いか
出典と確認方法
このページの数値は、以下の一次情報に基づいています。同じ手順でご自身でも確認できます。
- llama.cpp 公式ドキュメント(quantize / bits per weight):量子化の形式ごとの1重みあたりビット数(Q4_K_M・Q8_0・F16 など)
- モデル配布ページのファイルサイズ:Hugging Face などの配布ページでファイル一覧を開き、使いたい量子化のファイル(例: Q4_K_M)のサイズを見ます。そのサイズが、重みを載せるのに必要なメモリの実測値です。計算値と食い違う場合は、ファイルサイズのほうを信じてください。
- いま空いているVRAMの確認方法:タスクマネージャーを開き、「パフォーマンス」タブでGPUを選びます。「専用GPUメモリ」の欄に、搭載量と使用中の量が出ます。モデルを載せられるのは、この差の分だけです。
当サイトは配布ページから取得した実ファイルサイズと、パラメータ数からの計算値を自動で突き合わせ、大きく食い違う値は公開せずに除外しています。モデルは入れ替わるため、判断の前には配布ページの現在のファイルサイズもあわせてご確認ください。
判定の作り方・自動で行っている検算・運営者の立ち位置は判定の方法にまとめています。
よくある質問
メモリを64GBに増やせばVRAM不足は解決しますか。
解決しません。VRAMはグラフィックボードに載っている別のメモリで、システムメモリを増やしても増えません。
VRAMだけを増やせますか。
できません。VRAMはカードに固定されています。容量を増やすには、より大きいVRAMを積んだカードに替えることになります。
内蔵グラフィックスの場合はどうなりますか。
CPU内蔵のグラフィックス機能は、システムメモリの一部を共有して使います。この場合はメモリの容量が効いてきますが、専用VRAMを持つカードに比べて速度は出ません。
自分のGPUのVRAM容量はどこで分かりますか。
タスクマネージャーの「パフォーマンス」タブでGPUを選ぶと、「専用GPUメモリ」に搭載量が表示されます。
この条件に合う製品
下記は、この記事の条件に合う製品です。対応を確認しやすいメーカーの製品から機械的に選んだもので、当サイトが実際に使用して比較したものではありません。購入前には、必ずメーカーの仕様欄で対応状況をご確認ください。
Palit NE75080019T2-GB2031A (GeForce RTX 5080 GamingPro 16GB) / Palit(パリット)
シリコンパワー DDR5 32GB(16GB×2) デスクトップ用 PCメモリ DDR5-5600 ゲーミング 5600MHz(PC5-44800)288ピン CL40 1.1V UDIMM Non-ECC RAM コンピューター メモリ SP032GBLVU560F22