CATEGORY
ローカルAI
手元のPCでAIモデルを動かすときの必要VRAM、GPUの選び方、動かないときの切り分け。
-
ミニPCでローカルLLMは動く?|メモリ32GBで小さいAI、大きいAIは128GBの機種
条件付きでYESです。AMDのCPUを積んだメモリ32GBのミニPCなら、OpenAIが公開している小さいほうのAIが動く目安に届きます。1…
-
動画生成AIのローカルに必要なVRAM|Wan2.2の5Bは8GBから、14Bは1ファイル約14GB
Wan2.2の5Bモデルは、ComfyUIなら8GBのVRAMで動くと公式の手順書にあります。14Bは本体のファイルが1つ約14.3GBです…
-
Ollamaが動くけど遅い|VRAMからあふれているかを確かめる
条件付きでYESです。モデルがVRAM(グラボ専用のメモリ)に収まりきらず、あふれた分をCPU(パソコン本体で計算をする部品)が処理している…
-
生成AI用パソコンのスペックは何で決まる?|予算の前に、VRAMの容量から逆算します
生成AIを動かすパソコンのスペックは、グラフィックボードのVRAMの容量で決まります。先に動かしたいAIを決めると、必要な容量が計算でき、そ…
-
ローカルAIは月額より安くなる?判断の分かれ目を確認する
条件付きでNOです。月に数回しか使わないなら、PCを買ってローカルで動かしても、買った金額を取り戻せません。使う量が多いほどローカルが有利に…
-
ローカルAIにパソコンのメモリは何GB必要?|グラボのVRAMに載りきるかで決まります
モデルがすべてVRAMに載るなら、システムメモリはそれほど要りません。必要になるのは、VRAMに収まらない分をシステムメモリへ逃がす場合です…
-
画像生成AIに必要なVRAMは何GB?モデルのファイルサイズから確認する
条件付きでYESです。VRAM(グラボ専用のメモリ)が8GBでも、Stable Diffusion XLは設定を絞れば載る見込みです。FLU…
-
主要なローカルLLMの必要VRAM一覧|実ファイルサイズで確認する
配布されているファイルのサイズが、そのまま重みを入れるのに必要な容量です。載せている値は実際のファイルサイズで、計算値ではありません。この値…
-
ローカルLLMに必要なVRAMは何GB?|パラメータ数と量子化から計算できます
Q4_K_Mの量子化で余裕をもって載るのは、VRAM 8GBなら8B、12GBなら14B、16GBなら20Bまでのモデルです。表にない組み合…
-
「メモリが足りない」と出るのにメモリは余っている?VRAMとの違い
PCのメモリは、たいてい余っています。不足しているのは、グラボのVRAM(グラボに載っている専用のメモリ)のほうです。VRAMはGPUに載っ…