カテゴリー: ローカルAI
手元のPCでAIモデルを動かすときの必要VRAM、GPUの選び方、動かないときの切り分け。
-
ローカルAIは月額より安くなる？判断の分かれ目を確認する
安くなるとは限りません。使う量が多いほどローカルが有利になりますが、月に数回しか使わないなら初期投資を回収できません。一方、社外に情報を出せ…
-
ローカルAIにシステムメモリはどれくらい必要？VRAMとの役割分担
モデルがすべてVRAMに載るなら、システムメモリはそれほど要りません。必要になるのは、VRAMに収まらない分をシステムメモリへ逃がす場合です…
-
画像生成AIに必要なVRAMは何GB？モデルのファイルサイズから確認する
必要な容量はモデルによって大きく違います。Stable Diffusion XL 1.0は一式で6.94GB、FLUX.1 devは本体23…
-
主要なローカルLLMの必要VRAM一覧｜実ファイルサイズで確認する
配布されているファイルのサイズが、そのまま重みを載せるのに必要な容量です。下の表は実際のファイルサイズで、計算値ではありません。この値に、や…
-
ローカルLLMに必要なVRAMは何GB？モデルの大きさから計算する
必要な容量は、モデルのパラメータ数と量子化から計算できます。7BをQ4_K_Mで動かすなら重みだけで約4.3GB、32Bなら約19.6GB、…
-
「メモリが足りない」と出るのにメモリは余っている？VRAMとの違い
足りていないのは、たいていVRAMのほうです。VRAMはGPUに載っている専用のメモリで、システムメモリ（いわゆるPCのメモリ）とは別物です…
-
ローカルAI用にVRAMは何GB必要？容量ごとに動かせるモデルを確認する
VRAMの容量ごとに、動かせるモデルの大きさが決まります。Q4_K_Mであれば8GBなら8Bまで、12GBなら14Bまで、24GBなら32B…