CATEGORY
ローカルAI
手元のPCでAIモデルを動かすときの必要VRAM、GPUの選び方、動かないときの切り分け。
-
VRAM 8GB・12GB・16GBのグラボで、どこまでのAIモデルが動くか
VRAMの容量ごとに、動かせるモデルの大きさが決まります。Q4_K_Mであれば8GBなら8Bまで、12GBなら14Bまで、16GBなら20B…
CATEGORY
手元のPCでAIモデルを動かすときの必要VRAM、GPUの選び方、動かないときの切り分け。
VRAMの容量ごとに、動かせるモデルの大きさが決まります。Q4_K_Mであれば8GBなら8Bまで、12GBなら14Bまで、16GBなら20B…