ローカルAIは月額より安くなる？判断の分かれ目を確認する

本記事にはアフィリエイト広告を含みます。掲載している数値はモデルの配布ページと公式ドキュメントの実測値に基づいており、広告の有無によって内容を変えることはありません。

ローカルで動かす理由は4つある

どれに当てはまるかで、判断の基準が変わります。金額で決まるのは1つ目だけです。

理由	内容
月額を避けたい	使う量が多いほどローカルが有利になります。ただし初期投資を回収するまでの期間は、月にどれくらい使うかで大きく変わります。月に数回しか使わないなら、回収できないまま次の世代のカードが出ます。
情報を外に出したくない	社内の資料や顧客の情報を扱う場合、外部のサービスに送れないことがあります。この理由でローカルを選ぶ場合、費用対効果の計算とは別の判断になります。この場合は、金額で比べても意味がありません。
回数や速度の制限を受けたくない	外部のサービスには利用回数や同時実行の上限があります。手元で動かす場合、上限はハードウェアの性能だけになります。
通信が使えない環境で動かしたい	閉じた環境や移動中など、通信が前提にできない場面があります。

金額で比べる場合の計算

損益分岐は、月額料金と使用量で決まります。どちらも読者ごとに違い、料金は変わるため、当サイトでは具体的な金額を書きません。代わりに計算のしかたを示します。初期投資 ÷ 月額 = 回収にかかる月数です。この月数が、そのカードを使い続けるつもりの期間より短ければ、金額の面では見合います。

当サイトでは料金の具体額を書きません。サービスごとに違い、改定もされるため、こちらで確認できない数字を載せると、読んだ時点で古くなっている可能性があるからです。いま使っている、あるいは検討しているサービスの月額をご自身で当てはめてください。

やめておいたほうがよい場合

次のいずれかに当てはまるなら、ローカルに投資しないほうが結果的に安く済みます。

• 使う量が少ない場合、初期投資を回収できません。まず外部のサービスでどれくらい使うかを測ってから判断するほうが確実です。
• 手元で動かせるモデルは、外部の大規模なサービスと同じ品質にはなりません。用途によっては差が問題になります。同じことができる前提で投資しないでください。
• 電気代と、環境を整える手間が継続的にかかります。金額だけの比較には出てきません。
• モデルは入れ替わります。いま十分な容量でも、次の世代でより大きいモデルが主流になれば足りなくなります。

情報を外に出せない場合は別の判断になる

この場合、判断の材料は金額ではなく、その情報を外に出せるかどうかだけになります。ローカルが高くついても選ぶ理由になり、逆に安く済むとしても外部のサービスは選べません。上の計算は当てはまりません。

ただし、ローカルで動かせば安全になるわけではありません。何を扱ってよいかは職場の規程で決まっているので、手元で動かす構成が認められるかを先に確認してください。当サイトでは、個々の職場の規程については判断できません。

いくらのカードが要るのか

必要な容量は、動かしたいモデルで決まります。使いたいモデルが決まっていない段階で上位のカードを買うと、使わない性能に払うことになります。先に主要モデルの必要VRAM一覧で目標を決めてから、VRAM容量ごとに動かせるモデルで容量を選んでください。

間違えるとどうなるか

いちばん多い失敗は、使う量を測らずに買うことです。月に数回しか使わなかった場合、回収する前に次の世代のカードが出ます。逆に、外部のサービスと同じ品質を期待して買うと、手元で動くモデルとの差に落胆することになります。どちらも、買う前に確かめられます。

買う前に確かめる手順

1. 外部のサービスを1か月使い、実際にどれくらい使ったかを記録します。使用量が分からないまま比べても、答えは出ません。
2. 同じ用途を、手元で動く大きさのモデルで試します。無料で試せる実行環境があるので、カードを買う前に品質を確かめられます。
3. 2で足りるなら、必要なVRAM容量を決めます。足りないなら、その用途はローカルに向いていません。
4. 初期投資を月額で割り、回収にかかる月数を出します。
5. その月数が、カードを使い続けるつもりの期間より短いかを見ます。短ければ金額の面では見合います。

情報を外に出せないという理由の場合、この計算は要りません。その制約は金額に置き換えられないためです。

買わなくてよい場合

• 月に数回しか使わないなら、外部のサービスのほうが安く済みます。初期投資を回収できません。
• いま持っているカードで動くモデルで用途に足りるなら、買い替える必要はありません。まず試してください。
• 外部のサービスと同じ品質が必要な用途なら、手元のカードを大きくしても届かないことがあります。その場合は投資しても解決しません。

関連する判定

• 必要VRAMの計算のしかた
• 主要モデルの必要VRAM一覧（実ファイルサイズ）
• VRAM容量ごとに動かせるモデル
• VRAMとシステムメモリの違い
• システムメモリはどれくらい必要か
• 画像生成に必要なVRAM

出典と確認方法

このページの数値は、以下の一次情報に基づいています。同じ手順でご自身でも確認できます。

• Hugging Face のファイル一覧：モデルの配布ページで「Files and versions」を開くと、ファイルごとのサイズが表示されます。使いたい量子化のファイルサイズが、重みを載せるのに必要な容量です。大きいモデルは複数ファイルに分割されていることがあり、その場合は合計が必要な容量になります。
• いま空いているVRAMの確認方法：タスクマネージャーを開き、「パフォーマンス」タブでGPUを選びます。「専用GPUメモリ」の欄に、搭載量と使用中の量が出ます。モデルを載せられるのは、この差の分だけです。
• グラフィックボードの製品ページ（寸法・補助電源）：メーカーサイトで型番の仕様欄を開き、寸法と Power Connectors の項を確認します。同じGPUでもメーカーやモデルによって全長は大きく変わるため、GPU名ではなく製品型番で確認してください。

当サイトは配布ページから取得した実ファイルサイズと、パラメータ数からの計算値を自動で突き合わせ、大きく食い違う値は公開せずに除外しています。モデルは入れ替わるため、判断の前には配布ページの現在のファイルサイズもあわせてご確認ください。

判定の作り方・自動で行っている検算・運営者の立ち位置は判定の方法にまとめています。

よくある質問

結局、ローカルと外部サービスはどちらが安いですか。

使う量によります。当サイトでは料金の具体額を書かないため、断定はしません。初期投資を月額で割って回収月数を出し、その期間使い続けるかどうかで判断してください。

電気代はどれくらいかかりますか。

カードの消費電力と使用時間で決まります。常時動かすのでなければ、初期投資に比べれば小さい額です。ただし金額の比較には出てこない費用なので、忘れないでください。

手元で動くモデルは、外部のサービスと同じことができますか。

同じにはなりません。手元で動く大きさには上限があるためです。用途によっては差が問題にならないので、買う前に実際の用途で試してください。

仕事で使う場合、ローカルにすべきですか。

扱う情報によります。社外に出せない情報を扱うなら、金額とは別の理由でローカルが選択肢になります。そうでなければ、使用量で判断してください。

この条件に合う製品

下記は、この記事の条件に合う製品です。対応を確認しやすいメーカーの製品から機械的に選んだもので、当サイトが実際に使用して比較したものではありません。購入前には、必ずメーカーの仕様欄で対応状況をご確認ください。