ローカルLLMの30万円は
GPU1枚だけの値段です

「ローカルLLMなら30万円で始められます」と言われた方へ

社内データを外に出せない部署のために、ローカルLLMの導入を検討していて、ベンダーや記事から「GPU 1枚、30万円ほどで始められます」と聞いた情シス・DX推進の方に向けて書いています。

その30万円は、GPU 1枚の値段です。同じ記事に載っている、そのGPUを積んだ完成機の価格は59万9,800円でした。倍近く違うのは誰かが盛っているからではなく、数えている範囲が違うだけです。

同じ記事に2つの値段が出ています

題材にするのは、PC Watchが公開した中小企業向けローカルLLMサーバーの構築記事2本です。どちらも冒頭に「提供：日本AMD」と書かれた、いわゆるタイアップ記事です。この記事が広告であることは後半でもう一度扱いますが、先に数字を見ます。

2026年9月16日の回では、VRAM 32GBのGPUが実売約30万円（2026年9月3日時点の筆者調査）と書かれています。同じ記事の後半に出てくる、そのGPUを積んだ市販の完成機は59万9,800円です。差額の約30万円はCPU、メモリ64GB、SSD、電源、筐体、そして組んで動く状態にする手間です。

VRAM（ビデオメモリ）とは、GPUに載っている専用のメモリで、LLMを動かすときはモデルの重みと、会話の途中経過をここに置きます。ローカルLLMでGPUの型番より先にVRAMの容量が話題になるのは、ここに載らないモデルはそもそも起動しないからです。

3か月半で25万円が30万円になりました

同じ連載の1本目は2026年6月1日に公開されていて、同じGPUを25万円前後（2026年5月時点）と書いています。各行の太字が比べたものです。

3か月半で、どの選択肢も上がっています。ローカルLLMの説明でよく出る「初期投資さえすれば利用料はゼロ」という整理は、その初期投資が動かない前提で成り立ちます。見積もりの有効期限を確かめる理由はここにあります。

同時に何人使えるかは、モデルの大きさでは決まりません

記事の構成は、26Bのモデルを4bitに量子化して、推論エンジンのvLLMに載せるものです。このときVRAMの使用量は約28.2GBと書かれています。32GBのうち28.2GBですから、モデルは載ります。

問題はその内訳です。28.2GBのうち8.78GiBがKVキャッシュに割り当てられていて、記事のログにはトークン数で372,445と出ています。

KVキャッシュとは、会話の途中経過を置いておく領域で、文脈が長くなるほど1人あたりの消費が増えます。この構成は1リクエストあたり最大131,072トークン（128K）まで受け付ける設定なので、全員が上限まで使うと372,445 ÷ 131,072で2.84件しか同時に処理できません。記事のログにもその数字がそのまま出ています。

空きは3.8GBです

32GBから28.2GBを引くと3.8GBしか残りません。もう1つモデルを常駐させる余地も、文脈をさらに伸ばす余地もありません。VRAMの容量は「載るかどうか」ではなく「載せたあと何が残るか」で見ます。

4並列なら1人あたり39トークン毎秒でした

全員が128Kの文脈を使うわけではありません。ふつうのチャットや文書要約なら文脈は短く、同時実行数はもっと伸びます。記事に載っている実測はこうです。

4人が同時に使っても1人あたり約39トークン毎秒は出ています。日本語では1トークンがおおよそ1〜2文字なので、体感としては読む速度より速いままです。記事は、チャットと文書要約が中心なら10人規模でも共用できると書いています。

ここで測られているのは1台の話です。入口を1つにまとめて認証と流量制限と利用記録を通す設計は、台数が増えても変わりません。そちらはローカルLLMは入口の設計だという回に書きました。

この記事は広告です

ここまで使ってきた数字は、すべて「提供：日本AMD」と明記された記事のものです。それでも読む価値があると判断したのは、構成、モデル名、量子化方式、設定値、ログの出力がそのまま書かれていて、追試できる形になっているからです。数字の出どころが検証可能であれば、出しているのが誰かとは別に扱えます。

一方で、提供元のある記事で最初に疑うのは、比較の相手の選び方です。この記事はVRAM 32GB以上という条件で競合を並べていて、その条件自体は明示されています。ただし、より小さいモデルで足りる業務なら、そもそもVRAM 16GBの11万円前後のカードで済むかもしれません。条件の外に出る選択肢は、提供元のある記事には載りません。

ベンダーの発信と公式資料で推奨が食い違ったときにどちらを設計の根拠にするかは、ブログと公式ドキュメントの回で扱っています。

数字の出どころと限界

この記事の内容は、PC Watchが公開した2本の記事、2026年6月1日の「月額料金はタダ！Radeon AI PROで作る超ハイコスパな自社ローカルLLMサーバー」と2026年9月16日の「Radeon AI PRO R9700で作った自社AIを営業・在庫・調査で実用化する実践マニュアル」を、2026年9月19日に確認したものに基づきます。どちらも冒頭に「提供：日本AMD」と記載されたタイアップ記事です。25万円前後（2026年5月時点）、60万円以上、約90万円、KVキャッシュ8.78GiBと372,445トークン、同時2.84件、並列ごとの50.17・42.86・38.08・39.02トークン毎秒と並列効率、10人規模という記述は1本目の記載です。約30万円（2026年9月3日時点）、59万9,800円、80万円以上、約100万円、VRAM使用量約28.2GBは2本目の記載です。空きの3.8GBは、32GBから28.2GBを引いた値です。

測定条件は1台1構成に限られます。モデルは26Bを4bitに量子化したもの1つ、文脈の上限は131,072トークン、GPUメモリの使用率は0.9の設定です。モデルを替えれば必要なVRAMも同時実行数も変わります。実測は記事の筆者によるもので、第三者の再現はありません。価格はいずれも記事内の調査時点の実売で、為替や在庫で動きます。電気代、設置、保守、故障時の交換にかかる費用はこの記事の範囲外です。

社内データを外に出せないという前提そのものを層に分けて確かめる手順はデータの境界の回に、ローカルLLMという仕組み自体の説明と限界はローカルLLMとはの回に、作る費用ではなく動かし続ける費用で見る考え方は運用コストの回に書いています。自社の利用人数と文脈の長さから台数を出すご相談は、お問い合わせからお送りください。