PR
購入履歴
カレンダー
キーワードサーチ
最近わたしのまわりでも「ローカルLLM」という言葉をちらほら聞くようになりました。ChatGPTみたいなAIを、クラウドではなく 自分のPCの中だけで動かす、というやつです。
「データが外に出ないから安心」「APIの料金を気にせず使い放題」――魅力は分かる。でも一番気になるのは結局これですよね。
「で、うちのPCで動くの?」
というわけで今回は、ローカルLLMを動かすにはどんなPCが必要なのか、2026年の今の感覚で整理してみました。難しい話はなるべく噛み砕いて書いたつもりです。
CPUのコア数とかクロックとか、いろいろ気になるところはあるんですが、ローカルLLMにおいて一番効いてくるのは メモリ(VRAM/RAM)の容量です。
AIモデルというのは、その「頭脳の中身」をまるごとメモリに展開してから動きます。だから、
という、けっこうハッキリした境界線があります。GPUの計算速度より先に、まず「載るか載らないか」。ここが最初の関門です。
ローカルLLMのモデルには「7B」「14B」「70B」みたいなサイズ表記があります。Bは Billion(10億)で、パラメータ数=頭脳の規模だと思ってください。数字が大きいほど賢いけど、その分メモリを食います。
「量子化(Q4くらい)」という軽量化をかけた前提での、ざっくりした目安がこちらです。
| モデルの規模 | 必要メモリの目安 | 動かせるPCの例 |
|---|---|---|
|
1B〜3B(小型)
|
4〜8GB | わりと普通のノートPCでも |
|
7B〜8B
|
8〜12GB | エントリーGPU、最近のiGPU搭載機 |
|
13B〜14B
|
12〜16GB | ミドルクラスのGPU/メモリ多めのノート |
|
27B〜32B
|
24GB前後 | ハイエンドGPU(RTX 4090クラス) |
|
70B級
|
48GB以上 | 大容量GPU or ユニファイドメモリ機 |
|
120B級
|
96GB以上 | Mac Studio級/大容量メモリ機 |
ポイントは、 いきなり大きいモデルを狙わないこと。まずは7B〜14Bあたりで「お、ちゃんと喋るじゃん」という手触りを確かめてから、必要に応じて上を目指すのが賢いと思います。日本語の実用なら、わたしは14Bクラス(Qwen3-14Bなど)がちょうどいいバランスだと感じています。
2026年の今、ローカルLLM向けのマシン選びはざっくり3パターンに分かれます。
いわゆる「ゲーミングPC」の路線。 速さは正義で、ここが一番ストレスなく動きます。鍵はやっぱりVRAM容量。
ただし上を目指すほど本体価格も電気代も跳ね上がります。「VRAMが少し多いだけで値段が倍」みたいな世界なので、財布と相談ですね。
MacはCPUとGPUがメモリを共有する ユニファイドメモリという仕組みで、積んだRAMがほぼそのままLLM用に使えます。これが地味に強い。
96GB構成のMacなら、専用GPUだと数十万円コースの大きめモデルがあっさり載ったりします。しかも静かで省電力。常時つけっぱなしのAIサーバー的な使い方とも相性がいいです。弱点は、専用GPUほどの推論速度は出にくいことと、初期費用がそれなりにかかること。
ここ1〜2年でぐっと面白くなったのがこの路線。Ryzen AI Max+ のような統合チップは、大容量の共有メモリを活かして100B級まで載せられたりします。「巨大GPUは買えないけど大きいモデルを動かしたい」庶民の味方、という立ち位置です。
参考までに、わたしが普段ローカルLLMを回しているのは ③のWindowsノート路線です。
専用グラボなし、内蔵GPUだけの構成です。それでも共有メモリが64GBあるおかげで、14Bクラスのモデルなら普通に実用になっています。推論エンジンには llama.cpp
を使っていて、AMDのiGPUなので Vulkanバックエンドで動かすのが今のところ正解でした(WindowsでのROCm/HIPは正直しんどい)。
「専用GPUがないと無理でしょ?」と思われがちですが、 メモリさえ積んでいれば、内蔵GPUでもけっこう戦えるというのが実感です。速度番長ではないけれど、外にデータを出さずに自分のPCの中で完結する安心感は、やっぱり代えがたいものがあります。
昔みたいに難しいコマンドを叩かなくても、今は手軽に始められます。
最初の一歩なら、迷わず LM Studio か Ollama でいいと思います。
最後に、買う前・使う前に知っておくとガッカリしないコツをいくつか。
ひとつめは、さっきも書いた メモリ不足のオフロード問題。容量がギリギリだと「動くけど遅すぎて使い物にならない」状態になりがちです。少し余裕を持った容量を狙いましょう。
ふたつめは、 「24GB」が同じでも中身は違うこと。専用VRAMの24GBと、ユニファイドメモリの24GBでは、速度も扱えるモデルも消費電力も別物です。数字だけで比べないように。
みっつめは、 量子化のかけすぎに注意。軽くするほどメモリは節約できますが、その分だけ受け答えの精度は落ちていきます。実用ではQ4〜Q5あたりがバランス良し、という感覚です。
長くなったのでまとめると――
この分野は半年でガラッと常識が変わるので、あまり気負わず、手持ちのPCでまず動かしてみるのが一番だと思います。自分のPCの中でAIがちゃんと喋り出した瞬間って、なかなか感動しますよ。
それではまた。
「ローカルLLM」って実は使えます 2026年05月24日