家のPCでAIが動く時代に。「ローカルLLM」って実は使えます

こんにちは、アラフィフブロガーです。

最近は「ChatGPT」「生成AI」なんて言葉、テレビでも普通に聞くようになりましたね。今日はちょっとマニアックに 「ローカルLLM」の話をしてみたいと思います。

ローカルLLMって何？

ChatGPTのようなAIは、入力した内容がインターネットの向こう側の巨大なサーバー（クラウド）で計算されて答えが返ってきます。

一方の ローカルLLMは、その「AIの頭脳」を 自分のPCの中だけで動かしてしまうもの。ネットの向こうにデータを送らず、手元のパソコンで完結させるわけですね。ひと昔前は研究者向けの話でしたが、最近のPCは性能が上がって、普通のPCでもそこそこ賢いAIが動く時代になってきました。

自分のPCで動かすメリット

• 情報が外に出ない— 入力内容がネットに送られないので、機密情報や個人情報を扱うときの安心感がまるで違います。仕事で使う人にとっては、ここが一番大きいかも。
• 使い放題でお金がかからない— 一度環境を作れば、あとは電気代くらい。料金を気にせず使い倒せます。
• ネットがなくても動く— オフラインでもOK。
• 自分好みに育てられる— 用途に合わせてカスタマイズできるのも面白いところ。

正直、デメリットも

PCのスペックがそれなりに必要だったり、世界最強のクラウドAIほど賢いとは限らなかったり、最初の設定が少し面倒だったり。とはいえ、この差は年々ものすごい勢いで縮まっています。

結局「使える」の？

私の結論は、 用途を選べばかなり使えるです。「機密を外に出さずに手伝ってほしい」「コストを気にせず気軽に使いたい」——そんな場面では、クラウドAIにない強みを発揮します。

アラフィフのおっさんが家のPCでコソコソAIを動かして遊ぶ、なんて時代になったんだなあと、しみじみ感じております（笑）。興味が出た方は「ローカルLLM 始め方」で検索してみると、意外と簡単に第一歩が踏み出せますよ。

次回は、どんなPCならローカルLLMが動くのか、ハードウェア選びについて書いてみようかなと思います。お楽しみに！