698972

HOME | DIARY | PROFILE

【フォローする】【ログイン】

hiroblue’s LIFE LOG

< 新しい記事

新着記事一覧(全1677件)

過去の記事 >

2026.07.30

メモリ16GB PCでLocal LLM Gemma4:12b が考えた　Ollamaの設定変更

カテゴリ： AI　人工知能

Ollamaの素晴らしい点は「設定がシンプル」なことですが、 GPUの使用やコンテキスト長（Context Window）などの詳細なパラ

メータ変更については、「環境変数」と「Modelfile」という2つの方法を使います。

それぞれの設定方法を解説します。

1. GPUを使うための設定

基本的には、WSL2で正しくNVIDIAドライバが認識されていれば、 Ollamaは自動的にGPUを検出し、利用します。

確認方法:

ターミナルで以下のコマンドを打ってください。

 nvidia-smi

ここでGPUの情報が表示されれば、WSL2側からGPUが見えています。この状態で ollama run llama3 などを実行した際、モデル

のロードが速い、あるいは重い処理（推論）がスムーズであればGPUが使われています。

もし自動で認識されない場合:

環境変数を指定することで強制または調整できます。

1. .bashrc または .zshrc を開く: nano ~/.bash_rc

2. 以下を追記（通常は不要ですが、特定の設定が必要な場合）:

 # 特定のGPUを指定する場合（例：GPUが1枚なら0）
export OLLAMA_CUDA_VISIBLE_DEVICES=0

1. 反映: source ~/.bashrc

2. コンテキスト長や温度などの「モデルパラメータ」の設定

コンテキスト長（Context Length）、温度（Temperature）、Top-Pなど、モデルの挙動に関する設定は「Modelfile」というフ

ァイルを作成することで変更します。

Ollamaでは直接実行中に変えるのではなく、「自分用のカスタマイズモデル」を作るという手順を踏みます。

手順例：コンテキスト長を増やす場合

例えば、Llama 3のコンテキスト長を明示的に指定したカスタムモデルを作りたい場合はこうします。

1. Modelfileを作成する

適当な名前でファイルを作成します（例: Modelfile.custom ）。

 nano Modelfile.custom

1. 中身を記述する

ベースとなるモデルを指定し、その後にパラメータを書きます。

 FROM llama3
# コンテキスト長を8192に設定（例）
PARAMETER num_ctx 8192
# 温度（ランダム性）を調整したい場合
PARAMETER temperature 0.7
# Top-Pの調整
PARAMETER top_p 0.9

1. 新しいモデルとして登録する

このファイルを元に、新しい名前でOllamaに登録します。

 # ollama create [新しく付ける名前] -f [ファイルパス]
ollama create llama3-custom -f Modelfile.custom

1. 作成したモデルを実行する

 ollama run llama3-custom

 これで、`llama3-custom` を動かすときは設定したコンテキスト長が適用されます。

3. その他の重要な「環境変数」の設定

Ollama自体の動作に関する設定（ポート番号や外部アクセス許可など）は、 環境変数で行います。

WSL2でよく使うのは以下のものです。これらは ~/.bashrc または ~/.profile に記述します。

変数名	設定例	説明
`OLLAMA_HOST`	`0.0.0.0`	外部（Windows側のブラウザなど）からアクセス可能にする場合に必要
`OLLAMA_DEBUG`	`1`	問題が起きたとき、詳細なログを出力する
`OLLAM_FLASH_ATTENTION`	`1`	メモリ消費を抑えつつ高速化（一部モデルで有効）

設定の反映方法:

 # 設定を書いた後
source ~/.bashrc

まとめ：どう使い分ける？

● 「GPUを使いたいだけ」の場合

→ そのまま使う。動かなければ nvidia-smi でドライバを見直し、必要なら OLLAMA_CUDA_VISIBLE_DEVICES を設定。

● 「コンテキストを増やしたい」「もっと賢く（あるいはランダムに）したい」場合

→ Modelfileを作成して ollama create する。

基本的には、 「独自の挙動をさせたいときは Modelfile でカスタムモデルを作る」と覚えておけばOKです！

Natural Language Analytics with Generative Large-Language Models: A Practical Approach with Ollama a NATURAL LANGUAGE ANALYTICS W/G （Springerbriefs in Computer Science） [ Francisco S. Marcondes ]

お気に入りの記事を「いいね！」で応援しよう

Last updated 2026.07.31 08:44:20
コメント(0) | コメントを書く

[AI　人工知能] カテゴリの最新記事

アンソロピックのＩＰＯ目論見書の件　KIM… 2026.10.02
Microsoft Foundry Localを使って　NPU付… 2026.09.29
ClaudeCodeもCodexもGoogle AIも全部やめ… 2026.09.28

【毎日開催】

15記事にいいね！で1ポイント

10秒滞在

いいね! -- / --

次の日記を探す

おめでとうございます！
ミッションを達成しました。

※「ポイントを獲得する」ボタンを押すと広告が表示されます。

Calendar

ZOHO

(0)

スマートフォン版を閲覧 | PC版を閲覧