PR
Keyword Search
Shopping List
Calendar
Category
Freepage List
クラウドで提供される生成AIは、機密情報が漏洩してしまうリスク、プライバシーの漏洩が心配なので、ローカルで生成AIを使いたいと考える人は、多いです。
ローカルで生成AIを使うときに、MacBookなどMacのパソコンを使う人も多いようです。
これには、理由があります。
MacのパソコンでCPUがM1以降の機種は、ユニファイドメモリというメモリ管理が使えるので、本体のメモリをVRAMに充てることができるのです。
そのためMacBookやMac miniで本体メモリが32G以上あれば、VRAMに16GB使われてもパソコンのプログラムの処理で16GB使えるため、安定して処理ができると思うのです。
一応本体メモリが16GBでも、小さな容量の生成AIの学習モデルなら使えるようです。
たとえば、nidum-gemma-3-4b-it-uncensored:q8_0は、私のVRAM6GB本体メモリが16GBのWindows11のパソコンでも使えました。
Gemma3で、マルチモーダルが使えるタイプも、VRAMが16GBあれば、利用できるようです。
【中古】Apple MacBook Pro 16インチ M1 Max(CPU:10C/GPU:32C) 32GB/1TB スペースグレイ MK1A3J/A (16インチ, 2021)【新宿2】保証期間1ヶ月【ランクA】
価格:264,980円(税込、送料別)
(2025/5/14時点)
[Z1CF0004P] Apple Mac mini 2024年CTOモデル(ベースモデル MU9D3J/A)
価格:154,800円(税込、送料別)
(2025/5/14時点)
Windows11のパソコンに買い換えを検討して… 2025.10.10
ふるさと納税の返礼品のパソコン 2025.08.23
RAM32GBなので、ローカルでLLMを使うとき… 2025.02.07