2025.11.21
カテゴリ： 半導体、電子部品
9TO5MAC
に出た、マーカス・メンデスさんの記事を抜粋しました。
AppleのMachine Learning Researchブログの新しい投稿で、ローカルLLMの実行に関して、M5 AppleシリコンがM4よりもどれだけ改善されているかを示した。詳細は以下の通り。
※ローカルLLMって、デバイス内部で完結するLLM（大規模言語モデル）という理解で良いのかな🤔
- 数年前にAppleは「Appleシリコン上で効率的で柔軟な機械学習のためのアレイフレームワーク」と説明しているMLXをリリースした
- 実際には、MLXはオープンソースのフレームワークで、開発者がAppleシリコンのMacで機械学習モデルをネイティブに構築して実行し、AIの世界に馴染みのあるAPIとインターフェイスでサポートする
- MLXは効率的で柔軟性があり、Appleシリコン用に高度に調整されたオープンソースのアレイフレームワークである
- MLXは、数値シミュレーションや科学計算から機械学習まで、さまざまな用途に使用でき、テキストと画像生成を含むニューラルネットワークのトレーニングと推論のサポートが組み込まれている
- MLXを使用すると、Appleシリコンデバイスで大規模な言語モデルでテキストを簡単に生成したり、微調整したりできる
- MLXは、Appleシリコンの統合メモリアーキテクチャを活用している
- 現在入手可能なMLXパッケージの1つはMLX LMで、テキストを生成しAppleシリコンMacで言語モデルを微調整するためのものである
- MLX LMを使用すると、開発者とユーザーはHugging Faceで利用可能なほとんどのモデルをダウンロードし、ローカルで実行できる
- このフレームワークは、より少ないメモリを使用しながら大きなモデルを実行できるようにする圧縮方法である量子化もサポートしていて、より高速な推論につながる
M5対M4
- パフォーマンスの向上を説明するために、AppleはMLX LMを使用して、M4およびM5 MacBook Proでプロンプトを受信した後、複数のオープンモデルが最初のトークンを生成するのにかかった時間を比較した
- 中略
- Appleは128の追加トークンの生成速度も評価し、一般的にM5はM4と比較して19-27%のパフォーマンス向上を示した：これらの結果に関してAppleは次のとおり解説した
- この投稿でテストしたアーキテクチャでは、M5はメモリ帯域幅が大きいのでM4と比較して19-27%のパフォーマンス向上を提供した：M4は120GB/s、M5は153GB/s、28%高い
- メモリフットプリントに関しては、MacBook Pro 24GBはBF16精度で8Bまたは30B MoE 4ビット量子化を簡単に保持でき、これらのアーキテクチャの両方で推論ワークロードを18GB以下に抑えることができる
- Appleは画像生成のパフォーマンスの違いも比較し、M5はM4の3.8倍以上の速さで仕事をしたと述べた
もう完全に受け売りなので、自分の意見すら出てこない😱
お気に入りの記事を「いいね！」で応援しよう
[半導体、電子部品] カテゴリの最新記事
-
Appleの2028年製iPhoneは、1.4nm A22 Pro… 2026.06.17
-
iPhone 18 Proの新しいA20チップは、2つの… 2026.05.10
-
AppleのM5 Maxチップが初のベンチマーク結… 2026.03.06
【毎日開催】
15記事にいいね！で1ポイント
PR
コメント新着
shigechan2008
shigechan2008のブログへようこそ ディープでオタクな硬派(^o^)？のブログです。古いラジオの修復記事がメイン？ですけど、最近はサボり気味😵 アップル関連や食べ物も宜しくお願いします🍉🍍
フリーページ
カテゴリ
カテゴリ未分類
(0)写真
(601)カメラ
(114)TV/ディスプレイ/オーディオ/ビジュアル
(194)iPod各種
(38)日用品
(318)SCD-777ES
(5)音楽
(23)健康
(89)携帯電話、携帯通信、OS
(1040)パソコン、タブレット関係
(1453)セキュリティ
(133)各種放熱管理
(34)工具/工作用品
(38)半導体、電子部品
(158)時計
(89)食べ物
(849)商品レビュー
(488)その他
(456)鉄道関連
(304)ブログ設定
(17)アマチュア無線
(17)ラジオ・受信機
(138)RF-2200
(31)RF-2900
(53)RF-2600/RF-2800
(18)RF-2800B
(15)RF-2900LBS
(59)RF-6300LBS/RF-B300
(19)RF-B10/RF-B11/RF-B20
(28)RF-B40/RF-B45/RF-B55/RF-B65
(42)テレコ、ラジカセ
(28)RF-1108/RF-1140
(8)RF-1150LB/RF-1130LB/RF-1130LBS
(25)RF-1180/RF-1180B
(17)RF-1650J/RF-1680L/RF-1630L
(13)RF-1401D/RF-1405/RF-1700
(33)RF-690/RF-850シリーズ/RF-858/RF-859
(70)RF-822/RF-622：お風呂ラジオ
(9)RF-080/RF-081/RF-082/RF-088
(39)RF-032D/RF-066/RF-079
(15)RF-788L/RF-096L/RF-818JB/RF-833L/RF-844
(32)RF-877/RF-727
(13)RF-888JB(GX300)
(65)R-109/R-505/R-905J/R-1052/R-77
(28)R-82/R-140/R-166/R-441B/R-8
(11)T-12/T-13/T-55/T-59
(13)T-81H/RF-1006M
(15)その他小型ラジオ
(31)ICF-5600/ICF-SW77,SW22/ICF-7500/SRS-F10
(27)ICR-4800
(7)RE-6250,R-1492
(8)キーワードサーチ
▼キーワード検索
購入履歴
シャボン玉石けん 洗たく槽クリーナー 500g 【SB02665】
スジャータ こだわりのアイスコーヒー 無糖 1000ml紙パック×6本入｜ 送料無料 珈琲 コーヒー 1l 1L 無糖コーヒー 無糖 アイスコーヒー
フマキラー キッチン用 アルコール除菌スプレー つめかえ用 大容量(5L)【フマキラー アルコール除菌シリーズ】[除菌スプレー/抗菌/まな板/キッチン/消臭/食器/掃除]
【楽天1位★睡眠のプロ監修★複数で最大半額】＼レビュー特典付き／口閉じテープ 鼻呼吸テープ いびき防止テープ マウステープ 口テープ 口呼吸 テープ 口呼吸防止 いびき防止 グッズ テープ いびき 安眠 いびき対策 いびき軽減 鼾防止 剥がれにくい RP5 RPR
白元 アイスノン ネッククーラー アイスグレー Lサイズ(内周約38cm)
スジャータ こだわりのアイスコーヒー 無糖 1000ml紙パック×6本入｜ 送料無料 珈琲 コーヒー 1l 1L 無糖コーヒー 無糖 アイスコーヒー
フマキラー キッチン用 アルコール除菌スプレー つめかえ用 大容量(5L)【フマキラー アルコール除菌シリーズ】[除菌スプレー/抗菌/まな板/キッチン/消臭/食器/掃除]
【楽天1位★睡眠のプロ監修★複数で最大半額】＼レビュー特典付き／口閉じテープ 鼻呼吸テープ いびき防止テープ マウステープ 口テープ 口呼吸 テープ 口呼吸防止 いびき防止 グッズ テープ いびき 安眠 いびき対策 いびき軽減 鼾防止 剥がれにくい RP5 RPR
白元 アイスノン ネッククーラー アイスグレー Lサイズ(内周約38cm)
カレンダー
7周年記念MEMORIAL L…
New!
inkyo7さん
2026年７月２７日の…
New!
藻緯羅さん
アークランズ：眠れ…
New!
エム坊さん
源氏物語〔35帖 柏木…
New!
USM1さん
次は無かったです・・
New!
こたつねこ０１さん
JR成田 総武本線 E49…
New!
鉄人騎士。さん
煮麺・入麺‣……？ New! セミ・コンフィさん
シンカトリ New! エンスト新さん
日常なるゲキジョウ…
New!
ナイト1960さん
生命力強いなぁ New! ばーど白鳥さん
2026年７月２７日の…
New!
藻緯羅さんアークランズ：眠れ…
New!
エム坊さん源氏物語〔35帖 柏木…
New!
USM1さん次は無かったです・・
New!
こたつねこ０１さんJR成田 総武本線 E49…
New!
鉄人騎士。さん煮麺・入麺‣……？ New! セミ・コンフィさん
シンカトリ New! エンスト新さん
日常なるゲキジョウ…
New!
ナイト1960さん生命力強いなぁ New! ばーど白鳥さん
© Rakuten Group, Inc.
