2025.11.21
カテゴリ： 半導体、電子部品
9TO5MAC
に出た、マーカス・メンデスさんの記事を抜粋しました。
AppleのMachine Learning Researchブログの新しい投稿で、ローカルLLMの実行に関して、M5 AppleシリコンがM4よりもどれだけ改善されているかを示した。詳細は以下の通り。
※ローカルLLMって、デバイス内部で完結するLLM（大規模言語モデル）という理解で良いのかな🤔
- 数年前にAppleは「Appleシリコン上で効率的で柔軟な機械学習のためのアレイフレームワーク」と説明しているMLXをリリースした
- 実際には、MLXはオープンソースのフレームワークで、開発者がAppleシリコンのMacで機械学習モデルをネイティブに構築して実行し、AIの世界に馴染みのあるAPIとインターフェイスでサポートする
- MLXは効率的で柔軟性があり、Appleシリコン用に高度に調整されたオープンソースのアレイフレームワークである
- MLXは、数値シミュレーションや科学計算から機械学習まで、さまざまな用途に使用でき、テキストと画像生成を含むニューラルネットワークのトレーニングと推論のサポートが組み込まれている
- MLXを使用すると、Appleシリコンデバイスで大規模な言語モデルでテキストを簡単に生成したり、微調整したりできる
- MLXは、Appleシリコンの統合メモリアーキテクチャを活用している
- 現在入手可能なMLXパッケージの1つはMLX LMで、テキストを生成しAppleシリコンMacで言語モデルを微調整するためのものである
- MLX LMを使用すると、開発者とユーザーはHugging Faceで利用可能なほとんどのモデルをダウンロードし、ローカルで実行できる
- このフレームワークは、より少ないメモリを使用しながら大きなモデルを実行できるようにする圧縮方法である量子化もサポートしていて、より高速な推論につながる
M5対M4
- パフォーマンスの向上を説明するために、AppleはMLX LMを使用して、M4およびM5 MacBook Proでプロンプトを受信した後、複数のオープンモデルが最初のトークンを生成するのにかかった時間を比較した
- 中略
- Appleは128の追加トークンの生成速度も評価し、一般的にM5はM4と比較して19-27%のパフォーマンス向上を示した：これらの結果に関してAppleは次のとおり解説した
- この投稿でテストしたアーキテクチャでは、M5はメモリ帯域幅が大きいのでM4と比較して19-27%のパフォーマンス向上を提供した：M4は120GB/s、M5は153GB/s、28%高い
- メモリフットプリントに関しては、MacBook Pro 24GBはBF16精度で8Bまたは30B MoE 4ビット量子化を簡単に保持でき、これらのアーキテクチャの両方で推論ワークロードを18GB以下に抑えることができる
- Appleは画像生成のパフォーマンスの違いも比較し、M5はM4の3.8倍以上の速さで仕事をしたと述べた
もう完全に受け売りなので、自分の意見すら出てこない😱
お気に入りの記事を「いいね！」で応援しよう
[半導体、電子部品] カテゴリの最新記事
-
10/29時点でのM5 ProとM5 Maxの性能比較：… 2025.11.16
-
チップメーカーのTSMCがAppleにさらなる値… 2025.11.07
-
AppleのA20チップは、より薄くクール（過… 2025.10.26
【毎日開催】
15記事にいいね！で1ポイント
PR
コメント新着
shigechan2008@ Re[1]:新しい研究は、手術なしで脳と接続できるApple Vision Proにつながる可能性がある：AppleInsider(10/04)
藻緯羅さんへ お早うございます。 2024年…
shigechan2008
shigechan2008のブログへようこそ ディープでオタクな硬派(^o^)？のブログです。古いラジオの修復記事がメイン？ですけど、最近はサボり気味😵 アップル関連や食べ物も宜しくお願いします🍉🍍
フリーページ
カテゴリ
カテゴリ未分類
(0)写真
(591)カメラ
(111)TV/ディスプレイ/オーディオ/ビジュアル
(188)iPod各種
(36)日用品
(315)SCD-777ES
(5)音楽
(23)健康
(86)携帯電話、携帯通信、OS
(984)パソコン、タブレット関係
(1410)セキュリティ
(121)各種放熱管理
(34)工具/工作用品
(38)半導体、電子部品
(151)時計
(87)食べ物
(846)商品レビュー
(485)その他
(450)鉄道関連
(304)ブログ設定
(17)アマチュア無線
(17)ラジオ・受信機
(138)RF-2200
(31)RF-2900
(53)RF-2600/RF-2800
(18)RF-2800B
(15)RF-2900LBS
(59)RF-6300LBS/RF-B300
(19)RF-B10/RF-B11/RF-B20
(28)RF-B40/RF-B45/RF-B55/RF-B65
(42)テレコ、ラジカセ
(28)RF-1108/RF-1140
(8)RF-1150LB/RF-1130LB/RF-1130LBS
(25)RF-1180/RF-1180B
(13)RF-1650J/RF-1680L/RF-1630L
(13)RF-1401D/RF-1405/RF-1700
(33)RF-690/RF-850シリーズ/RF-858/RF-859
(65)RF-822/RF-622：お風呂ラジオ
(9)RF-080/RF-081/RF-082/RF-088
(39)RF-032D/RF-066/RF-079
(15)RF-788L/RF-096L/RF-818JB/RF-833L/RF-844
(33)RF-877/RF-727
(13)RF-888JB(GX300)
(65)R-109/R-505/R-905J/R-1052/R-77
(28)R-82/R-140/R-166/R-441B/R-8
(11)T-12/T-13/T-55/T-59
(13)T-81H/RF-1006M
(15)その他小型ラジオ
(30)ICF-5600/ICF-SW77,SW22/ICF-7500/SRS-F10
(27)ICR-4800
(7)RE-6250,R-1492
(8)キーワードサーチ
▼キーワード検索
購入履歴
ブラザー Brother 純正 LC119BK【大容量】純正インク Brother 箱なしアウトレット 純正 ブラザー LC119BK【訳あり】【ゆうパケット対応不可】[20CO]
【色が選べる】【大容量】純正インク 箱なしアウトレット ブラザー LC115シリーズ【訳あり】[50CO]
口閉じテープ いびき防止テープ 鼻呼吸テープ 口呼吸テープ グッズ マウステープ 口テープ 安眠 口呼吸防止 いびき対策 いびき軽減 鼾防止 剥がれにくい【楽天1位★睡眠のプロ監修★複数で最大半額】?レビュー特典付き／口閉じテープ いびき防止テープ 鼻呼吸テープ 口呼吸 テープ 口呼吸防止 いびき防止 グッズ テープ マウステープ 口テープ いびき 安眠 いびき対策 いびき軽減 鼾防止 剥がれにくい RP5 RPR
エージー24メン メンズシート フェイス＆ボディ スタイリッシュシトラス 30枚エージー24メン メンズシート フェイス＆ボディ スタイリッシュシトラス 30枚 【エージーデオ24(Ag deo 24)】 男性化粧品(メンズコスメ) ボディ用
スジャータ プレミアム ブラックコーヒー 無糖 1000ml紙パック 6本 珈琲 アイス コーヒー 無糖 ブラック 1l 1Lスジャータ プレミアム ブラックコーヒー 無糖 1000ml紙パック×6本入｜ 送料無料 珈琲 アイス コーヒー 無糖 ブラック 1l 1L
【色が選べる】【大容量】純正インク 箱なしアウトレット ブラザー LC115シリーズ【訳あり】[50CO]
口閉じテープ いびき防止テープ 鼻呼吸テープ 口呼吸テープ グッズ マウステープ 口テープ 安眠 口呼吸防止 いびき対策 いびき軽減 鼾防止 剥がれにくい【楽天1位★睡眠のプロ監修★複数で最大半額】?レビュー特典付き／口閉じテープ いびき防止テープ 鼻呼吸テープ 口呼吸 テープ 口呼吸防止 いびき防止 グッズ テープ マウステープ 口テープ いびき 安眠 いびき対策 いびき軽減 鼾防止 剥がれにくい RP5 RPR
エージー24メン メンズシート フェイス＆ボディ スタイリッシュシトラス 30枚エージー24メン メンズシート フェイス＆ボディ スタイリッシュシトラス 30枚 【エージーデオ24(Ag deo 24)】 男性化粧品(メンズコスメ) ボディ用
スジャータ プレミアム ブラックコーヒー 無糖 1000ml紙パック 6本 珈琲 アイス コーヒー 無糖 ブラック 1l 1Lスジャータ プレミアム ブラックコーヒー 無糖 1000ml紙パック×6本入｜ 送料無料 珈琲 アイス コーヒー 無糖 ブラック 1l 1L
カレンダー
トーメンデバイス：…
New!
エム坊さん
【令和6年能登半島地… New! inkyo7さん
源氏物語〔34帖 若菜…
New!
USM1さん
2025年１１月２４日…
New!
藻緯羅さん
#富山地鉄 立山線 デ…
New!
鉄人騎士。さん
帰り道で道草？
New!
こたつねこ０１さん
あれこれと‣…… New! セミ・コンフィさん
マイナ保険証 New! エンスト新さん
2025秋旅 九州編(10…
New!
ナイト1960さん
街の病院で治らない…
New!
潜在意識の設計士：Inner Heart [向月 謙信]さん
New!
エム坊さん【令和6年能登半島地… New! inkyo7さん
源氏物語〔34帖 若菜…
New!
USM1さん2025年１１月２４日…
New!
藻緯羅さん#富山地鉄 立山線 デ…
New!
鉄人騎士。さん帰り道で道草？
New!
こたつねこ０１さんあれこれと‣…… New! セミ・コンフィさん
マイナ保険証 New! エンスト新さん
2025秋旅 九州編(10…
New!
ナイト1960さん街の病院で治らない…
New!
潜在意識の設計士：Inner Heart [向月 謙信]さん© Rakuten Group, Inc.
