Apple Silicon(Mac)
Apple M1 Ultra
データの取得日:
- メモリ帯域
- 800 GB/s
- 出典
- 確認日:
64 GB のとき
モデルごとに1件、このメモリに収まる量子化のうち、8K トークン以上のコンテキストで収まる中でファイルが最も大きい(精度が高い)ものを、よく使われている順に最大30件出しています。コンテキスト長は、その量子化が収まる最も長い値です(埋め込みモデルなど、扱える長さが 8K より短いモデルはその最大の長さ)。会話・文章の生成以外のモデルには用途を付けています。「残り」はメモリの量から推定を引いた値で、容量の 5% 未満は「ぎりぎり」としています(収まることの保証ではありません)。
-
コンテキスト長 32,768 推定 68.5 GB 残り 0.23 GB(ぎりぎり) 生成の速さ MoE のため推定なし
-
Qwen3.8-27B BF16コンテキスト長 131,072 推定 64.4 GB 残り 4.27 GB 生成の速さ 8.8〜12
-
Ornith-1.5-9B BF16コンテキスト長 262,144 推定 28.1 GB 残り 40.6 GB 生成の速さ 26〜35
-
コンテキスト長 262,144 推定 44.3 GB 残り 24.4 GB 生成の速さ MoE のため推定なし
-
コンテキスト長 16,384 推定 68.4 GB 残り 0.28 GB(ぎりぎり) 生成の速さ MoE のため推定なし
-
コンテキスト長 262,144 推定 44.3 GB 残り 24.4 GB 生成の速さ MoE のため推定なし
-
コンテキスト長 131,072 推定 64.4 GB 残り 4.27 GB 生成の速さ 8.8〜12
-
コンテキスト長 262,144 推定 33.6 GB 残り 35.1 GB 生成の速さ MoE のため推定なし
-
コンテキスト長 262,144 推定 35.5 GB 残り 33.2 GB 生成の速さ 28〜37
-
コンテキスト長 262,144 推定 45.3 GB 残り 23.4 GB 生成の速さ MoE のため推定なし
-
コンテキスト長 262,144 推定 29.7 GB 残り 39.0 GB 生成の速さ 20〜27
-
コンテキスト長 262,144 推定 47.4 GB 残り 21.3 GB 生成の速さ 17〜22
-
Ornith-1.0-9B BF16コンテキスト長 262,144 推定 27.6 GB 残り 41.1 GB 生成の速さ 27〜36
-
コンテキスト長 512 推定 2.41 GB 残り 66.3 GB 生成の速さ 359〜479
-
コンテキスト長 262,144 推定 45.6 GB 残り 23.1 GB 生成の速さ MoE のため推定なし
-
コンテキスト長 262,144 推定 28.1 GB 残り 40.6 GB 生成の速さ 26〜35
-
コンテキスト長 40,960 推定 23.3 GB 残り 45.4 GB 生成の速さ 29〜39
-
コンテキスト長 262,144 推定 49.8 GB 残り 18.9 GB 生成の速さ 15〜20
-
コンテキスト長 262,144 推定 57.3 GB 残り 11.5 GB 生成の速さ MoE のため推定なし
-
コンテキスト長 262,144 推定 55.9 GB 残り 12.8 GB 生成の速さ 29〜39
-
コンテキスト長 32,768 推定 68.4 GB 残り 0.27 GB(ぎりぎり) 生成の速さ MoE のため推定なし
-
コンテキスト長 262,144 推定 28.1 GB 残り 40.6 GB 生成の速さ 26〜35
-
コンテキスト長 262,144 推定 27.6 GB 残り 41.1 GB 生成の速さ 27〜36
-
コンテキスト長 262,144 推定 44.9 GB 残り 23.8 GB 生成の速さ MoE のため推定なし
-
コンテキスト長 131,072 推定 63.6 GB 残り 5.12 GB 生成の速さ 8.9〜12
-
コンテキスト長 262,144 推定 30.5 GB 残り 38.2 GB 生成の速さ 40〜53
-
コンテキスト長 262,144 推定 18.4 GB 残り 50.4 GB 生成の速さ 55〜74
-
Ornith-1.0-35B Q8_0コンテキスト長 262,144 推定 43.4 GB 残り 25.3 GB 生成の速さ MoE のため推定なし
-
コンテキスト長 262,144 推定 48.6 GB 残り 20.1 GB 生成の速さ 16〜21
-
コンテキスト長 262,144 推定 49.8 GB 残り 18.9 GB 生成の速さ 15〜20
128 GB のとき
モデルごとに1件、このメモリに収まる量子化のうち、8K トークン以上のコンテキストで収まる中でファイルが最も大きい(精度が高い)ものを、よく使われている順に最大30件出しています。コンテキスト長は、その量子化が収まる最も長い値です(埋め込みモデルなど、扱える長さが 8K より短いモデルはその最大の長さ)。会話・文章の生成以外のモデルには用途を付けています。「残り」はメモリの量から推定を引いた値で、容量の 5% 未満は「ぎりぎり」としています(収まることの保証ではありません)。
-
コンテキスト長 262,144 推定 92.0 GB 残り 45.4 GB 生成の速さ MoE のため推定なし
-
Qwen3.8-27B BF16コンテキスト長 262,144 推定 73.0 GB 残り 64.4 GB 生成の速さ 8.8〜12
-
Ornith-1.5-9B BF16コンテキスト長 262,144 推定 28.1 GB 残り 109 GB 生成の速さ 26〜35
-
コンテキスト長 262,144 推定 77.5 GB 残り 59.9 GB 生成の速さ MoE のため推定なし
-
コンテキスト長 262,144 推定 92.3 GB 残り 45.2 GB 生成の速さ MoE のため推定なし
-
Ornith-1.5-35B-A3B BF16コンテキスト長 262,144 推定 77.6 GB 残り 59.9 GB 生成の速さ MoE のため推定なし
-
コンテキスト長 262,144 推定 73.0 GB 残り 64.4 GB 生成の速さ 8.8〜12
-
コンテキスト長 262,144 推定 33.6 GB 残り 104 GB 生成の速さ MoE のため推定なし
-
コンテキスト長 262,144 推定 35.5 GB 残り 102 GB 生成の速さ 28〜37
-
コンテキスト長 262,144 推定 45.3 GB 残り 92.1 GB 生成の速さ MoE のため推定なし
-
コンテキスト長 262,144 推定 29.7 GB 残り 108 GB 生成の速さ 20〜27
-
コンテキスト長 262,144 推定 47.4 GB 残り 90.0 GB 生成の速さ 17〜22
-
Ornith-1.0-9B BF16コンテキスト長 262,144 推定 27.6 GB 残り 110 GB 生成の速さ 27〜36
-
コンテキスト長 512 推定 2.41 GB 残り 135 GB 生成の速さ 359〜479
-
コンテキスト長 262,144 推定 77.5 GB 残り 59.9 GB 生成の速さ MoE のため推定なし
-
コンテキスト長 262,144 推定 28.1 GB 残り 109 GB 生成の速さ 26〜35
-
コンテキスト長 40,960 推定 23.3 GB 残り 114 GB 生成の速さ 29〜39
-
コンテキスト長 262,144 推定 49.8 GB 残り 87.6 GB 生成の速さ 15〜20
-
コンテキスト長 262,144 推定 57.3 GB 残り 80.2 GB 生成の速さ MoE のため推定なし
-
コンテキスト長 262,144 推定 55.9 GB 残り 81.5 GB 生成の速さ 29〜39
-
コンテキスト長 32,768 推定 137 GB 残り 0.70 GB(ぎりぎり) 生成の速さ MoE のため推定なし
-
コンテキスト長 262,144 推定 28.1 GB 残り 109 GB 生成の速さ 26〜35
-
コンテキスト長 262,144 推定 27.6 GB 残り 110 GB 生成の速さ 27〜36
-
コンテキスト長 262,144 推定 77.5 GB 残り 59.9 GB 生成の速さ MoE のため推定なし
-
コンテキスト長 262,144 推定 72.2 GB 残り 65.2 GB 生成の速さ 8.9〜12
-
コンテキスト長 262,144 推定 30.5 GB 残り 107 GB 生成の速さ 40〜53
-
コンテキスト長 262,144 推定 18.4 GB 残り 119 GB 生成の速さ 55〜74
-
Ornith-1.0-35B BF16コンテキスト長 262,144 推定 75.9 GB 残り 61.6 GB 生成の速さ MoE のため推定なし
-
コンテキスト長 262,144 推定 48.6 GB 残り 88.8 GB 生成の速さ 16〜21
-
コンテキスト長 262,144 推定 49.8 GB 残り 87.6 GB 生成の速さ 15〜20
よくある質問
- Apple M1 Ultra でどんなローカルLLMが動きますか?
- 当サイトでは 1,036 モデルに、128GB・8,192 トークンで収まる量子化があります(推定)。よく使われているのは Qwen3.8-27B・Qwen3.8-Flash-Next-GSQ-RCO・Ornith-1.5-9B・Huihui-Qwen3.6-35B-A3B-abliterated-MTP・Ornith-1.5-35B-A3B などです。
- Apple M1 Ultra で動く、いちばん大きいモデルは?
- 当サイトに載っている中では MiniMax-M3.1-Flash-Maya(約 426.2B)で、IQ2_XXS なら 128GB に収まります(8,192 トークンの推定)。
- Apple M1 Ultra で文章を生成する速さは?
- メモリ帯域が 800 GB/s なので、たとえば Qwen3.8-27B の BF16(54.7 GB)なら、推定で毎秒 8.8〜12 トークンほどです(帯域 ÷ ファイルサイズの 6〜8 割。プロンプトの読み込みは含みません)。