本文へ移動
localllm

Apple Silicon(Mac)

Apple M1 Ultra

データの取得日:

メモリ帯域
800 GB/s

64 GB のとき

モデルごとに1件、このメモリに収まる量子化のうち、8K トークン以上のコンテキストで収まる中でファイルが最も大きい(精度が高い)ものを、よく使われている順に最大30件出しています。コンテキスト長は、その量子化が収まる最も長い値です(埋め込みモデルなど、扱える長さが 8K より短いモデルはその最大の長さ)。会話・文章の生成以外のモデルには用途を付けています。「残り」はメモリの量から推定を引いた値で、容量の 5% 未満は「ぎりぎり」としています(収まることの保証ではありません)。

  • Qwen3.8-Flash-Next-GSQ-RCO Q2_0 画像も入力
    コンテキスト長 32,768 推定 68.5 GB 残り 0.23 GB(ぎりぎり) 生成の速さ MoE のため推定なし
  • コンテキスト長 131,072 推定 64.4 GB 残り 4.27 GB 生成の速さ 8.8〜12
  • コンテキスト長 262,144 推定 28.1 GB 残り 40.6 GB 生成の速さ 26〜35
  • コンテキスト長 262,144 推定 44.3 GB 残り 24.4 GB 生成の速さ MoE のため推定なし
  • コンテキスト長 16,384 推定 68.4 GB 残り 0.28 GB(ぎりぎり) 生成の速さ MoE のため推定なし
  • Ornith-1.5-35B-A3B Q8_0 画像も入力
    コンテキスト長 262,144 推定 44.3 GB 残り 24.4 GB 生成の速さ MoE のため推定なし
  • Huihui-Qwen3.8-27B-abliterated BF16 画像も入力
    コンテキスト長 131,072 推定 64.4 GB 残り 4.27 GB 生成の速さ 8.8〜12
  • コンテキスト長 262,144 推定 33.6 GB 残り 35.1 GB 生成の速さ MoE のため推定なし
  • Qwen3.8-27B-iMatrix-NVFP4-MTP NVFP4 画像も入力
    コンテキスト長 262,144 推定 35.5 GB 残り 33.2 GB 生成の速さ 28〜37
  • Tiel-Coder-35B-A3B-GGUF-MTP UD-Q8_K_XL 画像も入力
    コンテキスト長 262,144 推定 45.3 GB 残り 23.4 GB 生成の速さ MoE のため推定なし
  • gemma-4-12B-it BF16 画像も入力
    コンテキスト長 262,144 推定 29.7 GB 残り 39.0 GB 生成の速さ 20〜27
  • コンテキスト長 262,144 推定 47.4 GB 残り 21.3 GB 生成の速さ 17〜22
  • コンテキスト長 262,144 推定 27.6 GB 残り 41.1 GB 生成の速さ 27〜36
  • mxbai-embed-large-v1 F32 埋め込み(会話には使えない)
    コンテキスト長 512 推定 2.41 GB 残り 66.3 GB 生成の速さ 359〜479
  • Qwen3.6-35B-A3B-MTP UD-Q8_K_XL 画像も入力
    コンテキスト長 262,144 推定 45.6 GB 残り 23.1 GB 生成の速さ MoE のため推定なし
  • コンテキスト長 262,144 推定 28.1 GB 残り 40.6 GB 生成の速さ 26〜35
  • コンテキスト長 40,960 推定 23.3 GB 残り 45.4 GB 生成の速さ 29〜39
  • コンテキスト長 262,144 推定 49.8 GB 残り 18.9 GB 生成の速さ 15〜20
  • gemma-4-26B-A4B-it BF16 画像も入力
    コンテキスト長 262,144 推定 57.3 GB 残り 11.5 GB 生成の速さ MoE のため推定なし
  • Qwen3-VL-8B-Instruct BF16 画像も入力
    コンテキスト長 262,144 推定 55.9 GB 残り 12.8 GB 生成の速さ 29〜39
  • Qwen3.8-Flash-Next UD-IQ1_S 画像も入力
    コンテキスト長 32,768 推定 68.4 GB 残り 0.27 GB(ぎりぎり) 生成の速さ MoE のため推定なし
  • Qwen3.5-9B BF16 画像も入力
    コンテキスト長 262,144 推定 28.1 GB 残り 40.6 GB 生成の速さ 26〜35
  • コンテキスト長 262,144 推定 27.6 GB 残り 41.1 GB 生成の速さ 27〜36
  • Qwen3.6-35B-A3B UD-Q8_K_XL 画像も入力
    コンテキスト長 262,144 推定 44.9 GB 残り 23.8 GB 生成の速さ MoE のため推定なし
  • コンテキスト長 131,072 推定 63.6 GB 残り 5.12 GB 生成の速さ 8.9〜12
  • コンテキスト長 262,144 推定 30.5 GB 残り 38.2 GB 生成の速さ 40〜53
  • Qwen3.5-4B BF16 画像も入力
    コンテキスト長 262,144 推定 18.4 GB 残り 50.4 GB 生成の速さ 55〜74
  • コンテキスト長 262,144 推定 43.4 GB 残り 25.3 GB 生成の速さ MoE のため推定なし
  • コンテキスト長 262,144 推定 48.6 GB 残り 20.1 GB 生成の速さ 16〜21
  • Dirk-Qwen3.8-27B UD-Q8_K_XL 画像も入力
    コンテキスト長 262,144 推定 49.8 GB 残り 18.9 GB 生成の速さ 15〜20

128 GB のとき

モデルごとに1件、このメモリに収まる量子化のうち、8K トークン以上のコンテキストで収まる中でファイルが最も大きい(精度が高い)ものを、よく使われている順に最大30件出しています。コンテキスト長は、その量子化が収まる最も長い値です(埋め込みモデルなど、扱える長さが 8K より短いモデルはその最大の長さ)。会話・文章の生成以外のモデルには用途を付けています。「残り」はメモリの量から推定を引いた値で、容量の 5% 未満は「ぎりぎり」としています(収まることの保証ではありません)。

  • Qwen3.8-Flash-Next-GSQ-RCO IQ3_S 画像も入力
    コンテキスト長 262,144 推定 92.0 GB 残り 45.4 GB 生成の速さ MoE のため推定なし
  • コンテキスト長 262,144 推定 73.0 GB 残り 64.4 GB 生成の速さ 8.8〜12
  • コンテキスト長 262,144 推定 28.1 GB 残り 109 GB 生成の速さ 26〜35
  • コンテキスト長 262,144 推定 77.5 GB 残り 59.9 GB 生成の速さ MoE のため推定なし
  • コンテキスト長 262,144 推定 92.3 GB 残り 45.2 GB 生成の速さ MoE のため推定なし
  • コンテキスト長 262,144 推定 77.6 GB 残り 59.9 GB 生成の速さ MoE のため推定なし
  • Huihui-Qwen3.8-27B-abliterated BF16 画像も入力
    コンテキスト長 262,144 推定 73.0 GB 残り 64.4 GB 生成の速さ 8.8〜12
  • コンテキスト長 262,144 推定 33.6 GB 残り 104 GB 生成の速さ MoE のため推定なし
  • Qwen3.8-27B-iMatrix-NVFP4-MTP NVFP4 画像も入力
    コンテキスト長 262,144 推定 35.5 GB 残り 102 GB 生成の速さ 28〜37
  • Tiel-Coder-35B-A3B-GGUF-MTP UD-Q8_K_XL 画像も入力
    コンテキスト長 262,144 推定 45.3 GB 残り 92.1 GB 生成の速さ MoE のため推定なし
  • gemma-4-12B-it BF16 画像も入力
    コンテキスト長 262,144 推定 29.7 GB 残り 108 GB 生成の速さ 20〜27
  • コンテキスト長 262,144 推定 47.4 GB 残り 90.0 GB 生成の速さ 17〜22
  • コンテキスト長 262,144 推定 27.6 GB 残り 110 GB 生成の速さ 27〜36
  • mxbai-embed-large-v1 F32 埋め込み(会話には使えない)
    コンテキスト長 512 推定 2.41 GB 残り 135 GB 生成の速さ 359〜479
  • Qwen3.6-35B-A3B-MTP BF16 画像も入力
    コンテキスト長 262,144 推定 77.5 GB 残り 59.9 GB 生成の速さ MoE のため推定なし
  • コンテキスト長 262,144 推定 28.1 GB 残り 109 GB 生成の速さ 26〜35
  • コンテキスト長 40,960 推定 23.3 GB 残り 114 GB 生成の速さ 29〜39
  • コンテキスト長 262,144 推定 49.8 GB 残り 87.6 GB 生成の速さ 15〜20
  • gemma-4-26B-A4B-it BF16 画像も入力
    コンテキスト長 262,144 推定 57.3 GB 残り 80.2 GB 生成の速さ MoE のため推定なし
  • Qwen3-VL-8B-Instruct BF16 画像も入力
    コンテキスト長 262,144 推定 55.9 GB 残り 81.5 GB 生成の速さ 29〜39
  • Qwen3.8-Flash-Next Q5_K_M 画像も入力
    コンテキスト長 32,768 推定 137 GB 残り 0.70 GB(ぎりぎり) 生成の速さ MoE のため推定なし
  • Qwen3.5-9B BF16 画像も入力
    コンテキスト長 262,144 推定 28.1 GB 残り 109 GB 生成の速さ 26〜35
  • コンテキスト長 262,144 推定 27.6 GB 残り 110 GB 生成の速さ 27〜36
  • Qwen3.6-35B-A3B BF16 画像も入力
    コンテキスト長 262,144 推定 77.5 GB 残り 59.9 GB 生成の速さ MoE のため推定なし
  • コンテキスト長 262,144 推定 72.2 GB 残り 65.2 GB 生成の速さ 8.9〜12
  • コンテキスト長 262,144 推定 30.5 GB 残り 107 GB 生成の速さ 40〜53
  • Qwen3.5-4B BF16 画像も入力
    コンテキスト長 262,144 推定 18.4 GB 残り 119 GB 生成の速さ 55〜74
  • コンテキスト長 262,144 推定 75.9 GB 残り 61.6 GB 生成の速さ MoE のため推定なし
  • コンテキスト長 262,144 推定 48.6 GB 残り 88.8 GB 生成の速さ 16〜21
  • Dirk-Qwen3.8-27B UD-Q8_K_XL 画像も入力
    コンテキスト長 262,144 推定 49.8 GB 残り 87.6 GB 生成の速さ 15〜20

よくある質問

Apple M1 Ultra でどんなローカルLLMが動きますか?
当サイトでは 1,036 モデルに、128GB・8,192 トークンで収まる量子化があります(推定)。よく使われているのは Qwen3.8-27B・Qwen3.8-Flash-Next-GSQ-RCO・Ornith-1.5-9B・Huihui-Qwen3.6-35B-A3B-abliterated-MTP・Ornith-1.5-35B-A3B などです。
Apple M1 Ultra で動く、いちばん大きいモデルは?
当サイトに載っている中では MiniMax-M3.1-Flash-Maya(約 426.2B)で、IQ2_XXS なら 128GB に収まります(8,192 トークンの推定)。
Apple M1 Ultra で文章を生成する速さは?
メモリ帯域が 800 GB/s なので、たとえば Qwen3.8-27B の BF16(54.7 GB)なら、推定で毎秒 8.8〜12 トークンほどです(帯域 ÷ ファイルサイズの 6〜8 割。プロンプトの読み込みは含みません)。