本文へ移動
localllm

Apple Silicon(Mac)

Apple M1 Max

データの取得日:

メモリ帯域
400 GB/s

32 GB のとき

モデルごとに1件、このメモリに収まる量子化のうち、8K トークン以上のコンテキストで収まる中でファイルが最も大きい(精度が高い)ものを、よく使われている順に最大30件出しています。コンテキスト長は、その量子化が収まる最も長い値です(埋め込みモデルなど、扱える長さが 8K より短いモデルはその最大の長さ)。会話・文章の生成以外のモデルには用途を付けています。「残り」はメモリの量から推定を引いた値で、容量の 5% 未満は「ぎりぎり」としています(収まることの保証ではありません)。

  • Qwen3.8-27B UD-Q8_K_XL
    コンテキスト長 16,384 推定 33.7 GB 残り 0.63 GB(ぎりぎり) 生成の速さ 7.6〜10
  • コンテキスト長 262,144 推定 28.1 GB 残り 6.24 GB 生成の速さ 13〜17
  • コンテキスト長 131,072 推定 33.0 GB 残り 1.36 GB(ぎりぎり) 生成の速さ MoE のため推定なし
  • Ornith-1.5-35B-A3B Q6_K_L 画像も入力
    コンテキスト長 65,536 推定 33.2 GB 残り 1.13 GB(ぎりぎり) 生成の速さ MoE のため推定なし
  • Huihui-Qwen3.8-27B-abliterated UD-Q8_K_XL 画像も入力
    コンテキスト長 16,384 推定 33.7 GB 残り 0.63 GB(ぎりぎり) 生成の速さ 7.6〜10
  • コンテキスト長 262,144 推定 33.6 GB 残り 0.74 GB(ぎりぎり) 生成の速さ MoE のため推定なし
  • Qwen3.8-27B-iMatrix-NVFP4-MTP NVFP4 画像も入力
    コンテキスト長 131,072 推定 26.9 GB 残り 7.44 GB 生成の速さ 14〜19
  • Tiel-Coder-35B-A3B-GGUF-MTP UD-Q6_K_XL 画像も入力
    コンテキスト長 32,768 推定 34.0 GB 残り 0.34 GB(ぎりぎり) 生成の速さ MoE のため推定なし
  • gemma-4-12B-it BF16 画像も入力
    コンテキスト長 262,144 推定 29.7 GB 残り 4.66 GB 生成の速さ 10〜13
  • コンテキスト長 32,768 推定 32.4 GB 残り 1.96 GB 生成の速さ 8.3〜11
  • コンテキスト長 262,144 推定 27.6 GB 残り 6.72 GB 生成の速さ 13〜18
  • mxbai-embed-large-v1 F32 埋め込み(会話には使えない)
    コンテキスト長 512 推定 2.41 GB 残り 31.9 GB 生成の速さ 179〜239
  • Qwen3.6-35B-A3B-MTP UD-Q6_K_XL 画像も入力
    コンテキスト長 16,384 推定 34.1 GB 残り 0.30 GB(ぎりぎり) 生成の速さ MoE のため推定なし
  • コンテキスト長 262,144 推定 28.1 GB 残り 6.26 GB 生成の速さ 13〜17
  • コンテキスト長 40,960 推定 23.3 GB 残り 11.1 GB 生成の速さ 15〜20
  • コンテキスト長 16,384 推定 33.7 GB 残り 0.63 GB(ぎりぎり) 生成の速さ 7.6〜10
  • gemma-4-26B-A4B-it UD-Q8_K_XL 画像も入力
    コンテキスト長 131,072 推定 31.7 GB 残り 2.65 GB 生成の速さ MoE のため推定なし
  • Qwen3-VL-8B-Instruct BF16 画像も入力
    コンテキスト長 65,536 推定 26.9 GB 残り 7.46 GB 生成の速さ 15〜20
  • Qwen3.5-9B BF16 画像も入力
    コンテキスト長 262,144 推定 28.1 GB 残り 6.26 GB 生成の速さ 13〜17
  • コンテキスト長 262,144 推定 27.6 GB 残り 6.75 GB 生成の速さ 13〜18
  • Qwen3.6-35B-A3B UD-Q6_K_XL 画像も入力
    コンテキスト長 65,536 推定 34.3 GB 残り 0.06 GB(ぎりぎり) 生成の速さ MoE のため推定なし
  • コンテキスト長 262,144 推定 26.0 GB 残り 8.35 GB 生成の速さ 31〜42
  • コンテキスト長 262,144 推定 30.5 GB 残り 3.86 GB 生成の速さ 20〜26
  • Qwen3.5-4B BF16 画像も入力
    コンテキスト長 262,144 推定 18.4 GB 残り 16.0 GB 生成の速さ 28〜37
  • コンテキスト長 131,072 推定 32.3 GB 残り 2.02 GB 生成の速さ MoE のため推定なし
  • コンテキスト長 32,768 推定 33.6 GB 残り 0.77 GB(ぎりぎり) 生成の速さ 7.9〜11
  • Dirk-Qwen3.8-27B UD-Q8_K_XL 画像も入力
    コンテキスト長 16,384 推定 33.7 GB 残り 0.63 GB(ぎりぎり) 生成の速さ 7.6〜10
  • Wan2.1 IQ4_NL
    コンテキスト長 65,536 推定 34.3 GB 残り 0.03 GB(ぎりぎり) 生成の速さ 8.3〜11
  • Qwen3.8-27B-GSQ-RCO IQ3_S 画像も入力
    コンテキスト長 262,144 推定 30.5 GB 残り 3.86 GB 生成の速さ 20〜26
  • Qwen3-ASR-1.7B F16 音声
    コンテキスト長 65,536 推定 12.5 GB 残り 21.9 GB 生成の速さ 59〜78

64 GB のとき

モデルごとに1件、このメモリに収まる量子化のうち、8K トークン以上のコンテキストで収まる中でファイルが最も大きい(精度が高い)ものを、よく使われている順に最大30件出しています。コンテキスト長は、その量子化が収まる最も長い値です(埋め込みモデルなど、扱える長さが 8K より短いモデルはその最大の長さ)。会話・文章の生成以外のモデルには用途を付けています。「残り」はメモリの量から推定を引いた値で、容量の 5% 未満は「ぎりぎり」としています(収まることの保証ではありません)。

  • Qwen3.8-Flash-Next-GSQ-RCO Q2_0 画像も入力
    コンテキスト長 32,768 推定 68.5 GB 残り 0.23 GB(ぎりぎり) 生成の速さ MoE のため推定なし
  • コンテキスト長 131,072 推定 64.4 GB 残り 4.27 GB 生成の速さ 4.4〜5.9
  • コンテキスト長 262,144 推定 28.1 GB 残り 40.6 GB 生成の速さ 13〜17
  • コンテキスト長 262,144 推定 44.3 GB 残り 24.4 GB 生成の速さ MoE のため推定なし
  • コンテキスト長 16,384 推定 68.4 GB 残り 0.28 GB(ぎりぎり) 生成の速さ MoE のため推定なし
  • Ornith-1.5-35B-A3B Q8_0 画像も入力
    コンテキスト長 262,144 推定 44.3 GB 残り 24.4 GB 生成の速さ MoE のため推定なし
  • Huihui-Qwen3.8-27B-abliterated BF16 画像も入力
    コンテキスト長 131,072 推定 64.4 GB 残り 4.27 GB 生成の速さ 4.4〜5.9
  • コンテキスト長 262,144 推定 33.6 GB 残り 35.1 GB 生成の速さ MoE のため推定なし
  • Qwen3.8-27B-iMatrix-NVFP4-MTP NVFP4 画像も入力
    コンテキスト長 262,144 推定 35.5 GB 残り 33.2 GB 生成の速さ 14〜19
  • Tiel-Coder-35B-A3B-GGUF-MTP UD-Q8_K_XL 画像も入力
    コンテキスト長 262,144 推定 45.3 GB 残り 23.4 GB 生成の速さ MoE のため推定なし
  • gemma-4-12B-it BF16 画像も入力
    コンテキスト長 262,144 推定 29.7 GB 残り 39.0 GB 生成の速さ 10〜13
  • コンテキスト長 262,144 推定 47.4 GB 残り 21.3 GB 生成の速さ 8.3〜11
  • コンテキスト長 262,144 推定 27.6 GB 残り 41.1 GB 生成の速さ 13〜18
  • mxbai-embed-large-v1 F32 埋め込み(会話には使えない)
    コンテキスト長 512 推定 2.41 GB 残り 66.3 GB 生成の速さ 179〜239
  • Qwen3.6-35B-A3B-MTP UD-Q8_K_XL 画像も入力
    コンテキスト長 262,144 推定 45.6 GB 残り 23.1 GB 生成の速さ MoE のため推定なし
  • コンテキスト長 262,144 推定 28.1 GB 残り 40.6 GB 生成の速さ 13〜17
  • コンテキスト長 40,960 推定 23.3 GB 残り 45.4 GB 生成の速さ 15〜20
  • コンテキスト長 262,144 推定 49.8 GB 残り 18.9 GB 生成の速さ 7.6〜10
  • gemma-4-26B-A4B-it BF16 画像も入力
    コンテキスト長 262,144 推定 57.3 GB 残り 11.5 GB 生成の速さ MoE のため推定なし
  • Qwen3-VL-8B-Instruct BF16 画像も入力
    コンテキスト長 262,144 推定 55.9 GB 残り 12.8 GB 生成の速さ 15〜20
  • Qwen3.8-Flash-Next UD-IQ1_S 画像も入力
    コンテキスト長 32,768 推定 68.4 GB 残り 0.27 GB(ぎりぎり) 生成の速さ MoE のため推定なし
  • Qwen3.5-9B BF16 画像も入力
    コンテキスト長 262,144 推定 28.1 GB 残り 40.6 GB 生成の速さ 13〜17
  • コンテキスト長 262,144 推定 27.6 GB 残り 41.1 GB 生成の速さ 13〜18
  • Qwen3.6-35B-A3B UD-Q8_K_XL 画像も入力
    コンテキスト長 262,144 推定 44.9 GB 残り 23.8 GB 生成の速さ MoE のため推定なし
  • コンテキスト長 131,072 推定 63.6 GB 残り 5.12 GB 生成の速さ 4.5〜5.9
  • コンテキスト長 262,144 推定 30.5 GB 残り 38.2 GB 生成の速さ 20〜26
  • Qwen3.5-4B BF16 画像も入力
    コンテキスト長 262,144 推定 18.4 GB 残り 50.4 GB 生成の速さ 28〜37
  • コンテキスト長 262,144 推定 43.4 GB 残り 25.3 GB 生成の速さ MoE のため推定なし
  • コンテキスト長 262,144 推定 48.6 GB 残り 20.1 GB 生成の速さ 7.9〜11
  • Dirk-Qwen3.8-27B UD-Q8_K_XL 画像も入力
    コンテキスト長 262,144 推定 49.8 GB 残り 18.9 GB 生成の速さ 7.6〜10

よくある質問

Apple M1 Max でどんなローカルLLMが動きますか?
当サイトでは 998 モデルに、64GB・8,192 トークンで収まる量子化があります(推定)。よく使われているのは Qwen3.8-27B・Qwen3.8-Flash-Next-GSQ-RCO・Ornith-1.5-9B・Huihui-Qwen3.6-35B-A3B-abliterated-MTP・Ornith-1.5-35B-A3B などです。
Apple M1 Max で動く、いちばん大きいモデルは?
当サイトに載っている中では Grok-1(約 316.5B)で、IQ1_S なら 64GB に収まります(8,192 トークンの推定)。
Apple M1 Max で文章を生成する速さは?
メモリ帯域が 400 GB/s なので、たとえば Qwen3.8-27B の BF16(54.7 GB)なら、推定で毎秒 4.4〜5.9 トークンほどです(帯域 ÷ ファイルサイズの 6〜8 割。プロンプトの読み込みは含みません)。