本文へ移動
localllm
EN

Apple Silicon（Mac）

Apple M3 Pro

データの取得日：

メモリ帯域
150 GB/s
出典
確認日：

18 GB のとき

モデルごとに1件、このメモリに収まる量子化のうち、8K トークン以上のコンテキストで収まる中でファイルが最も大きい（精度が高い）ものを、よく使われている順に最大30件出しています。コンテキスト長は、その量子化が収まる最も長い値です（埋め込みモデルなど、扱える長さが 8K より短いモデルはその最大の長さ）。会話・文章の生成以外のモデルには用途を付けています。「残り」はメモリの量から推定を引いた値で、容量の 5% 未満は「ぎりぎり」としています（収まることの保証ではありません）。

  • Qwen3.8-27B UD-Q4_K_XL
    コンテキスト長 8,192 推定 19.3 GB 残り 0.03 GB（ぎりぎり） 生成の速さ 5.1〜6.8
  • Ornith-1.5-9B BF16
    コンテキスト長 8,192 推定 19.3 GB 残り 0.04 GB（ぎりぎり） 生成の速さ 5.0〜6.7
  • Huihui-Qwen3.6-35B-A3B-abliterated-MTP Q3_K 画像も入力
    コンテキスト長 32,768 推定 18.9 GB 残り 0.38 GB（ぎりぎり） 生成の速さ MoE のため推定なし
  • Huihui-Qwen3.8-27B-abliterated UD-Q4_K_XL 画像も入力
    コンテキスト長 8,192 推定 19.1 GB 残り 0.21 GB（ぎりぎり） 生成の速さ 5.2〜6.9
  • OTel-2.0-Decision-26B-A4B-4bit Q4_K_M
    コンテキスト長 32,768 推定 18.9 GB 残り 0.47 GB（ぎりぎり） 生成の速さ MoE のため推定なし
  • Qwen3.8-27B-iMatrix-NVFP4-MTP NVFP4 画像も入力
    コンテキスト長 8,192 推定 18.9 GB 残り 0.46 GB（ぎりぎり） 生成の速さ 5.3〜7.0
  • Tiel-Coder-35B-A3B-GGUF-MTP UD-Q3_K_XL 画像も入力
    コンテキスト長 32,768 推定 19.0 GB 残り 0.31 GB（ぎりぎり） 生成の速さ MoE のため推定なし
  • gemma-4-12B-it UD-Q8_K_XL 画像も入力
    コンテキスト長 131,072 推定 17.4 GB 残り 1.97 GB 生成の速さ 6.6〜8.8
  • Qwen3.8-27B-Uncensored Q4_K_M
    コンテキスト長 16,384 推定 19.1 GB 残り 0.24 GB（ぎりぎり） 生成の速さ 5.4〜7.1
  • Ornith-1.0-9B BF16
    コンテキスト長 8,192 推定 19.3 GB 残り 0.01 GB（ぎりぎり） 生成の速さ 5.0〜6.7
  • mxbai-embed-large-v1 F32 埋め込み（会話には使えない）
    コンテキスト長 512 推定 2.41 GB 残り 16.9 GB 生成の速さ 67〜90
  • Qwen3.6-35B-A3B-MTP UD-Q3_K_XL 画像も入力
    コンテキスト長 32,768 推定 19.0 GB 残り 0.32 GB（ぎりぎり） 生成の速さ MoE のため推定なし
  • Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP Q8_0 画像も入力
    コンテキスト長 131,072 推定 16.1 GB 残り 3.19 GB 生成の速さ 8.4〜11
  • MOSS-Music-8B-Instruct F16 音声
    コンテキスト長 8,192 推定 18.4 GB 残り 0.88 GB（ぎりぎり） 生成の速さ 5.5〜7.3
  • Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP IQ4_XS 画像も入力
    コンテキスト長 32,768 推定 19.1 GB 残り 0.27 GB（ぎりぎり） 生成の速さ 5.7〜7.6
  • gemma-4-26B-A4B-it Q4_K_L 画像も入力
    コンテキスト長 32,768 推定 19.3 GB 残り 0.05 GB（ぎりぎり） 生成の速さ MoE のため推定なし
  • Qwen3-VL-8B-Instruct BF16 画像も入力
    コンテキスト長 8,192 推定 18.4 GB 残り 0.88 GB（ぎりぎり） 生成の速さ 5.5〜7.3
  • Qwen3.5-9B BF16 画像も入力
    コンテキスト長 8,192 推定 19.3 GB 残り 0.04 GB（ぎりぎり） 生成の速さ 5.0〜6.7
  • Ornith-1.5-9B-uncensored F16
    コンテキスト長 8,192 推定 19.3 GB 残り 0.04 GB（ぎりぎり） 生成の速さ 5.0〜6.7
  • Qwen3.6-35B-A3B UD-IQ4_NL 画像も入力
    コンテキスト長 8,192 推定 19.3 GB 残り 0.01 GB（ぎりぎり） 生成の速さ MoE のため推定なし
  • Ternary-Bonsai-2-27B Q2_0
    コンテキスト長 131,072 推定 17.4 GB 残り 1.91 GB 生成の速さ 12〜16
  • Swift-1.5-Qwen3.8-27B-GSQ-RCO IQ3_S
    コンテキスト長 65,536 推定 17.6 GB 残り 1.71 GB 生成の速さ 7.4〜9.9
  • Qwen3.5-4B BF16 画像も入力
    コンテキスト長 262,144 推定 18.4 GB 残り 0.97 GB 生成の速さ 10〜14
  • Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP Q4_K_S 画像も入力
    コンテキスト長 8,192 推定 19.3 GB 残り 0.05 GB（ぎりぎり） 生成の速さ 5.1〜6.8
  • Dirk-Qwen3.8-27B UD-Q4_K_XL 画像も入力
    コンテキスト長 8,192 推定 19.3 GB 残り 0.03 GB（ぎりぎり） 生成の速さ 5.1〜6.8
  • Wan2.1 Q4_K_M
    コンテキスト長 16,384 推定 19.1 GB 残り 0.21 GB（ぎりぎり） 生成の速さ 5.4〜7.1
  • Qwen3.8-27B-GSQ-RCO IQ3_S 画像も入力
    コンテキスト長 65,536 推定 17.6 GB 残り 1.71 GB 生成の速さ 7.4〜9.9
  • Qwen3-ASR-1.7B F16 音声
    コンテキスト長 65,536 推定 12.5 GB 残り 6.87 GB 生成の速さ 22〜29
  • Qwen3.8-35B-A3B-Distill Q3_K_M
    コンテキスト長 16,384 推定 19.1 GB 残り 0.22 GB（ぎりぎり） 生成の速さ MoE のため推定なし
  • Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive IQ3_M 画像も入力
    コンテキスト長 131,072 推定 19.2 GB 残り 0.09 GB（ぎりぎり） 生成の速さ MoE のため推定なし

36 GB のとき

モデルごとに1件、このメモリに収まる量子化のうち、8K トークン以上のコンテキストで収まる中でファイルが最も大きい（精度が高い）ものを、よく使われている順に最大30件出しています。コンテキスト長は、その量子化が収まる最も長い値です（埋め込みモデルなど、扱える長さが 8K より短いモデルはその最大の長さ）。会話・文章の生成以外のモデルには用途を付けています。「残り」はメモリの量から推定を引いた値で、容量の 5% 未満は「ぎりぎり」としています（収まることの保証ではありません）。

  • Qwen3.8-27B UD-Q8_K_XL
    コンテキスト長 65,536 推定 37.0 GB 残り 1.70 GB（ぎりぎり） 生成の速さ 2.9〜3.8
  • Ornith-1.5-9B BF16
    コンテキスト長 262,144 推定 28.1 GB 残り 10.5 GB 生成の速さ 4.9〜6.5
  • Huihui-Qwen3.6-35B-A3B-abliterated-MTP Q6_K 画像も入力
    コンテキスト長 262,144 推定 35.7 GB 残り 2.97 GB 生成の速さ MoE のため推定なし
  • Ornith-1.5-35B-A3B Q8_0 画像も入力
    コンテキスト長 16,384 推定 38.3 GB 残り 0.30 GB（ぎりぎり） 生成の速さ MoE のため推定なし
  • Huihui-Qwen3.8-27B-abliterated UD-Q8_K_XL 画像も入力
    コンテキスト長 65,536 推定 37.0 GB 残り 1.70 GB（ぎりぎり） 生成の速さ 2.9〜3.8
  • OTel-2.0-Decision-26B-A4B-4bit Q8_0
    コンテキスト長 262,144 推定 33.6 GB 残り 5.04 GB 生成の速さ MoE のため推定なし
  • Qwen3.8-27B-iMatrix-NVFP4-MTP NVFP4 画像も入力
    コンテキスト長 262,144 推定 35.5 GB 残り 3.15 GB 生成の速さ 5.3〜7.0
  • Tiel-Coder-35B-A3B-GGUF-MTP UD-Q6_K_XL 画像も入力
    コンテキスト長 131,072 推定 36.0 GB 残り 2.63 GB 生成の速さ MoE のため推定なし
  • gemma-4-12B-it BF16 画像も入力
    コンテキスト長 262,144 推定 29.7 GB 残り 8.95 GB 生成の速さ 3.8〜5.0
  • Qwen3.8-27B-Uncensored Q8_0
    コンテキスト長 65,536 推定 34.5 GB 残り 4.11 GB 生成の速さ 3.1〜4.1
  • Ornith-1.0-9B BF16
    コンテキスト長 262,144 推定 27.6 GB 残り 11.0 GB 生成の速さ 5.0〜6.7
  • mxbai-embed-large-v1 F32 埋め込み（会話には使えない）
    コンテキスト長 512 推定 2.41 GB 残り 36.2 GB 生成の速さ 67〜90
  • Qwen3.6-35B-A3B-MTP UD-Q6_K_XL 画像も入力
    コンテキスト長 131,072 推定 36.4 GB 残り 2.25 GB 生成の速さ MoE のため推定なし
  • Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP BF16 画像も入力
    コンテキスト長 262,144 推定 28.1 GB 残り 10.6 GB 生成の速さ 4.9〜6.5
  • MOSS-Music-8B-Instruct F16 音声
    コンテキスト長 40,960 推定 23.3 GB 残り 15.4 GB 生成の速さ 5.5〜7.3
  • Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP Q8_K 画像も入力
    コンテキスト長 65,536 推定 37.0 GB 残り 1.70 GB（ぎりぎり） 生成の速さ 2.9〜3.8
  • gemma-4-26B-A4B-it UD-Q8_K_XL 画像も入力
    コンテキスト長 262,144 推定 34.4 GB 残り 4.26 GB 生成の速さ MoE のため推定なし
  • Qwen3-VL-8B-Instruct BF16 画像も入力
    コンテキスト長 131,072 推定 36.6 GB 残り 2.09 GB 生成の速さ 5.5〜7.3
  • Qwen3.5-9B BF16 画像も入力
    コンテキスト長 262,144 推定 28.1 GB 残り 10.6 GB 生成の速さ 4.9〜6.5
  • Ornith-1.5-9B-uncensored F16
    コンテキスト長 262,144 推定 27.6 GB 残り 11.0 GB 生成の速さ 5.0〜6.7
  • Qwen3.6-35B-A3B Q8_0 画像も入力
    コンテキスト長 16,384 推定 38.3 GB 残り 0.30 GB（ぎりぎり） 生成の速さ MoE のため推定なし
  • Ternary-Bonsai-2-27B Q2_0
    コンテキスト長 262,144 推定 26.0 GB 残り 12.6 GB 生成の速さ 12〜16
  • Swift-1.5-Qwen3.8-27B-GSQ-RCO IQ3_S
    コンテキスト長 262,144 推定 30.5 GB 残り 8.15 GB 生成の速さ 7.4〜9.9
  • Qwen3.5-4B BF16 画像も入力
    コンテキスト長 262,144 推定 18.4 GB 残り 20.3 GB 生成の速さ 10〜14
  • Ornith-1.0-35B Q8_0
    コンテキスト長 16,384 推定 38.4 GB 残り 0.28 GB（ぎりぎり） 生成の速さ MoE のため推定なし
  • Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP Q8_0 画像も入力
    コンテキスト長 65,536 推定 35.7 GB 残り 2.92 GB 生成の速さ 3.0〜4.0
  • Dirk-Qwen3.8-27B UD-Q8_K_XL 画像も入力
    コンテキスト長 65,536 推定 37.0 GB 残り 1.70 GB（ぎりぎり） 生成の速さ 2.9〜3.8
  • Wan2.1 IQ4_NL
    コンテキスト長 131,072 推定 38.6 GB 残り 0.03 GB（ぎりぎり） 生成の速さ 3.1〜4.2
  • Qwen3.8-27B-GSQ-RCO IQ3_S 画像も入力
    コンテキスト長 262,144 推定 30.5 GB 残り 8.15 GB 生成の速さ 7.4〜9.9
  • Qwen3-ASR-1.7B F16 音声
    コンテキスト長 65,536 推定 12.5 GB 残り 26.2 GB 生成の速さ 22〜29

よくある質問

Apple M3 Pro でどんなローカルLLMが動きますか？
当サイトでは 968 モデルに、36GB・8,192 トークンで収まる量子化があります（推定）。よく使われているのは Qwen3.8-27B・Ornith-1.5-9B・Huihui-Qwen3.6-35B-A3B-abliterated-MTP・Ornith-1.5-35B-A3B・Huihui-Qwen3.8-27B-abliterated などです。
Apple M3 Pro で動く、いちばん大きいモデルは？
当サイトに載っている中では Mixtral-8x22B-Instruct-v0.1（約 140.6B）で、IQ1_M なら 36GB に収まります（8,192 トークンの推定）。
Apple M3 Pro で文章を生成する速さは？
メモリ帯域が 150 GB/s なので、たとえば Qwen3.8-27B の UD-Q8_K_XL（31.5 GB）なら、推定で毎秒 2.9〜3.8 トークンほどです（帯域 ÷ ファイルサイズの 6〜8 割。プロンプトの読み込みは含みません）。