本文へ移動
localllm

統合メモリPC

Ryzen AI Max+ PRO 495

データの取得日:

メモリ帯域
273 GB/s

192 GB のとき

モデルごとに1件、このメモリに収まる量子化のうち、8K トークン以上のコンテキストで収まる中でファイルが最も大きい(精度が高い)ものを、よく使われている順に最大30件出しています。コンテキスト長は、その量子化が収まる最も長い値です(埋め込みモデルなど、扱える長さが 8K より短いモデルはその最大の長さ)。会話・文章の生成以外のモデルには用途を付けています。「残り」はメモリの量から推定を引いた値で、容量の 5% 未満は「ぎりぎり」としています(収まることの保証ではありません)。

  • Qwen3.8-Flash-Next-GSQ-RCO IQ3_S 画像も入力
    コンテキスト長 262,144 推定 92.0 GB 残り 114 GB 生成の速さ MoE のため推定なし
  • コンテキスト長 262,144 推定 73.0 GB 残り 133 GB 生成の速さ 3.0〜4.0
  • コンテキスト長 262,144 推定 28.1 GB 残り 178 GB 生成の速さ 8.9〜12
  • コンテキスト長 262,144 推定 77.5 GB 残り 129 GB 生成の速さ MoE のため推定なし
  • コンテキスト長 262,144 推定 92.3 GB 残り 114 GB 生成の速さ MoE のため推定なし
  • コンテキスト長 262,144 推定 77.6 GB 残り 129 GB 生成の速さ MoE のため推定なし
  • Huihui-Qwen3.8-27B-abliterated BF16 画像も入力
    コンテキスト長 262,144 推定 73.0 GB 残り 133 GB 生成の速さ 3.0〜4.0
  • コンテキスト長 262,144 推定 33.6 GB 残り 173 GB 生成の速さ MoE のため推定なし
  • Qwen3.8-27B-iMatrix-NVFP4-MTP NVFP4 画像も入力
    コンテキスト長 262,144 推定 35.5 GB 残り 171 GB 生成の速さ 9.6〜13
  • Tiel-Coder-35B-A3B-GGUF-MTP UD-Q8_K_XL 画像も入力
    コンテキスト長 262,144 推定 45.3 GB 残り 161 GB 生成の速さ MoE のため推定なし
  • gemma-4-12B-it BF16 画像も入力
    コンテキスト長 262,144 推定 29.7 GB 残り 176 GB 生成の速さ 6.9〜9.2
  • コンテキスト長 262,144 推定 47.4 GB 残り 159 GB 生成の速さ 5.6〜7.5
  • コンテキスト長 262,144 推定 27.6 GB 残り 179 GB 生成の速さ 9.1〜12
  • mxbai-embed-large-v1 F32 埋め込み(会話には使えない)
    コンテキスト長 512 推定 2.41 GB 残り 204 GB 生成の速さ 123〜163
  • Qwen3.6-35B-A3B-MTP BF16 画像も入力
    コンテキスト長 262,144 推定 77.5 GB 残り 129 GB 生成の速さ MoE のため推定なし
  • コンテキスト長 262,144 推定 28.1 GB 残り 178 GB 生成の速さ 8.9〜12
  • コンテキスト長 40,960 推定 23.3 GB 残り 183 GB 生成の速さ 10.0〜13
  • コンテキスト長 262,144 推定 49.8 GB 残り 156 GB 生成の速さ 5.2〜6.9
  • gemma-4-26B-A4B-it BF16 画像も入力
    コンテキスト長 262,144 推定 57.3 GB 残り 149 GB 生成の速さ MoE のため推定なし
  • Qwen3-VL-8B-Instruct BF16 画像も入力
    コンテキスト長 262,144 推定 55.9 GB 残り 150 GB 生成の速さ 10.0〜13
  • Qwen3.8-Flash-Next Q8_0 画像も入力
    コンテキスト長 262,144 推定 197 GB 残り 9.49 GB(ぎりぎり) 生成の速さ MoE のため推定なし
  • Qwen3.5-9B BF16 画像も入力
    コンテキスト長 262,144 推定 28.1 GB 残り 178 GB 生成の速さ 8.9〜12
  • コンテキスト長 262,144 推定 27.6 GB 残り 179 GB 生成の速さ 9.1〜12
  • Qwen3.6-35B-A3B BF16 画像も入力
    コンテキスト長 262,144 推定 77.5 GB 残り 129 GB 生成の速さ MoE のため推定なし
  • コンテキスト長 262,144 推定 72.2 GB 残り 134 GB 生成の速さ 3.0〜4.1
  • コンテキスト長 262,144 推定 30.5 GB 残り 176 GB 生成の速さ 14〜18
  • Qwen3.5-4B BF16 画像も入力
    コンテキスト長 262,144 推定 18.4 GB 残り 188 GB 生成の速さ 19〜25
  • コンテキスト長 262,144 推定 75.9 GB 残り 130 GB 生成の速さ MoE のため推定なし
  • コンテキスト長 262,144 推定 48.6 GB 残り 158 GB 生成の速さ 5.4〜7.2
  • Dirk-Qwen3.8-27B UD-Q8_K_XL 画像も入力
    コンテキスト長 262,144 推定 49.8 GB 残り 156 GB 生成の速さ 5.2〜6.9

よくある質問

Ryzen AI Max+ PRO 495 でどんなローカルLLMが動きますか?
当サイトでは 1,043 モデルに、192GB・8,192 トークンで収まる量子化があります(推定)。よく使われているのは Qwen3.8-27B・Qwen3.8-Flash-Next-GSQ-RCO・Ornith-1.5-9B・Huihui-Qwen3.6-35B-A3B-abliterated-MTP・Ornith-1.5-35B-A3B などです。
Ryzen AI Max+ PRO 495 で動く、いちばん大きいモデルは?
当サイトに載っている中では DeepSeek-V3-0324(約 671B)で、IQ1_M なら 192GB に収まります(8,192 トークンの推定)。
Ryzen AI Max+ PRO 495 で文章を生成する速さは?
メモリ帯域が 273 GB/s なので、たとえば Qwen3.8-27B の BF16(54.7 GB)なら、推定で毎秒 3.0〜4.0 トークンほどです(帯域 ÷ ファイルサイズの 6〜8 割。プロンプトの読み込みは含みません)。