本文へ移動
localllm
EN

単体GPU

Arc B570

データの取得日：

メモリ帯域
380 GB/s
出典
確認日：

10 GB のとき

モデルごとに1件、このメモリに収まる量子化のうち、8K トークン以上のコンテキストで収まる中でファイルが最も大きい（精度が高い）ものを、よく使われている順に最大30件出しています。コンテキスト長は、その量子化が収まる最も長い値です（埋め込みモデルなど、扱える長さが 8K より短いモデルはその最大の長さ）。会話・文章の生成以外のモデルには用途を付けています。「残り」はメモリの量から推定を引いた値で、容量の 5% 未満は「ぎりぎり」としています（収まることの保証ではありません）。

  • Qwen3.8-27B IQ2_XXS 画像も入力
    コンテキスト長 8,192 推定 10.7 GB 残り 0.02 GB（ぎりぎり） 生成の速さ 25〜34
  • Ornith-1.5-9B Q6_K 画像も入力
    コンテキスト長 32,768 推定 10.7 GB 残り 0.01 GB（ぎりぎり） 生成の速さ 27〜36
  • Huihui-Qwen3.8-27B-abliterated UD-IQ2_S 画像も入力
    コンテキスト長 8,192 推定 10.5 GB 残り 0.22 GB（ぎりぎり） 生成の速さ 26〜35
  • gemma-4-12B-it Q5_K_L 画像も入力
    コンテキスト長 8,192 推定 10.7 GB 残り 0.01 GB（ぎりぎり） 生成の速さ 25〜34
  • Ornith-1.0-9B Q6_K
    コンテキスト長 65,536 推定 10.6 GB 残り 0.10 GB（ぎりぎり） 生成の速さ 31〜41
  • mxbai-embed-large-v1 F32 埋め込み（会話には使えない）
    コンテキスト長 512 推定 2.41 GB 残り 8.33 GB 生成の速さ 171〜227
  • Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP Q6_K 画像も入力
    コンテキスト長 16,384 推定 10.4 GB 残り 0.34 GB（ぎりぎり） 生成の速さ 26〜35
  • MOSS-Music-8B-Instruct Q4_K_M
    コンテキスト長 16,384 推定 8.45 GB 残り 2.29 GB 生成の速さ 44〜59
  • Qwen3-VL-8B-Instruct UD-Q6_K_XL 画像も入力
    コンテキスト長 8,192 推定 9.55 GB 残り 1.19 GB 生成の速さ 30〜41
  • Qwen3.5-9B UD-Q6_K_XL 画像も入力
    コンテキスト長 16,384 推定 10.4 GB 残り 0.35 GB（ぎりぎり） 生成の速さ 26〜35
  • Ornith-1.5-9B-uncensored Q6_K
    コンテキスト長 65,536 推定 10.6 GB 残り 0.13 GB（ぎりぎり） 生成の速さ 31〜41
  • Ternary-Bonsai-2-27B Q2_0
    コンテキスト長 16,384 推定 9.90 GB 残り 0.84 GB 生成の速さ 30〜40
  • Swift-1.5-Qwen3.8-27B-GSQ-RCO IQ2_XS
    コンテキスト長 8,192 推定 10.5 GB 残り 0.23 GB（ぎりぎり） 生成の速さ 26〜35
  • Qwen3.5-4B BF16 画像も入力
    コンテキスト長 16,384 推定 10.3 GB 残り 0.44 GB（ぎりぎり） 生成の速さ 26〜35
  • Dirk-Qwen3.8-27B IQ2_XS 画像も入力
    コンテキスト長 8,192 推定 10.5 GB 残り 0.23 GB（ぎりぎり） 生成の速さ 26〜35
  • Wan2.1 Q4_K_M
    コンテキスト長 32,768 推定 9.16 GB 残り 1.58 GB 生成の速さ 39〜53
  • Qwen3.8-27B-GSQ-RCO IQ2_XS 画像も入力
    コンテキスト長 8,192 推定 10.5 GB 残り 0.23 GB（ぎりぎり） 生成の速さ 26〜35
  • Qwen3-ASR-1.7B F16 音声
    コンテキスト長 32,768 推定 8.70 GB 残り 2.04 GB 生成の速さ 56〜74
  • gemma-4-E4B-it-qat-q4_0 Q4_0 画像も入力
    コンテキスト長 131,072 推定 8.42 GB 残り 2.32 GB 生成の速さ 44〜59
  • Ternary-Bonsai-2-9B Q8_0 画像も入力
    コンテキスト長 131,072 推定 8.07 GB 残り 2.67 GB 生成の速さ 85〜114
  • HyperCLOVAX-SEED-Text-Instruct-1.5B-Q4_K_M Q4_K_M
    コンテキスト長 65,536 推定 8.34 GB 残り 2.40 GB 生成の速さ 201〜268
  • gemma-4-12B-it-qat-q4_0 Q4_0 画像も入力
    コンテキスト長 131,072 推定 10.7 GB 残り 0.04 GB（ぎりぎり） 生成の速さ 33〜44
  • Hy-MT2-7B Q8_0
    コンテキスト長 8,192 推定 9.86 GB 残り 0.88 GB 生成の速さ 29〜38
  • Qwen3.8-27B-Heretic-Abliterated-Uncensored IQ2_XXS
    コンテキスト長 8,192 推定 10.6 GB 残り 0.11 GB（ぎりぎり） 生成の速さ 26〜34
  • Ternary-Bonsai-2-2B Q2_0 画像も入力
    コンテキスト長 262,144 推定 4.83 GB 残り 5.90 GB 生成の速さ 417〜556
  • Qwen3.8-27B-Turbo-Brilliance-50X-Reasoning-Instruct-NEO-MAX-MTP IQ2_XS 画像も入力
    コンテキスト長 8,192 推定 10.5 GB 残り 0.23 GB（ぎりぎり） 生成の速さ 26〜35
  • MiMo-V2.6-Distill-Qwen-9B Q6_K_L 画像も入力
    コンテキスト長 32,768 推定 10.3 GB 残り 0.46 GB（ぎりぎり） 生成の速さ 28〜38
  • Cyber-Ornith-1.5-9B-OBLITERATED Q6_K
    コンテキスト長 65,536 推定 10.6 GB 残り 0.13 GB（ぎりぎり） 生成の速さ 31〜41
  • Sharp-Spark-X2.5-4B Q6_K_XL
    コンテキスト長 131,072 推定 9.36 GB 残り 1.37 GB 生成の速さ 63〜84
  • AdaVaR-3B F16
    コンテキスト長 65,536 推定 9.44 GB 残り 1.30 GB 生成の速さ 37〜49

よくある質問

Arc B570 でどんなローカルLLMが動きますか？
当サイトでは 668 モデルに、10GB・8,192 トークンで収まる量子化があります（推定）。よく使われているのは Qwen3.8-27B・Ornith-1.5-9B・Huihui-Qwen3.8-27B-abliterated・gemma-4-12B-it・Qwen3.5-9B などです。
Arc B570 で動く、いちばん大きいモデルは？
当サイトに載っている中では Qwen3.8-Flash-Next-FP4-Local-Strata（約 51.2B）で、BF16 なら 10GB に収まります（8,192 トークンの推定）。
Arc B570 で文章を生成する速さは？
メモリ帯域が 380 GB/s なので、たとえば Qwen3.8-27B の IQ2_XXS（8.98 GB）なら、推定で毎秒 25〜34 トークンほどです（帯域 ÷ ファイルサイズの 6〜8 割。プロンプトの読み込みは含みません）。