GeForce RTX 3060 Ti

8 GB のとき

モデルごとに1件、このメモリに収まる量子化のうち、8K トークン以上のコンテキストで収まる中でファイルが最も大きい（精度が高い）ものを、よく使われている順に最大30件出しています。コンテキスト長は、その量子化が収まる最も長い値です（埋め込みモデルなど、扱える長さが 8K より短いモデルはその最大の長さ）。会話・文章の生成以外のモデルには用途を付けています。「残り」はメモリの量から推定を引いた値で、容量の 5% 未満は「ぎりぎり」としています（収まることの保証ではありません）。

• Qwen3.8-27B UD-IQ1_M
  コンテキスト長 8,192 推定 8.47 GB 残り 0.12 GB（ぎりぎり）
• Ornith-1.5-9B Q5_K_M
  コンテキスト長 16,384 推定 8.49 GB 残り 0.10 GB（ぎりぎり）
• gemma-4-12B-it IQ4_XS 画像も入力
  コンテキスト長 8,192 推定 8.49 GB 残り 0.10 GB（ぎりぎり）
• Ornith-1.0-9B Q5_K_M
  コンテキスト長 16,384 推定 8.13 GB 残り 0.46 GB
• mxbai-embed-large-v1 F32 埋め込み（会話には使えない）
  コンテキスト長 512 推定 2.41 GB 残り 6.18 GB
• Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP Q4_K_M 画像も入力
  コンテキスト長 8,192 推定 8.35 GB 残り 0.24 GB（ぎりぎり）
• MOSS-Music-8B-Instruct Q4_K_M
  コンテキスト長 16,384 推定 8.45 GB 残り 0.14 GB（ぎりぎり）
• Qwen3-VL-8B-Instruct UD-Q5_K_XL 画像も入力
  コンテキスト長 8,192 推定 7.94 GB 残り 0.65 GB
• Qwen3.5-9B Q5_K_M 画像も入力
  コンテキスト長 8,192 推定 8.48 GB 残り 0.11 GB（ぎりぎり）
• Ornith-1.5-9B-uncensored Q5_K_M
  コンテキスト長 16,384 推定 8.10 GB 残り 0.49 GB
• Qwen3.5-4B UD-Q8_K_XL 画像も入力
  コンテキスト長 32,768 推定 8.12 GB 残り 0.47 GB
• Wan2.1 Q4_K_M
  コンテキスト長 16,384 推定 8.08 GB 残り 0.51 GB
• Qwen3-ASR-1.7B F16 音声
  コンテキスト長 16,384 推定 6.82 GB 残り 1.77 GB
• gemma-4-E4B-it-qat-q4_0 Q4_0 画像も入力
  コンテキスト長 131,072 推定 8.42 GB 残り 0.17 GB（ぎりぎり）
• Ternary-Bonsai-2-9B Q8_0 画像も入力
  コンテキスト長 131,072 推定 8.07 GB 残り 0.52 GB
• HyperCLOVAX-SEED-Text-Instruct-1.5B-Q4_K_M Q4_K_M
  コンテキスト長 65,536 推定 8.34 GB 残り 0.25 GB（ぎりぎり）
• Hy-MT2-7B Q6_K
  コンテキスト長 8,192 推定 8.04 GB 残り 0.55 GB
• Ternary-Bonsai-2-2B Q2_0 画像も入力
  コンテキスト長 262,144 推定 4.83 GB 残り 3.76 GB
• MiMo-V2.6-Distill-Qwen-9B Q5_K_M 画像も入力
  コンテキスト長 16,384 推定 8.51 GB 残り 0.08 GB（ぎりぎり）
• Cyber-Ornith-1.5-9B-OBLITERATED Q5_K_M
  コンテキスト長 16,384 推定 8.10 GB 残り 0.49 GB
• Sharp-Spark-X2.5-4B Q6_K_XL
  コンテキスト長 65,536 推定 6.95 GB 残り 1.64 GB
• AdaVaR-3B F16
  コンテキスト長 32,768 推定 8.23 GB 残り 0.36 GB（ぎりぎり）
• Qwen3-8B Q5_K_L
  コンテキスト長 8,192 推定 8.29 GB 残り 0.30 GB（ぎりぎり）
• Qwen3.5-9B-Kimi-k3-Distilled Q5_K_M
  コンテキスト長 16,384 推定 8.28 GB 残り 0.31 GB（ぎりぎり）
• Qwen3-4B-Instruct-2507 UD-Q8_K_XL
  コンテキスト長 16,384 推定 8.32 GB 残り 0.27 GB（ぎりぎり）
• B1-9B Q5_K_M
  コンテキスト長 16,384 推定 8.28 GB 残り 0.31 GB（ぎりぎり）
• Qwen3-VL-4B-Instruct UD-Q8_K_XL 画像も入力
  コンテキスト長 16,384 推定 8.32 GB 残り 0.27 GB（ぎりぎり）
• Qwen2.5-7B-Instruct Q6_K_L
  コンテキスト長 16,384 推定 8.31 GB 残り 0.28 GB（ぎりぎり）
• Qwen3-4B UD-Q8_K_XL
  コンテキスト長 16,384 推定 8.32 GB 残り 0.27 GB（ぎりぎり）
• Qwen-Image-2.1-Turbo-Uncensored Q5_K 画像・動画の生成
  コンテキスト長 8,192 推定 8.34 GB 残り 0.25 GB（ぎりぎり）