本文へ移動
localllm

zai-org

GLM-5.2

パラメータ数
753.9B
最大コンテキスト長
1,048,576
アーキテクチャ
glm-dsa
ライセンス
商用可
元モデル
zai-org/GLM-5.2
ライセンス
mit
llama.cpp
b8036+

GLM-5.2 の概要

GLM-5.2 は、Hugging Face の zai-org/GLM-5.2 をもとにした GGUF 形式のモデルです。GGUF は unsloth/GLM-5.2-GGUF が公開しています。パラメータ数は約 753.9B(7,539億)、アーキテクチャは glm-dsa、最大コンテキスト長は 1,048,576 トークンです(GGUF に書かれた値)。

量子化は 22 種類あり、ファイルサイズは UD-IQ1_S の 217 GB から BF16 の 1,508 GB まであります(Hugging Face 上の実際のサイズ)。

UD-Q4_K_M(466 GB)を 8,192 トークンのコンテキストで動かすときの必要メモリは推定 467 GB、32,768 トークンでは推定 470 GBです。最も小さい UD-IQ1_S(217 GB)なら、8,192 トークンで推定 218 GBです。

元のモデルのライセンスは MIT License で、商用利用できます(再配布するときはライセンス文と著作権表示を残します)。利用条件は原文で確認してください。

量子化ごとのファイルサイズと必要メモリの目安

  • 8 GB まで
  • 16 GB まで
  • 24 GB まで
  • 48 GB まで
  • 128 GB まで
  • それ以上

ファイルサイズは Hugging Face 上の実際の値です。必要メモリはコンテキスト長ごとの推定値(KVキャッシュ f16)。計算式は 必要メモリの計算方法で公開しています。

必要メモリはすべて 推定 (KVキャッシュ f16)。このページの「必要メモリ」以上の VRAM(または Mac の統合メモリ)を持つ環境で動作する見込みです。数値をクリックすると、その容量で動く機種・モデルの一覧(GPU・Macで探す)に移動します。

「品質の目安」について(量子化でどれだけ元のモデルからずれるか)

量子化の型ごとに、元のモデルの出力からどれだけずれるかを、llama.cpp が Llama-3-8B で測った値から6段階に分けたものです。

使っている値は平均 KLD(元のモデルと量子化したモデルの、次の単語の確率の分布の差)で、小さいほど元のモデルに近い出力になります。imatrix(重要度の情報)を使って量子化したものは少し小さくなります。段階は、imatrix を使わない値(無い型は使った値)で分けています。

★このモデルで測った値ではありません。モデルが大きいほど、また MoE のモデルほど、同じ型でもずれは小さくなりやすいです。配布元独自の混合型(UD-Q4_K_XL など)は型の名前だけでは当てはめられないので「-」にしています。

量子化 品質の目安 KLD(imatrix なし) KLD(imatrix あり) サイズ(Llama-3-8B)
Q8_0 ほぼ同じ 0.0014 - 7.96 GiB
Q6_K ごく小さい 0.0055 - 6.14 GiB
Q5_K_M ごく小さい 0.0108 - 5.33 GiB
Q5_K_S 小さい 0.0166 - 5.21 GiB
Q5_1 小さい 0.0180 - 5.65 GiB
Q5_0 小さい 0.0222 - 5.21 GiB
Q4_K_M 小さい 0.0313 0.0282 4.58 GiB
Q4_K_S 中くらい 0.0431 0.0320 4.37 GiB
IQ4_NL 小さい - 0.0357 4.35 GiB
IQ4_XS 小さい - 0.0363 4.14 GiB
Q4_1 中くらい 0.0717 - 4.78 GiB
Q4_0 中くらい 0.0719 - 4.34 GiB
Q3_K_L 中くらい 0.0872 0.0731 4.03 GiB
Q3_K_M 中くらい 0.1019 0.0844 3.74 GiB
IQ3_M 中くらい - 0.1025 3.53 GiB
IQ3_S 中くらい - 0.1113 3.42 GiB
IQ3_XS 大きい - 0.1387 3.28 GiB
IQ3_XXS 大きい - 0.1836 3.05 GiB
Q3_K_S 大きい 0.2282 0.1998 3.41 GiB
IQ2_M 大きい - 0.3260 2.74 GiB
Q2_K とても大きい 0.4451 0.3322 2.96 GiB
Q2_K_S とても大きい - 0.4034 2.96 GiB
IQ2_S とても大きい - 0.4392 2.56 GiB
IQ2_XS とても大きい - 0.5463 2.43 GiB
IQ2_XXS とても大きい - 0.8120 2.24 GiB
IQ1_M とても大きい - 1.3931 2.01 GiB
IQ1_S とても大きい - 2.2546 1.88 GiB

出典:llama.cpp(MIT)、Llama-3-8B・FP16 を基準・Wikitext-2・revision f364eb6f の測定。 元の表 · 量子化の読み方と選び方

GGUF配布元

unsloth/GLM-5.2-GGUF

第三者が変換して配布 この表示について

最終確認:2026年11月9日

アーキテクチャ
glm-dsa
llama.cpp b8036 以降
パラメータ数
753.9B
最大コンテキスト長
1,048,576
ライセンス
mit 商用可
GLM-5.2(unsloth/GLM-5.2-GGUF)の量子化ごとのファイルサイズと必要メモリ
量子化 ファイルサイズ 実測 品質の目安 4,096 8,192 16,384 32,768 65,536 131,072 262,144 1,048,576 最大
UD-IQ1_S (6分割) 217 GB - 218 GB 218 GB 219 GB 221 GB 223 GB 229 GB 241 GB 312 GB
UD-IQ1_M (6分割) 228 GB - 230 GB 230 GB 231 GB 232 GB 235 GB 241 GB 253 GB 324 GB
UD-IQ2_XXS (6分割) 238 GB - 240 GB 240 GB 241 GB 242 GB 245 GB 251 GB 263 GB 334 GB
UD-IQ2_M (6分割) 239 GB - 240 GB 240 GB 241 GB 242 GB 245 GB 251 GB 263 GB 334 GB
UD-Q2_K_XL (7分割) 254 GB - 255 GB 255 GB 256 GB 258 GB 261 GB 267 GB 278 GB 349 GB
UD-IQ3_XXS (7分割) 282 GB - 283 GB 283 GB 284 GB 285 GB 288 GB 294 GB 306 GB 377 GB
UD-IQ3_S (8分割) 309 GB - 310 GB 310 GB 311 GB 312 GB 315 GB 321 GB 333 GB 404 GB
UD-Q3_K_M (9分割) 343 GB - 344 GB 344 GB 345 GB 347 GB 349 GB 355 GB 367 GB 438 GB
UD-Q3_K_XL (9分割) 343 GB - 344 GB 345 GB 345 GB 347 GB 350 GB 356 GB 367 GB 438 GB
UD-IQ4_XS (9分割) 365 GB - 367 GB 367 GB 368 GB 369 GB 372 GB 378 GB 390 GB 460 GB
UD-IQ4_NL (9分割) 373 GB - 374 GB 374 GB 375 GB 376 GB 379 GB 385 GB 397 GB 468 GB
UD-Q4_K_S (10分割) 436 GB - 438 GB 438 GB 439 GB 440 GB 443 GB 449 GB 461 GB 532 GB
UD-Q4_K_M (11分割) 466 GB - 467 GB 467 GB 468 GB 470 GB 473 GB 478 GB 490 GB 561 GB
UD-Q4_K_XL (11分割) 467 GB - 469 GB 469 GB 470 GB 471 GB 474 GB 480 GB 492 GB 562 GB
UD-Q5_K_S (12分割) 527 GB - 528 GB 529 GB 530 GB 531 GB 534 GB 540 GB 552 GB 622 GB
UD-Q5_K_M (13分割) 561 GB - 562 GB 562 GB 563 GB 565 GB 568 GB 573 GB 585 GB 656 GB
UD-Q5_K_XL (13分割) 562 GB - 564 GB 564 GB 565 GB 566 GB 569 GB 575 GB 587 GB 658 GB
UD-Q6_K (14分割) 626 GB - 627 GB 627 GB 628 GB 630 GB 633 GB 638 GB 650 GB 721 GB
UD-Q6_K_XL (16分割) 684 GB - 686 GB 686 GB 687 GB 688 GB 691 GB 697 GB 709 GB 779 GB
Q8_0 (17分割) 801 GB ほぼ同じ 803 GB 803 GB 804 GB 805 GB 808 GB 814 GB 826 GB 896 GB
UD-Q8_K_XL (18分割) 820 GB - 821 GB 821 GB 822 GB 823 GB 826 GB 832 GB 844 GB 915 GB
BF16 (33分割) 1,508 GB 元の精度 1,509 GB 1,510 GB 1,510 GB 1,512 GB 1,515 GB 1,521 GB 1,532 GB 1,603 GB
Ollama  ollama run hf.co/unsloth/GLM-5.2-GGUF:UD-Q4_K_M
llama.cpp  llama-server -hf unsloth/GLM-5.2-GGUF:UD-Q4_K_M

外部の評価

量子化する前の元のモデルを、他の機関が評価した値です。当サイトの評価ではありません。 値は量子化する前の元のモデルのものです。GGUF の量子化(特に小さい量子化)では性能が下がることがあります。

総合能力(Epoch AI)

153.0 151.3〜154.9

GLM-5.2 · 2026年6月16日 版の値

出典:Epoch Capabilities Index (Epoch AI)(CC BY 4.0)。 元のランキング · ランキングで見る

ライセンスと商用利用

MIT License 商用可

商用利用・改変・再配布ができます。再配布するときは著作権表示とライセンス文を残します。

元のモデルの Hugging Face のページにあるライセンスで判定しています。 ライセンスの原文(2026年10月18日 に確認)

要約は当サイトが原文から読み取った事実で、法的な助言ではありません。実際に使う前に、必ずライセンスの原文と最新の条件を確認してください。 ライセンスごとの一覧

動かし方

このモデルの形式(glm-dsa)を llama.cpp の本家が読み込めるのは b8036(2026年2月13日)以降です。Ollama・LM Studio は内部に llama.cpp を取り込んで動くため、アプリが古いと「unknown model architecture」などのエラーで読み込めません。その場合はアプリを最新にしてください。

例として UD-Q4_K_M を使う場合のコマンドです。他の量子化を使う場合は、上の表から量子化名を選んで置き換えてください。 ローカルLLMの動かし方

Ollama

Hugging Face 上の GGUF を直接指定して動かせます。

ollama run hf.co/unsloth/GLM-5.2-GGUF:UD-Q4_K_M

llama.cpp

llama-server(または llama-cli)に -hf でリポジトリと量子化名を指定します。

llama-server -hf unsloth/GLM-5.2-GGUF:UD-Q4_K_M

LM Studio

検索欄に unsloth/GLM-5.2-GGUF を貼り付けてダウンロードし、量子化ファイルの一覧から量子化名を選びます。

よくある質問

GLM-5.2(UD-Q4_K_M)を動かすのに必要なメモリはどれくらいですか?
ファイルサイズは466 GB(実測)。8,192トークンのコンテキストで動かす場合、KVキャッシュ等を含めた推定必要メモリは467 GBです。計算式はhttps://localllm.az-arte.com/ja/guide/memory-calculationで公開しています。
GLM-5.2は商用利用できますか?
元のモデルのライセンスはMIT License(商用利用できる)。商用利用・改変・再配布ができます。再配布するときは著作権表示とライセンス文を残します。最終的な判断はライセンスの原文で確認してください。
GLM-5.2 は VRAM 8GB・12GB・16GB・24GB で動きますか?
8GB に収まる量子化は無し、12GB に収まる量子化は無し、16GB に収まる量子化は無し、24GB に収まる量子化は無し(8,192 トークン・KV キャッシュ f16 の推定。いちばん多くダウンロードされている配布元のファイル)。
GLM-5.2 を Ollama で動かすコマンドは?
「ollama run hf.co/unsloth/GLM-5.2-GGUF:UD-Q4_K_M」で、Hugging Face の GGUF をそのまま動かせます。ほかの量子化を使うときは、最後の量子化名を置き換えます。