本文へ移動
localllm

ローカルLLM(GGUF)のファイルサイズと必要メモリ

「このモデルは自分のPCで動くか」を、ダウンロードする前に確かめる。

ローカルLLM(GGUF 形式の量子化モデル)の、量子化ごとの実際のファイルサイズと、会話の長さ(コンテキスト長)ごとの必要メモリの目安を並べています。必要メモリは計算式を公開した推定値で、実測とは区別して表示します。

掲載モデル
1,276
GGUF の配布元
1,659
GPU・Mac の機種
91

Hugging Face から取得:(毎日更新)

VRAM・統合メモリの量から探す

GPU の VRAM(Mac は統合メモリ)の量を選ぶと、その量に収まる(と推定される)モデルの一覧が出ます。

機種(GeForce・Radeon・Mac など)から探す

Hugging Face のダウンロード数(直近30日)の多い順です。評価や順位ではありません。

ダウンロード数ランキングを見る → すべてのモデル →

新着のモデル

新着をすべて見る →
日本語のモデル 日本の企業・研究機関が開発したモデルや、日本語向けの派生モデルをまとめています。 日本語のモデルを見る → ライセンスと商用利用 仕事で使えるかは、ライセンスで決まります。元のモデルのライセンスで「商用利用できる・条件付き・できない」に分けた一覧と、条件の要約を載せています。 商用利用できるモデルを見る → ローカルLLMは安全? 入力した内容は外に送られるか、GGUF ファイルにプログラムは入るか、配布元の見分け方などを、仕組みから整理しました。 安全性の確かめ方を読む → 量子化の読み方と選び方 Q4_K_M・Q8_0 などの名前の読み方と、当サイトの実際のファイルから集計したサイズ・品質の目安。 量子化のガイドを読む →

このサイトの考え方

実測

実測を実測として出す

量子化ファイルのサイズは Hugging Face 上の実際の値です。分割されたファイルは合計しています。推定値と混ぜません。

推定

推定は推定として区別する

必要メモリはKVキャッシュを含めた計算式による推定値です。計算式と前提を公開し、実測とは常にバッジで区別します。

✕ 独自スコアなし

独自の性能スコアは出さない

「最強モデル」のような断定的な評価はしません。判断材料になる実測値・推定値を、出典とともに提示します。