本文へ移動
localllm

bartowski

meta-llama_Llama-4-Scout-17B-16E-Instruct-old

パラメータ数
107.8B
最大コンテキスト長
10,485,760
アーキテクチャ
llama4
ライセンス
条件付き
ライセンス
llama4
llama.cpp
b5074+

meta-llama_Llama-4-Scout-17B-16E-Instruct-old の概要

meta-llama_Llama-4-Scout-17B-16E-Instruct-old は、Hugging Face の meta-llama/Llama-4-Scout-17B-16E-Instruct をもとにした GGUF 形式のモデルです。GGUF は bartowski/meta-llama_Llama-4-Scout-17B-16E-Instruct-old-GGUF が公開しています。パラメータ数は約 107.8B(1,078億)、アーキテクチャは llama4、最大コンテキスト長は 10,485,760 トークンです(GGUF に書かれた値)。

量子化は 24 種類あり、ファイルサイズは IQ1_M の 26.3 GB から BF16 の 216 GB まであります(Hugging Face 上の実際のサイズ)。

Q4_K_M(67.5 GB)を 8,192 トークンのコンテキストで動かすときの必要メモリは推定 70.1 GB、32,768 トークンでは推定 71.4 GBです。8,192 トークンなら、VRAM 96 GB 以上の GPUか、統合メモリ 96 GB 以上の Mac が目安です(macOS は GPU が使えるメモリに上限があるため、実際には余裕が要ります)。最も小さい IQ1_M(26.3 GB)なら、8,192 トークンで推定 28.9 GBです。

元のモデルのライセンスは Llama 4 Community License で、商用利用には規模・用途などの条件があります。利用条件は原文で確認してください。

量子化ごとのファイルサイズと必要メモリの目安

  • 8 GB まで
  • 16 GB まで
  • 24 GB まで
  • 48 GB まで
  • 128 GB まで
  • それ以上

ファイルサイズは Hugging Face 上の実際の値です。必要メモリはコンテキスト長ごとの推定値(KVキャッシュ f16)。計算式は 必要メモリの計算方法で公開しています。

必要メモリはすべて 推定 (KVキャッシュ f16)。このページの「必要メモリ」以上の VRAM(または Mac の統合メモリ)を持つ環境で動作する見込みです。数値をクリックすると、その容量で動く機種・モデルの一覧(GPU・Macで探す)に移動します。

「品質の目安」について(量子化でどれだけ元のモデルからずれるか)

量子化の型ごとに、元のモデルの出力からどれだけずれるかを、llama.cpp が Llama-3-8B で測った値から6段階に分けたものです。

使っている値は平均 KLD(元のモデルと量子化したモデルの、次の単語の確率の分布の差)で、小さいほど元のモデルに近い出力になります。imatrix(重要度の情報)を使って量子化したものは少し小さくなります。段階は、imatrix を使わない値(無い型は使った値)で分けています。

★このモデルで測った値ではありません。モデルが大きいほど、また MoE のモデルほど、同じ型でもずれは小さくなりやすいです。配布元独自の混合型(UD-Q4_K_XL など)は型の名前だけでは当てはめられないので「-」にしています。

量子化 品質の目安 KLD(imatrix なし) KLD(imatrix あり) サイズ(Llama-3-8B)
Q8_0 ほぼ同じ 0.0014 - 7.96 GiB
Q6_K ごく小さい 0.0055 - 6.14 GiB
Q5_K_M ごく小さい 0.0108 - 5.33 GiB
Q5_K_S 小さい 0.0166 - 5.21 GiB
Q5_1 小さい 0.0180 - 5.65 GiB
Q5_0 小さい 0.0222 - 5.21 GiB
Q4_K_M 小さい 0.0313 0.0282 4.58 GiB
Q4_K_S 中くらい 0.0431 0.0320 4.37 GiB
IQ4_NL 小さい - 0.0357 4.35 GiB
IQ4_XS 小さい - 0.0363 4.14 GiB
Q4_1 中くらい 0.0717 - 4.78 GiB
Q4_0 中くらい 0.0719 - 4.34 GiB
Q3_K_L 中くらい 0.0872 0.0731 4.03 GiB
Q3_K_M 中くらい 0.1019 0.0844 3.74 GiB
IQ3_M 中くらい - 0.1025 3.53 GiB
IQ3_S 中くらい - 0.1113 3.42 GiB
IQ3_XS 大きい - 0.1387 3.28 GiB
IQ3_XXS 大きい - 0.1836 3.05 GiB
Q3_K_S 大きい 0.2282 0.1998 3.41 GiB
IQ2_M 大きい - 0.3260 2.74 GiB
Q2_K とても大きい 0.4451 0.3322 2.96 GiB
Q2_K_S とても大きい - 0.4034 2.96 GiB
IQ2_S とても大きい - 0.4392 2.56 GiB
IQ2_XS とても大きい - 0.5463 2.43 GiB
IQ2_XXS とても大きい - 0.8120 2.24 GiB
IQ1_M とても大きい - 1.3931 2.01 GiB
IQ1_S とても大きい - 2.2546 1.88 GiB

出典:llama.cpp(MIT)、Llama-3-8B・FP16 を基準・Wikitext-2・revision f364eb6f の測定。 元の表 · 量子化の読み方と選び方

GGUF配布元

bartowski/meta-llama_Llama-4-Scout-17B-16E-Instruct-old-GGUF

元の開発元が配布 この表示について

元モデルの利用には Hugging Face 上での申請・同意が必要です(GGUF自体のダウンロードには影響しません)。

最終確認:2026年11月5日

アーキテクチャ
llama4
llama.cpp b5074 以降
パラメータ数
107.8B
最大コンテキスト長
10,485,760
ライセンス
llama4 条件付き
meta-llama_Llama-4-Scout-17B-16E-Instruct-old(bartowski/meta-llama_Llama-4-Scout-17B-16E-Instruct-old-GGUF)の量子化ごとのファイルサイズと必要メモリ
量子化 ファイルサイズ 実測 品質の目安 4,096 8,192 16,384 32,768 65,536 131,072 262,144 10,485,760 最大
IQ1_M 26.3 GB とても大きい 28.1 GB 28.9 GB 29.4 GB 30.2 GB 31.8 GB 35.0 GB 41.4 GB 544 GB
IQ2_XXS 30.2 GB とても大きい 31.9 GB 32.7 GB 33.2 GB 34.0 GB 35.6 GB 38.8 GB 45.3 GB 548 GB
IQ2_XS 32.9 GB とても大きい 34.7 GB 35.5 GB 36.0 GB 36.8 GB 38.4 GB 41.6 GB 48.1 GB 551 GB
IQ2_S 34.3 GB とても大きい 36.1 GB 36.9 GB 37.4 GB 38.2 GB 39.8 GB 43.0 GB 49.5 GB 552 GB
IQ2_M 37.1 GB 大きい 38.9 GB 39.7 GB 40.2 GB 41.0 GB 42.6 GB 45.8 GB 52.2 GB 555 GB
Q2_K 43.0 GB とても大きい 44.7 GB 45.5 GB 46.0 GB 46.8 GB 48.4 GB 51.7 GB 58.1 GB 561 GB
Q2_K_L 44.0 GB - 45.8 GB 46.6 GB 47.0 GB 47.8 GB 49.5 GB 52.7 GB 59.1 GB 562 GB
IQ3_XXS 45.0 GB 大きい 46.7 GB 47.5 GB 48.0 GB 48.8 GB 50.4 GB 53.6 GB 60.1 GB 563 GB
IQ3_XS 47.5 GB 大きい 49.2 GB 50.0 GB 50.5 GB 51.3 GB 52.9 GB 56.1 GB 62.6 GB 565 GB
Q3_K_S 49.8 GB 大きい 51.5 GB 52.3 GB 52.8 GB 53.6 GB 55.2 GB 58.4 GB 64.9 GB 567 GB
IQ3_M (2分割) 50.3 GB 中くらい 52.1 GB 52.9 GB 53.4 GB 54.2 GB 55.8 GB 59.0 GB 65.4 GB 568 GB
Q3_K_M (2分割) 54.3 GB 中くらい 56.1 GB 56.9 GB 57.4 GB 58.2 GB 59.8 GB 63.0 GB 69.4 GB 572 GB
Q3_K_L (2分割) 57.8 GB 中くらい 59.6 GB 60.4 GB 60.8 GB 61.6 GB 63.3 GB 66.5 GB 72.9 GB 575 GB
Q3_K_XL (2分割) 58.7 GB - 60.5 GB 61.3 GB 61.7 GB 62.5 GB 64.2 GB 67.4 GB 73.8 GB 576 GB
IQ4_XS (2分割) 59.9 GB 小さい 61.6 GB 62.5 GB 62.9 GB 63.7 GB 65.3 GB 68.6 GB 75.0 GB 578 GB
IQ4_NL (2分割) 63.0 GB 小さい 64.7 GB 65.6 GB 66.0 GB 66.8 GB 68.4 GB 71.7 GB 78.1 GB 581 GB
Q4_0 (2分割) 63.1 GB 中くらい 64.8 GB 65.6 GB 66.1 GB 66.9 GB 68.5 GB 71.7 GB 78.2 GB 581 GB
Q4_K_M (2分割) 67.5 GB 小さい 69.3 GB 70.1 GB 70.6 GB 71.4 GB 73.0 GB 76.2 GB 82.7 GB 585 GB
Q4_K_L (2分割) 68.3 GB - 70.1 GB 70.9 GB 71.4 GB 72.2 GB 73.8 GB 77.0 GB 83.4 GB 586 GB
Q4_1 (2分割) 69.1 GB 中くらい 70.9 GB 71.7 GB 72.1 GB 72.9 GB 74.6 GB 77.8 GB 84.2 GB 587 GB
Q5_K_L (2分割) 79.3 GB - 81.1 GB 81.9 GB 82.4 GB 83.2 GB 84.8 GB 88.0 GB 94.4 GB 597 GB
Q6_K_L (3分割) 89.3 GB - 91.0 GB 91.8 GB 92.3 GB 93.1 GB 94.7 GB 97.9 GB 104 GB 607 GB
Q8_0 (3分割) 113 GB ほぼ同じ 115 GB 116 GB 116 GB 117 GB 119 GB 122 GB 129 GB 631 GB
BF16 (6分割) 216 GB 元の精度 217 GB 218 GB 219 GB 219 GB 221 GB 224 GB 231 GB 733 GB
Ollama  ollama run hf.co/bartowski/meta-llama_Llama-4-Scout-17B-16E-Instruct-old-GGUF:Q4_K_M
llama.cpp  llama-server -hf bartowski/meta-llama_Llama-4-Scout-17B-16E-Instruct-old-GGUF:Q4_K_M

ライセンスと商用利用

Llama 4 Community License 条件付き

商用利用できます。Llama 4 の公開日の時点で、月間アクティブユーザーが7億人を超える場合は Meta の許諾が別に必要です。再配布や、モデルを含む製品・サービスの提供では、ライセンス文を添え「Built with Llama」を目立つように表示します。モデルを使って作った(学習・微調整した)AI モデルを公開するときは、名前の頭に「Llama」を付けます。利用規定(Acceptable Use Policy)を守ります。

元のモデルの Hugging Face のページにあるライセンスで判定しています。 ライセンスの原文(2026年11月1日 に確認)

要約は当サイトが原文から読み取った事実で、法的な助言ではありません。実際に使う前に、必ずライセンスの原文と最新の条件を確認してください。 ライセンスごとの一覧

動かし方

このモデルの形式(llama4)を llama.cpp の本家が読み込めるのは b5074(2025年4月7日)以降です。Ollama・LM Studio は内部に llama.cpp を取り込んで動くため、アプリが古いと「unknown model architecture」などのエラーで読み込めません。その場合はアプリを最新にしてください。

例として Q4_K_M を使う場合のコマンドです。他の量子化を使う場合は、上の表から量子化名を選んで置き換えてください。 ローカルLLMの動かし方

Ollama

Hugging Face 上の GGUF を直接指定して動かせます。

ollama run hf.co/bartowski/meta-llama_Llama-4-Scout-17B-16E-Instruct-old-GGUF:Q4_K_M

llama.cpp

llama-server(または llama-cli)に -hf でリポジトリと量子化名を指定します。

llama-server -hf bartowski/meta-llama_Llama-4-Scout-17B-16E-Instruct-old-GGUF:Q4_K_M

LM Studio

検索欄に bartowski/meta-llama_Llama-4-Scout-17B-16E-Instruct-old-GGUF を貼り付けてダウンロードし、量子化ファイルの一覧から量子化名を選びます。

よくある質問

meta-llama_Llama-4-Scout-17B-16E-Instruct-old(Q4_K_M)を動かすのに必要なメモリはどれくらいですか?
ファイルサイズは67.5 GB(実測)。8,192トークンのコンテキストで動かす場合、KVキャッシュ等を含めた推定必要メモリは70.1 GBです。計算式はhttps://localllm.az-arte.com/ja/guide/memory-calculationで公開しています。
meta-llama_Llama-4-Scout-17B-16E-Instruct-oldは商用利用できますか?
元のモデルのライセンスはLlama 4 Community License(商用利用は条件付き)。商用利用できます。Llama 4 の公開日の時点で、月間アクティブユーザーが7億人を超える場合は Meta の許諾が別に必要です。再配布や、モデルを含む製品・サービスの提供では、ライセンス文を添え「Built with Llama」を目立つように表示します。モデルを使って作った(学習・微調整した)AI モデルを公開するときは、名前の頭に「Llama」を付けます。利用規定(Acceptable Use Policy)を守ります。最終的な判断はライセンスの原文で確認してください。
meta-llama_Llama-4-Scout-17B-16E-Instruct-old は VRAM 8GB・12GB・16GB・24GB で動きますか?
8GB に収まる量子化は無し、12GB に収まる量子化は無し、16GB に収まる量子化は無し、24GB に収まる量子化は無し(8,192 トークン・KV キャッシュ f16 の推定。いちばん多くダウンロードされている配布元のファイル)。
meta-llama_Llama-4-Scout-17B-16E-Instruct-old を Ollama で動かすコマンドは?
「ollama run hf.co/bartowski/meta-llama_Llama-4-Scout-17B-16E-Instruct-old-GGUF:Q4_K_M」で、Hugging Face の GGUF をそのまま動かせます。ほかの量子化を使うときは、最後の量子化名を置き換えます。