単体GPU
GeForce RTX 5090 Laptop GPU
データの取得日：
- 出典
- 確認日：
24 GB のとき
モデルごとに1件、このメモリに収まる量子化のうち、8K トークン以上のコンテキストで収まる中でファイルが最も大きい（精度が高い）ものを、よく使われている順に最大30件出しています。コンテキスト長は、その量子化が収まる最も長い値です（埋め込みモデルなど、扱える長さが 8K より短いモデルはその最大の長さ）。会話・文章の生成以外のモデルには用途を付けています。「残り」はメモリの量から推定を引いた値で、容量の 5% 未満は「ぎりぎり」としています（収まることの保証ではありません）。
-
コンテキスト長 8,192 推定 25.6 GB 残り 0.17 GB（ぎりぎり）
-
Ornith-1.5-9B BF16コンテキスト長 131,072 推定 23.8 GB 残り 1.94 GB
-
コンテキスト長 131,072 推定 25.5 GB 残り 0.26 GB（ぎりぎり）
-
コンテキスト長 65,536 推定 24.9 GB 残り 0.87 GB（ぎりぎり）
-
コンテキスト長 8,192 推定 25.7 GB 残り 0.09 GB（ぎりぎり）
-
コンテキスト長 262,144 推定 23.6 GB 残り 2.22 GB
-
コンテキスト長 65,536 推定 22.6 GB 残り 3.15 GB
-
コンテキスト長 65,536 推定 25.2 GB 残り 0.57 GB（ぎりぎり）
-
コンテキスト長 16,384 推定 25.7 GB 残り 0.09 GB（ぎりぎり）
-
コンテキスト長 16,384 推定 24.7 GB 残り 1.06 GB（ぎりぎり）
-
Ornith-1.0-9B BF16コンテキスト長 131,072 推定 23.3 GB 残り 2.43 GB
-
コンテキスト長 512 推定 2.41 GB 残り 23.4 GB
-
コンテキスト長 65,536 推定 25.3 GB 残り 0.46 GB（ぎりぎり）
-
コンテキスト長 131,072 推定 23.8 GB 残り 1.97 GB
-
コンテキスト長 40,960 推定 23.3 GB 残り 2.49 GB
-
コンテキスト長 65,536 推定 25.7 GB 残り 0.05 GB（ぎりぎり）
-
コンテキスト長 32,768 推定 25.4 GB 残り 0.42 GB（ぎりぎり）
-
コンテキスト長 32,768 推定 22.1 GB 残り 3.70 GB
-
コンテキスト長 131,072 推定 23.8 GB 残り 1.97 GB
-
コンテキスト長 131,072 推定 23.3 GB 残り 2.46 GB
-
コンテキスト長 65,536 推定 25.3 GB 残り 0.45 GB（ぎりぎり）
-
Ternary-Bonsai-2-27B Q2_0コンテキスト長 131,072 推定 17.4 GB 残り 8.35 GB
-
コンテキスト長 131,072 推定 21.9 GB 残り 3.86 GB
-
コンテキスト長 262,144 推定 18.4 GB 残り 7.42 GB
-
Ornith-1.0-35B Q4_K_Mコンテキスト長 131,072 推定 25.0 GB 残り 0.78 GB（ぎりぎり）
-
コンテキスト長 8,192 推定 25.3 GB 残り 0.45 GB（ぎりぎり）
-
コンテキスト長 32,768 推定 25.3 GB 残り 0.44 GB（ぎりぎり）
-
Wan2.1 Q4_K_Mコンテキスト長 65,536 推定 22.3 GB 残り 3.43 GB
-
コンテキスト長 131,072 推定 21.9 GB 残り 3.86 GB
-
コンテキスト長 65,536 推定 12.5 GB 残り 13.3 GB
よくある質問
- GeForce RTX 5090 Laptop GPU でどんなローカルLLMが動きますか？
- 当サイトでは 944 モデルに、24GB・8,192 トークンで収まる量子化があります（推定）。よく使われているのは Qwen3.8-27B・Ornith-1.5-9B・Huihui-Qwen3.6-35B-A3B-abliterated-MTP・Ornith-1.5-35B-A3B・Huihui-Qwen3.8-27B-abliterated などです。
- GeForce RTX 5090 Laptop GPU で動く、いちばん大きいモデルは？
- 当サイトに載っている中では Ling-3.0-flash（約 127.5B）で、Q1_0 なら 24GB に収まります（8,192 トークンの推定）。