本文へ移動
localllm

単体GPU

GeForce RTX 5080 Laptop GPU

データの取得日:

16 GB のとき

モデルごとに1件、このメモリに収まる量子化のうち、8K トークン以上のコンテキストで収まる中でファイルが最も大きい(精度が高い)ものを、よく使われている順に最大30件出しています。コンテキスト長は、その量子化が収まる最も長い値です(埋め込みモデルなど、扱える長さが 8K より短いモデルはその最大の長さ)。会話・文章の生成以外のモデルには用途を付けています。「残り」はメモリの量から推定を引いた値で、容量の 5% 未満は「ぎりぎり」としています(収まることの保証ではありません)。

よくある質問

GeForce RTX 5080 Laptop GPU でどんなローカルLLMが動きますか?
当サイトでは 834 モデルに、16GB・8,192 トークンで収まる量子化があります(推定)。よく使われているのは Qwen3.8-27B・Ornith-1.5-9B・Huihui-Qwen3.6-35B-A3B-abliterated-MTP・Ornith-1.5-35B-A3B・Huihui-Qwen3.8-27B-abliterated などです。
GeForce RTX 5080 Laptop GPU で動く、いちばん大きいモデルは?
当サイトに載っている中では Qwen3.8-Flash-Next-FP4-Local-Strata(約 51.2B)で、BF16 なら 16GB に収まります(8,192 トークンの推定)。