本文へ移動
localllm

比較

モデルを並べて比べる

モデルを最大 4 つ選ぶと、ファイルサイズ・必要メモリ・ライセンス・外部の評価を横に並べて見られます。

すべて外す

入力欄に名前を入れると候補が出ます。モデルのページの「比較に追加」からも選べます。

比較の表

項目 Mistral-Small-3.2-24B-Instruct-2506 mistralai ✕ 外す
パラメータ数 23.6B
アーキテクチャ llama
最大コンテキスト長 131,072
代表の量子化とサイズ 実測 Q4_K_M · 14.3 GB
8K で必要なメモリ 推定 16.5 GB
32K で必要なメモリ 推定 20.5 GB
収まる VRAM(8K) 推定 VRAM 16 GB〜
いちばん小さい量子化(8K) 推定 UD-IQ1_S · 5.56 GB → 7.71 GB
ライセンス Apache License 2.0 商用可
llama.cpp の対応 llama.cpp b4409 より前から
ダウンロード(30日・合計) 191,907
人の評価(LMArena) -
総合能力(Epoch AI) -
科学の難問(GPQA) 49.1% mistral-small-3.2-2506