比較
モデルを並べて比べる
モデルを最大 4 つ選ぶと、ファイルサイズ・必要メモリ・ライセンス・外部の評価を横に並べて見られます。
比較の表
| 項目 | Mixtral-8x22B-Instruct-v0.1 mistralai ✕ 外す |
|---|---|
| パラメータ数 | 140.6B |
| アーキテクチャ | llama |
| 最大コンテキスト長 | 65,536 |
| 代表の量子化とサイズ 実測 | IQ1_S · 29.7 GB |
| 8K で必要なメモリ 推定 | 32.1 GB |
| 32K で必要なメモリ 推定 | 37.8 GB |
| 収まる VRAM（8K） 推定 | VRAM 32 GB〜 |
| いちばん小さい量子化（8K） 推定 | IQ1_S · 29.7 GB → 32.1 GB |
| ライセンス | Apache License 2.0 商用可 |
| llama.cpp の対応 | llama.cpp b4409 より前から |
| ダウンロード（30日・合計） | 27,407 |
| 人の評価（LMArena） | 1,230 Mixtral 8x22B Instruct v0.1 |
| 総合能力（Epoch AI） | - |
| 科学の難問（GPQA） | - |
- 代表の量子化は Q4_K_M（無ければいちばん小さいもの）で、ダウンロード数のいちばん多い配布元のものです。必要メモリは KV キャッシュ f16 の推定です。
- 外部の評価は、量子化する前の元のモデルを他の機関が評価した値で、当サイトの評価ではありません（出典はランキングのページ）。
- 当サイトは、どれが優れているかの判定や総合点は出しません。