rule based checker
GGUF適合チェッカー
PCのメモリ、GPU/VRAM、用途、初心者度を選ぶと、まず試すべきGGUFのモデル規模と量子化を表示します。 外部APIやAI APIは使わず、ブラウザ内の固定ルールで動きます。入力は送信されません。
診断結果
PCメモリとGPUを選ぶと結果が表示されます。
- モデル規模
- —
- 量子化形式
- —
避けた方がいい選び方
注意点
次に読むべきセクション
この結果は一般的な目安です。特定環境での動作や性能を保証するものではありません。
この結果の見方と限界
かんたん診断は「一般的な目安」です。実際の動作は、OSと常駐アプリを除いた空きRAM、GPU VRAM、 モデルファイルの実サイズ、アーキテクチャ(Dense/MoE)、コンテキスト長、KVキャッシュの量子化、 CPU性能、同時に使うアプリなどで変わります。
より厳密な見積もりが必要な場合は、下の「詳細診断の考え方」を参照し、
自分の環境の数値を当てはめて判断してください。
詳細診断の考え方(推定の前提)
必要メモリの目安は、おおむね次の要素から見積もります(いずれも「一般的な目安」で、実測値ではありません):
| 項目 | 目安・前提 |
|---|---|
| 実行時メモリ | GGUFファイルサイズ(weight storage)に、ロード時の追加メモリ(オーバーヘッド)を加えた幅。比率は環境により変動し、一定値ではありません。 |
| KVキャッシュ | コンテキスト長 × 層数 × KVヘッド数 × ヘッド次元 × KVの精度 で理論計算できますが、モデルのメタデータ(layers/kv_heads/head_dim)が不明な場合は算出しません。MoEはKVキャッシュが単純に2倍になるわけではありません。 |
| 画像対応(mmproj) | モデル配布ページの mmproj ファイルの実サイズを確認してください。一律の固定値では見積もりません。 |
| 部分GPUオフロード | VRAM消費はオフロード層数・KV配置・compute buffer で変動するため精密な値は出せません。LM Studio のメモリ表示で確認しながら調整してください。 |
ファイルサイズだけを「必要メモリ」と同一視しないでください。ロード時の追加メモリやKVキャッシュで、 ファイルサイズより多く消費するのが一般的です。詳細な係数は 出典 の一次資料を参照。
よくある失敗
ファイルサイズだけで判断する
GPUなしで大きいモデルを選ぶ
コンテキスト長を長くしすぎる
Baseモデルを会話に使う