hub / deep guides
実践ガイド集｜選び方・メモリ・マルチモーダル・ツール
GGUFを実際に選んで動かすときに必要な、深い解説とツールをまとめたハブです。 目的別に読む順番と、テーマ地図を用意しています。
初心者向け読書順：① メモリ・VRAMの目安 → ② コンテキストとKVキャッシュ → ③ チェッカーで選ぶ。
中級者向け：④ mmprojとマルチモーダル → ⑤ split GGUFファイル → ⑥ resource estimate コマンド。
テーマ地図
| テーマ | 記事 | 得られるもの |
|---|---|---|
| メモリ | メモリ・VRAMの目安 | 空き確認・decision tree・確認シート |
| コンテキスト | コンテキスト長とKVキャッシュ | KVの増え方・理論式・目安例 |
| ファイル構造 | GGUFのメタデータ項目 | header・metadata・tensor descriptorの読み方 |
| マルチモーダル | mmprojとマルチモーダル | 画像/音声対応の仕組みと失敗例 |
| 分割ファイル | split GGUFファイル | シャードの扱い・欠けトラブル |
| ツール | resource estimate コマンド作成 | lms load --estimate-only の生成 |
| ツール | GGUF Metadata Inspector | 先頭部分を外部へ送らずに解析 |
メモリ・コンテキスト
「動くかどうか」の核心はメモリです。メモリ・VRAMの目安 で全体像を、 コンテキスト長とKVキャッシュ で「長くすると何が起きるか」を扱います。 両方読むと、「なぜメモリ不足になるか」が自分で説明できるようになります。
マルチモーダル・分割
画像入力や大きなモデルでは、mmproj や split（分割） の知識が必要です。 それぞれ独立したガイドで、仕組みと失敗例（mmproj不足・シャード欠け）を扱います。
ツール
resource estimate コマンド作成ツール は、 LM Studio のメモリ見積もりコマンドを、model key・コンテキスト長・オフロードから生成します。 実行は行わず、外部送信もしません。