GGUFとは？LM Studio初心者向けモデルファイル選び方ガイド

before you choose

初心者がGGUFで止まりやすい場面

gguf モデル 選び方で迷う人の多くは、仕様そのものより「今どのファイルを落とすべきか」で止まります。 ここに当てはまるなら、まず上の結論とチェッカーから見るのがおすすめです。

basic

GGUFとは何か

GGUFは、ローカルLLMで使われるモデルファイル形式です。 アプリ名ではなく、AIモデルの重みや設定などをまとめたデータファイルの形式です。 LM Studio、Ollama、llama.cppなど、ローカルでAIモデルを動かすツールと関係があります。

初心者は、まず「LM Studioで使うモデルファイルの形式」と理解すれば十分です。 内部仕様を最初から覚えるより、Hugging FaceやLM Studioで並んでいる複数のGGUFファイルから、 自分のPCに合うものを選ぶことの方が大切です。

GGUFはアプリではありません。LM Studioのようなアプリに読み込ませる「モデルファイル」です。 もっと詳しくは 「GGUFとは」解説ページ へ。

quantization

Q4_K_M・Q5_K_M・Q8_0の違い

q4_k_m とは、q5_k_m とは何かで迷ったら、まず量子化の違いだと考えてください。 Q4_K_M、Q5_K_M、Q8_0 は、モデルをどれくらい軽くしているかを表す目印です。 gguf q4 q5 違いの実用面は、軽さと品質のバランスです。

結論: 初心者はまず Q4_K_M。 動作が安定してからQ5_K_Mを比べ、Q8_0は余裕がある環境で検討します。 詳しい比較は Q4_K_MとQ5_K_Mの違い へ。

memory guide

メモリ別のGGUFモデル選び方の目安

WindowsでLM Studioを使う初心者向けの大まかな目安です。GPU VRAM、CPU、コンテキスト長、同時起動アプリによって変わります。

結論: 8GBなら1B〜3B、16GBなら7B〜8B / Q4_K_M、32GB以上なら7B〜14B / Q4_K_M・Q5_K_Mが候補です。 詳しい仕組みは メモリとVRAMの目安ガイド へ。

cpu and gpu

GPUなしの場合の注意

GPUなしでもGGUFモデルが動く場合はあります。ただしCPU動作になりやすく、応答速度は遅くなる可能性があります。 大きいモデルやQ8_0は、ロードできても実用的な速度にならないことがあります。

メモリだけでなく、GPU VRAM、コンテキスト長、同時起動アプリも影響します。初心者は最初から欲張らない方が安全です。

lm studio

LM StudioでGGUFを選ぶときの注意

1. GGUF版のモデルを選ぶ。 Hugging Faceでは、同じモデル名でもGGUF版とsafetensors版が別リポジトリになっていることがあります。
2. 会話ならInstruct / Chat / ITを選ぶ。 Baseモデルは会話用に調整されていないことがあり、初心者が困りやすいです。
3. 重すぎてロードできない原因を分けて考える。 メモリ不足、GPU VRAM不足、ファイルサイズ、量子化、コンテキスト長が原因になり得ます。

手順の詳細は LM Studioでのダウンロード手順 へ。

file formats

GGUFとsafetensorsの違い

gguf safetensors 違いは、使う場面の違いとして見ると分かりやすいです。 safetensorsは学習、配布、Transformers系の環境でよく見る形式です。 GGUFはローカル実行、特にllama.cpp系やLM Studioなどでよく見る形式です。

初心者がLM Studioでチャットしたいだけなら、まずGGUF版を探すと迷いにくいです。 ただし、ツールによって対応形式は違うので過剰に断定しないようにします。 詳しくは GGUFとsafetensorsの違い へ。

common mistakes

よくある失敗例

症状別の解決は トラブルシューティング へ。