GGUF

Identity

• GGUF（GGML Universal File）はllama.cppプロジェクトが2023年8月に導入した、量子化済みモデルを単一ファイルで保持するバイナリ形式である。検証待ち GGUF usage with llama.cpp · Hugging Face

Capability

• GGUF（GGML Universal File）はllama.cppプロジェクトが2023年8月に導入した、量子化済みモデルを単一ファイルで保持するバイナリ形式である。検証待ち GGUF usage with llama.cpp · Hugging Face
• GGUFファイルはヘッダー・キーバリュー形式のメタデータ・テンソル情報・テンソルデータの4セクションで構成され、旧GGML形式を置き換える形で後方互換性を保ちながら拡張できるよう設計されている。検証待ち ggml/docs/gguf.md
• GGUFは既存Entityのllama.cppやOllamaが採用する標準形式であり、TheBlokeをはじめとするコミュニティによって数千のモデルがGGUF形式に変換・配布されている。検証待ち GitHub — ggml-org/llama.cpp
• BeyondScale公式の業界団体資料（https://beyondscale.tech/blog/open-source-ai-model-security-hugging-face）は、GGUFのセキュリティ体制に関する第三者報道である。既存3件はセキュリティに触れていない。具体的には「Jinja2 chat-template injection executes at inference time, undetectable by static scanners (Splunk/Pillar Security research).」といった記載がある。ただし、認証・準拠・体制の状況は更新されうるため、この内容は取得時点のものです。適用範囲がどこまでかは、このSourceだけでは確認できない場合があります。 研究の二次要約、実世界悪用範囲は未確認。2026年08月26日に同Sourceを取得し、この内容を確認した。検証待ち GGUFセキュリティ体制に関する公開情報
• GGUF公式仕様書は、mmap互換性（モデルをmmapで高速に読み込み・保存できること）を設計目標の一つとして明示しており、テンソルを整列させるファイル構造により、実行環境が追加コピーなしでmmap経由でテンソルデータへアクセスできる設計になっている。検証待ち GGUF Specification

Credibility

公開Evidence未整備

Use Case

• GGUFは既存Entityのllama.cppやOllamaが採用する標準形式であり、TheBlokeをはじめとするコミュニティによって数千のモデルがGGUF形式に変換・配布されている。検証待ち GitHub — ggml-org/llama.cpp
• Hugging Face公式の製品ドキュメント（https://huggingface.co/docs/hub/en/ollama）は、GGUFの規模・導入状況に関する第三者報道である。既存3件は採用数値に触れておらず、セキュリティfindingとも別claim。具体的には「45K public GGUF checkpoints on the Hub, runnable via single ollama run command.」といった記載がある。ただし、この数値は取得時点のものであり、計測方法・計測時点・定義（何をもって1件とするか）はこのSourceからは確認できない場合があります。 スナップショット値、時間経過で増加。2026年08月26日に同Sourceを取得し、この内容を確認した。検証待ち GGUF規模・導入状況に関する公開情報

Constraints / Current Status

• GGUFファイルはヘッダー・キーバリュー形式のメタデータ・テンソル情報・テンソルデータの4セクションで構成され、旧GGML形式を置き換える形で後方互換性を保ちながら拡張できるよう設計されている。検証待ち ggml/docs/gguf.md

Key References

• GGUF形式は、なぜ大規模モデルの読み込み速度において優れているとされますか？
• GGUFとは何ですか？
• GGUF形式のモデルはHugging Face Hub上でどれくらい普及していますか？

Integrates With

• Ollama— OllamaはGGUF形式のモデルを読み込んでローカル実行する。

Related

• Safetensors— Safetensors（Hugging Face Hub向け）とGGUF（llama.cppローカル実行向け）は共に安全なモデル配布・保存を目的とする形式であり、比較検討される対象である。
• llama.cpp— GGUFはllama.cppプロジェクトが定めたネイティブなモデルファイル形式である。
• Unsloth— Unslothは学習済みモデルをGGUF形式に変換する機能を提供している。
• TheBloke— TheBlokeはGGUF形式での量子化モデル配布を広く普及させた主要な貢献者の一人である。