GGUFは旧GGML形式を置き換える形で導入された形式で、ヘッダー・キーバリュー形式のメタデータ・テンソル情報・テンソルデータの4セクション構成により、モデルアーキテクチャが変わっても後方互換性を保ちながら拡張できる設計になっています。GGML形式にはこの拡張性がありませんでした。
量子化ファイル形式の世代比較
メタデータ構造による拡張性・後方互換性