---
title: "Qu’est-ce que le GGUF ? Le format de modèle de llama.cpp"
description: "Le GGUF est le format de modèle en un seul fichier de llama.cpp, Ollama et LM Studio. Contenu d’un fichier GGUF et lecture des noms de quant comme Q4_K."
url: https://broadrouter.com/fr/glossary/gguf/
lang: fr
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Traduit de l’anglais avec l’aide de l’IA. [Lire l’original en anglais](https://broadrouter.com/glossary/gguf/) (mis à jour le 2026-11-15).

# GGUF

Mis à jour 2026-11-15

Le GGUF est un format de fichier binaire qui stocke des modèles de langage pour l’inférence avec des runtimes basés sur GGML comme llama.cpp. Un fichier GGUF contient les poids, souvent quantifiés, ainsi que les métadonnées nécessaires au chargement, dont le tokenizer et l’architecture, et peut être mappé en mémoire pour un chargement rapide.

Aussi appelé : GGUF, fichier GGUF, format GGUF, modèle GGUF, format llama.cpp, GGUF file, GGUF format, llama.cpp format

Si vous avez déjà téléchargé un modèle pour le faire tourner sur un ordinateur portable, c’était probablement un fichier se terminant par `.gguf`.

## Comment ça marche

La spécification ggml décrit le GGUF comme un format binaire de stockage de modèles pour l’inférence avec GGML et les exécuteurs basés sur GGML, conçu pour un chargement et un enregistrement rapides. Il a remplacé les anciens formats GGML, GGMF et GGJT. Ses objectifs déclarés incluent :

-   **Un seul fichier.** Un modèle peut être partagé et chargé sans fichier supplémentaire.
-   **Compatible mmap.** Le runtime peut mapper les poids en mémoire au lieu de les copier.
-   **Extensible.** On peut ajouter de nouvelles métadonnées sans casser les modèles plus anciens.
-   **Information complète.** Tout ce qu’il faut pour charger le modèle se trouve dans le fichier.

Un fichier GGUF comprend un en-tête (un nombre magique, la version du format, le nombre de tenseurs et de métadonnées), des paires clé-valeur de métadonnées typées, une table des noms, formes, types et offsets des tenseurs, un remplissage jusqu’à une limite d’alignement (32 octets par défaut), puis les données des tenseurs.

Les noms de fichiers suivent une convention. L’exemple de la spécification, `Mixtral-8x7B-v0.1-KQ2.gguf`, se décompose en nom de base, libellé de taille (huit experts de 7B, voir [mixture of experts](https://broadrouter.com/fr/glossary/mixture-of-experts/)), version et encodage.

La plupart des fichiers GGUF sont [quantifiés](https://broadrouter.com/fr/glossary/quantization/). Le tableau de Hugging Face liste les types courants :

| Type | Bits par poids | Remarques |
| --- | --- | --- |
| Q8\_0 | 8 | Arrondi au plus proche classique, blocs de 32 poids |
| Q6\_K | 6,5625 | Super-blocs k-quant |
| Q5\_K | 5,5 | Super-blocs k-quant |
| Q4\_K | 4,5 | Super-blocs k-quant |
| IQ4\_XS | 4,25 | Utilise une matrice d’importance |
| Q2\_K | 2,625 | Super-blocs k-quant |

## Pourquoi c’est important

-   **Usage local et en périphérie.** Hugging Face cite llama.cpp, LM Studio, GPT4All et Ollama parmi les outils qui utilisent le GGUF. C’est la voie habituelle pour faire tourner un [modèle open-weight](https://broadrouter.com/fr/glossary/open-weight-model/) sur un CPU, un Mac ou un seul GPU grand public.
-   **Le tokenizer voyage avec les poids.** Comme les métadonnées sont dans le fichier, un [chat template](https://broadrouter.com/fr/glossary/chat-template/) ou un réglage de [tokenizer](https://broadrouter.com/fr/glossary/tokenizer/) erroné ou manquant lors d’une conversion peut modifier la qualité des sorties.
-   **La qualité dépend du type de quant.** Un fichier Q2 et un fichier Q8 du même modèle ne sont pas, en pratique, le même modèle. Comparez ce qui est comparable.
-   **Différent des formats de service sur GPU.** Des moteurs de service comme [vLLM](https://broadrouter.com/fr/glossary/vllm/) listent le GGUF parmi les formats pris en charge, mais le service en production sur GPU utilise plus souvent des formats comme [AWQ](https://broadrouter.com/fr/glossary/awq/) ou FP8.

## Sur BroadNet Inference

L’API de BroadNet sert les modèles via HTTP ; elle ne distribue pas de fichiers GGUF et vous ne chargez jamais de poids vous-même. Le catalogue de BroadNet indique qu’en laboratoire, BroadNet a fait tourner [Qwen3.8 27B](https://broadrouter.com/fr/models/qwen3.8-27b/) en GGUF Q4\_K\_M avec un projecteur de vision et un drafter de prédiction multi-token sur llama.cpp, en parallèle d’un build AWQ INT4 sur vLLM pour AMD ROCm. Il ne précise pas quel format sert l’API publique. Si vous comparez une installation GGUF locale à une API, le [guide des coûts auto-hébergement ou API](https://broadrouter.com/fr/blog/self-hosting-llm-vs-api-cost/) et [modèles open-weight ou fermés](https://broadrouter.com/fr/blog/open-weight-vs-closed-models/) détaillent les compromis.

## Questions fréquentes

### Que signifie un nom comme Q4\_K ?

C’est le type de quantification. Le tableau de Hugging Face décrit Q4\_K comme une quantification 4 bits en super-blocs de 8 blocs de 32 poids, soit environ 4,5 bits par poids. Moins de bits, c’est moins de mémoire et en général plus de perte de qualité.

### Peut-on appeler un modèle GGUF avec le format d’API OpenAI ?

Pas le fichier lui-même. Vous le chargez dans un runtime comme le serveur de llama.cpp, Ollama ou LM Studio, et c’est ce runtime qui le sert. Consultez sa documentation pour savoir quelle API il expose.

### Le GGUF est-il la même chose que safetensors ?

Non. Hugging Face décrit safetensors comme un format limité aux tenseurs, alors que le GGUF encode à la fois les tenseurs et un ensemble standardisé de métadonnées dans un seul fichier.

## Voir aussi

-   [Quantification (quantization)](https://broadrouter.com/fr/glossary/quantization/) (terme)
-   [AWQ (activation-aware weight quantization)](https://broadrouter.com/fr/glossary/awq/) (terme)
-   [INT4 (quantification 4 bits)](https://broadrouter.com/fr/glossary/int4/) (terme)
-   [Modèle open-weight (à poids ouverts)](https://broadrouter.com/fr/glossary/open-weight-model/) (terme)
-   [Tokenizer (tokeniseur)](https://broadrouter.com/fr/glossary/tokenizer/) (terme)
-   [vLLM](https://broadrouter.com/fr/glossary/vllm/) (terme)
-   [Auto-héberger un LLM ou passer par une API : coût réel et rentabilité](https://broadrouter.com/fr/blog/self-hosting-llm-vs-api-cost/) (article)
-   [IA open-weight ou fermée en entreprise : coût, contrôle, risque](https://broadrouter.com/fr/blog/open-weight-vs-closed-models/) (article)

Essayez-le sur votre vraie charge de travail. Les nouveaux comptes démarrent avec USD 5 de crédit pour Gemma et transcription. DeepSeek, GLM et Qwen3.8 nécessitent une recharge.

[Commencer](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=fr-glossary-gguf&utm_content=page-cta) ·

**Sources**

-   [Projet ggml, spécification GGUF, docs/gguf.md (vérifié le 2026-11-15)](https://github.com/ggml-org/ggml/blob/master/docs/gguf.md)
-   [Documentation du Hugging Face Hub, GGUF (tableau des types de quantification) (vérifié le 2026-11-15)](https://huggingface.co/docs/hub/gguf)
-   [Catalogue de modèles de BroadNet : configurations de service en laboratoire (vérifié le 2026-11-15) (en anglais)](https://www.broadnet.ai/inference/models)
