llama.cpp
Présentation
llama.cpp est un moteur d'inférence écrit en C et C++ qui fait tourner des modèles de langage, y compris ceux qui lisent les images, sur son propre matériel. Il s'adresse aux développeurs et aux utilisateurs avancés : on l'emploie en ligne de commande ou comme serveur compatible avec l'API d'OpenAI, doté d'une interface web, et il sert de base à de nombreux logiciels d'IA locale.
On l'installe par un script, avec Docker, à partir de binaires précompilés ou en compilant les sources. Il vise un large parc : puces Apple via Metal, processeurs x86, ARM et RISC-V, cartes NVIDIA (CUDA), AMD (HIP), Vulkan et SYCL. La quantification sur 1,5 à 8 bits réduit la mémoire nécessaire, et l'inférence mixte entre processeur et carte graphique permet de lancer un modèle plus gros que la mémoire vidéo disponible (source : README du dépôt ggml-org/llama.cpp). Licence MIT.
Identité
- Site officiel
- https://github.com/ggml-org/llama.cpp (HTTP 200 le 03/11/2026)
- Dépôt de code
- ggml-org/llama.cpp
- Compte qui publie le dépôt
- ggml (GitHub, ce n'est pas forcément l'éditeur juridique)
- Création du dépôt
- 10/03/2023 source, vu le 03/11/2026
Caractéristiques
- Licence (détectée par GitHub)
- MIT source, vu le 03/11/2026
- Dernière version
- aucune version publiée sur GitHub
- Dernier push sur le dépôt
- 03/11/2026 source, vu le 03/11/2026
- Langage principal
- C++ source, vu le 03/11/2026
- Déploiement observé dans le dépôt
- Nix à confirmer
- Plateformes (fichiers de la dernière version)
- non observées
- Sujets déclarés par le dépôt
- ggml
« Observé dans le dépôt » : un Dockerfile ou un binaire macOS existe dans le dépôt ou la dernière version. Cela ne prouve pas que l'éditeur maintient ce mode d'installation.
Versions récentes
Qui contrôle ?
Pour un logiciel libre, celui qui contrôle vos données est celui qui l'héberge : vous-même ou l'hébergeur choisi. La licence MIT vous donne le droit de lire, modifier et redistribuer le code. L'éditeur, son pays et sa juridiction n'ont pas encore été relevés dans ses documents : ils ne sont pas déduits de la localisation d'un compte GitHub.
Alternatives et comparaisons
Dans la même catégorie
Discussions sur Hacker News
Discussions qui pointent vers le dépôt ou le site officiel. Leur nombre ne mesure pas la qualité du logiciel.
- Gguf: Harden loader against malformed tensor dims and metadata types 26/08/2026, 0 commentaires
- Release v0.2.0 · ggml-org/llama.cpp 25/08/2026, 0 commentaires
- LLama.cpp Got Screwd 09/07/2026, 5 commentaires
- TurboPrefill: 2.7× faster than llama.cpp Pipeline Parallel on Llama-3-70B 30/06/2026, 0 commentaires
- Llama.cpp b9180: MTP support landed 17/05/2026, 0 commentaires
- Grinder12: 0.96-Bit Lossless Streaming KV-Cache (16.55x VRAM Savings 10/05/2026, 0 commentaires
- Llama and Spec: MTP Support 07/05/2026, 0 commentaires
- Llama.cpp's Agents.md 25/03/2026, 1 commentaires
Logo : marque de son éditeur, reproduite pour identifier le logiciel (source, relevé du 03/11/2026).
Sources et vérification
- https://github.com/ggml-org (API REST GitHub, vu le 03/11/2026)
- Logo, marque de l'éditeur, utilisée pour identifier le logiciel (API REST GitHub, vu le 03/11/2026)
- https://github.com/ggml-org/llama.cpp (Site officiel (contrôle HTTP), vu le 03/11/2026)
- https://github.com/ggml-org/llama.cpp/blob/master/LICENSE (API REST GitHub, vu le 03/11/2026)
- https://www.gadgeek.fr/ (Sélection éditoriale GadGeek, vu le 03/11/2026)
Historique des modifications (4)
- 03/11/2026 : synchro_wordpress modifié (rédaction)
- 03/11/2026 : synchro_wordpress modifié (rédaction)
- 03/11/2026 : synchro_wordpress modifié (rédaction)
- 03/11/2026 : summary modifié (rédaction)
Logo : marque de son éditeur, reproduite pour identifier le logiciel (source).