Glossaire d’Ingénierie IA et LLM
Définitions techniques claires de 30 termes essentiels en intelligence artificielle, grands modèles de langage, quantification, RAG et systèmes agentiques.
- Agent d'IA AI / LLM
- Une entité logicielle autonome pilotée par un LLM capable de planifier des tâches multi-étapes, d'utiliser des outils externes et d'itérer jusqu'à l'atteinte d'un objectif sans intervention constante.
- Ajustement précis (Fine-Tuning) AI / LLM
- Le processus consistant à réentraîner un modèle de base sur un jeu de données spécialisé (comme la santé ou le droit) pour perfectionner ses performances dans un domaine ciblé.
- Appel d'outils (Tool Calling) AI / LLM
- La capacité d'un LLM à déterminer quand une action externe est requise et à générer des arguments structurés pour invoquer des API, calculatrices ou bases de données avant de poursuivre.
- Benchmark (Banc d’essai) AI / LLM
- Une suite de tests standardisés permettant d'évaluer et de comparer objectivement les performances des modèles d'IA sur des tâches ciblées (code avec SWE-bench, mathématiques avec AIME, etc.).
- Cache KV AI / LLM
- Une optimisation en mémoire GPU qui stocke les représentations clés/valeurs antérieures pour éviter de recalculer l'attention des jetons passés, essentielle pour la vitesse de génération en continu.
- Chaîne de pensée (CoT) AI / LLM
- Une méthode de raisonnement pas-à-pas où le modèle décompose le problème en étapes logiques intermédiaires avant de conclure, augmentant drastiquement la précision en mathématiques et programmation.
- Décodage spéculatif AI / LLM
- Une technique d'accélération de l'inférence utilisant un modèle compact pour prédire en parallèle une série de jetons candidats, immédiatement validés en un seul calcul par le modèle cible pour doubler la cadence.
- Délai jusqu’au premier jeton (TTFT) AI / LLM
- Le temps de latence en millisecondes entre l'envoi d'une requête et la réception du premier jeton de réponse, reflétant la réactivité du serveur et le traitement du prompt.
- Entrée en cache (Cached Input) AI / LLM
- Une optimisation tarifaire et technique conservant les états d'attention des préfixes de prompts récurrents, réduisant les coûts d'entrée de 50 à 90 % tout en abaissant la latence.
- Fenêtre de contexte AI / LLM
- Le nombre maximal de jetons qu'un modèle peut traiter simultanément (entrée et sortie comprises). Une fenêtre de 1 000 000 jetons permet d'analyser environ 750 000 mots en une seule requête.
- Grand modèle linguistique (LLM) AI / LLM
- Un modèle d'IA à apprentissage profond entraîné sur de vastes corpus textuels pour comprendre, résumer et générer un langage naturel semblable à l'humain. Parmi les exemples figurent GPT-4o, Claude 3.7 Sonnet et Gemini 2.0 Flash.
- Hallucination AI / LLM
- Le phénomène par lequel un modèle affirme avec assurance une information factuellement fausse ou inventée. La réduction des hallucinations est un critère majeur de qualité.
- Inférence AI / LLM
- Le processus opérationnel consistant à exécuter des requêtes réelles sur un modèle d'IA entraîné afin de générer des réponses ou du code. Les tarifs des API couvrent les coûts de cette phase.
- Jeton (Token) AI / LLM
- L'unité textuelle de base traitée par un modèle linguistique, représentant généralement 3 à 4 caractères ou environ 0,75 mot. Par exemple, une phrase courante est découpée en plusieurs jetons.
- Jetons par seconde (TPS) AI / LLM
- La métrique mesurant le débit de génération d'un modèle d'IA, indiquant le volume de jetons transmis par seconde lors de réponses en continu.
- Latence AI / LLM
- La durée totale nécessaire pour envoyer une requête et recevoir l'intégralité de la réponse du modèle, incluant le réseau, le délai jusqu'au premier jeton (TTFT) et le débit de génération.
- Mécanisme d'attention AI / LLM
- Un algorithme mathématique des modèles transformers permettant à chaque jeton d'évaluer son importance relative par rapport aux autres jetons du contexte pour relier les concepts distants.
- Mélange d'experts (MoE) AI / LLM
- Une architecture qui divise un vaste modèle en plusieurs sous-réseaux experts en n'activant qu'une fraction par jeton, garantissant une inférence rapide et économique malgré un volume massif de paramètres.
- Modèle de raisonnement AI / LLM
- Un modèle d'IA entraîné par apprentissage par renforcement pour allouer du temps de calcul à la réflexion logique avant d'émettre une solution, idéal pour les problèmes scientifiques et le code complexe.
- Modèle vision-langage (VLM) AI / LLM
- Un réseau neuronal multimodal conçu pour analyser, raisonner et générer conjointement des données visuelles (images, schémas, interfaces) et du langage naturel au sein d'une même structure.
- Multimodal AI / LLM
- Un modèle d'IA capable de comprendre et de générer nativement plusieurs modalités d'information (texte, image, voix, vidéo et code) au sein d'une architecture unifiée.
- Paramètres AI / LLM
- Les variables internes ou poids ajustés par un réseau neuronal lors de son apprentissage pour mémoriser les connaissances. Par exemple, Llama 3.3 70B intègre 70 milliards de paramètres.
- Plongements lexicaux (Embeddings) AI / LLM
- Des représentations vectorielles multidimensionnelles traduisant des mots ou documents en valeurs numériques selon leur sens sémantique, constituant le moteur de la recherche vectorielle et du RAG.
- Prompt système (System Prompt) AI / LLM
- Un ensemble prioritaire d'instructions fondamentales transmis au modèle avant toute interaction, définissant sa personnalité, son ton, ses garde-fous de sécurité et son cadre d'intervention.
- Protocole de contexte de modèle (MCP) AI / LLM
- Un standard ouvert créé par Anthropic permettant aux agents d'IA de se connecter de façon uniforme aux systèmes de fichiers locaux, aux environnements de développement et aux API tierces.
- Quantification AI / LLM
- La technique consistant à réduire la précision numérique des poids (par ex. de 16 bits à 8 ou 4 bits), réduisant massivement la VRAM requise et accélérant le déploiement local sans perte notable.
- RAG (Génération augmentée par récupération) AI / LLM
- Une architecture qui extrait des fragments documentaires pertinents d'une base vectorielle pour les intégrer au prompt, garantissant des faits vérifiés et récents sans réentraînement coûteux.
- RLHF (Apprentissage par renforcement avec retour humain) AI / LLM
- Une méthode d'entraînement qui affine les modèles linguistiques en intégrant les préférences et évaluations humaines, alignant les réponses sur l'utilité, la sécurité et la fiabilité factuelle.
- Température AI / LLM
- Un paramètre d'échantillonnage qui contrôle le degré d'aléatoire et de créativité des réponses de l'IA. Une valeur basse (0,1 à 0,3) favorise des réponses déterministes et précises pour le code ou les calculs, tandis qu'une valeur élevée (0,7 à 1,0) stimule l'inventivité.
- Transformer AI / LLM
- L'architecture de réseau neuronal introduite en 2017 à la base des LLM modernes, utilisant l'auto-attention pour traiter tous les jetons en parallèle plutôt que séquentiellement.
Questions fréquentes
Can DeepSeek R1 run locally on a 24GB VRAM GPU like RTX 4090?+
The full 671B DeepSeek R1 requires multi-GPU clusters, but distilled versions (such as DeepSeek-R1-Distill-Qwen-14B or 32B with 4-bit quantization) run smoothly on a single 24GB RTX 4090.
Which model has lower latency for real-time voice streaming: Gemini 2.0 Flash or GPT-4o-mini?+
Gemini 2.0 Flash leads with native multimodal audio-to-audio streaming and sub-200ms time-to-first-token (TTFT), making it faster than text-pipelined GPT-4o-mini setups.
How does Gemini 2.0 Pro 2 million token context window process entire code repositories?+
Gemini 2.0 Pro ingests up to 1.5 million words of code in a single prompt with near 100% needle-in-a-haystack retrieval accuracy, eliminating the need for complex RAG chunking pipelines.
Is self-hosting Llama 3.3 70B cheaper than using GPT-4o API?+
Self-hosting Llama 3.3 70B on cloud GPUs becomes cheaper than GPT-4o when processing over 50 million tokens per month, offering complete data privacy with zero licensing fees.
What is the best open-source LLM to replace proprietary APIs in 2026?+
DeepSeek V3 (671B MoE) and Meta Llama 3.3 70B are the top open-weight models matching closed frontier APIs in coding, tool execution, and multilingual reasoning.
How does EAGLE-3 speculative decoding achieve 2x to 4x inference speedup?+
EAGLE-3 generates draft tokens using lightweight autoregressive draft heads trained on target model intermediate representations, verifying candidate tokens in a single target forward pass to accelerate bandwidth-bound generation.
What is Parallel-EAGLE (P-EAGLE) in vLLM and how does it eliminate drafting bottlenecks?+
Parallel-EAGLE (P-EAGLE) drafts all candidate tokens in a single parallel draft step instead of sequential autoregressive iterations, delivering an additional 20% to 30% latency reduction over standard EAGLE in vLLM.
When does speculative decoding decrease LLM throughput instead of speeding it up?+
Speculative decoding decreases throughput when the draft model acceptance rate falls below 50%—such as highly creative writing or mismatched temperature distributions—causing drafting and verification overhead to exceed direct generation costs.
How to select the best draft model for speculative decoding in vLLM or SGLang?+
The optimal draft model should share the same vocabulary and tokenizer, feature a high distribution alignment (>70% acceptance rate), and execute draft steps in under 15% of the target model single-step forward pass time.