Le glossaire de l'IA

Adam (optimiseur)

Un algorithme d'optimisation très utilisé qui ajuste le taux d'apprentissage propre à chaque paramètre, ce qui rend l'entraînement des réseaux de neurones plus rapide et plus stable.

Agent IA

Un système d'IA qui planifie et exécute lui-même des tâches en plusieurs étapes — en appelant des outils, en lisant les résultats, puis en décidant de la suite à donner — plutôt que de se contenter d'une seule réponse.

Alignement

Le travail visant à faire correspondre le comportement d'un système d'IA aux intentions et aux valeurs humaines — c'est ce qui explique qu'un modèle suive les instructions de façon fiable et refuse les demandes dangereuses.

API (interface de programmation applicative)

Une interface programmable qui permet à un logiciel de dialoguer directement avec un modèle sans passer par l'interface de chat — elle renvoie des données structurées et facture à l'usage, par token.

Mécanisme d'attention

La technique qui permet à un modèle de pondérer l'importance de chaque partie de l'entrée pour produire chaque partie de la sortie — l'opération centrale de tout Transformer.

Rétropropagation

L'algorithme qui entraîne les réseaux de neurones en propageant les erreurs de prédiction en sens inverse pour ajuster chaque poids — le moteur de la quasi-totalité du deep learning.

Batch Normalization

Une technique d'entraînement qui normalise les entrées de chaque couche, permettant à des réseaux plus profonds d'apprendre plus vite et de façon plus stable.

Benchmark

Un test standardisé qui mesure et compare les modèles sur des tâches comme le raisonnement, les connaissances ou le code — utile pour établir un classement, mais qui ne remplace jamais complètement l'essai du modèle sur vos propres cas d'usage.

BERT (représentations bidirectionnelles d'encodeur issues des Transformers)

Un Transformer à encodeur seul, pré-entraîné à lire le texte dans les deux sens à la fois, largement utilisé pour des tâches de compréhension comme la classification, la recherche et l'extraction d'information.

BLEU

Une métrique automatique de longue date pour la traduction automatique, qui note une sortie selon le recouvrement de ses séquences de mots avec des traductions de référence humaines.

Oubli catastrophique

La tendance d'un réseau de neurones à perdre des capacités précédemment acquises lorsqu'il est entraîné sur de nouvelles données — un défi majeur pour les modèles mis à jour en continu.

Chaîne de pensée (Chain of Thought, CoT)

Le fait de demander à un modèle de raisonner par étapes intermédiaires avant de donner sa réponse finale, ce qui améliore la précision sur les problèmes à plusieurs étapes.

ChatGPT

L'assistant conversationnel d'OpenAI, lancé en novembre 2022, qui a fait connaître les grands modèles de langage instruction-tunés au grand public.

Claude

La famille de grands modèles de langage d'Anthropic, réputée pour son contexte long, son raisonnement solide et une approche de sécurité appelée Constitutional AI.

CNN (réseau de neurones convolutif)

Une architecture de réseau de neurones qui utilise des filtres appris pour détecter des motifs spatiaux — un fondement de la vision par ordinateur moderne.

Fenêtre de contexte

La quantité totale de texte — mesurée en tokens — qu'un modèle peut prendre en compte en un seul appel, y compris le prompt système, l'historique de la conversation, les pièces jointes et la réponse en cours de génération.

Voir : Context Window Visualizer.

Similarité cosinus

Une mesure de la similarité entre deux vecteurs fondée sur l'angle qui les sépare — la méthode standard pour comparer des embeddings en recherche et en RAG.

DALL·E

Le modèle texte-vers-image d'OpenAI, qui génère des images à partir de descriptions en langage naturel et a popularisé la création d'images pilotée par prompt.

Modèle de diffusion

Un modèle génératif qui apprend à créer des données en inversant un processus progressif d'ajout de bruit — la technologie derrière la plupart des générateurs d'images IA actuels.

DPO (optimisation directe des préférences)

Une méthode d'alignement qui entraîne directement un modèle sur des paires de préférences humaines à l'aide d'une simple perte de classification, sans passer par le modèle de récompense séparé utilisé en RLHF.

Dropout

Une technique de régularisation qui désactive aléatoirement des neurones pendant l'entraînement pour éviter le surapprentissage et améliorer la généralisation.

Embedding

Une liste de nombres qui représente le sens d'un morceau de texte, de sorte que les éléments sémantiquement proches se retrouvent voisins dans l'espace vectoriel.

Few-Shot Prompting

Le fait de fournir à un modèle quelques exemples traités dans le prompt afin qu'il puisse en déduire le schéma avant de répondre.

Fine-Tuning

Le fait de poursuivre l'entraînement d'un modèle pré-entraîné sur des données supplémentaires et spécialisées, afin de l'adapter à un domaine, une tâche ou un style sans repartir de zéro.

GAN (réseau antagoniste génératif)

Une architecture générative qui entraîne deux réseaux l'un contre l'autre — un générateur qui fabrique des données et un discriminateur qui tente de repérer les faux.

Gemini

La famille de modèles nativement multimodaux de Google DeepMind, conçus pour raisonner conjointement sur du texte, des images, de l'audio et de la vidéo.

GPT (Transformeur génératif pré-entraîné)

Une famille de modèles Transformer à décodeur seul, pré-entraînés à prédire le token suivant sur de vastes corpus de texte, puis adaptés à des tâches spécifiques.

Grok

Le grand modèle de langage et assistant de xAI, intégré à la plateforme X et positionné autour de l'information en temps réel et d'un style conversationnel.

Hallucination

Le fait, pour un modèle de langage, de produire un texte fluide et sûr de lui mais factuellement faux ou non étayé par ses sources.

Apprentissage en contexte (In-Context Learning)

La capacité d'un modèle à apprendre une tâche à partir d'exemples ou d'instructions placés dans le prompt au moment de l'inférence, sans aucune modification de ses poids.

Instruction Tuning

Le fine-tuning d'un modèle sur de nombreuses tâches formulées comme des instructions en langage naturel, afin qu'il suive bien de nouvelles instructions même sur des tâches qu'il n'a jamais vues à l'entraînement.

Jailbreak

Un prompt conçu pour contourner l'entraînement de sécurité d'un modèle et le faire produire un contenu qu'il est censé refuser.

Distillation de connaissances

Le fait d'entraîner un plus petit modèle « élève » à imiter un plus grand modèle « professeur », transférant une bonne partie de ses capacités vers un modèle moins coûteux et plus rapide.

Graphe de connaissances

Un réseau structuré d'entités et des relations qui les lient, utilisé pour stocker des faits sous une forme que les machines peuvent interroger et sur laquelle elles peuvent raisonner.

Latence

Le délai entre l'envoi d'un prompt et la réception d'une réponse. Des modèles plus grands et des contextes plus longs augmentent la latence — le principal compromis de vitesse dans les produits d'IA.

Llama

La famille de grands modèles de langage publiés ouvertement par Meta, qui a marqué les esprits en mettant des modèles performants et exécutables localement à la portée des chercheurs et des développeurs.

LLM (grand modèle de langage)

Un réseau de neurones entraîné sur d'énormes quantités de texte pour prédire le token suivant, ce qui lui confère une compréhension et une génération du langage à usage général.

LoRA (adaptation de rang réduit)

Une méthode de fine-tuning efficace en paramètres, qui adapte un grand modèle en entraînant de petites matrices ajoutées tout en gardant les poids d'origine gelés.

LSTM (mémoire à court et long terme)

Une architecture de réseau de neurones récurrent dotée de portes capables de retenir l'information sur de longues séquences — la référence en modélisation de séquences avant les Transformers.

MCP (protocole de contexte de modèle)

Une norme ouverte qui connecte les assistants IA à des outils et des sources de données externes via une interface commune, afin que les intégrations soient développées une seule fois et réutilisées d'un modèle à l'autre.

Mélange d'experts (MoE)

Une architecture qui achemine chaque entrée vers quelques sous-réseaux spécialisés plutôt que vers le modèle entier, offrant une grande capacité pour un coût par requête plus faible.

Fiche de modèle (Model Card)

Un document court et standardisé qui présente l'usage prévu d'un modèle, ses performances selon différents groupes et ses limites — afin d'encourager une diffusion transparente et responsable.

Multimodal

Un modèle capable de traiter plus d'un type de données — texte, images, audio ou vidéo, par exemple — au sein d'un même système.

Nucleus Sampling (Top-p)

Une méthode de décodage qui échantillonne le token suivant dans le plus petit ensemble dont les probabilités cumulées atteignent p, évitant à la fois les textes répétitifs et incohérents.

Perplexité

Une mesure intrinsèque classique de la qualité d'un modèle de langage : à quel point il est « surpris » par un texte qu'il n'a jamais vu. Plus la perplexité est basse, mieux le modèle prédit un texte réel.

Prompt

Le texte que vous fournissez à un modèle pour obtenir une réponse. La formulation, les exemples et la structure influencent fortement la qualité du résultat.

Injection de prompt

Une attaque qui glisse des instructions malveillantes dans l'entrée d'un modèle — directement ou via du contenu récupéré — pour contourner son prompt système ou détourner son comportement.

Quantification

Le fait de stocker les poids d'un modèle avec une précision numérique plus faible pour réduire l'usage mémoire et accélérer l'inférence, généralement avec une perte de qualité minime.

RAG (génération augmentée par récupération)

Une technique qui récupère des documents pertinents au moment de la requête et les fournit à un modèle de langage, afin que sa réponse s'appuie sur des sources réelles plutôt que sur sa seule mémoire.

Red Teaming

Le fait de tester délibérément un modèle avec des entrées adverses pour détecter, avant son déploiement, des comportements dangereux, non sécurisés ou contraires aux règles.

Reranking

Une seconde étape de récupération qui réévalue un premier ensemble de passages candidats à l'aide d'un modèle plus précis, faisant remonter les plus pertinents en tête de liste.

RLHF (apprentissage par renforcement à partir de retours humains)

Une méthode d'entraînement qui s'appuie sur des évaluations de préférence humaines pour apprendre à un modèle quelles réponses les gens préfèrent réellement, le rendant plus utile et mieux aligné.

ROUGE

Une famille de métriques automatiques pour le résumé de texte, qui mesurent le recouvrement entre le texte généré et des résumés de référence rédigés par des humains.

Lois d'échelle (Scaling Laws)

Des relations empiriques montrant comment les performances d'un modèle s'améliorent de façon prévisible avec davantage de paramètres, de données et de calcul.

Auto-cohérence (Self-Consistency)

Une méthode de raisonnement qui échantillonne plusieurs chaînes de pensée pour une même question et retient la réponse sur laquelle la majorité d'entre elles s'accordent.

Séquence à séquence (Seq2Seq)

Une architecture neuronale encodeur-décodeur qui fait correspondre une séquence à une autre — la conception qui a rendu possible la traduction automatique neuronale, puis, plus tard, le chat génératif.

Décodage spéculatif

Une technique d'accélération de l'inférence où un petit modèle rapide rédige plusieurs tokens qu'un grand modèle vérifie en parallèle — une sortie plus rapide, avec des résultats identiques.

Stable Diffusion

Un modèle texte-vers-image ouvert, fondé sur la diffusion latente, qui a permis de faire tourner une génération d'images de haute qualité sur du matériel grand public.

Streaming

Le fait d'envoyer la réponse d'un modèle token par token au fur et à mesure de sa génération, plutôt que d'attendre la réponse complète, pour que le texte apparaisse progressivement.

Prompt système

Des instructions cachées et prioritaires qui définissent le rôle, le ton et les règles d'un modèle avant même le début de la conversation, et qui cadrent toutes les réponses qui suivent.

Température

Un paramètre qui contrôle le degré d'aléatoire dans la sortie d'un modèle : une température basse donne des réponses ciblées et reproductibles, une température élevée donne des réponses plus variées et plus créatives.

Token

L'unité que lit et écrit réellement un modèle de langage — généralement un fragment de mot plutôt qu'un mot entier. Les limites de contexte, la tarification et la vitesse se mesurent toutes en tokens.

Voir : AI Token Counter.

Utilisation d'outils / Function Calling

Le fait de laisser un modèle déclencher des fonctions externes — chercher sur le web, exécuter du code, interroger une base de données — et d'utiliser les résultats obtenus dans sa réponse.

Transformer

L'architecture de réseau de neurones à l'œuvre dans quasiment tous les grands modèles de langage modernes, construite autour d'un mécanisme appelé auto-attention plutôt que sur la récurrence ou la convolution.

Arbre de pensées (Tree of Thoughts, ToT)

Un cadre de raisonnement qui permet à un modèle d'explorer plusieurs chemins de solution qui se ramifient, de les évaluer et de revenir en arrière — une recherche délibérée plutôt qu'une simple tentative unique.

VAE (auto-encodeur variationnel)

Un modèle génératif qui apprend un espace latent probabiliste, lui permettant à la fois de compresser des données et d'en échantillonner de nouveaux exemples.

Base de données vectorielle

Une base de données qui indexe et effectue ses recherches par similarité d'embedding plutôt que par correspondance exacte, ce qui lui permet de trouver du contenu sémantiquement proche en quelques millisecondes.

Vision Transformer (ViT)

Un Transformer appliqué directement à des portions d'image, démontrant que l'architecture derrière les modèles de langage excelle également en vision par ordinateur.

Watermarking

L'intégration, dans un texte généré par IA, d'un signal caché et statistiquement détectable permettant de l'identifier plus tard comme produit par une machine.

Whisper

Le modèle de reconnaissance vocale d'OpenAI, entraîné sur un ensemble audio très vaste et varié pour transcrire et traduire la parole de façon robuste dans de nombreuses langues.

Zero-Shot Prompting

Le fait de demander à un modèle d'accomplir une tâche sans aucun exemple préalable, en s'appuyant uniquement sur l'instruction et les connaissances acquises pendant son pré-entraînement.