Guide 9 min de lecture

LLM : définition, fonctionnement et usage en entreprise

Un LLM, ou grand modèle de langage, est le moteur des assistants d'intelligence artificielle. Ce guide explique ce qu'il fait vraiment, où il se trompe, ce que valent les modèles ouverts et le LLM local, et comment l'employer dans une entreprise sans lui confier ce qu'il ne sait pas faire.

Par l'équipe STEP BY STEP · publié le 7 octobre 2026

LLM : la définition en une phrase#

Un LLM (large language model, grand modèle de langage) est un programme entraîné sur une très grande quantité de texte pour prédire, mot après mot, la suite la plus probable d'un texte donné. C'est cette prédiction, répétée des milliers de fois, qui produit une réponse, un résumé, une traduction ou un programme.

Le mot « grand » désigne deux choses : la taille du corpus d'entraînement, qui se compte en milliers de milliards de mots, et le nombre de paramètres du modèle, qui se compte en milliards. Les paramètres sont les réglages internes que l'entraînement ajuste ; ils ne contiennent pas une copie des textes lus, mais des régularités tirées d'eux.

Un LLM n'est donc ni une base de données ni un moteur de recherche. Il ne « retrouve » pas une information : il produit un texte vraisemblable. Cette différence explique presque tout ce qu'il réussit, et tout ce qu'il rate.

Comment fonctionne un modèle de langage#

Des jetons, pas des mots#

Un modèle ne lit pas des mots mais des jetons (tokens) : des morceaux de mots, des mots courts, des signes. Un mot courant tient souvent en un jeton, un mot rare ou long en plusieurs. Le français demande en général un peu plus de jetons que l'anglais pour dire la même chose. C'est en jetons que se mesurent la taille d'une demande, la longueur d'une réponse et, le plus souvent, le prix d'un appel.

Une architecture : le transformeur#

Presque tous les LLM actuels reposent sur l'architecture appelée transformeur, publiée en 2017. Son mécanisme central, l'attention, permet au modèle de pondérer chaque jeton du texte en fonction de tous les autres : dans « la facture que le client a contestée », il relie « contestée » à « facture » et non à « client ».

Deux temps : l'entraînement, puis l'usage#

L'entraînement est l'étape coûteuse : le modèle apprend à prédire le jeton suivant sur un corpus gigantesque, puis il est ajusté pour suivre des consignes et répondre utilement, souvent à partir d'exemples et d'évaluations humaines. Cette étape se fait une fois, chez l'éditeur du modèle.

L'inférence est l'usage : on envoie un texte au modèle, il calcule la suite. C'est ce qui se passe à chaque question. Le modèle n'apprend rien pendant l'inférence : ce que vous lui écrivez ne modifie pas ses paramètres.

La fenêtre de contexte#

Le modèle ne voit que ce qu'on lui envoie dans la requête : la consigne, la conversation, les documents joints. Cette quantité a une limite, la fenêtre de contexte, exprimée en jetons. Elle va de quelques milliers de jetons pour de petits modèles à un million pour certains modèles récents. Tout ce qui n'est pas dans la fenêtre n'existe pas pour lui — ni le document de la semaine dernière, ni la règle que vous avez expliquée dans une autre conversation.

Ce qu'un LLM fait bien, et ce qu'il fait mal#

Il fait bienIl fait mal
Comprendre une demande formulée en langage courantGarantir qu'un fait est exact
Résumer, reformuler, traduire, changer de tonCompter, additionner, parcourir des milliers de lignes
Extraire une information d'un texte qu'on lui donneConnaître un événement postérieur à son entraînement
Écrire du code à partir d'une descriptionSavoir ce qu'il ne sait pas
Classer, comparer, rédiger un premier jetRester identique d'un essai à l'autre

Les hallucinations#

Un LLM peut produire une affirmation fausse avec le même aplomb qu'une vraie : une date, une référence, un article de loi qui n'existe pas. On parle d'hallucination. Ce n'est pas un défaut qu'une version suivante supprimera : c'est la conséquence directe d'un système qui produit du texte vraisemblable.

Trois parades fonctionnent, et elles se cumulent :

  1. Lui donner la source au lieu de lui demander de s'en souvenir : le texte du contrat, l'export du logiciel, l'article de loi tiré d'une base officielle.
  2. Lui demander de citer ce sur quoi il s'appuie, pour que la vérification prenne une minute.
  3. Confier au code ce qui relève du calcul : un total, un tri, un rapprochement sur dix mille lignes se programment ; le modèle écrit le programme, il ne fait pas l'addition de tête.

Le volume#

Un modèle qui lit lui-même un tableau de dix mille lignes en saute, en invente ou s'arrête en chemin sans le dire. La bonne méthode consiste à faire traiter la masse par du code — un script Python, une requête — et à ne montrer au modèle que le résultat compact. C'est aussi ce qui rend le travail exhaustif : le code parcourt toutes les lignes, sans échantillonner.

Les grandes familles de modèles#

Les modèles propriétaires#

Les modèles les plus capables sont, à ce jour, proposés par quelques éditeurs : OpenAI (GPT), Anthropic (Claude), Google (Gemini). On les utilise par une application de l'éditeur ou par une API, c'est-à-dire un accès programmatique facturé à l'usage. Le modèle tourne sur les serveurs de l'éditeur ou de son hébergeur.

Les modèles ouverts et l'IA open source#

D'autres éditeurs publient les poids de leurs modèles, c'est-à-dire les paramètres eux-mêmes : Mistral AI, Meta (Llama) et d'autres. N'importe qui peut alors les télécharger et les faire tourner. On parle couramment d'IA open source, mais le terme est discuté : publier les poids ne veut pas toujours dire publier les données d'entraînement ni autoriser tous les usages. Avant d'adopter un modèle ouvert, il faut lire sa licence, qui peut restreindre l'usage commercial ou imposer des conditions.

Les petits modèles spécialisés#

À côté des LLM généralistes existent des modèles plus petits, entraînés pour une tâche : reconnaître des noms de personnes dans un texte, classer un document, lire une image. Ils sont moins polyvalents, mais rapides, économes et faciles à faire tourner sur un poste ordinaire.

Le LLM local : faire tourner un modèle chez soi#

Un LLM local s'exécute sur une machine que l'on contrôle : un poste, un serveur de l'entreprise. Des outils comme Ollama, llama.cpp ou LM Studio rendent l'installation accessible. Le principal intérêt est évident : le texte ne quitte pas la machine, et le modèle fonctionne hors ligne.

Les contreparties sont réelles :

  • Le matériel. Un modèle doit tenir en mémoire, idéalement dans celle d'une carte graphique. Les modèles qui tiennent sur un poste de bureau sont nettement plus petits que les meilleurs modèles hébergés, et la différence se voit sur les tâches longues ou délicates.
  • La vitesse. Sans carte graphique adaptée, la réponse arrive lentement, ce qui limite l'usage à plusieurs personnes.
  • L'entretien. Mises à jour, choix du modèle, compatibilité : quelqu'un doit s'en charger.
  • La sécurité réelle. Un modèle local protège ce qui est envoyé au modèle ; il ne protège ni le poste, ni les fichiers, ni les accès aux autres logiciels.

Le choix entre local et hébergé n'est donc pas tout ou rien. Une approche courante consiste à garder sur le poste tout ce qui n'a pas besoin du modèle — les fichiers, la lecture des documents, la détection des données personnelles — et à n'envoyer au modèle hébergé que ce qu'il doit lire, débarrassé de ce qui identifie quelqu'un.

Utiliser un LLM en entreprise#

Les questions à se poser avant#

  • Quelle tâche, précisément ? « Utiliser l'IA » n'est pas un besoin ; « lire les factures du mois et compléter le tableau de suivi » en est un.
  • Quelles données partent vers le modèle ? Personnelles, confidentielles, couvertes par un secret ? Le RGPD s'applique dès qu'une personne est identifiable.
  • Où le résultat doit-il arriver ? Une réponse à recopier à la main dans un autre logiciel ne fait gagner qu'à moitié.
  • Qui vérifie ? Un texte produit par un modèle se relit, surtout quand il engage l'entreprise.

Ce qui sépare un assistant d'un outil de travail#

Un assistant conversationnel répond à des questions. Un outil de travail lit les fichiers de l'entreprise, se connecte à ses logiciels, applique ses règles, et laisse une trace de ce qu'il a fait. La différence ne tient pas au modèle mais à tout ce qui l'entoure : c'est le sujet du guide sur l'agent IA en entreprise.

Où se situe AIKeep#

AIKeep est un logiciel installé sur les postes Windows de l'entreprise. Il ne fait pas tourner de grand modèle de langage sur le poste : la génération du texte est confiée aux modèles Claude d'Anthropic, choisis dans l'application selon la tâche. Ce qui reste local est tout le reste : les fichiers, la lecture des documents scannés, et la détection des données sensibles par AIGuard, qui les remplace par des leurres avant tout envoi au modèle puis rend les vraies valeurs à l'affichage.

Les parades décrites plus haut y sont des mécanismes, pas des conseils : le parcours des éléments est assuré par du code, et ce qui n'a pas pu être établi est laissé vide puis énuméré ; les bases officielles se consultent avec leur source grâce aux données qualifiées ; la mémoire d'entreprise renvoie au modèle les règles validées par une personne.

Questions fréquentes

Les questions qu'on se pose

Quelle est la définition d'un LLM ?

Un LLM, ou grand modèle de langage, est un programme entraîné sur une très grande quantité de texte pour prédire la suite la plus probable d'un texte. Répétée, cette prédiction produit des réponses, des résumés, des traductions ou du code.

Quelle différence entre un LLM et ChatGPT ?

ChatGPT est une application ; elle s'appuie sur des LLM de la famille GPT, édités par OpenAI. Le LLM est le moteur, l'application est ce qui l'entoure : l'interface, la mémoire de conversation, les outils.

Un LLM apprend-il de ce que je lui écris ?

Pas pendant l'usage : les paramètres du modèle ne changent pas quand on lui envoie un texte. Ce que l'éditeur fait ensuite des données envoyées dépend de ses conditions d'utilisation, qu'il faut lire, en particulier pour les offres grand public.

Peut-on utiliser un LLM hors ligne ?

Oui, avec un modèle ouvert installé localement. Les modèles qui tiennent sur un poste de bureau sont plus petits que les meilleurs modèles hébergés, et ils demandent du matériel adapté et de l'entretien.

Qu'est-ce qu'une hallucination ?

C'est une affirmation fausse produite avec assurance : une référence, un chiffre ou une citation qui n'existent pas. On la limite en donnant au modèle ses sources, en lui demandant de les citer et en confiant les calculs à du code.

L'IA open source est-elle libre de droits ?

Pas forcément. Un modèle dont les poids sont publiés reste soumis à sa licence, qui peut restreindre certains usages commerciaux. Il faut la lire avant de bâtir dessus.

Et chez vous, que pourrait prendre l'IA ?

Nommez la tâche qui vous coûte le plus de temps : elle est rejouée devant vous sur notre jeu de démonstration, sans document ni accès à fournir.